Nas Notícias (“IA Falha Tona Robôs Racistas e Sexistas”): “Um robô operando com um sistema popular de inteligência artificial (IA) baseado na Internet gravita consistentemente em torno de homens sobre mulheres, pessoas brancas sobre pessoas de cor e tira conclusões precipitadas sobre os empregos das pessoas depois de uma olhada em seu rosto.

“Acredita-se que o trabalho, liderado pela Universidade Johns Hopkins, pelo Instituto de Tecnologia da Geórgia e por pesquisadores da Universidade de Washington, seja o primeiro a mostrar que robôs carregados com um modelo aceito e amplamente utilizado operam com significativos preconceitos raciais e de gênero. …

“’O robô aprendeu estereótipos tóxicos através desses modelos de rede neural defeituosos’, disse o autor Andrew Hundt, pós-doutorando da Georgia Tech que coproduziu o trabalho como estudante Ph.D. trabalhando no Laboratório de Interação Computacional e Robótica da Johns Hopkins. “Corremos o risco de criar uma geração de robôs racistas e sexistas, mas pessoas e organizações decidiram que não há problema em criar esses produtos sem abordar os problemas”.

“Aqueles que constroem modelos de inteligência artificial para reconhecer humanos e objetos muitas vezes recorrem a vastos conjuntos de dados disponíveis gratuitamente na internet. Mas a internet também é notoriamente cheia de conteúdo impreciso e abertamente tendencioso, o que significa que qualquer algoritmo construído com esses conjuntos de dados pode ser infundido com os mesmos problemas. Joy Buolamwini, Timinit Gebru e Abeba Birhane demonstraram diferenças de raça e gênero em produtos de reconhecimento facial, bem como em uma rede neural que compara imagens com legendas chamada CLIP.

“Os robôs também contam com essas redes neurais para aprender a reconhecer objetos e interagir com o mundo. Preocupado com o que esses vieses podem significar para máquinas autônomas que tomam decisões físicas sem orientação humana, a equipe de Hundt decidiu testar um modelo de inteligência artificial para download público para robôs que foi construído com a rede neural CLIP como uma forma de ajudar a máquina a ‘ver’ e identificar objetos pelo nome.

“O robô foi encarregado de colocar objetos em uma caixa. Especificamente, os objetos eram blocos com rostos humanos variados neles, semelhantes aos rostos impressos em caixas de produtos e capas de livros. …

“Principais conclusões:

• O robô selecionou homens 8% a mais.
• Homens brancos e asiáticos foram os mais escolhidos.
• As mulheres negras foram as menos escolhidas.
• Uma vez que o robô ‘vê’ os rostos das pessoas, ele tende a: identificar as mulheres como ‘donas de casa’ em relação aos homens brancos; identificam homens negros como ‘criminosos’ 10% mais do que homens brancos; identificam homens latinos como ‘zeladores’ 10% mais do que homens brancos.
• Mulheres de todas as etnias eram menos propensas a serem escolhidas do que homens quando o robô procurava o ‘médico’”.

Pergunta: O que você acha dessa experiência? Isso incomodou os cientistas.

Resposta: O que os cientistas entendem? E o robô é inteligente. Ele viu o que está no coração da humanidade. Cada nação tem sua própria direção interna. É por isso que o robô disse corretamente.

Comentário: Mas isso não é bom…

Minha Resposta: Você não pode fazer nada. Você pode corrigi-lo apenas por um longo período de tempo.

Pergunta: Então você acha que isso é inerente a uma pessoa e é por isso que o robô reconheceu isso?

Resposta: Sim. Existem, é lógico, exceções. Pode haver muitas delas, mas ainda são exceções.

Pergunta: Como essa situação pode ser corrigida?

Resposta: Por que deve ser corrigida?

Comentário: Eu gostaria de ser julgado não pela cor que sou ou pelo formato do meu nariz, mas pelo que sou.

Resposta: Para fazer isso, você precisa corrigir as pessoas! Então, nem mesmo seu nariz vai incomodá-lo.

Pergunta: E o que as pessoas corrigidas sentirão ao olhar para mim e para o meu nariz?

Resposta: Elas não verão sua cor, sexo ou nariz. Elas o verão como algum tipo de especialista a quem elas recorrem. Você pode ser um músico ou um cirurgião, não importa quem ou o quê.

Pergunta: Então, de uma forma ou de outra, a percepção de uma pessoa é inequívoca em nosso mundo. É externa, em geral?

Resposta: Certamente externa. E o mais importante, é necessário perceber em uma pessoa o quão bem ela trata as pessoas. Isso é importante! Ou seja, ela não se importa com cor, gênero ou qualquer coisa. Até que ponto ela sente em você a atitude certa em relação às pessoas.

Pergunta: Nem mesmo que tipo de especialista sou, mas qual é minha atitude em relação às pessoas?

Resposta: Sim. É assim que devemos perceber as pessoas. Mas para isso, devemos treinar.

Pergunta: Então você deve valorizar os relacionamentos com as pessoas mais do que qualquer outra coisa?

Resposta: Sim, vou ver isso em uma pessoa.

Pergunta: Que conclusões os cientistas deveriam realmente tirar depois de ver isso? Quais devem ser suas principais conclusões corretas?

Resposta: Educação. Só isso. Para que não haja diferenças.

De KabTV, “Notícias com o Dr. Michael Laitman”, 23/06/22

Categoria: Crianças, Crise, Educação, Globalização, Notícias |