“Se está na cozinha, é
uma mulher: como os algoritmos reforçam preconceitos” é o título de artigo de Javier
Salas publicado no El País, em 23/09. Refere-se ao modo como um algoritmo
descreve um homem calvo e usando calças enquanto cozinha.
A reportagem traz
outras informações. Por exemplo:
...o
caso de Tay, o robô inteligente projetado pela Microsoft para se integrar nas
conversas do Twitter aprendendo com os demais usuários: a empresa precisou
retirá-lo em menos de 24 horas porque começou a fazer apologia do nazismo,
assediar outros tuiteiros e defender o muro de Trump.
Ou, ainda, quando o
Google rotula pessoas negras como gorilas. E fotos de usuários negros do Flickr
são classificadas como “chimpanzés”. Ou o software da Nikon adverte o fotógrafo
de que alguém piscou quando o retratado tem traços asiáticos. O primeiro
concurso de beleza julgado por computador classificou apenas uma pessoa de pele
escura entre os 44 vencedores.
É assim que a
Inteligência Artificial comprova que funciona à imagem e semelhança da sociedade
que a vem criando.
O mesmo artigo cita Cathy
O'Neil, matemática e autora do livro “Armas de Destruição Matemática”, ainda
sem edição brasileira. “O software está fazendo seu trabalho. O problema é que
os lucros acabam servindo como um substituto da verdade”, diz ela.
Como conclui o texto:
O
Facebook deixa que seu algoritmo selecione e venda anúncios a “pessoas que
odeiam os judeus” e “adolescentes vulneráveis” porque se enriquece desse jeito;
se as pessoas lhes pagam por isso, não podem estar erradas.
Ou seja, não é qualquer
estupidez. É aquela especificamente capitalista.
Leia também:
Nenhum comentário:
Postar um comentário