quarta-feira, 27 de setembro de 2017

Inteligência Artificial e estupidez capitalista

“Se está na cozinha, é uma mulher: como os algoritmos reforçam preconceitos” é o título de artigo de Javier Salas publicado no El País, em 23/09. Refere-se ao modo como um algoritmo descreve um homem calvo e usando calças enquanto cozinha.

A reportagem traz outras informações. Por exemplo:

...o caso de Tay, o robô inteligente projetado pela Microsoft para se integrar nas conversas do Twitter aprendendo com os demais usuários: a empresa precisou retirá-lo em menos de 24 horas porque começou a fazer apologia do nazismo, assediar outros tuiteiros e defender o muro de Trump.

Ou, ainda, quando o Google rotula pessoas negras como gorilas. E fotos de usuários negros do Flickr são classificadas como “chimpanzés”. Ou o software da Nikon adverte o fotógrafo de que alguém piscou quando o retratado tem traços asiáticos. O primeiro concurso de beleza julgado por computador classificou apenas uma pessoa de pele escura entre os 44 vencedores.

É assim que a Inteligência Artificial comprova que funciona à imagem e semelhança da sociedade que a vem criando.

O mesmo artigo cita Cathy O'Neil, matemática e autora do livro “Armas de Destruição Matemática”, ainda sem edição brasileira. “O software está fazendo seu trabalho. O problema é que os lucros acabam servindo como um substituto da verdade”, diz ela.

Como conclui o texto:

O Facebook deixa que seu algoritmo selecione e venda anúncios a “pessoas que odeiam os judeus” e “adolescentes vulneráveis” porque se enriquece desse jeito; se as pessoas lhes pagam por isso, não podem estar erradas.

Ou seja, não é qualquer estupidez. É aquela especificamente capitalista.

Leia também:

Nenhum comentário:

Postar um comentário