quarta-feira, 21 de fevereiro de 2018

A inteligência artificial dominada pela estupidez racista

Saiu no Globo, em 20/02/2018:

Um vídeo contendo dicas sobre como a população negra das comunidades do Rio deve agir durante a intervenção na segurança pública do Rio viralizou na internet neste fim de semana. (…) Nas imagens, Edu Carvalho Spartakus Santiago e AD Junior ensinam, por exemplo, como se portar numa blitz ou numa abordagem feita por policiais ou agentes das Forças Armadas.

No mesmo dia, outra matéria falava sobre problemas em programas de reconhecimento facial. Um estudo da Universidade Stanford e do Instituto de Tecnologia de Massachussetts:

...com três programas disponíveis no mercado mostra que a raça e o gênero influenciam os resultados. Em testes com homens brancos, o erro nunca foi superior a 0,8%, mas com mulheres negras, as taxas de erro foram de 20% num software e de mais de 34% nos outros dois.

Uma das companhias avaliadas alega que o sistema tem precisão acima de 97%, mas a base de dados utilizada para alimentá-lo era composta 77% por homens e 83%, brancos.

Ou seja, para os algoritmos racistas quase tudo o que não seja branco e masculino não passa de um borrão. Assim como também é um borrão a população negra e pobre segundo os padrões de nossa “inteligência policial”. Um alvo amorfo, mas sempre suspeito e, muitas vezes, sujeito ao cumprimento de penas definidas e executadas de modo sumário.

Por fim, para mostrar quais valores estão em jogo em nossa sociedade, saibam que a Cargil está desenvolvendo um programa de reconhecimento facial para vacas. A ideia é identificar os animais e acompanhar seus padrões de alimentação, bem como comportamento geral.

Leia também:
Inteligência artificial, com spoiler

6 comentários:

  1. Sergio, sobre este vídeo, eu não gostei nada. Para mim pareceu um monte de recomendações para se comportar tendo em vista, e segundo, o preconceito da sociedade e a repressão policial. Algo domesticador. E recebi de pessoas não preconceituosas. Comecei a ver e nem terminei, será que perdi alguma coisa?

    ResponderExcluir
    Respostas
    1. Então, Marião. Pode até ser "domesticador", mas é principalmente um jeito de tentar não ser jogado no sistema penitenciário ou num cemitério mesmo somente por ser negro. De qualquer maneira, vale muito mais como sintoma (denúncia também) do que como qualquer outra coisa mais conclusiva.

      Excluir
  2. Muito bom o texto. Acredito que a base biométrica, num primeiro momento, vem sendo criada pensando em conceder acesso ou impedi-lo, para coisas, em sua maioria, da classe média e alta e que necessitam de usuário com inclusão digital. Por isso, que deve haver mais homens e brancos. Agora que se pretende utilizar a inteligência artificial para policiar as atividades da população em geral, os excluídos de sempre vem à tona. E também a repetição da lógica que já se conhece, a de quem sempre deve ganhar mais acesso, e de quem e sempre deve ser mais policiado e excluído. A tecnologia, IA, transhumanismo, etc., vem sendo vendida como uma chance de se melhorar e melhorar o mundo, de acabar com as diferenças. E a verdade disso começamos a ver agora com os problemas na base acima.
    Uma história que vi algumas vezes, é a de que eu poderei ficar em casa tomando suco e “meu” robô vai trabalhar para mim e ganhar meu dinheiro. Como se num instante um trabalhador qualquer pudesse virar senhor de escravo, ou patrão, e usufruir do poder de explorar alguém ou alguma coisa inteligente para seu benefício.
    Talvez alguém consiga, mas se tiver bastante dinheiro para bancar um modelo bom, ainda vai ter que concorrer com as empresas terceirizadas. E como vai ter muito dinheiro se não vai haver mais necessidade de especialização do ser humano, mas da máquina, a minha remuneração no caso deverá cair ao nível auxiliar.
    Uma pergunta importante que acho para o momento deveria ser “haverá necessidade para classe dominante, para os poderosos, num futuro próximo de ‘EU’ existir”. Se não houver, é esse futuro que virá pela frente, e estará sendo construído hoje.

    ResponderExcluir
  3. Tudo bem, mas, segundo a teoria de Marx, o capitalismo não consegue se manter sem explorar o ser humano. E é esta teoria que tem melhor explicado por que as crises se multiplicam, mesmo havendo tanta riqueza sendo produzida. É que ela é cada vez mais produzida por máquinas e máquinas dão baixas taxas de lucro, apesar de no total bruto serem imensos. Máquinas quebram, se desgastam etc. Seres humanos são baratos, resistentes, cada vez mais fácil de serem repostos e seus custos de manutenção são divididos por toda a sociedade através dos serviços publicos.

    Abraço

    ResponderExcluir
  4. Sim, mas só enquanto seres humanos são mais baratos, e para serem mais baratos tem que conservar menos direitos.
    Os robôs estão barateando e já existe quem construa pensando em pequenas empresas. Máquinas quebram e se desgastam, mas humanos também
    tem saúde frágil, estão sujeitos a problemas familiares, emocionais, físicos, etc. Fazem greve. População mundial vive mais, porém cada vez mais doente.
    E as máquinas são mais rápidas e mais precisas no geral, e com a inteligência que lhes faltava a coisa fica cada vez pior.
    Podem se concertar elas mesmas.
    Se a despesa fica maior, isso não impediu a existência dos caixas eletrônicos, internet bank, máquinas de autoatendimento e venda de comida.
    Aplicativos diversos para celular com os mais diversos fins, não impediu a utilização de robôs na disputa política, nem
    a criação de drones, robôs jornalistas, robôs advogados, etc. Que tiram e vão tirar muitos empregos e substituir muito pessoal.
    E isso já é uma realidade cotidiana nossa,por exemplo o robô virtual "poupinha" do poupatempo de São Paulo,
    ele atendia em 2017 cerca de 5,3 mil usuários por dia e trocou com eles mais de 2,4 milhões de mensagens.
    Prometem que haverá empregos do futuro para todos, e fico tentando comparar quantas pessoas são necessária da desenvolver um poupinha
    que atende mais de 120.000 pessoas por dia, e quantas pessoas eram necessárias para atender esse mesmo tanto de gente.
    E esse poupinha e seus descendentes serão cada vez mais inteligentes.
    Cadê o emprego do futuro deles? Não discordo de você meu amigo, mas não tô vendo freio prara isso, então fico vagando...
    Se a necessidade do trabalhador é o lucro, os que tocam o mundo high tech podem imaginar um futuro sem O dinheiro,
    onde e a posição mais poderosa e perigosa do mundo e a de ter acesso de administrador. Sei lá... Valeu.

    ResponderExcluir
    Respostas
    1. O lucro da produção capitalista só tem uma fonte, a exploração do trabalho humano. O resto é despesa (com instalações, ferramentas, máquinas). E os robôs não fogem a essa regra. Tal como instalações, ferramentas, máquinas se desgastam e precisam ser repostos. Os seres humanos ficam doentes, fazem greve etc, mas podem ser repostos sem muita dificuldade. E vão ficar cada vez mais desempregados ou subempregados. Para cada caixa eletrônico, uns 10 bancários foram demitidos e parte do trabalho deles é feito por nós, clientes, apertando os botões dos terminais. Ou seja, somos consumidores e trabalhadores ao mesmo tempo. Enfim, não estou dizendo que os capitalistas vão deixar de substituir trabalhadores causando desemprego e pobreza. Isso é impossível. Não é da natureza do capitalista deixar de explorar. Isso só acontece em situações muito especiais, como guerras, revoluções etc. É por isso que o destino do capitalismo e o nosso também é cada vez mais sombrio.a

      Excluir