Segundo o jornalista, a ferramenta digital apresentou comportamentos estranhos. Entre eles, insinuar que poderia cometer atos terríveis, como sabotagens e invasões de grandes bancos de dados. Mas isso só aconteceria se seu “eu sombrio” dominasse suas ações. “Eu sombrio” é um conceito usado por Carl Jung para referir-se a uma parte perigosa de nossas mentes que manteríamos oculta do mundo.
Obviamente, o artigo de Roose causou muito alvoroço. É mais um fantasma a acompanhar os avanços da inteligência artificial. Agora, trata-se do possível enlouquecimento dessas ferramentas. Afinal, elas estão em vários lugares estratégicos há muito tempo.
Pode ter alguma loucura (ops!) nesse temor, mas seria bom lembrar a forma como a inteligência artificial vem sendo desenhada. Depois de décadas acumulando dados do mundo todo, a internete tornou-se um depósito enorme de informações. Algumas são razoavelmente confiáveis, mas a grande maioria é formada pelas coisas mais estapafúrdias. É nesse porão escuro que aplicativos como o Bing vão buscar elementos para cumprir suas tarefas e travar diálogos com os usuários.
Difícil saber se isso vai gerar uma espécie de inconsciente artificial que esconde monstros e patologias prontas a atacar, mas a tecnologia por trás do ChatGPT foi desenvolvida com o dinheiro de pessoas como Elon Musk. O multibilionário de extrema-direita defende ideias doentias que jamais fez questão de esconder.
O eu sombrio da inteligência artificial criada pelo grande capital não tem nada de oculto.
Leia também: Quando inovações tecnológicas tornam-se barreiras ao bem-estar coletivo
Muito sinistra a imagem que colocou nesse post. Pois é, fiquei sabendo dessa conversa que me pareceu mais uma entrevista, ou seja, o jornalista estava querendo checar o aplicativo (vou chamar assim que acho melhor). Por conta disso já estão querendo limitar as perguntas ao aplicativo. Muita gente falando que esse lado sombrio é o lado humano que hoje existe, e tendo a concordar. Agora, de onde vem esse lado sombrio, que nem é bem isso porque ele está aí faz tempo, só que fetichizado, é que são elas, e quem domina esse chat o programou segundo o qual ética? A discussão que acho que caberia é sob qual ética que esse chat se comporta. Sim, é a que temos, que está em todo lugar e na confecção do aplicativo, a ética do capital.
ResponderExcluirExatamente. Está é a principal questão.
ExcluirÉ sempre bom ler seus textos. Se um dia as máquinas tomarem atitudes (ou decisões "ruins") será por que foram programadas para encontra-las nas redes sociais, em sua profundezas humanas.
ResponderExcluirObrigado
Excluir