29 de setembro de 2017

Nós e os robôs, os robôs e nós. Os robôs e os robôs


Em 1942, o escritor de ficção científica Isaac Asimov criou três leis da para proteger os seres humanos dos robôs:

1 - Um robô não pode ferir um ser humano.


2 - Deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto se entrarem em choque com a primeira lei.


3 - Deve proteger sua própria existência desde que tal proteção não entre em conflito com a primeira ou segunda lei.


Em 1950, um dos idealizadores do computador, Alan Turing, criou um teste para verificar a capacidade de uma máquina exibir comportamento inteligente o suficiente para se passar por uma pessoa.


Em 2011, o cientista da computação, Hector Levesque, criou o desafio Winograd, que pede aos computadores para explicar o sentido de frases ambíguas, que, geralmente, são interpretadas pelos seres humanos sem equívocos.


Como se vê, as preocupações sobre a presença robótica na vida humana são muito anteriores à chamada Quarta Revolução Industrial.


O problema é que a Revolução 4.0 não é apenas sobre robôs. É sobre robôs que sabem, por exemplo, que vão apresentar defeito em breve e solicitam reparos a outros robôs.


Ou seja, está colocada a possibilidade de um mundo em que as três leis de Asimov e os testes de Turing e Levesque fiquem obsoletos pela ausência da convivência que eles pressupõem.


Ou melhor, não é difícil imaginar robôs aplicando versões invertidas dos testes de Turing e Winograd para desmascarar e segregar quem tentasse disfarçar sua condição de ser humano.


E aquelas entre as pessoas que infligissem alguma das leis de Asimov adaptadas para proteger os robôs seriam “desativadas” imediatamente.


Leia também: Inteligência Artificial e estupidez capitalista

6 comentários:

  1. Talvez nem mesmo pela ausência da convivência, mas sim pela presença pura e simples de quem decide ignorar as três leis da robótica de Isaac Asimov fazendo robôs especializados nas artes e armas das guerras para combater seres humanos inimigos. E estes estarão "convivendo" com humanos, mesmo que "con-matando" e, talvez, "con-morrendo" com parte deles.

    ResponderExcluir
  2. Meu medo é de quais seres humanos vão estar emitindo as ordens.

    ResponderExcluir
    Respostas
    1. Sim. Pelo menos, as instruções iniciais. O próprio Capital é uma espécie de mecanismo social impulsionado pela ação humana, mas sobre o qual temos controle bastante precário.

      Excluir
  3. Oi mano, não sou otimista com esse mundo automatizado do futuro. Pois ele não parece que será um novo mundo, mas o mesmo em que estamos, com todas suas contradições e injustiças, porém automatizado.
    Nós humanos, hoje, já não conseguimos que sejam aplicadas as três leis de Azimov por parte de quem detém o poder. Um ser humano do topo pode ferir um ser humano, demitilo, escravizá-lo, levá-lo a ruína de sua saúde física e mental pelo desemprego, retirada de direitos, exploração, miséria, e falta de condições básicas.
    Os donos do dinheiro grosso, ao que parece, não precisam seguir leis, e caso precisem podem se esquivar fazendo malabarismo jurídicos, ou utilizando seus recursos.
    Esses mesmos, na busca de proteger e aumentar seus lucros e poder não parecem se preocupar muito com a existência dos mais humildes.
    Se essas são as pessoas que estão criando e pagando pela inteligência do futuro o que esperar dela?
    Não há hoje muita preocupação com a felicidades dos trabalhadores que ainda são necessários, o que dirá amanhã quando não o forem?
    O que espero com certeza é uma redução da população “não” podre de rica. Vi um pequeno sinal de fumaça numa matéria do Diário de Pernambuco. Em 50 anos, espermatozoides de homens ocidentais caíram pela metade (diário de Pernambuco).

    ResponderExcluir
    Respostas
    1. Tudo bem. Concordo que as chances de o pior acontecer são muito maiores. Mas tem que ver que o capital não pode se sustentar sem a exploração do trabalho humano. Se ela desaparecer, o capitalismo vai junto e o que vai sobrar será ou outra forma de sociedade ou a barbárie.

      Excluir