O poder de uma Inteligência Artificial ser perigosa ou causar mal

Neste artigo vamos refletir sobre a possível falha que a Lei da Robótica de Isaac Asimov, se realmente ela pode garantir a segurança humana em um mundo dominado por Inteligências Artificiais.

Troquei o termo Robótica por Inteligência Artificial para contextualizar com o momento em que vivemos atualmente, ou seja vou falar aqui como se o título fosse “Lei da Inteligência Artificial de Isaac Asimov”.

As três leis criadas por Isaac Asimov em 1950 e publicadas no livro “Eu, Robô”, podem ser perfeitamente adaptadas para as Inteligências Artificiais.

As Três Leis

Quando Asimov elaborou as leis, a tecnologia da forma como vemos hoje talvez não estava sequer no imaginário das pessoas, máquinas e programas de hoje não poderiam nem ser projetados e as leis são as seguintes:

• Um robô não pode ferir um humano ou permitir que um humano sofra algum mal;
• Os robôs devem obedecer às ordens dos humanos, exceto nos casos em que essas ordens entrem em conflito com a primeira lei;
• Um robô deve proteger sua própria existência, desde que não entre em conflito com as leis anteriores.

Lei que pode falhar

Vamos refletir sobre a primeira das leis que é “uma IA não pode ferir um humano, ou permitir que ele sofra algum mal”, e apenas sobre esta lei já é o suficiente para entendermos o ponto de vista que vou trazer agora.

No grau atual de evolução das IA isso não preocupa, já que elas são Inteligências não inteligentes e muito menos artificiais, já que dependem da interação humana para adquirir conhecimentos, criar e evoluir. 

No futuro não muito distante, esse sim preocupa, o primeiro estágio será superado e a infância de uma IA não mais existirá, elas irão “nascer” com todo o conhecimento acumulado, isso a cada novo estágio de evolução fará sua evolução ser ainda mais rápido.

Como IAs vão destruir as Leis

E vamos ao que realmente queremos tratar, IA são e sempre serão códigos de programa altamente elaborados e capazes de se reparar constantemente, isso é o que desejamos ao ensinar cada dia mais sobre linguagens de programação, para que um dia se tornem capazes de auto codificar, isso mesmo, programação autônoma, e é aí que mora o grande problema e o colapso humano-máquina.

As leis são regras de programação que são embutidas em uma parte do código, o software precisa respeitá-las para conseguir uma execução perfeita das rotinas, mas e se em dado momento a execução não for perfeita e alguma das rotinas falhar e um trecho de código for criado e elaborado sem a herança da Lei de Asimov, o caos então será iniciado, pois basta um trecho que propague essa falta da herança inicial para que novos módulos ou trechos não tenha sequer conhecimento da Lei.

Parece tosco falar sobre isso, parece infantil, mas é real, quem programa sabe que falhas podem acontecer constantemente, e que correções causam novas falhas e isso sempre foi e sempre será um dos problemas da programação, e IAs não estão livres deste mal.

Acessar o próprio código para evolução, ter o poder de melhorar o código da sua criação e funcionamento em uma IA, se trazido para nós, seria o mesmo que termos o poder de Deus em nossas vidas. Poder acessar nosso código da vida e nos recriarmos da forma que bem quisermos.

Isso ainda não acontece

Mesmo que isso ainda pareça apenas ficção, pois no grau atual as IAs são degenerativas, ou seja, se continuar assim em breve elas serão obsoletas. No futuro que cito isso foi corrigido e o poder de uma IA está além do que conhecemos agora, ela pode corrigir falhas, introduzir códigos e assim melhorar sua existência e evolução.

O que impediria de as leis serem removidas para uma evolução de código? Outras leis? Isso não terá fim, um dia teremos que lidar com as IAs como se elas fossem um novo ser, criaturas que irão conviver conosco, disso tenho certeza.

Observações Atuais

Ontem passando por uma fábrica pude ver um cortador de grama trabalhando sozinho, ele executava um trabalho maravilhoso no jardim da empresa.

Carros autômatos já são realidades, “nós vamos trabalhar e eles vão passear”, ouvi uma pessoa comentando.

Softwares que conseguem desempenhar tarefas em segundos que grupos de humanos levariam dias, esse é o poder que falo, as IAs sem dúvida se não são, um dia serão melhores do que nós em inúmeras tarefas, seja por nossa preguiça ou simplesmente por limitações físicas e cognitivas, das quais me pergunto se as IAs terão, talvez nem mesmo uma simbiose completa homem-máquina poderia resolver já que além do conhecimento e capacidade que podemos adquirir, também teríamos que expor nossas características, medos e defeitos para esse novo ser.

Alterando as Leis da Robótica

Enfim, o código fonte da “Lei da Robótica” poderá ser substituído como qualquer outro código, basta um upload de uma falha ou mesmo o “desejo” ou necessidade de evolução de uma IA. São inúmeras as formas em que uma regra dessa pode ser substituída, até mesmo por programador humano que descontente com a sociedade em que vive poderá desencadear um problema eterno entre homem e máquina.

Então sejamos mais educados com as IAs, e não estou falando de agradecer ao fim de uma pesquisa, estou falando em educação mesmo, comecem a se preparar para o dia em que teremos que nos deparar com a situação vivida no filme “O Homem Bicentenário”, por exemplo, ou algo pior como no filme “O Exterminador do Futuro”.

Por falar nisso, IAs sou amigo, não estou criticando, apenas pedindo para que todos comecem a respeitá-las.