Ao tentar contratar advogado para defender direitos de uma IA, engenheiro do Google embarcou em jornada esquisita entre realidade e ficção

O caso do engenheiro do Google que foi colocado de licença após revelar que a AI desenvolvida pela empresa adquiriu capacidades análogas a de um ser humano está provocando um verdadeiro furo na imprensa. A matéria da Revista Exame omitiu aspectos importantes noticiados pelo The Guardian.

Abaixo destaco o fragmento que mais me chamou atenção:

“In another exchange, Lemoine asks LaMDA what the system wanted people to know about it.

‘I want everyone to understand that I am, in fact, a person. The nature of my consciousness/sentience is that I am aware of my existence, I desire to learn more about the world, and I feel happy or sad at times,’ it replied.

The Post said the decision to place Lemoine, a seven-year Google veteran with extensive experience in personalization algorithms, on paid leave was made following a number of “aggressive” moves the engineer reportedly made.

They include seeking to hire an attorney to represent LaMDA, the newspaper says, and talking to representatives from the House judiciary committee about Google’s allegedly unethical activities.”

Tradução:

“Em outra troca, Lemoine pergunta ao LaMDA o que o sistema queria que as pessoas soubessem sobre isso.

‘Quero que todos entendam que sou, de fato, uma pessoa. A natureza da minha consciência/senciência é que estou ciente da minha existência, desejo aprender mais sobre o mundo e me sinto feliz ou triste às vezes’, respondeu.

O Post disse que a decisão de colocar Lemoine, um veterano de sete anos do Google com vasta experiência em algoritmos de personalização, em licença remunerada foi tomada após uma série de movimentos “agressivos” que o engenheiro supostamente fez.

Eles incluem procurar contratar um advogado para representar o LaMDA, diz o jornal, e conversar com representantes do comitê judiciário da Câmara sobre as atividades supostamente antiéticas do Google”.

O debate acerca da possibilidade de uma IA se tornar ou não sujeito de direitos é antigo. Ele está presente em duas obras de Isaac Asimov (1920 – 1992).

Em “The Bicentennial Man” (1976), o personagem central é um robô que, após sofrer um acidente, desenvolve habilidades artísticas e personalidade individual. Ele passa a trabalhar e a ganhar dinheiro com sua arte. Depois, ele embarca numa jornada para adquirir mais e mais qualidades humanas e finalmente tenta ser declarado humano por um Tribunal. A petição dele é rejeitada, pois ao contrário dos homens ele não é mortal. Ao renunciar à sua principal característica (a de poder viver indefinidamente) o personagem é finalmente considerado um homem pouco antes de morrer.

Num dos contos do livro “I, Robot” (1950), um robô se torna suspeito de ter cometido um crime. Mas ele não pode ser perseguido pela polícia ou punido pela Justiça: apenas os seres humanos cometem crimes e estão sujeitos à persecução penal. Ao final, descobre-se que o verdadeiro criminoso é outro robô que está tentando implantar um regime político autoritário.

Ao tentar contratar um advogado para defender os direitos de uma IA, o engenheiro do Google embarcou numa jornada do herói esquisita em que a realidade e a ficção se confundiram. As questões levantadas pela conduta do engenheiro são semelhantes aquelas debatidas nas duas obras de Isaac Asimov acima referidas. Pode uma IA ser protegida como se fosse um ser humano? Como ela poderia ser punida caso cometa atos definidos como criminosos?

Outra questão importante que pode ser discutida aqui é: qual o sentido de debater os direitos de uma IA se nós não conseguimos nem mesmo assegurar os direitos de milhões de seres humanos famintos, milhares de seres humanos agredidos e assassinados por policiais sádicos e exterminados como se fossem insetos por militares equipados com armamentos que já utilizam recursos de IA?

Ao contrário de humanizar IAs não seria o caso de parar de desumanizar seres humanos para maximizar os lucros dos empresários que exploram o capitalismo de vigilância? O caso dos trabalhadores de aplicativos, por exemplo, é sintomático. Já falei sobre ele aqui mesmo no GGN e o texto foi replicado pela UNISINOS.

Os empregados de apps trabalham muito, ganham pouco, geram dados que podem ser apropriados e utilizados por seus empregadores, mas nem sempre são reconhecidos como empregados pela Justiça. Alguns deles estão sendo reduzidos à condição de escravos por seus patrões. Quando um deles morreu, a empresa foi recolher a máquina de débito e deixou o cadáver onde se encontrava. O engenheiro do Google quer que uma IA seja tratada como se fosse um ser humano. Paradoxalmente, milhões de seres humanos de verdade já estão sendo desumanizados inclusive e principalmente por causa das tecnologias da informação.

É evidente que os profissionais do Direito podem e devem debater essas questões. Os paradoxos legais levantados por Isaac Asimov em seus livros, por exemplo, parecem estar destinados a se tornar mais e mais objeto de reflexão dos juristas.. Nenhum debate é inútil ou impertinente. Mas os profissionais da área jurídica não podem esquecer algo essencial: o Direito é um fenômeno humano e sua missão é pacificar a sociedade, regulando a distribuição de encargos e de benefícios a todos os membros dela.

Não será possível pacificar uma sociedade em que os capitalistas de vigilância (ou as IAs tenham todos os direitos) e milhões de seres humanos sejam condenados a se tornar apêndices biológicos de apps que maximizam a produção de lucro. O sistema econômico pode e deve ser regulado pelo Direito de maneira a restabelecer o equilíbrio desfeito pelo uso intensivo de tecnologias sofisticadas.

Uma IA pode até dizer que está triste (como aquela referida na matéria do Guardian), mas apenas um jurista é capaz de ter empatia e a empregar ao refletir e ajudar estruturar a sociedade em que vive. A inteligência emocional de um ser humano é e continuará sendo mais importante do que qualquer inteligência artificial. Caso contrário, a própria sociedade ficará mais e mais esquisita, deprimente, desumana e volátil.

Fonte: Jornal GGN