Os próprios desenvolvedores de IAs admitem publicamente que elas podem representar um risco para a civilização humana.

Uma das coisas mais marcantes dos textos que se referem às Inteligências Artificiais ou recomendam sua utilização é a preocupação obsessiva em “promover confiança no uso de IAs”. Essa questão essencial já foi inclusive objeto de duas pesquisas (vide 1, vide 2). Transcrevo abaixo alguns fragmentos da obra dos especialistas Eduardo Paranhos e Thomas Côrte Real:

“Medidas razoáveis e adequadas de transparência, como técnicas de IA explicáveis, permitem que os usuários entendam como os sistemas de IA chegam às decisões, promovendo a confiança e a aceitação das tecnologias de IA.” (Comentários ao EU AI Act – Uma abordagem prática e teórica do Artificial Intelligence Act da União Europeia, Rony Vaizof – Andriei Gutierrez – Gustavo Godinho – Alexandra Kastris, Thomson Reuters-RT, São Paulo, 2024, p. 177)

“… a governança da IA é essencial para promover confiança entre as partes (desenvolvedores, distribuidores, aplicadores e usuários), condição crucial par sua ampla adoção e aceitação da tecnologia em sua plenitude.” (Comentários ao EU AI Act – Uma abordagem prática e teórica do Artificial Intelligence Act da União Europeia, Rony Vaizof – Andriei Gutierrez – Gustavo Godinho – Alexandra Kastris, Thomson Reuters-RT, São Paulo, 2024, p. 178)

“De fato, os benefícios de uma governança de IA eficaz vão muito além da mitigação de riscos. No mesmo patamar de importância, a governança promove confiança pública, um componente crítico para a adoção cada vez mais abrangente da IA.” (Comentários ao EU AI Act – Uma abordagem prática e teórica do Artificial Intelligence Act da União Europeia, Rony Vaizof – Andriei Gutierrez – Gustavo Godinho – Alexandra Kastris, Thomson Reuters-RT, São Paulo, 2024, p. 179)

“Uma governança eficaz e apropriada que engloba mecanismos de supervisão e ao mesmo tempo promove inovação e a confiança, é crucial para garantir que o desenvolvimento e o uso da tecnologia ocorram de maneira ética, segura e legal.” (Comentários ao EU AI Act – Uma abordagem prática e teórica do Artificial Intelligence Act da União Europeia, Rony Vaizof – Andriei Gutierrez – Gustavo Godinho – Alexandra Kastris, Thomson Reuters-RT, São Paulo, 2024, p. 179)

“A supervisão humana contínua também é uma prática que deve ser adotada para determinadas tecnologias, pois permite revisar e ajustar decisões automatizadas, evitando consequências não previstas e/ou prejudiciais. Uma abordagem estruturada e proativa na governança mitiga riscos, promove confiança na tecnologia e maximiza os benefícios da IA para a sociedade.” (Comentários ao EU AI Act – Uma abordagem prática e teórica do Artificial Intelligence Act da União Europeia, Rony Vaizof – Andriei Gutierrez – Gustavo Godinho – Alexandra Kastris, Thomson Reuters-RT, São Paulo, 2024, p. 179)

“… examinaremos as medidas de governança delineadas no AI Act, focando nas obrigações dos Fornecedores, mecanismos de supervisão e práticas de segurança que são essenciais para reduzir potenciais ameaças e promover a confiança no uso da IA de finalidade geral.” (Comentários ao EU AI Act – Uma abordagem prática e teórica do Artificial Intelligence Act da União Europeia, Rony Vaizof – Andriei Gutierrez – Gustavo Godinho – Alexandra Kastris, Thomson Reuters-RT, São Paulo, 2024, p. 180)

Enquanto lia o texto de Eduardo Paranhos e Thomas Côrte Real, lembrei-me das observações de Ulrich Beck numa obra seminal que li há mais de uma década:

“A sociedade de risco abarca uma tendência ao totalitarismo ‘legítimo’ da defesa diante do perigo, que, com a incumbência de evitar o pior, acaba provocando, como todos sabem ser praxe, algo ainda pior. Os ‘efeitos colaterais’ políticos dos ‘efeitos colaterais’ civilizacionais ameaçam o sistema político-democrático em seu domínio. Ele vê-se confrontado com o desagradável dilema de ou bem fracassar diante de perigos produzidos sistematicamente ou então revogar, por meio de ‘esteios’ autoritários derivados do poder de polícia do Estado, princípios básicos da democracia. Romper com esse dilema é uma das tarefas cruciais do pensamento e ação democráticos, tendo em vista o atual futuro da sociedade de risco.” (Sociedade de Risco, Ulrich Beck, editora 34, São Paulo, 2010, p. 97/98)

O risco de quem faz viagens aéreas e embarca num cruzeiro são minimizados pela adoção de padrões de segurança na fabricação e manutenção de aviões e transatlânticos. A formação e o treinamento de pilotos, capitães e das tripulações deles também são objeto de cuidado. Ninguém entraria no avião se soubesse que o piloto é inexperiente ou embarcaria num transatlântico comandado por Francesco Schettino, capitão que além de afundar o Costa Concórdia abandonou o barco sem se preocupar com os passageiros.

A União Europeia saiu na frente ao aprovar o EU AI Act comentado Eduardo Paranhos e Thomas Côrte Real no livro acima referido e parcialmente transcrito. A ênfase que eles colocam na construção de confiança do público faz sentido. Mas ela desempenha um papel curioso.

Os próprios desenvolvedores de IAs admitem publicamente que elas podem representar um risco para a civilização humana. Sam Altman disse há um ano que a tecnologia que ele criou e se esforça para aperfeiçoar pode matar todos nós. Paradoxalmente, o dono da Open AI quer que o mundo use IAs. Ele apoia a regulação da tecnologia.

A confiança dos consumidores em potencial é, sem dúvida alguma, o principal ativo das empresas aéreas e marítimas de transporte de passageiros. O risco que os passageiros correm ao entrar num avião ou num transatlântico é real e deve ser minimizado. Esse risco, todavia, será limitado exclusivamente àqueles que comprarem a passagem. No caso das IAs, a limitação do risco não existe.

Se uma instituição bancária determinada, vou chamá-lo aqui de Banco A, começar a utilizar um sistema de IA todos os correntistas dele estarão sujeitos a risco independentemente de confiarem ou não na nova tecnologia. Caso a IA do Banco A falhe e comprometa a liquidez dele provocando uma corrida bancária todo o sistema financeiro do país pode ser contaminado. Os correntistas de outros Bancos obviamente também ficarão expostos a um risco mesmo que tenham optado por evitar o Banco A porque ele começou a utilizar uma IA.

Em 2008, a crise financeira que começou nos EUA rapidamente se propagou para a Europa e Japão. Fortunas desapareceram, o desemprego cresceu no hemisfério norte e a confiança no sistema bancário somente foi restaurado com o resgate público dos bancos privados que participaram da farra do subprime. O uso de IAs no mercado financeiro já é uma realidade. Elas evitarão ou provocarão a próxima crise financeira?

O risco de ocorrer algo semelhante à hipótese acima mencionada não é apenas retórico. Nesse caso, a obsessão dos jornalistas e juristas com a construção de confiança na IA não será apenas inútil. Ela é potencialmente prejudicial para a democracia como alerta Ulrich Beck.

Uma tecnologia com potencial de produzir danos em larga escala, afetando de maneira negativa até as vidas de pessoas que vivem em outro país ou que se recusaram a utilizá-la (que nem mesmo eram clientes de uma instituição bancária que a desenvolveu ou licenciou), é intrinsecamente totalitária. Infelizmente parece que esse totalitarismo potencial da IA está sendo desprezado.

Nós realmente precisamos dar três passos atrás e refletir bem antes de avançar um em relação a essa tecnologia. Mas as pessoas estão fazendo o oposto. Elas avançam rapidamente como se tudo ficará bem. Vai ficar mesmo? We will see…

Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.

O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para dicasdepautaggn@gmail.com. O artigo será publicado se atender aos critérios do Jornal GGN.

“Democracia é coisa frágil. Defendê-la requer um jornalismo corajoso e contundente. Junte-se a nós: www.catarse.me/jornalggn “

FONTE: JORNAL GGN