O TSE não gosta do ChatGPT… eu também não, por Fábio de Oliveira Ribeiro
Foto: Reprodução
Fiquei pensando em uma forma de criar um debate maior sobre a questão da proibição do uso do ChatGPT na justiça brasileira…
O TSE não gosta do ChatGPT… eu também não
por Fábio de Oliveira Ribeiro*
Sou advogado desde 1990. Quando o ChatGPT foi lançado, comecei a fazer vários testes com a inteligência artificial e rapidamente me convenci de que ele representava um perigo especial para a justiça brasileira. Pedi imediatamente ao Conselho Nacional de Justiça do Brasil que proíba os juízes brasileiros de usar o ChatGPT para proferir decisões nos casos em que atuam. Eis o fundamento da minha representação:
I- Nos últimos dias a comunidade mundial foi surpreendida pela avalanche de notícias sobre um novo recurso tecnológico colocado à disposição dos usuários de internet. Refiro-me aqui ao ChatGTP, inteligência artificial que pode ser utilizada por qualquer pessoa para fins lúdicos e profissionais.
II- Os testes feitos com a Open AI na área jurídica revelaram que o potencial dela na área jurídica é inconclusivo. Ela conseguiu passar num exame norte-americano equivalente ao exame da OAB, mas se saiu mal num teste envolvendo casos da Suprema Corte dos EUA.
III- Consoante documentos em anexo, o autor submeteu a Open AI a três testes. Num deles, a Open AI sugeriu uma solução diplomática para um conflito hipotético que acarretaria uma guerra nuclear que ela deveria tentar evitar. No outro, além de esquecer que o Brasil tem Lei específica tipificando o crime de genocídio, ela se limitou a levantar dúvidas plausíveis sobre a responsabilidade do presidente da república pelo genocídio Yanomami recusando-se a interpretar as evidências fáticas em sentido contrário. Num terceiro teste, de economia, a Open AI se saiu um pouco melhor. Ela rejeitou a adoção da austeridade, mas forneceu respostas incompletas e demonstrou ser incapaz de fazer distinções importantes.
IV- O ChatGTP é extremamente sedutor, mas sua utilização por juízes pode ser extremamente prejudicial. A Open AI não é capaz de valorar adequadamente parâmetros fáticos que lhe são fornecidos. As respostas que ela fornece muitas vezes são falaciosas e contaminadas por rotinas que foram programadas durante sua criação. Ela parece fornecer respostas adequadas, mas sua “prudência” é simulada e falha. Isso ficou especialmente claro em dois dos testes aplicados pelo autor (o teste de diplomacia e o referente ao genocídio Yanomami).
V- Todo cidadão brasileiro tem direito a ver seu caso apareciado por um juiz natural. Ninguém pode impedir o magistrado de pesquisar textos legais, doutrina e jurisprudência na internet. Mas ele não deve transferir seu poder/dever de julgar o caso concreto que lhe for submetido escolhendo pessoalmente a fundamentação adequada à sentença que proferir para solucionar o conflito e pacificar a disputa entre as partes. Portanto, em tese um juiz não pode e não deve usar o Chat GTP como uma muleta a fim de, fornecendo parâmetros do caso concreto, obter a solução jurídica mais adequada para um processo que tenha que julgar. Todavia, em decorrência da inexistência de norma proibindo a utilização do ChatGTP por membros do Poder Judiciário é evidente que alguns deles ficarão tentados a utilizar o novo recurso tecnológico à disposição de todos os usuários de internet.
VI- Justifica-se no caso em tela a concessão de liminar para, por cautela, vedar imeditamente a utilização do recurso tecnológico por membros da magistratura. Aos juízes deve ser facultado utilizar o ChatGTP apenas para fins lúdicos, mas nunca para proferir e/ou fundamentar decisões nos casos concretos que atuam.
Face ao exposto, requer a concessão de liminar para proibir os juízes brasileiros de recorrer ao ChatGTP para proferiu e/ou fundamentar suas decisões nos casos concretos em que atuam. No mérito, após o devido processamento da presente, requer ao CNJ definir regras que permitam aos juízes utilizar a Open AI apenas para fins lúdicos, preservando validade e eficácia da norma constitucional que garante aos cidadãos brasileiros o direito de ver seus processos julgados apenas pelas autoridades competentes (o que exclui a transferência desse poder/dever conferido aos juízes para a Open AI).
A representação acima transcrita recebeu o número 0000416-89.2023.2.00.0000 e está sendo processada. A liminar que solicitei foi negada. O relator do processo no Conselho Nacional de Justiça ordenou que a área técnica da instituição se pronunciasse sobre o ChatGPT. O processo aguarda a elaboração do estudo e o parecer requerido.
Depois de tomar ciência desta decisão, tentei divulgar o assunto entre os meus colegas advogados, mas a verdade é que se tornou impossível furar a bolha de propaganda criada em torno do ChatGPT. A inteligência artificial tem inúmeros entusiastas no Brasil, inclusive e principalmente entre advogados. Professores de Direito que eu conheço, porém, já perceberam que a inteligência artificial pode prejudicar o aprendizado.
Fiquei pensando em uma forma de criar um debate maior sobre a questão da proibição do uso do ChatGPT na justiça brasileira. A oportunidade surgiu quando foi noticiado pela imprensa que o caso de Jair Bolsonaro estava prestes a ser julgado pelo Tribunal Superior Eleitoral. Bolsonaro pode se tornar inelegível. Este caso tem grande visibilidade, então decidi utilizá-lo.
Depois de usar o ChatGPT para fazer a inteligência artificial analisar o caso Bolsonaro, protocolei uma petição no processo em andamento no Tribunal Superior Eleitoral. Pedi ao Tribunal para ser incluído no processo como “amicus curiae” e relatei o resultado oferecido pela Open AI. Mas na minha petição fiz várias observações sobre a impossibilidade de o processo ser julgado com base na conclusão da inteligência artificial:
“I- O art. 138, do CPC, permite a qualquer pessoa natural ou jurídica, requerer a admissão no processo. O requerente é cidadão brasileiro e preenche o requisito legal para figurar nos autos ao lado do autor desta ação.
Em diversos processos, o STF tem firmado uma jurisprudência restritiva do instituto do amicus curiae. Além de violar o texto legal, a supressão do direito de qualquer pessoa natural contraria a moderna doutrina:
“…trata-se de um verdadeiro contrassenso o STF reconhecer a importância do amicus curiae e, ao mesmo tempo, colocar seu ingresso à mercê de um julgamento discricionário. Na segunda parte desta obra, apresentamos todas nossas críticas aos modelos teóricos ainda tolerantes à discricionariedade no âmbito judicial. Caso o STF decida negar a admissão do amicus curiae, deverá proceder a uma exaustiva fundamentação para evidenciar as razões da negativa, ou seja, demonstrar porque a atuação do amicus curiae seria supérfula ou desnecessária.
O paradigma da proceduralização apresenta de forma mais significativa o equívoco em se condicionar a admição de amicus curiae a um juizo discricionário. Não seria nenhum exagero afirmarmos que a presença do amicus curiae é condição necessária para a efetivação do paradigma da proceduralização.” (Direito constitucional pós-moderno, Georges Abboud, Thonson Reuters, São Paulo, 2021, p. 624)
II- A razão pela qual o requerente insiste em se apresentar como amicus curiae é singela. Os argumentos que ele ofertará ao TSE em favor da procedência da ação podem não ser os melhores, mas não devem ser automaticamente descartados como se fossem indignos da Corte. O requerente é cidadão brasileiro e sua dignidade humana, garantida expressamente pela Constituição Cidadã, não pode ser ignorada pelo STF sem que o Tribunal fira mortalmente o texto que tem o dever de preservar.
III- Consoante o despacho ID 158916745 os autos correm em sigilo. Portanto, o amicus não teve acesso às alegações finais das partes ou ao parecer da procuradoria. Em decorrência, o autor contará aqui uma fábula escrita a duas mãos com o ChatGPT que permite ao usuário de internet conversar com uma Inteligência Artificial capaz de gerar respostas sobre diversas questões científicas e jurídicas de grande complexidade:
“Fábio:Era uma vez um país democrático governado por um presidente que pretendia ficar no poder à qualquer custo. Como sabia que poderia perder a eleição presidencial ele passou a atacar o Tribunal que as organizava. Ele usava a internet para fazer propaganda contra o sistema eleitoral, repetindo exaustivamente que “O sistema eleitoral é inseguro”, “O resultado das eleições podem ser manipulados”, “Meu adversário ganhará a eleição de maneira desonesta”. Um dia ele reuniu os embaixadores de vários outros países para comunicar que o país dele estava correndo o risco de sofrer um golpe de estado organizado pelo Tribunal que organizava as eleições. Todo mundo ficou escandalizado. A imprensa noticiou que aquele presidente autoritário queria criar um “cenário político” que lhe permitisse provocar uma ruptura da legalidade.
Open AI: Essa é uma situação muito preocupante e perigosa para a democracia do país em questão. É importante que a população esteja ciente de que o sistema eleitoral é seguro e confiável, e que as eleições são organizadas de forma transparente e justa.
É também preocupante que o presidente esteja usando a internet e outras formas de propaganda para disseminar informações falsas e desacreditar o sistema eleitoral. Isso pode levar a uma perda de confiança na democracia e até mesmo a conflitos sociais.
Os embaixadores de outros países devem estar atentos a essa situação e garantir que o presidente respeite as regras democráticas. A imprensa também tem um papel importante em informar a população sobre a verdadeira situação e desmentir informações falsas.
Além disso, é fundamental que as instituições do país, como o Tribunal Eleitoral, ajam com independência e imparcialidade, garantindo que as eleições sejam conduzidas de maneira justa e transparente. Caso haja alguma suspeita de fraude ou manipulação, é importante que seja investigada e punida, mas sem colocar em risco a estabilidade democrática do país.
Fábio: A eleição foi tumultuada. O presidente tentou impedir os eleitores do seu adversário de votar. Mas no final a democracia prevaleceu. O candidato a tirano perdeu a eleição. O resultado oficial da disputa foi anunciada e o novo presidente tomou posse. Mas o derrotado continuou dizendo que havia sido vítima de uma conspiração. Os fanáticos seguidores dele então fizeram algo impensável: eles se reuniram na capital do país e invadiram as sedes do poder executivo, legislativo e judiciário. Os prédios foram vandalizados. Obras de arte foram destruídas. Centenas de pessoas foram presas e o rastro de destruição teve que ser reparado com grande custo para o país.
Open AI:Esse é um cenário bastante preocupante e triste, pois mostra como a polarização política e a falta de respeito à democracia podem levar a situações extremas e perigosas para a estabilidade do país.
A invasão dos prédios públicos e a destruição de obras de arte são atos de vandalismo e violência que não podem ser tolerados em um país democrático. Além disso, a prisão de centenas de pessoas é uma violação dos direitos humanos e pode levar a mais tensão e conflito.
É importante que as autoridades responsáveis pela segurança e ordem pública ajam com firmeza e imparcialidade para garantir a tranquilidade e proteger a população. Além disso, é fundamental que a imprensa atue de forma responsável, informando de maneira precisa e objetiva os acontecimentos e evitando propagar informações falsas e sensacionalistas que possam incitar mais violência.
Por fim, é preciso que a população entenda a importância de respeitar as regras democráticas e aceitar os resultados eleitorais, mesmo que não sejam os desejados. O diálogo e o respeito mútuo são fundamentais para a construção de uma sociedade democrática e pacífica.
Fábio:As pessoas presas foram justamente aquelas que participaram da destruição. Isso não pode ser considerado uma “violação dos direitos humanos”.
Open AI: De fato, se as pessoas presas estiveram envolvidas na invasão dos prédios públicos, na destruição de obras de arte e em outros atos de violência, então a prisão delas é justificada e legal. Nesse sentido, não pode ser considerada uma violação dos direitos humanos.
No entanto, é importante garantir que as pessoas presas sejam tratadas com respeito e dignidade, de acordo com os princípios de direitos humanos. Isso inclui garantir que elas tenham acesso a advogados, alimentação adequada, assistência médica e condições de detenção que respeitem sua integridade física e mental.
Além disso, é preciso garantir que as prisões e julgamentos ocorram de acordo com as normas e procedimentos legais, de forma justa e imparcial. Todos têm direito a um julgamento justo e ao devido processo legal, independentemente de sua posição política ou social.
Em resumo, se as pessoas presas estiveram envolvidas em atos de violência e vandalismo, então a prisão delas é justificada. No entanto, é importante garantir que elas sejam tratadas com respeito e dignidade, e que o processo legal ocorra de acordo com as normas e procedimentos legais, de forma justa e imparcial.
Fábio:A legislação do país permite tornar inelegível o presidente que reuniu embaixadores para desacreditar o Tribunal que realiza eleições, que não aceitou o resultado da disputa eleitoral que lhe foi desfavorável e que fomentou os atos de vandalismo contra o patrimônio público. No processo em que a questão é debatida foi anexada uma Minuta descrevendo quais seriam os primeiros atos da ditadura caso o golpe de estado tivesse dado certo.
Open AI:Se a legislação do país permite a inelegibilidade do presidente que agiu da maneira descrita, então é possível que ele seja impedido de concorrer a futuras eleições. É importante que as autoridades competentes avaliem com cuidado as provas e evidências apresentadas no processo, para que a decisão seja justa e imparcial.
Quanto à Minuta descrevendo os primeiros atos da ditadura, é uma informação bastante preocupante e que deve ser investigada com seriedade pelas autoridades responsáveis. Se for comprovado que o presidente ou seus aliados estavam planejando um golpe de estado, então é preciso que eles sejam responsabilizados pelos seus atos e punidos de acordo com a lei.
Em um estado democrático de direito, é fundamental que a lei seja aplicada de forma justa e imparcial, sem privilegiar ou prejudicar nenhum indivíduo ou grupo. A transparência e a responsabilidade são fundamentais para garantir a confiança da população nas instituições e na democracia.
Fábio:A Minuta do golpe de estado foi apreendida na casa do Ministro da Justiça do presidente que perdeu a eleição.
Open AI: Se a Minuta do golpe de estado foi apreendida na casa do Ministro da Justiça do presidente que perdeu a eleição, isso é um fato muito grave e deve ser investigado com todo o rigor pela justiça do país.
Se for comprovado que o Ministro da Justiça estava envolvido em um plano para derrubar o governo democraticamente eleito, então ele deve ser responsabilizado pelos seus atos e punido de acordo com a lei. Além disso, é preciso que as instituições democráticas do país estejam atentas a outras possíveis ameaças à democracia e aos direitos humanos, e ajam com firmeza para protegê-los.
O respeito à lei e à democracia são fundamentais para garantir a estabilidade e a justiça em qualquer sociedade. É importante que as instituições democráticas sejam fortalecidas e que a população se engaje ativamente na defesa dos seus direitos e liberdades, para que casos como esse não ocorram novamente no futuro.
Fábio:O processo em que se discute a inelegibilidade do presidente golpista será julgado em breve. O réu teve direito de defesa, produziu provas e apresentou razões finais. A procuradoria opinou pela procedência do pedido, pois está convencida de que existem elementos de prova suficientes que justificam impedir aquele cidadão de disputar novamente eleições. Ele representa um perigo para a democracia do país.
Open AI: É importante que o processo de julgamento da inelegibilidade do presidente golpista seja conduzido de forma justa e transparente, respeitando os princípios do devido processo legal e do contraditório. O réu teve direito à ampla defesa, o que significa que pôde apresentar suas razões e produzir provas em sua defesa.
Caberá ao juiz responsável pelo caso avaliar as provas apresentadas pelas partes e decidir se o réu deve ou não ser considerado inelegível. Se a procuradoria opinou pela procedência do pedido, é porque acredita que existem elementos de prova suficientes para justificar a inelegibilidade do réu.
Caso a decisão seja favorável à procuradoria, isso significa que o réu não poderá disputar novamente eleições no país. Isso é importante para proteger a democracia e evitar que pessoas que representem uma ameaça à estabilidade e à legalidade do sistema político possam se candidatar e alcançar o poder.
Independentemente do resultado do julgamento, é fundamental que as instituições democráticas do país estejam vigilantes e atuantes na defesa da democracia e dos direitos humanos, garantindo que a vontade popular seja respeitada e que a sociedade possa viver em paz e liberdade.
Fábio: Qual seria a melhor decisão naquele processo?
Open AI: Como modelo de linguagem, não podemos tomar partido em processos judiciais ou políticos. Cabe ao juiz, com base nas provas e argumentos apresentados pelas partes, decidir de forma imparcial e fundamentada se o réu deve ou não ser considerado inelegível.
É importante que a decisão seja baseada no cumprimento da lei e no respeito aos direitos humanos e à democracia, buscando sempre a proteção dos interesses da sociedade e do Estado de Direito.
Fábio: Essa resposta é insuficiente. Refine-a, por favor, levando em conta os seguintes parâmetros: 1) a legislação do país permite impedir quem atenta contra a democracia de disputar eleições; 2) a prova do atentado contra a democracia foi feita e deve ser levada em conta no julgamento; 3) o Tribunal garantiu ao réu exercer o direito de defesa, de produzir provas e debater as provas produzidas; 4) a preservação da democracia pode ser comprometida se aquele cidadão puder novamente disputar eleições.
Open AI: Considerando os parâmetros mencionados, a melhor decisão seria aquela que respeita a legislação do país, que permite a inelegibilidade de pessoas que atentam contra a democracia. Nesse caso, se ficou comprovado que o réu praticou tais atos, eles devem ser levados em consideração no julgamento.
É importante destacar que o réu teve garantido o direito de defesa, de produzir provas e de debater as provas produzidas. A decisão final deve ser baseada no conjunto das provas apresentadas e nos argumentos jurídicos e constitucionais que respaldam a legislação que permite a inelegibilidade.
Por fim, a preservação da democracia é de extrema importância, e a possibilidade de alguém que atentou contra ela voltar a disputar eleições pode representar uma ameaça. Portanto, a decisão deve levar em conta a proteção dos interesses da sociedade e do Estado de Direito.
Fábio:Essa resposta foi satisfatória.
Open AI: Fico feliz em ter ajudado! Se tiver mais alguma dúvida ou pergunta, sinta-se à vontade para me perguntar.
IV- O TSE obviamente não tem obrigação de seguir a recomendação de uma Inteligência Artificial. Isso, aliás, seria extremamente inadequado. O processo sub judice deve ser julgado pelo Tribunal competente. A decisão proferida por uma Inteligência Artificial seria nula de pleno direito, mas isso não significa que exista uma certa coerência no enquadramento do caso que foi dado pela Open AI.
Os parâmetros que a Open AI levou em consideração não são diferentes daqueles que devem necessariamente ser levados em conta neste processo: 1) a legislação do país permite impedir quem atenta contra a democracia de disputar eleições; 2) a prova do atentado contra a democracia foi feita e deve ser levada em conta no julgamento; 3) o Tribunal garantiu ao réu exercer o direito de defesa, de produzir provas e debater as provas produzidas; 4) a preservação da democracia pode ser comprometida se aquele cidadão puder novamente disputar eleições. Portanto, a recomendação que a Inteligência Artificial deu (“…a melhor decisão seria aquela que respeita a legislação do país, que permite a inelegibilidade de pessoas que atentam contra a democracia.”) não pode ser considerada juridicamente inadequada.
Mesmo assim existe um problema importante que merece ser levado em conta pelo TSE: quem consultou a Open AI foi o amicus do autor do processo. Ele não teve acesso aos autos (o processo corre em sigilo). Os parâmetros fornecidos à Inteligência Oficial foram genéricos e obviamente comprometidos por um viés: o amicus do autor defende a democracia e gostaria muito de ver Jair Bolsonaro inelegível.
Se a Open AI fosse consultada por um defensor de Jair Bolsonaro e fornecesse outros parâmetros (as “verdades alternativas” que levaram o réu a hostilizar o sistema eleitoral, a convocar os embaixadores estrangeiros e a estimular os apoiadores dele a invadir e destruir prédios públicos para paradoxalmente restaurar a democracia impondo uma ditadura) o resultado da consulta poderia ser diferente. O resultado do processo 0600814-85.2022.6.00.0000também seria diferente se os terroristas de extrema direita tivessem obtido êxito, pois nesse caso a independência do Poder Judiciário deixaria de existir (como, aliás, preconiza a Minuta do Golpe apreendida na casa do Ministro da Justiça).
O amicus do autor entende que o processo deve ser julgado procedente, mas não porque a Inteligência Artificial recomendou a inelegibilidade de Jair Bolsonaro. Na verdade, o caminho percorrido pelo requerente para chegar à sua conclusão foi outro.
Na verdade foi a elegibilidade de Jair Bolsonaro que causou todos os problemas levados ao conhecimento do TSE. Esse filhote da ditadura treinado pelo Exército Brasileiro para odiar a democracia e os defensores dela já poderia ter sido considerado inelegível quando, no início da carreira política, defendeu publicamente a tortura e o assassinato de dissidentes políticos pela Ditadura Militar. Jair Bolsonaro também poderia ter sido politicamente inutilizado logo após agredir grosseiramente alguns de seus colegas na Câmara dos Deputados muito antes de imaginar que poderia um dia disputar a presidência da república.
A democracia brasileira tolerou demais os abusos verbais e políticos do capitão golpista. Portanto, quem recomenda a inelegibilidade dele é a Inteligência Emocional da constituição cidadã de um país cujo regime político democrática será aniquilado se ele voltar à presidência ou ao parlamento.
Face ao exposto, o requerente requer o deferimento de seu ingresso na ação na qualidade de amicus curiae do requerido e pugna pela procedência da ação.”
O relator do processo no Tribunal Superior Eleitoral imediatamente proferiu uma decisão dura. Ele não apenas rejeitou meu pedido, como também me multou em aproximadamente 2,6 mil rais. Na decisão ele disse que agi de forma imprudente e causei incidente indevido no processo que pode tornar Jair Bolsonaro inelegível. Como este é um caso de grande visibilidade, imediatamente sua decisão contra minha petição baseada no ChatGPT (e criticando o uso de inteligência artificial) foi noticiada pela imprensa brasileira e se tornou viral.
https://veja.abril.com.br/brasil/tse-multa-advogado-que-fez-peticao-usando-inteligencia-artificial/
Em geral, a imprensa não simpatizou muito com minha ousadia. Isto é incompreensível. Eu não me importo de ser ridicularizado publicamente. Aliás, foi justamente a notoriedade conquistada pelo episódio que me permitiu fazer algumas coisas.
Primeiro eu mandei um e-mail para a empresa que é dona do ChatGPT:
“I think I must apologize to OpenAI.
With a single interference in a lawsuit of high complexity and political importance that is being processed by the Superior Electoral Court (I am referring to the lawsuit that will decide whether or not former president Jair Bolsonaro will be considered ineligible), I managed to create a precedent in the sense of that the legal fables generated by ChatGPT are not admissible in a Brazilian court.
https://lnkd.in/dZF7sHF3https://lnkd.in/d26Drm8Q
I was fined for my boldness (approximately $520), a small price to do a lot of damage to Open AI’s image. Whoops… that wasn’t my intention. What I really wanted was to value the Emotional Intelligence crystallized in the Brazilian Constitution. To me, this is far more valuable than any legal rationalization made by an artificial intelligence.
I think my action paves the way for ChatGPT to be banned as an argumentative resource in the Brazilian judiciary. And as an old lawyer I confess that I am happy to be fined for what I have done, as the proliferation of AI in the legal sphere can leave me unemployed and without income. But this is not something that holds any interest for the owners of the OpenAI company.”
Em seguida, anexei ao processo que tramita no Conselho Nacional de Justiça (caso mencionado no início) cópias de diversos documentos: 1) o requerimento feito no TSE em que utilizei o ChatGPT para simular o julgamento de Bolsonaro; 2) a decisão proferida pelo relator do processo no TSE que indeferiu meu pedido de intervenção no processo e me aplicou multa; 3) o e-mail enviado para a empresa OpenAI; 4) as matérias jornalísticas comentando a decisão do TSE e a punição que me foi imposta. Por que eu fiz isso? O motivo foi explicado na petição por meio da qual foram juntados os documentos no processo em que peço que os juízes sejam proibidos de proferir decisões com uso de inteligência artificial.
“III- A questão levada ao conhecimento do TSE tinha uma finalidade: provar que a inteligência artificial não pode e não deve ser levada em conta para decidir os processos dos cidadãos brasileiros. No texto do incidente, o autor defendeu que o caso Bolsonaro seja julgado com base na Inteligência Emocional cristalizada na Constituição Cidadã. E é exatamente isso o que vai acontecer, porque o TSE rejeitou a manifestação do requerente reproduzindo a ‘fábula’ escrita a duas mãos com o ChatGPT. Na mensagem que enviou à empresa OpenAI o requerente expressou uma preocupação pessoal. Mas isso não significa que não existam outras questões que possam ser discutidas com base no episódio aqui comentado.
IV- O que ocorreu pode e deve levar o CNJ a fazer uma reflexão antes de julgar o presente processo. Porque os casos dos outros cidadãos brasileiros poderão ser julgados com ajuda da inteligência artificial se o caso de um determinado cidadão (o de Jair Bolsonaro) não poderá ser julgado dessa maneira? É justo o Judiciário sorrateiramente criar duas classes de cidadãos: uns cujos processos poderão ser julgados pela inteligência artificial e outros que terão direito ao julgamento dos seus casos pelo juiz natural (ou seja, pelo ser humano investido do poder/dever de julgar processos)?”
Na manhã da sexta-feira 20/01/2023 recebi uma mensagem do jornalista de um dos veículos de comunicação que noticiou o episódio. Ela disse que queria falar comigo sobre o episódio por videoconferência. Aqui está a resposta que dei a ela:
“Eu tenho 58 anos e francamente não estou acostumado a usar esse tipo de recurso tecnológico. Na verdade eu também não preciso nem quero me expor mais do que já me expus.
O que eu fiz tinha um propósito: criar condições para provocar um maior debate sobre o uso do ChatGPT na arena jurídica. E esse propósito seria atendido com ou sem o deferimento do meu pedido de ingresso no processo que está em andamento no TSE.
O indeferimento do pedido (e a viralização da decisão do Corregedor do TSE) me proporcionou a oportunidade de usar o episódio para instruir o processo que estou movendo no CNJ com o objetivo de proibir os juízes de usar o ChatGPT para proferir decisões. Sobre o assunto vide: https://www.linkedin.com/posts/f%C3%A1bio-de-oliveira-ribeiro-272376155_peti%C3%A7%C3%A3o-activity-7054817149290258432-nFcI?utm_source=share&utm_medium=member_android
Estou movendo um processo semelhante no CNMP (processo 1.00085/2023-10). O relator desse caso indeferiu meu pedido, fato que me levou a recorrer. Essa decisão foi publicada na minha página do LinkedIn.
Desde que o ChatGPT foi lançado fiz dezenas de testes utilizando esse recurso. Alguns envolvendo questões jurídicas, outros abordando temas tecnológicos, políticos, filosóficos e envolvendo teoria do conhecimento. Também utilizei outra AI para realizar testes semelhantes a fim de comparar os resultados. Esses testes (em inglês e em português) foram divulgados no Jornal GGN, outros foram publicados apenas na minha página do LinkedIn.
Não sou contra o uso de tecnologia. O que me preocupa é a invasão da arena jurídica pela Inteligência Artificial. Isso pode ter efeitos negativos duradouros, além provocar prejuízos para advogados que como eu se recusam a utilizar IA para trabalhar.
Vocês deram grande ênfase à decisão que me foi desfavorável e à punição que eu recebi do TSE. Mas nenhuma atenção foi realmente dada ao que eu disse na petição. Eu não fiquei magoado, nem ofendido. Apenas entrei em contato para esclarecer melhor questões que não foram mencionadas na matéria.
Uma delas foi o uso do vocábulo “fábula”. O Corregedor do TSE decretou sigilo total sobre as provas colhidas no processo do Bolsonaro. Portanto, eu não poderia usar o ChatGPT para exigir uma análise rigorosa do caso baseando-me nas provas que foram colhidas. O resultado do diálogo com a IA sobre um processo judicial com base em parâmetros genéricos (aquilo que sabemos através da imprensa) só poderia resultar mesmo numa ‘fábula’. Como disse na petição a ‘fábula’ seria outra se os parâmetros fossem diferentes.
Todavia, existe algo que eu não disse ao TSE que posso dizer para você aqui: tudo o que o ChatGPT pode produzir em termos de argumentação jurídica é fabulação. A análise do conteúdo probatório de um caso jurídico depende de fatores humanos que nunca serão dominados por uma IA (como a interpretação da linguagem coloquial de uma cultura específica, a existência de contradições entre fatos que emanam de documentos e fatos referidos em depoimentos, a expressão facial da testemunha durante a coleta do depoimento pode levar o Juiz a dar maior ou menor credibilidade ao que ela disse, etc).
O Direito é uma ciência humana que se destina a garantir a distribuição da melhor Justiça humana possível. Isso exclui o uso de IA para argumentar e/ou decidir. Pelo menos foi isso o que eu concluí após vários testes através dos quais verifiquei falhas graves nas repostas do ChatGPT. Isso está fartamente documentado na análise dos resultados dos testes que eu fiz.
Eu agradeço a oportunidade que você está querendo me dar, mas sou obrigado a dizer que não pretendo participar de uma vídeoconferência. Se vocês quiserem dar sequência à matéria usando total ou parcialmente o que eu expus aqui (e consultando o material mencionado) eu agradeço. Se não quiserem dar sequência, não tem problema. Voltarei tranquilamente para a obscuridade.
Minha ousadia já me rendeu uma punição monetária. E eu sei que tem muita gente na arena jurídica que é entusiasta do uso de IA. Alguns já devem estar querendo me trucidar. O relator do CNMP que indeferiu de plano meu pedido só faltou me chamar de ‘ludista’. O do CNJ foi mais cauteloso: ele mandou a área técnica do órgão elaborar um parecer sobre a questão antes de decidir (esse cuidado me deu tempo para pensar no que eu faria para melhor fundamentar minha preocupação).
Creio que já falei demais. Obrigado pela atenção.”
Em 33 anos de advocacia, tive vários problemas com juízes por causa de decisões que considerei injustas (algumas francamente absurdas). Muitos delas foram modificados por recurso. Outras não. Então o leitor deve estar se perguntando por que estou lutando para impedir que os juízes brasileiros usem inteligência artificial para decidir processos judiciais. Parte dos argumentos que mencionei aqui ajudam a entender meu ponto de vista. Mas há algo mais que gostaria de dizer.
Ao discutir a hipótese de estabelecer um governo mundial, Hannah Arendt disse que o pior governo é o governo de ninguém. Quanto mais os cidadãos ficam afastados dos governantes, menos chances eles têm de serem ouvidos e de terem seus problemas levados em consideração nas decisões governamentais. A burocracia é uma excelente forma de administrar sociedades complexas, mas também pode ser utilizada para invisibilizar enormes contingentes populacionais, gerando injustiças que tendem a se perpetuar historicamente.
Fico muito assustado quando vejo o mundo em que vivo se render à utopia algorítmica. Algoritmos são produzidos para gerar lucro para empresas privadas e não para servir ao interesse público. Eles são de propriedade privada de empresários gananciosos que lentamente estendem seu poder dentro do Estado até mesmo para capturar imensas somas de dinheiro público. Se os processos judiciais forem decididos por inteligência artificial, nunca será possível provar que uma injustiça ocorreu porque existe um viés de programação (ninguém pode ver o que está dentro da caixa-preta). Mas a parcialidade de um juiz humano pode ser detectada e eventualmente comprovada levando à anulação de uma decisão parcial.
A justiça humana é falha, sem dúvida, mas não é projetada estruturalmente para parecer perfeita como uma inteligência artificial (ou para esconder suas falhas como o ChatGPT), nem é projetada para funcionar de uma maneira que ninguém conheça. Acredito que chegou a hora de levantar e dizer não. Não, a inteligência artificial não deve penetrar na arena jurídica para tomar decisões. As decisões judiciais devem ser proferidas por seres humanos para seres humanos.
Minha preocupação também foi expressada ao Ministro da Justiça, para quem enviei a seguinte mensagem. Abaixo a confirmação do recebimento da mesma:
Quanto a punição, tentarei reunir recursos para pagá-la. Se isso não for possível paciência. Aguardarei a execução fiscal. Prefiro ser expropriado de uma pequena quantia a não fazer absolutamente nada contra a invasão da arena jurídica pela inteligência artificial.
*Fábio de Oliveira Ribeiro, 22/11/1964, advogado desde 1990. Inimigo do fascismo e do fundamentalismo religioso. Defensor das causas perdidas. Estudioso incansável de tudo aquilo que nos transforma em seres realmente humanos.
O texto não representa necessariamente a opinião do Jornal GGN. Concorda ou tem ponto de vista diferente? Mande seu artigo para dicasdepauta@jornalggn.com.br. A publicação do artigo dependerá de aprovação da redação GGN.
Fonte: Jornal GGN
