Para Paul Romer, vencedor do prêmio Nobel de economia em 2018, as IAs ameaçam um princípio fundamental do desenvolvimento econômico e social; entenda

Fonte: Revista Fórum

O economista estadunidense Paul Romer, vencedor do Nobel de Economia em 2018 com sua tese acerca do conhecimento como potencial impulsionador do crescimento econômico de longo prazo, inovadora por tratar as ideias como um tipo diverso de bem social e mercadológico, criticou de forma assertiva a experiência recente com o uso de ferramentas de Inteligência Artificial (IA).

A crítica de Romer foi feita, segundo o Valor Econômico, durante sua participação na feira de tecnologia Febraban Tech, ocorrida, este ano, entre os dias 10 e 12 de junho, em São Paulo.

Romer questionou, em primeiro lugar, a validade da IA como meio difusor, organizador e até criador de informação: hoje, os modelos têm, em média, uma confiabilidade entre 50% e 60%, o que ele considera preocupante.

O desenvolvimento da precisão das IAs, além disso, não parece estar sendo melhorado a um nível satisfatório, mesmo que elas sejam constantemente alimentadas com novas e maiores informações. Isso, para ele, pode se dever a um fenômeno conhecido como “explosão combinatória”, que define o crescimento a um nível acelerado da complexidade de um problema de acordo com o incremento da análise combinatória a considerar suas entradas, restrições e saídas.

Quer dizer, quando há um fluxo muito intenso de entradas e saídas em um modelo complexo, ocorre uma “explosão de combinações possíveis”. É como se as variáveis de um problema matemático não parassem de surgir a uma taxa muito alta, o que dificulta seu processo de tratamento e resolução, até que, eventualmente, ele se torne simplesmente muito complexo.

Mas, no caso dos modelos generativos, quando algo se torna muito complexo ou quando não há referências a serem consultadas, o sistema é instruído a retornar com um resultado “inventado”. É aí que mora a preocupação, evidencia Romer, que leciona na School of Business da Universidade de Nova York.

Esse é o fenômeno chamado “alucinação em IA”, que ocorre quando um modelo de aprendizado apresenta resultados irreais para preencher lacunas existentes nas informações solicitadas.

Mas o problema vai muito além da precisão factual dos modelos generativos.

Romer aponta para uma ameaça mais grave da popularização do “pensamento através das máquinas”: a terceirização do raciocínio e, mais grave, da reflexão e da intuição humanas.

Para ele, os mecanismos que levam à inovação de ideias e valores no campo social e na economia estão em risco com o uso irresponsável das inteligências generativas e a automatização de funções intelectuais.

Se, historicamente, a inovação foi fruto de múltiplas instituições e sistemas sociais erigidos para trabalhar coletivamente com a ideia de verdade — questionando-a, expandindo-a e, enfim, produzindo novos conteúdos com valor social —, o avanço das IAs como meios para processar as informações e trabalhar com elas de forma ativa, substituindo o trabalho cognitivo, poderia ameaçar a estrutura sensível desse trabalho que é parte conjunta e constituinte da humanidade.

“Será que esses sistemas [sociais] vão continuar a funcionar no futuro?”, pergunta ele. “Qual efeito a IA pode ter?”

É o que resta saber.