Pesquisa liderada pelo sociólogo brasileiro Francisco Kerche, em parceria com Oxford e Kentucky, revela que IAs associam nordestinos à “ignorância” e sulistas à “inteligência”.

Fonte: Revista Fórum

promessa de uma Inteligência Artificial “neutra” e “objetiva” caiu por terra mais uma vez, e o alvo, infelizmente, é velho conhecido do preconceito brasileiro. Um estudo inédito publicado nesta semana na revista científica Sage Journals revelou que Grandes Modelos de Linguagem (LLMs), como o ChatGPT, reproduzem sistematicamente estereótipos xenofóbicos contra a população do Nordeste, associando a região a termos como “ignorância”, “pobreza” e “atraso”, enquanto vinculam o Sul e Sudeste a conceitos de “inteligência” e “desenvolvimento”.

Intitulado “The Silicon Gaze: A typology of bias and inequality in LLMs from the perspective of place” (O olhar do silício: Uma tipologia de vieses e desigualdades em LLMs sob a ótica do lugar), o levantamento é assinado pelo sociólogo brasileiro Francisco W. Kerche, em colaboração com os pesquisadores Matthew Zook (Universidade de Kentucky) e Mark Graham (Universidade de Oxford).

A equipe analisou uma base massiva de dados e concluiu que as IAs não apenas “alucinam”, mas funcionam como espelhos de alta fidelidade das desigualdades regionais históricas do Brasil. Ao processar trilhões de textos da internet para “aprender” a falar, a máquina absorveu também o chorume do ódio regionalista que inunda as redes sociais.

A Máquina de Repetir Preconceitos

O conceito central do estudo, o “Olhar do Silício”, denuncia como as tecnologias desenvolvidas no Norte Global (especialmente no Vale do Silício) impõem uma visão de mundo distorcida sobre o Sul Global. No caso brasileiro, isso se traduz em uma IA que, quando perguntada sobre características demográficas, recorre ao senso comum mais rasteiro.

Segundo a apuração de Kerche e seus pares, quando o modelo é estimulado a falar sobre o Nordeste, a probabilidade de surgirem adjetivos pejorativos é estatisticamente superior à de qualquer outra região. O estudo destaca que a IA não cria o preconceito do zero; ela o estatística.

Isso se conecta diretamente com o cenário político recente. Dados de pesquisas anteriores já mostravam que a xenofobia contra nordestinos explodiu nas redes sociais durante as eleições de 2022 e 2026. A IA, alimentada por esse conteúdo tóxico, naturalizou a associação entre “Nordeste” e “voto errado” ou “dependência estatal”, reciclando o discurso da extrema-direita em formato de texto automatizado.

Por que isso é perigoso?

O problema ultrapassa a ofensa moral. Hoje, ferramentas baseadas em LLMs são usadas para triagem de currículos, concessão de crédito bancário e até formulação de políticas públicas.

Se um algoritmo “aprende” que o Nordeste é uma região de “ignorantes”, como ele avaliará o currículo de um engenheiro formado na Universidade Federal do Ceará (UFC) em comparação a um da USP? A resposta é o que especialistas chamam de Racismo Algorítmico Regional: a exclusão automatizada de oportunidades baseada no CEP.

 Leia mais sobre como o racismo algorítmico afeta a população negra no reconhecimento facial

A responsabilidade das Big Techs

O estudo joga a responsabilidade no colo das desenvolvedoras, como a OpenAI e o Google. Ao treinarem seus modelos com “tudo o que está na internet” sem uma curadoria ética rigorosa sobre dados do Sul Global, essas empresas estão exportando e validando preconceitos locais.

Francisco Kerche alerta que não basta “ajustar” o algoritmo manualmente. É preciso questionar a própria base de dados. Enquanto a internet for um ambiente hostil aos nordestinos, a IA será apenas um papagaio digital desse ódio, revestido com uma aura de autoridade tecnológica.

 Acesse o estudo original completo no Sage Journals

Até o fechamento desta matéria, as empresas citadas não apresentaram planos concretos para mitigar especificamente o viés regional brasileiro em suas próximas atualizações. O “Olhar do Silício” continua míope, enxergando o Brasil com as lentes velhas do coronelismo, agora digitalizadas.