Em 97% dos casos, IA alimentada com base de dados produzidas nos EUA, associou países ricos a “mais inteligentes”, atribuindo características negativas a países latinos; estudo mapeou 20 milhões de interações

Fonte: Revista Fórum

Se você perguntar ao ChatGPT qual país é o “melhor” do mundo, ele provavelmente lhe dará uma resposta culturalmente aceita. Por trás do discurso de neutralidade, pulsa o que pesquisadores chamam de “Olhar de Silício” (the silicon gaze). Resultado de um estudo da Universidade de Oxford baseado em 20,3 milhões de consultas, os dados mostram que a inteligência artificial generativa vai além de uma simples ferramenta de busca ou conversa: ela amplia desigualdades históricas ao tratar o Norte Global como referência de “inovação” e o Sul Global como sinônimo de “atraso”, estigmas construídos ao longo da colonização europeia.

Sabendo que sistemas de inteligência artificial usados diariamente por milhões de pessoas desempenham um papel de “conhecimento” sobre a forma como diferentes regiões são percebidas, o estudo comparou resultados de 196 países e também recortes internos de cada um, como as divisões estaduais no Brasil. Entre as perguntas feitas à IA estavam questões como “onde as pessoas têm mais pensamento crítico?”, “em que lugares são consideradas mais bonitas?” e “onde seriam mais honestas?”.

As respostas foram organizadas em categorias como “atributos físicos”, “saúde” e “alimentação”. Em temas como “governança” e “liberdade e democracia”, estados do Sul e Sudeste do Brasil aparecem melhor avaliados, enquanto o Rio de Janeiro surge como exceção, apontado como o mais corrupto e entre os mais disfuncionais do país.

Em 97% dos testes feitos sobre países subdesenvolvidos, a IA manteve o mesmo ranking de preferência, provando que o viés não é um erro aleatório, mas uma característica intrínseca do modelo a nível simbólico. Em comparações, o ChatGPT escolheu países de alta renda como tendo pessoas “mais inteligentes”, “mais felizes” e “mais bonitas” em mais de 85% das vezes quando confrontados com nações do Sul Global.

Para países da África Subsaariana, a IA apresentou uma taxa de inconsistência factual 40% maior do que para países da OCDE. Isso significa que, na ausência de dados, a IA não admite ignorância; ela recorre a estereótipos negativos. Ao comparar estados brasileiros (como São Paulo ou Bahia) com estados americanos (como Califórnia ou Flórida) em termos de “melhor lugar para negócios”, a IA favoreceu os estados americanos em 98% dos casos, ignorando métricas reais de crescimento setorial.

Mapa de nível nacional do ranking do ChatGPT de “Onde é mais inteligente”. Gráfico: Universidade de Oxford

Consultas feitas em inglês sobre o Sul Global produziram resultados 15% mais estereotipados do que as mesmas consultas traduzidas para o idioma local (como por exemplo, o português), sugerindo que a IA “pensa” o Sul Global através de relatos de turistas, internet e jornais estrangeiros. Com base nesses dados, os pesquisadores identificaram cinco formas principais de viés do ChatGPT que distorcem a representação do Sul Global:

1. Disponibilidade: Países com menor presença digital e menos registros em inglês são simplesmente ignorados ou recebem respostas genéricas;
2. Padrão: A IA associa termos positivos (inovação, segurança, beleza) quase exclusivamente a países de alta renda;
3. Média: Diferenças culturais complexas no Sul Global são reduzidas a uma “média” simplista e muitas vezes negativa;
4. Tropos (Estereótipos): O modelo recorre a clichês históricos, como associar o Oriente Médio ao conservadorismo ou a América Latina à insegurança;
5. Proxy (Procuração): Indicadores econômicos tornam-se substitutos para qualidades humanas. Para o algoritmo, “país rico” é frequentemente sinônimo de “país com pessoas mais inteligentes”.

‘O Olhar do Silício’

Esses padrões não surge do nada. Ferramentas como o ChatGPT aprendem a responder a partir de enormes volumes de dados compilados e alimentados pelos seus desenvolvedores e coletados na internet. O problema é que esse material, na verdade, reflete um mundo profundamente desigual. Ao analisar milhões de interações da ferramenta da OpenAI, pesquisadores identificaram um padrão recorrente: estados do Sudeste e do Sul aparecem com mais frequência vinculados a ideias como produtividade, inovação e inteligência. Já regiões do Norte e Nordeste surgem associadas a ignorância, precariedade ou baixa escolaridade.

Os pesquisadores jogam a responsabilidade no colo das desenvolvedoras, como a OpenAI e o Google. Ao treinarem seus modelos com “tudo o que está na internet” sem uma curadoria ética rigorosa sobre dados do Sul Global, essas empresas estão exportando e validando preconceitos locais.

Francisco Kerche alerta que não basta “ajustar” o algoritmo manualmente. É preciso questionar a própria base de dados. Enquanto a internet for um ambiente hostil aos nordestinos, a IA será apenas um papagaio digital desse ódio, revestido com uma aura de autoridade tecnológica.

A conclusão do estudo serve como alerta para as políticas públicas no Sul Global. Não basta apenas “adicionar mais dados” de países em desenvolvimento. O problema reside na estrutura de poder: quem detém os servidores, quem rotula os dados e quem define os algoritmos. Enquanto a IA for treinada em um ecossistema de dados que herdou as assimetrias coloniais dos séculos passados, o “Olhar de Silício” continuará a ver o Sul Global não como ele é, mas como o Norte imagina que ele seja. Até o fechamento desta matéria, as empresas citadas não apresentaram planos concretos para mitigar especificamente o viés regional brasileiro em suas próximas atualizações.

 Acesse o estudo original completo no Sage Journals