Após geração de imagem de crianças de biquini, IA de extrema direita se tornou alvo de críticas internacionais

Fonte: Revista Fórum

Indonésia e Malásia anunciaram no último fim de semana a suspensão temporária do acesso ao Grok, ferramenta de inteligência artificial integrada à rede social X, de propriedade de Elon Musk.

A decisão foi tomada após autoridades dos dois países apontarem a circulação de conteúdos sexualmente explícitos gerados pela plataforma, incluindo a manipulação de imagens de mulheres sem consentimento e a criação de imagens de crianças de biquini.

As práticas motivaram protestos e levaram à atuação de órgãos reguladores ao redor do mundo, com reações de governos de diversos países, incluindo a Índia.

Na Indonésia, a ministra da Comunicação e Assuntos Digitais, Meutya Hafid, afirmou que o governo vê esse tipo de uso como uma infração grave.

“O governo considera a prática de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade e da segurança dos cidadãos no espaço digital”, declarou a ministra.

O bloqueio temporário do Grok ocorre em um contexto de políticas rigorosas adotadas pelo governo indonésio em relação a conteúdos on-line classificados como pornográficos.

O país já restringe o acesso a plataformas como Pornhub e OnlyFans. Em 2018, as autoridades também chegaram a bloquear o TikTok por um curto período, alegando a presença de materiais que, segundo o governo, representavam riscos para crianças, incluindo conteúdos de cunho sexual.

Na Malásia, o anúncio sobre a retirada do acesso ao Grok foi feito no domingo (11). O país tem intensificado o debate regulatório sobre o uso das redes sociais, especialmente envolvendo menores de idade.

Paralelamente às ações governamentais no Sudeste Asiático, a própria empresa responsável pelo Grok adotou restrições internas. A ferramenta desativou o recurso de geração de imagens para a maioria dos usuários.

Em comunicado publicado na rede social X, o Grok informou que “a geração e edição de imagens está atualmente limitada a assinantes pagantes”. A empresa acrescentou que usuários que mantiverem acesso poderão ser identificados por meio de seus dados caso façam uso inadequado da função.