Secretaria de Direitos Digitais solicitou, ainda, investigação das empresas e preservação dos dados de usuários; mulheres, crianças e adolescentes estão entre as vítimas

Fonte: Revista Fórum

A Secretaria Nacional de Direitos Digitais do Ministério da Justiça e Segurança Pública acionou a Polícia Federal (PF) e a Agência Nacional de Proteção de Dados (ANPD) para solicitar o bloqueio de 80 sites que utilizam inteligência artificial (IA) para produzir imagens e vídeos falsos de nudez, os chamados deepnudes.

O documento, assinado pelo secretário Victor Oliveira Fernandes, pede, ainda, a investigação das empresas que oferecem esses serviços e a preservação dos dados de acesso dos usuários.

A ação foi motivada por denúncia da Safernet, ONG de defesa dos direitos humanos na internet, que identificou indícios de uso das ferramentas para gerar conteúdo sexualizado de crianças e adolescentes.

A nota técnica elaborada pela Secretaria de Direitos Digitais orienta a PF e a ANPD a fiscalizar as plataformas e avaliar a possibilidade de suspensão das páginas.

O documento aponta indícios de que mulheres reais e crianças foram vítimas da fabricação de imagens de nudez nesses sites.

Além do bloqueio, o pedido inclui a investigação das empresas que oferecem os serviços de nudificação e dos usuários que os acessam.

Alguns dos sites listados não apenas disponibilizam ferramentas para gerar imagens falsas, mas também oferecem, segundo o documento, “acervo de imagens e vídeos previamente manipulados, inclusive conteúdos envolvendo mulheres identificáveis ou passíveis de identificação”.

Violações e impactos dos “deepnudes”

Para o Ministério da Justiça, a simples disponibilização dessas ferramentas já configura prática abusiva.

O documento afirma que “a mera disponibilização de serviços destinados à geração ou manipulação de imagens para a criação de conteúdo sexualizado de terceiros constitui prática intrinsecamente abusiva, por viabilizar a exploração da imagem e da identidade de pessoas para a produção de conteúdos íntimos ou sexualizados sem sua autorização”.

Um agravante apontado pela Secretaria é a ausência de qualquer barreira de acesso: as ferramentas identificadas operam em ambiente de web aberta, acessíveis por navegadores convencionais, sem exigência de cadastro, comprovação de identidade ou verificação etária.

Isso facilita tanto o uso indiscriminado quanto o acesso por menores de idade. Os impactos para as vítimas vão além da exposição da imagem e incluem constrangimento, sofrimento psicológico, danos reputacionais, assédio, estigmatização e violência.

Base legal e atuação da Safernet

A ação do Ministério tem respaldo em dois marcos legais distintos. A adulteração de imagens de crianças e adolescentes para gerar conteúdo sexualizado é crime tipificado no Estatuto da Criança e do Adolescente (ECA).

Já a oferta de ferramentas para criação de deepnudes de mulheres é vedada por decreto assinado pelo presidente Lula (PT) em maio, que obriga empresas que operam no Brasil a bloquearem esse tipo de uso e prevê punições para as que não adotarem medidas preventivas.

O Ministério chegou a ao menos parte dos 80 sites após denúncia formal da Safernet Brasil. A organização protocolou ofício listando plataformas voltadas à nudificação e apontou indícios do uso dessas ferramentas para gerar conteúdo sexualizado de crianças e adolescentes.

“Os dados apresentados pela SaferNet Brasil apontam indícios de utilização dessas ferramentas para a adulteração de imagens de crianças e adolescentes com a finalidade de gerar conteúdos sexualizados”, registra o documento da Secretaria de Direitos Digitais.