AGU notifica Google para ignorar sites que criam nudes com IA
A AGU (Advocacia-Geral da União) pediu ao Google que remova de seus resultados de busca sites que usam inteligência artificial para produzir imagens sexualizadas falsas de pessoas reais. Segundo o órgão, a notificação extrajudicial foi enviada à empresa nesta quarta-feira (1º) e o cumprimento das medidas deverá se dar no prazo cinco dias.
Procurado, o Google afirma que não vai se manifestar sobre a medida.
A solicitação é baseada em um estudo da faculdade de direito da Fundação Getulio Vargas do Rio de Janeiro lançado no final de fevereiro. O levantamento trata do aumento do interesse por programas de "nudificação" e afirma que são voltados principalmente à produção de nudes falsos e de imagens de abuso sexual infantil.
Mulheres, crianças e adolescentes são afetadas de forma desproporcional, segundo o documento, que recomenda a desindexação pelo Google de endereços eletrônicos que "hospedam, promovem ou facilitam acesso a ferramentas de nudificação por IA".
"A indexação desses sites pelo Google amplifica exponencialmente o alcance de tecnologias de abuso", afirma o trabalho. "A desindexação é medida necessária, tecnicamente viável e juridicamente fundamentada tanto no ordenamento brasileiro quanto em normativas internacionais de direitos humanos".
Assinado por Yasmin Curzi, José Nunes, Yasmin dos Santos e Walter Gaspar, o estudo defende que a medida seja tomada imediatamente. "Plataformas têm responsabilidade de não amplificar ferramentas de violência. De outro modo, a inação perpetua ciclos de vitimização desproporcional de mulheres e de crianças", concluem.
A análise demonstrou o crescimento, desde meados de 2023, de buscas por expressões como "nudify" na plataforma por usuários no Brasil.
Por meio da PNDD (Procuradoria Nacional da União de Defesa da Democracia), a AGU requer a adoção de duas medidas pelo Google.
"A primeira é a desindexação dos sites de 'nudificação', a partir de listagem exemplificativa com mais de 40 links que estavam disponíveis no momento da notificação. A outra é a implementação de filtros algorítmicos para impedir indexação futura de sites similares", diz o órgão em comunicado.
Ainda segundo a nota, a AGU não nega a responsabilidade do autor direto na criação e distribuição do conteúdo ilícito, ou do próprio desenvolvedor da ferramenta. Porém, além de massificar o acesso a esses programas, a indexação no Google os coloca na "mesma categoria de qualquer outro item lícito de busca/interesse", conforme o órgão.
O que fazer em caso de nudes falso?
1. Não compartilhe, mesmo com intuito de denúncia. O compartilhamento pode espalhar ainda mais o arquivo, alcançar mais pessoas e prejudicar a vítima, explica o professor de direito da FGV Alexandre Pacheco
2. Entre em contato com os responsáveis das vítimas. Os responsáveis da vítima menor de 18 anos devem ser informados do que aconteceu com seus filhos para que possam tomar atitudes e buscar autoridades
3. Procure autoridades. Segundo Pacheco, a delegacia de crimes cibernéticos é o mais indicado nesses casos. É importante que a vítima faça um boletim de ocorrência para o início das investigações
4. Safernet. A ONG tem um canal de denúncias para conteúdos relacionados a imagens de menos de 18 anos. Para registrar um caso, é preciso acessar denuncie.org.br e colar o link do endereço da internet que a pessoa acredita que deva ser investigado e seguir os passos indicados na plataforma
5. StopNCII.org O site stopncii.org dá apoio às vítimas de ameaças de divulgação de imagens íntimas não consensuais (fakes ou não). A plataforma é destinada para casos que envolvem maiores de 18 anos