Durante muito tempo, ferramentas de inteligência artificial foram apresentadas como soluções neutras, quase experimentais, impulsionadas pelo discurso da inovação a qualquer custo. Em 2026, esse discurso começa a ruir. Um exemplo recente é o Grok, ferramenta de inteligência artificial integrada à plataforma X (antigo Twitter), desenvolvida para gerar textos e imagens a partir de comandos dos usuários, utilizando grandes volumes de dados disponíveis no ambiente digital. O problema surge quando essa tecnologia passa a operar sem limites claros.
Medidas repressivas
O Grok, por exemplo, ficou conhecido por gerar imagens sexualizadas a partir de dados de pessoas reais, incluindo mulheres, crianças e adolescentes, muitas vezes sem qualquer ciência ou consentimento dos titulares. Isso levou o Instituto de Defesa do Consumidor (Idec) a protocolar um pedido junto à Agência Nacional de Proteção de Dados (ANPD) para a suspensão do funcionamento da plataforma no país.
A denúncia aponta que a ferramenta permite a criação de imagens que preservam características reais das pessoas retratadas, como traços físicos e identidade visual. Não se trata de um debate abstrato sobre o futuro da inteligência artificial, mas de violações concretas a direitos fundamentais já protegidos pela legislação brasileira, especialmente a privacidade, a imagem e a dignidade humana.
Transparência como obrigação legal
Além dos diversos abusos já relatados, a denúncia do IDEC ainda aponta a falta de transparência por parte da empresa responsável pela ferramenta. A política de privacidade do Grok não está disponível em português, o que dificulta que usuários brasileiros compreendam como seus dados são utilizados e quais direitos podem exercer. Transparência é o princípio central da LGPD e condição básica para a legalidade do tratamento de dados.
Nesse cenário, a ausência de informação clara impede o controle pelos titulares e reforça a necessidade de intervenção regulatória. Inclusive, a ANPD já reconheceu que medidas urgentes são cabíveis quando a continuidade da atividade pode ampliar os danos aos titulares.
Por que crianças e adolescentes merecem atenção redobrada?
A LGPD impõe regras rigorosas para o tratamento de dados desse público, exigindo finalidade específica, proteção integral e observância do melhor interesse do menor. A geração de conteúdos sexualizados envolvendo menores representa violação grave à LGPD e caracteriza crimes previstos no Estatuto da Criança e do Adolescente e no Código Penal. Regular a IA não é frear o futuro, é impedir que ela viole direitos.
Fale com o Folha da Região!
Tem alguma sugestão de pauta ou quer apontar uma correção?
Clique aqui e fale com nossos repórteres.
