A inteligência artificial já faz parte da rotina de milhões de pessoas. Textos são produzidos, traduzidos, revisados e adaptados em poucos segundos. A Anthropic, empresa responsável pelo Claude, anunciou que pretende implementar uma marca d'água em textos produzidos por seus futuros modelos. O recurso não aparece visualmente no documento e não altera a forma como o conteúdo é apresentado ao leitor. Na prática, trata-se de uma espécie de identificação técnica incorporada ao processo de geração do texto.
Como funciona essa tecnologia?
Ao produzir um texto, a inteligência artificial precisa escolher, a cada momento, entre diferentes palavras que poderiam ser utilizadas. A tecnologia prometida pela Anthropic aproveita justamente essas escolhas. O sistema cria determinados padrões de seleção de palavras que, isoladamente, podem parecer comuns. Quando analisados em conjunto e ao longo de todo o texto, porém, esses padrões podem indicar que aquele conteúdo provavelmente foi produzido pelo modelo.
A identificação depende de uma chave utilizada pelo próprio sistema, permitindo comparar o texto com os padrões associados à geração do Claude.
Isso significa que todo texto escrito pelo Claude será identificado?
Não necessariamente. Textos que passarem apenas por uma revisão simples, sem alterações relevantes no conteúdo, não necessariamente receberão a marca d'água. Traduções, por outro lado, poderão apresentar o sinalizador, especialmente quando a inteligência artificial tiver maior liberdade para reconstruir o conteúdo no novo idioma. Além disso, uma reescrita humana completa pode eliminar o padrão originalmente criado pela inteligência artificial, enquanto alterações mais leves podem não ser suficientes para removê-lo.
E a proteção de dados?
A marca d'água, por si só, não significa identificação do usuário. Segundo as informações divulgadas pela Anthropic, o recurso não funcionará como uma assinatura associada à pessoa que fez o pedido do texto ou conteúdo. A tecnologia permite verificar se um conteúdo apresenta padrões compatíveis com a geração pelo Claude, mas não revela quem realizou o comando. Isso é importante porque diferencia a identificação da origem provável do conteúdo da identificação de quem utilizou a ferramenta. São informações distintas e que podem ter implicações jurídicas diferentes, especialmente quando esses mecanismos forem utilizados em larga escala.
A inteligência artificial também
começa a deixar rastros
Durante muito tempo, a discussão sobre IA esteve concentrada na capacidade de criar conteúdos cada vez mais semelhantes aos produzidos por seres humanos.
Agora, surge uma outra questão: como identificar esses conteúdos depois que eles são produzidos?
A iniciativa da Anthropic mostra uma possível mudança de cenário. Em vez de simplesmente tentar reconhecer características de um texto pronto, a própria tecnologia passa a incorporar mecanismos que podem permitir sua identificação. Isso pode representar um avanço na transparência do uso de inteligência artificial, mas também traz novas discussões sobre os limites dessa identificação, sua confiabilidade e a forma como essas informações serão utilizadas.