A disseminação de vídeos adulterados e realistas, conhecidos como deepfakes, está se tornando uma preocupação crescente devido ao seu uso indevido para enganar e prejudicar pessoas. Essa técnica, que utiliza inteligência artificial (IA) para alterar vídeos ou fotos, pode colocar indivíduos em situações constrangedoras ou inusitadas ao modificar rostos e falas.
No Brasil, a jornalista Sandra Annenberg recentemente denunciou o uso de sua imagem em um golpe que utiliza IA para manipular suas falas em postagens falsas. Ela alertou que a fraude está enganando pessoas e reiterou que, junto à Globo, tomará medidas legais contra os responsáveis.
Aplicativos especializados permitem criar esses conteúdos, que têm sido utilizados de forma preocupante, como na produção de vídeos pornográficos com o rosto de outras pessoas. Em 2020, um relatório da empresa Sensity revelou que nudes falsos de mais de 100 mil mulheres estavam sendo compartilhados na internet.
O uso político também tem sido um problema. Em 2019, um vídeo adulterado da ex-presidente da Câmara dos Deputados dos EUA, Nancy Pelosi, foi editado para parecer que ela tinha dificuldades na fala durante um discurso, gerando grande desinformação. Casos como este mostram o potencial de manipulação política que a tecnologia oferece.
O próprio presidente-executivo do Facebook, Mark Zuckerberg, foi alvo de um deepfake, no qual aparecia falando sobre dominar o mundo. A empresa decidiu manter o vídeo no ar, sob o argumento de que se tratava de uma sátira.