O uso do reconhecimento facial no Brasil, apesar de ser uma ferramenta cada vez mais comum para autenticação, tem enfrentado um aumento significativo nas tentativas de fraude. Entre janeiro e abril de 2024, o volume de fraudes biométricas subiu de 2,08% para 2,79%, segundo dados do Mapa da Identidade e da Fraude, da empresa Caf, especializada em identidade digital. Este aumento reflete o uso crescente de técnicas avançadas de "deep fakes" e ataques de apresentação, que conseguem enganar sistemas de segurança com o uso de máscaras de IP e IA generativa.
Essas fraudes não estão limitadas apenas ao setor financeiro, que é o segundo mais visado por criminosos no Brasil, com destaque para a região Sudeste, onde 43,1% das fraudes financeiras ocorrem. Além disso, a segurança dos sistemas de reconhecimento facial tem sido questionada devido a vulnerabilidades que permitem que hackers burlarem a proteção em diferentes contextos, desde transações financeiras até autenticações em serviços online.
Especialistas apontam que uma das principais soluções para combater essas fraudes envolve o constante aprimoramento dos modelos de IA e o investimento em tecnologias mais robustas de validação de identidade, como o "liveness" (prova de vida). No entanto, ainda há desafios relacionados à rapidez com que novas soluções são lançadas no mercado, muitas vezes sem testes adequados, o que pode comprometer a segurança dos usuários.