Um telefonema de um familiar pedindo dinheiro. Um vídeo de uma pessoa conhecida recomendando um investimento. Uma celebridade anunciando um medicamento. Um áudio aparentemente enviado por alguém próximo.
Ver ou ouvir já não é garantia de que aquilo realmente aconteceu.
O avanço das ferramentas de inteligência artificial tornou cada vez mais simples produzir os chamados deepfakes, conteúdos capazes de reproduzir rosto, voz e movimentos de uma pessoa com elevado grau de realismo.
A Agência Nacional de Proteção de Dados (ANPD) define os deepfakes como fotos, vídeos e áudios modificados ou produzidos artificialmente por inteligência artificial generativa. Em estudo divulgado neste ano, o órgão aponta que a tecnologia já está relacionada a fraudes, clonagem de identidade, violência digital e outros usos indevidos.
O problema ganhou uma dimensão adicional porque os erros que antes denunciavam facilmente um vídeo falso estão diminuindo.
Movimentos estranhos dos olhos, boca fora de sincronia, pele artificial ou voz metálica ainda podem aparecer e continuam sendo sinais de alerta.
Mas procurar apenas esses defeitos deixou de ser uma estratégia suficiente.
Quanto mais evoluem os sistemas de geração de imagem e voz, mais importante passa a ser verificar de onde veio o conteúdo e se a situação apresentada faz sentido.
Golpes recentes mostram por quê.
Em novembro, uma investigação da Polícia Civil de Goiás encontrou uma estrutura suspeita de utilizar inteligência artificial para reproduzir imagem e voz de um padre em falsas campanhas de doação. O grupo é investigado por mais de 200 mil fraudes eletrônicas.
Em outra investigação, no Rio Grande do Sul, a polícia identificou uma organização suspeita de produzir vídeos e áudios falsos para divulgar campanhas beneficentes fraudulentas. Entre as ferramentas encontradas estavam sistemas de deepfake, clonagem de voz e sincronização labial.
A Anvisa também alertou neste ano para vídeos em que imagens e vozes de pessoas conhecidas são artificialmente modificadas para anunciar medicamentos e suplementos.
Como desconfiar de um conteúdo
Alguns defeitos visuais ainda podem denunciar manipulações.
A Polícia Civil de Minas Gerais orienta observar movimentos faciais incomuns, falhas entre fala e movimento dos lábios, diferenças de iluminação, texturas artificiais da pele, vozes metálicas e interações estranhas com objetos.
No caso de áudios, ruídos incomuns, cortes, falta de naturalidade e mudanças estranhas de entonação podem levantar suspeitas.
Mas há uma regra mais segura: não tomar uma decisão importante apenas porque reconheceu o rosto ou a voz de alguém.
Se uma pessoa conhecida pedir dinheiro por mensagem ou áudio, o Banco Central recomenda confirmar a solicitação por outro meio antes de fazer qualquer transferência. Vídeos e áudios gerados por inteligência artificial já conseguem simular pessoas reais.
Isso pode significar telefonar diretamente para o número que você já conhece, fazer uma pergunta que apenas aquela pessoa saberia responder ou procurar outro familiar.
Outra medida é buscar a origem do conteúdo.
Um vídeo de uma autoridade, empresa ou pessoa famosa anunciando algo importante deveria ter correspondência em seus canais oficiais ou em fontes confiáveis.
Quando só existe uma cópia circulando por grupos de mensagens e perfis desconhecidos, a cautela deve aumentar.
O mesmo vale para situações de urgência.
Golpes costumam explorar frases como “preciso do dinheiro agora”, “não conte para ninguém”, “minha conta não está funcionando” ou “faça o pagamento nesta outra conta”.
A inteligência artificial muda a aparência do golpe, mas muitas técnicas de manipulação continuam as mesmas.
A voz também pode ser copiada
A clonagem de voz é uma das formas de deepfake com maior potencial para enganar porque elimina um dos mecanismos intuitivos usados pelas pessoas para confirmar a identidade de familiares.
Ferramentas de IA conseguem aprender características de uma voz a partir de pequenos trechos de áudio e depois gerar novas frases.
A Polícia Federal alerta que áudios falsos podem imitar pessoas com resultados bastante realistas e recomenda pesquisar a origem da gravação antes de acreditar ou compartilhar.
A Polícia Civil do Rio Grande do Sul recomenda inclusive que famílias estabeleçam uma palavra de segurança ou pergunta previamente combinada para confirmar a identidade em situações de emergência.
O desafio tende a crescer.
No relatório sobre deepfakes, a ANPD chama atenção para uma mudança mais profunda: imagens e sons, que durante décadas funcionaram como evidências intuitivas de que algo realmente aconteceu, já não podem ser tratados isoladamente como garantia de autenticidade.
A pergunta, portanto, deixou de ser apenas “esse vídeo parece falso?”.
Em muitos casos, a mais importante passou a ser: quem publicou, de onde veio e há outra forma de confirmar?


