Um deepfake é um conteúdo sintético — vídeo, imagem ou áudio — gerado ou manipulado através de técnicas de inteligência artificial, normalmente redes generativas adversariais (GAN) ou modelos de difusão, para imitar de forma hiper-realista o rosto, a voz ou os gestos de uma pessoa. O resultado pode mostrar alguém a dizer ou a fazer coisas que nunca ocorreram, com um grau de verosimilhança que dificulta a sua distinção do material autêntico.
A sua importância é dupla. Por um lado, oferece utilizações legítimas em cinema, dobragem, acessibilidade ou restauração audiovisual. Por outro, coloca riscos sérios:
- Desinformação e manipulação política ou mediática.
- Usurpação de identidade em fraudes e burlas (por exemplo, clonagem de voz para autorizar pagamentos).
- Violação da intimidade, especialmente com conteúdo sexual não consentido.
Na prática, detetá-los é cada vez mais complexo, embora existam ferramentas que analisam inconsistências em pestanejos, iluminação ou artefactos digitais. A tendência regulatória, como o Regulamento da IA da UE, exige a rotulagem deste tipo de conteúdo para proteger o utilizador.