Un deepfake é un contido sintético —vídeo, imaxe ou audio— xerado ou manipulado mediante técnicas de intelixencia artificial, normalmente redes xerativas adversariais (GAN) ou modelos de difusión, para imitar de forma hiperrealista o rostro, a voz ou os xestos dunha persoa. O resultado pode amosar a alguén dicindo ou facendo cousas que nunca ocorreron, cun grao de verosimilitude que dificulta distinguilo do material auténtico.
A súa importancia é dobre. Por un lado, ofrece usos lexítimos no cine, o doblaxe, a accesibilidade ou a restauración audiovisual. Por outro, supón riscos serios:
- Desinformación e manipulación política ou mediática.
- Suplantación de identidade en fraudes e estafas (por exemplo, clonación de voz para autorizar pagamentos).
- Vulneración da intimidade, especialmente con contido sexual non consentido.
Na práctica, detectalos é cada vez máis complexo, aínda que existen ferramentas que analizan inconsistencias en parpadeos, iluminación ou artefactos dixitais. A tendencia regulatoria, como o Regulamento de IA da UE, esixe etiquetar este tipo de contido para protexer o usuario.