Un deepfake és un contingut sintètic —vídeo, imatge o àudio— generat o manipulat mitjançant tècniques d'intel·ligència artificial, normalment xarxes generatives adversàries (GAN) o models de difusió, per imitar de forma hiperrealista el rostre, la veu o els gestos d'una persona. El resultat pot mostrar algú dient o fent coses que mai no van passar, amb un grau de versemblança que dificulta distingir-lo del material autèntic.
La seva importància és doble. D'una banda, ofereix usos legítims en cinema, doblatge, accessibilitat o restauració audiovisual. De l'altra, planteja riscos seriosos:
- Desinformació i manipulació política o mediàtica.
- Suplantació d'identitat en fraus i estafes (per exemple, clonació de veu per autoritzar pagaments).
- Vulneració de la intimitat, especialment amb contingut sexual no consentit.
A la pràctica, detectar-los és cada vegada més complex, tot i que existeixen eines que analitzen inconsistències en parpellejos, il·luminació o artefactes digitals. La tendència reguladora, com el Reglament d'IA de la UE, exigeix etiquetar aquest tipus de contingut per protegir l'usuari.