Un deepfake est un contenu synthétique — vidéo, image ou audio — généré ou manipulé à l'aide de techniques d'intelligence artificielle, généralement des réseaux antagonistes génératifs (GAN) ou des modèles de diffusion, pour imiter de manière hyperréaliste le visage, la voix ou les gestes d'une personne. Le résultat peut montrer quelqu'un disant ou faisant des choses qui n'ont jamais eu lieu, avec un degré de vraisemblance qui rend difficile sa distinction du matériel authentique.
Son importance est double. D'une part, il offre des utilisations légitimes dans le cinéma, le doublage, l'accessibilité ou la restauration audiovisuelle. D'autre part, il pose des risques sérieux :
- Désinformation et manipulation politique ou médiatique.
- Usurpation d'identité dans les fraudes et escroqueries (par exemple, le clonage de voix pour autoriser des paiements).
- Atteinte à la vie privée, en particulier avec du contenu sexuel non consenti.
En pratique, les détecter est de plus en plus complexe, bien qu'il existe des outils analysant les incohérences dans les clignements d'yeux, l'éclairage ou les artefacts numériques. La tendance réglementaire, comme le Règlement sur l'IA de l'UE, exige l'étiquetage de ce type de contenu pour protéger l'utilisateur.