Comment fonctionnent les deepfakes basés sur l'IA et pourquoi sont-ils si difficiles à arrêter ?

Qu'est-ce qu'un Deepfake ?

Un deepfake est une photo, une vidéo ou un clip audio qui a été fabriqué ou manipulé à l'aide de l'intelligence artificielle pour lui donner une apparence réelle. Le terme combine "deep learning" (apprentissage profond) — la technique d'IA à l'origine de la technologie — avec "fake" (faux). Alors que les premiers deepfakes nécessitaient une puissance de calcul et une expertise considérables, aujourd'hui, n'importe qui avec un smartphone peut générer une fausse image convaincante en quelques secondes à l'aide d'applications disponibles gratuitement.

La technologie a des utilisations créatives légitimes — de la restauration de séquences de films vieillies au doublage d'acteurs dans différentes langues. Mais elle est également devenue un outil puissant pour la fraude, la manipulation politique et les abus sexuels.

Comment les Deepfakes sont fabriqués

La plupart des deepfakes reposent sur l'une des deux architectures d'IA principales : les réseaux antagonistes génératifs (GAN) ou les modèles de diffusion.

Un GAN oppose deux réseaux neuronaux l'un à l'autre. Le générateur crée de fausses images ; le discriminateur essaie de les repérer. Au cours de milliers de cycles d'apprentissage, le générateur apprend à produire des images suffisamment convaincantes pour tromper son adversaire — et, par extension, les yeux humains. Les modèles de diffusion, qui alimentent des outils comme Stable Diffusion et DALL-E, fonctionnent différemment : ils apprennent à supprimer progressivement le bruit aléatoire d'une image jusqu'à ce qu'une image réaliste émerge, guidée par une invite de texte ou d'image.

Pour les deepfakes d'échange de visages, l'IA est entraînée sur des centaines ou des milliers d'images d'une personne cible — souvent extraites des médias sociaux. Elle mappe ensuite leur géométrie faciale sur un corps différent ou remplace le visage d'une autre personne dans des séquences existantes. Les "applications de déshabillage" prennent une photo d'une personne réelle habillée et génèrent une image d'elle nue à son insu et sans son consentement.

L'ampleur du problème

Les chiffres sont stupéfiants. Selon les données compilées par des chercheurs en sécurité, les signalements de matériel pédopornographique généré par l'IA ont augmenté de 1 325 % entre 2023 et 2024, avec plus de 67 000 signalements déposés auprès du National Center for Missing and Exploited Children (Centre national pour les enfants disparus et exploités) rien qu'en 2024 — contre seulement 4 700 l'année précédente. Une étude du Center for Countering Digital Hate (Centre de lutte contre la haine numérique) a révélé qu'un générateur d'images d'IA a produit environ trois millions d'images sexualisées en moins de deux semaines, dont des dizaines de milliers représentant des mineurs.

Les préjudices vont bien au-delà des abus sexuels. La fraude financière par deepfake a décuplé en 2024, coûtant aux entreprises nord-américaines plus de 200 millions de dollars en un seul trimestre. Les escrocs peuvent cloner la voix d'une personne à partir d'à peine trois secondes d'audio et l'utiliser pour se faire passer pour des cadres, des parents ou des fonctionnaires. Une étude de 2025 a révélé que seulement 0,1 % des personnes pouvaient identifier correctement tous les médias faux et réels qui leur étaient présentés lors d'un test.

Pourquoi la détection est si difficile

Les outils de détection — qui utilisent l'IA pour rechercher des signes révélateurs de manipulation, tels que des clignements d'yeux non naturels, des décalages d'éclairage ou des anomalies de texture de la peau — sont enfermés dans une course à l'armement constante avec les créateurs de deepfakes. Au fur et à mesure que les détecteurs s'améliorent, les générateurs sont réentraînés pour les vaincre. Les chercheurs de l'Alan Turing Institute avertissent que la précision de la détection diminue fortement lorsque le deepfake est créé à l'aide d'une méthode différente de celle utilisée pour entraîner le détecteur.

Une approche prometteuse est la provenance du contenu : l'intégration de métadonnées cryptographiques dans les images au moment de la création, afin que les spectateurs puissent vérifier si une photo a été prise par un appareil photo ou générée par l'IA. La Coalition for Content Provenance and Authenticity (C2PA), soutenue par Adobe, Microsoft et les principaux fabricants d'appareils photo, élabore une norme mondiale à cet effet. SynthID de Google ajoute des filigranes invisibles aux images générées par l'IA. Mais les filigranes peuvent être supprimés, les métadonnées peuvent être effacées et les captures d'écran contournent complètement le système.

Ce que dit la loi

La législation se met à niveau — lentement. La loi américaine TAKE IT DOWN Act, promulguée en mai 2025, a criminalisé la publication non consensuelle d'images intimes, y compris les faux générés par l'IA, et exige que les plateformes suppriment le contenu signalé dans les 48 heures. La DEFIANCE Act, adoptée par le Sénat en janvier 2026, crée un droit d'action civil fédéral permettant aux victimes de poursuivre les créateurs et les distributeurs de deepfakes intimes non consensuels pour un montant maximal de 150 000 $ en dommages-intérêts — ou de 250 000 $ si l'abus est lié au harcèlement criminel ou à l'agression.

L'application reste inégale. De nombreuses applications de deepfake fonctionnent dans différentes juridictions, les plateformes ont du mal à suivre le rythme du volume de téléchargements et les créateurs anonymes sont difficiles à tracer. Les groupes de la société civile soutiennent que les délais de retrait sont encore trop lents et que les entreprises technologiques doivent faire davantage pour empêcher la génération en premier lieu — et pas seulement réagir une fois le préjudice causé.

Ce que vous pouvez faire

La sensibilisation est la première ligne de défense. Les experts recommandent de limiter les photos accessibles au public sur les médias sociaux, d'utiliser la recherche d'images inversée pour vérifier si vos photos ont été utilisées à mauvais escient et de signaler les images intimes non consensuelles aux plateformes et aux forces de l'ordre. Des organisations comme StopNCII aident les victimes à créer des hachages numériques d'images afin que les plateformes puissent bloquer de manière proactive leur diffusion avant qu'elles ne deviennent virales.

Le défi plus profond est structurel : à mesure que la génération d'images par l'IA devient moins chère et plus accessible, l'écart entre ce qui est réel et ce qui est fabriqué continuera de se rétrécir. Pour le résoudre, il faudra non seulement une meilleure technologie, mais aussi des cadres juridiques plus solides, une responsabilisation des plateformes et un changement culturel dans la façon dont les médias synthétiques sont traités en ligne.