Comment détecter les deepfakes et les images générées par l'IA : Un guide étape par étape

Il n'existe pas d'outil unique qui détecte tous les deepfakes ou les images générées par l'IA. La société de cybersécurité ESET et le Reuters Institute for the Study of Journalism de l'Université d'Oxford recommandent d'utiliser plusieurs vérifications en parallèle — inspection visuelle, métadonnées de provenance, détection de filigrane et vérification de la source — car chaque méthode a des points faibles connus.

Étape 1 : Rechercher les incohérences visuelles et audio

Le guide d'ESET pour détecter la désinformation générée par l'IA énumère des indices visuels concrets à vérifier en premier : un éclairage anormal, des textures de peau trop lisses, des bords scintillants et des arrière-plans flous. Les anomalies faciales à vérifier incluent les yeux mal alignés, les dents déformées et les motifs de clignotement inhabituels. Pour les vidéos, une discordance entre l'audio et les mouvements des lèvres du locuteur est un signe courant de manipulation, selon ESET.

ESET note également que les outils utilisés pour créer des deepfakes altèrent ou effacent souvent les dates de création et de modification d'un fichier, de sorte que des métadonnées incohérentes peuvent être un indice secondaire.

Étape 2 : Vérifier les Content Credentials (C2PA)

Les Content Credentials, construits selon la norme technique C2PA, enregistrent des informations sur une image au moment de sa création en la signant cryptographiquement, selon la Content Authenticity Initiative (CAI). La CAI décrit cet enregistrement comme une sorte d'étiquette nutritionnelle pour le contenu numérique, indiquant le créateur, le logiciel ou l'outil d'IA utilisé, et si le fichier a été généré ou édité avec l'IA, si cette information a été incluse par le créateur.

La CAI précise clairement que les Content Credentials ne sont pas destinés à déclarer si le contenu est « réel » : ils fournissent un contexte sur l'origine, non un jugement. Le système ne fonctionne également que si l'outil de création intègre réellement un manifeste.

Étape 3 : Vérifier un filigrane invisible, tel que SynthID

SynthID de Google intègre un filigrane numérique imperceptible directement dans les pixels des images générées par son modèle Imagen, selon Google DeepMind. Un modèle de détection séparé analyse une image pour détecter ce motif et rapporte l'un des trois résultats : filigrane détecté (probablement généré par l'IA), non détecté (peu probable d'être généré par l'IA), ou possivement détecté, auquel cas DeepMind recommande de traiter le résultat avec prudence.

DeepMind indique que le filigrane SynthID est conçu pour survivre aux modifications courantes telles que le filtrage, l'ajustement des couleurs, la rotation et la compression JPEG. Cependant, il ne marque que les images qui ont été marquées lors de la création par Imagen ou par des outils partenaires utilisant SynthID — une image provenant d'un modèle qui n'utilise pas SynthID retournera un résultat « non détecté » même si elle est générée par l'IA, comme le montrent les documents de DeepMind.

Étape 4 : Effectuer une recherche d'image inversée

Les outils de recherche d'image inversée tels que Google Lens ou TinEye peuvent révéler si une image a circulé précédemment dans un contexte différent, ce qui est l'une des façons les plus fiables de détecter les visuels recyclés ou réétiquetés, selon les chercheurs du Reuters Institute. Si la même image apparaît attachée à une histoire ancienne et sans rapport, c'est un signal fort que l'affirmation actuelle à son sujet est fausse, indépendamment du fait que l'image elle-même ait été générée par l'IA.

Pourquoi les détecteurs automatisés peuvent encore être trompés

L'examen des outils de détection de l'IA menée par le Reuters Institute a révélé que les modifications simples les contournent régulièrement. Lorsque les chercheurs ont recadré et redimensionné une image virale prétendument montrant une explosion du Pentagone, le logiciel de détection a classé la version modifiée comme authentique. La réduction de la résolution et la suppression d'une célèbre vidéo deepfake d'Obama ont produit des faux négatifs similaires, et la compression sur les réseaux sociaux d'un appel robot de Biden généré par l'IA a fait qu'un détecteur qualifie une copie de « très probablement réelle », alors que le fichier original non compressé a obtenu un score de 74 % de probabilité d'être faux.

L'examen a également révélé que les détecteurs entraînés principalement sur des figures publiques bien connues, comme un chef d'État, ont moins bien performé sur des individus moins connus avec peu de présence en ligne, car les modèles sous-jacents disposaient de moins de données de référence vérifiées pour la comparaison.

Tout assembler

1. Inspectez l'image ou la vidéo pour les incohérences visuelles et audio qu'ESET énumère, telles que l'éclairage anormal, les motifs de clignotement ou les décalages de synchronisation des lèvres.
2. Vérifiez si le fichier porte des métadonnées Content Credentials (C2PA) révélant la génération par l'IA.
3. Si l'image peut provenir d'un modèle Google, vérifiez-la avec le détecteur SynthID de Google pour obtenir un résultat de filigrane.
4. Effectuez une recherche d'image inversée avec Google Lens ou TinEye pour voir si l'image a circulé ailleurs dans un contexte différent.
5. Traitez tout résultat unique comme inconclus par lui-même, et comparez l'affirmation avec la couverture médiatique d'organisations de presse établies avant de la partager, comme le recommandent le Reuters Institute et ESET.