Aller au contenu

🎭 Distinguer un contenu authentique d'un deepfake

Objectifs pédagogiques

  • Identifier, à partir d'une source officielle, les indices de détection d'un contenu généré par IA
  • Appliquer cette grille de détection à des cas concrets et proposer une conduite à tenir en cas de doute
  • Rédiger une conduite à tenir en 3 étapes face à un contenu suspect avant tout partage

Contexte

Tu es agent au service communication de la mairie. Des vidéos et images générées ou modifiées par intelligence artificielle circulent de plus en plus sur les réseaux sociaux, parfois indétectables à l'œil nu, et des habitants signalent des contenus inquiétants qui mettent en cause la commune. Le directeur de la communication, M. Le Corre, te charge de construire une grille de détection à partir d'une source officielle, de l'appliquer à quatre contenus signalés, puis de rédiger la conduite à tenir pour toute l'équipe.

Problématique

« Quels indices permettent de repérer un contenu généré ou modifié par IA, et que faire quand le doute persiste ? »

Mission

A — Je construis la grille de détection

  1. Relever, sur la fiche Hypertrucage (deepfake) : comment se protéger — CNIL, les indices de détection d'un contenu généré par IA (visage, voix, image).
  2. Organiser ces indices dans une grille de détection réutilisable par l'équipe (colonnes : type d'indice, ce qu'il faut observer).

B — J'applique ma grille à des cas concrets

Voici 4 contenus signalés à la mairie, décrits sans image :

  • Cas 1 — Une vidéo où une personnalité locale connue semble prononcer une phrase inhabituelle : les lèvres bougent presque en rythme avec le son, mais avec un très léger décalage, et le clignement des yeux paraît trop régulier.
  • Cas 2 — Un audio où une voix familière tient des propos surprenants : le débit est très régulier, sans les hésitations ou reprises d'une vraie conversation, et le fond sonore reste parfaitement silencieux.
  • Cas 3 — Une photo de groupe où un visage semble légèrement flou ou déformé par rapport aux autres, avec une lumière sur ce visage qui ne correspond pas à la direction de la lumière sur le reste de la photo.

  • Cas 4 — Une vidéo de quelques secondes filmée au téléphone dans la cour de l'école : léger flou quand la personne bouge, bruit de fond irrégulier, voix avec des hésitations, ombres cohérentes avec la position du soleil.

  • Appliquer ta grille de détection à chacun des 4 cas et noter ton verdict (probablement authentique, probablement généré, impossible à trancher) avec les indices observés.

  • Comparer ton verdict à celui d'un collègue et, en cas de désaccord, retrouver l'indice que l'un de vous a mal lu ou n'a pas vu.

C — Je construis ma conduite à tenir

  1. Rédiger une conduite à tenir en 3 étapes pour un contenu suspect qui circule sur les réseaux de la commune (vérifier, ne pas relayer avant vérification, signaler si besoin).

Questions de synthèse

  • Quel indice de détection s'est révélé le plus fiable sur les cas que tu as traités ?
  • Que dois-tu faire avant de partager un contenu dont l'authenticité te semble douteuse ?
Vérifier mes réponses
  • Les cas 1, 2 et 3 réunissent plusieurs indices de génération (probablement générés) ; le cas 4 n'en montre aucun (probablement authentique), mais seule la vérification de la source permet d'en être sûr.
  • La réponse doit citer un indice réellement utilisé sur les cas traités (synchronisation labiale, éclairage incohérent, voix trop régulière, selon les cas décrits).
  • Vérifier la source et l'origine du contenu avant tout partage, et ne jamais relayer un contenu douteux sans vérification, même s'il paraît crédible.
Ressources et outils
CRCN / Pix
  • CRCN 4.1 — Sécuriser l'environnement numérique
  • Parcours Pix associé : Cybersécurité (MAJ 2025)
  • Code de campagne : PNUNMH529
Compétence psychosociale

Auto-évaluation — Tu as repéré, dans tes verdicts, les indices qui t'ont fait te tromper ou t'ont permis de trouver.

Retour sur mon action : Sur quels cas t'es-tu trompé(e), et pourquoi ? Qu'ajoutes-tu à ta grille pour ne plus te tromper ?

Ce qu'il faut retenir

  • Un contenu créé ou modifié par IA laisse souvent des indices : lèvres mal synchronisées, voix trop régulière, clignements anormaux, éclairage incohérent.
  • Face à un contenu suspect, je vérifie la source, je ne le relaie pas et je le signale si besoin.
  • Ces indices ne suffisent pas toujours : une grille de détection peut être trompée, d'où l'importance de vérifier la source.

Dans cette activité : contenus générés par IA signalés à une mairie.

Grille d'évaluation

Détection des deepfakes (Pluri MG2)

Critère Indicateurs observables Descripteurs par niveau
Grille de détection Indices officiels correctement relevés et organisés en grille réutilisable. -- : Aucun indice de détection n'est relevé dans la fiche de la CNIL.
- : Des indices sont relevés mais il manque un des trois types (visage, voix, image), ou ils ne sont pas organisés en grille.
+ : Les indices de visage, de voix et d'image relevés dans la fiche CNIL sont rangés dans une grille à deux colonnes (type d'indice, ce qu'il faut observer).
++ : Niveau + atteint, et chaque ligne est formulée pour qu'une autre personne l'applique sans aide.
Application aux cas Grille appliquée aux cas concrets avec des indices précis à l'appui du verdict. -- : Aucun verdict n'est rendu sur les cas.
- : Les verdicts sont rendus mais certains ne citent aucun indice observé.
+ : Chaque cas reçoit un verdict appuyé sur au moins un indice précis de la grille, et le verdict est comparé à celui d'un camarade.
++ : Niveau + atteint, et chaque désaccord de verdict est expliqué par un indice manquant ou mal lu, avec l'ajout correspondant à la grille.
Conduite à tenir Conduite en 3 étapes cohérente et directement applicable. -- : Aucune conduite à tenir n'est rédigée.
- : La conduite compte moins de 3 étapes, ou ne prévoit pas la vérification avant tout relais.
+ : La conduite compte 3 étapes : vérifier, ne pas relayer avant vérification, signaler si besoin.
++ : Niveau + atteint, et chaque étape indique un moyen concret (outil, site ou interlocuteur).