🎭 Aider Mme Even à démêler le vrai du faux après un appel suspect¶
Objectifs pédagogiques¶
- Identifier les signaux d'alerte d'une arnaque utilisant un contenu généré par IA, à partir d'une source officielle
- Proposer des réflexes de vérification et de signalement adaptés, sans dissuader l'usagère de tout usage numérique
Contexte¶
Tu es agent du SAAD de Loudéac. Mme Even, 83 ans, bénéficiaire du service, a reçu hier un appel d'une voix qu'elle a reconnue comme celle de son petit-fils, en détresse, demandant un virement urgent pour « une caution de garde à vue ». Elle n'a rien envoyé mais reste très perturbée : « C'était vraiment sa voix, comment c'est possible ? » Ta responsable de secteur te confie l'accompagnement pour comprendre ce qui s'est passé.
Ce que tu observes : Mme Even garde son téléphone allumé en permanence par peur de rater un appel important ; elle n'a jamais entendu parler des contenus générés par intelligence artificielle ; elle a l'habitude de publier des vidéos de ses petits-enfants sur un réseau social ouvert à tous.
Ton rôle aujourd'hui
Vérifie dans ta fiche de suivi OneNote (section MP8 — Cadre de vie / Quotidien) si tu joues l'aidant ou l'aidée, et note-le une fois l'activité terminée avec le nom de ton binôme.
Si tu joues Mme Even, tiens le rôle sérieusement : répète que « c'était vraiment sa voix », et à un moment de l'étape C, demande à ton binôme si elle doit arrêter complètement de publier des vidéos de sa famille.
🆘 Binôme absent ? Joue les deux rôles. Pour la partie « Mme Even », relis à voix haute sa phrase d'inquiétude avant de continuer, pour garder la posture en tête.
Problématique
« Comment expliquer à une usagère comment une voix peut être imitée par l'IA, sans minimiser sa peur ni la couper de tout usage numérique par excès de prudence ? »
Mission¶
A — Je diagnostique le mécanisme de l'appel suspect¶
À partir de la fiche Hypertrucage (deepfake) : comment se protéger — CNIL, identifie comment une voix peut être imitée et ce qui rend ce type d'arnaque particulièrement efficace.
Ta production doit montrer :
- Une explication simple, sans jargon technique, de comment une voix peut être imitée par l'IA.
- Un lien entre les vidéos publiques de Mme Even et le matériau qui a pu servir à imiter la voix du petit-fils.
B — Je prépare des réflexes de vérification¶
Construis une méthode de vérification que Mme Even pourra appliquer seule la prochaine fois, sans dépendre de toi dans l'urgence.
Ta production doit montrer :
- Deux réflexes de vérification concrets (rappeler sur le numéro habituel, poser une question secrète convenue en famille).
- Une explication de pourquoi l'urgence demandée dans ce type d'appel doit alerter plutôt que précipiter.
C — J'accompagne Mme Even dans la vérification et le signalement¶
Avec ton binôme, propose à Mme Even la méthode de vérification et accompagne-la dans un signalement de l'incident.
Ta production doit montrer :
- La méthode de vérification expliquée à Mme Even en termes qu'elle comprend, testée sur un cas fictif similaire.
- Une réponse à l'imprévu : Mme Even, effrayée, veut supprimer tous ses comptes en ligne dans l'heure.
- Le signalement de l'appel effectué selon la procédure officielle.
D — J'oriente Mme Even sur ses publications en ligne¶
Une partie de la réponse porte sur ses habitudes de publication : à toi de l'aider à ajuster sans lui imposer un choix radical.
Ta production doit montrer :
- Une proposition d'ajustement de la confidentialité de ses publications (public restreint plutôt que suppression totale), respectant son souhait de garder le lien avec sa famille éloignée.
E — Je prends du recul et j'explicite¶
J'explicite mes choix (2-3 min, à l'oral)
Présente ta méthode à ton binôme ou à ton enseignant, et réponds à ces trois questions :
- Pourquoi as-tu choisi ces deux réflexes de vérification plutôt que d'autres ?
- Comment as-tu répondu à la peur de Mme Even sans la minimiser ni l'amplifier ?
- Que proposerais-tu si le prochain usager n'avait personne à qui poser une question secrète convenue ?
Questions de synthèse¶
- Pourquoi l'urgence est-elle un signal d'alerte plutôt qu'une raison d'agir vite dans ce type d'appel ?
- Quel est le lien entre des publications publiques et le risque d'imitation vocale par IA ?
Vérifier mes réponses
- Un escroc utilise l'urgence pour empêcher la victime de vérifier ou de réfléchir avant d'agir : ralentir et vérifier est toujours le bon réflexe, même face à une voix reconnue.
- Des vidéos publiques fournissent le matériau audio nécessaire pour entraîner un outil d'imitation vocale : plus elles sont accessibles, plus le risque d'imitation crédible augmente.
Où répondre ?
Dépose ta méthode de vérification, le signalement effectué et tes réponses de synthèse dans ton bloc-notes OneNote, section MP8 — Cadre de vie / Quotidien. Note dans ta fiche de suivi le rôle joué aujourd'hui et le nom de ton binôme.
Ressources et outils¶
- CNIL — Hypertrucage (deepfake), comment se protéger et signaler : source officielle sur le mécanisme et le signalement — lien.
- Cybermalveillance.gouv.fr : signalement d'un acte de cybermalveillance — lien.
CRCN / Pix¶
- CRCN 4.1 — Sécuriser l'environnement numérique
Ce qu'il faut retenir¶
- Explication simple, sans jargon, du mécanisme d'imitation vocale par IA à partir de la fiche CNIL sur l'hypertrucage
- Lien établi entre les vidéos publiques de Mme Even et le matériau utilisé pour imiter la voix de son petit-fils
- Deux réflexes de vérification concrets (rappel sur numéro habituel, question secrète convenue) transmis à l'usagère
- Signalement de l'appel selon la procédure officielle et ajustement de la confidentialité des publications plutôt que suppression totale
Grille d'évaluation¶
C8.2 — Risques en ligne et IA (MP8, prépare l'ECCF E7.4)
Production attendue : le diagnostic du mécanisme de l'appel, la méthode de vérification, le signalement effectué, la proposition d'ajustement des publications, et l'explicitation orale.
| Critère (référentiel C8.2) | Indicateurs observables | Niveau |
|---|---|---|
| Posture d'accompagnement : mobilisation des ressources de la personne | -- / - / + / ++ | |
| Mise en place d'une relation en maintenant la distanciation professionnelle requise | -- / - / + / ++ | |
| Anticipation et réalisation des démarches | -- / - / + / ++ |