🎭 Identifier une arnaque par IA pour Mme Even¶

Objectifs pédagogiques¶

Identifier les signaux d'alerte d'une arnaque utilisant un contenu généré par IA, à partir d'une source officielle
Proposer des réflexes de vérification et de signalement adaptés, sans dissuader l'usagère de tout usage numérique
Accompagner le signalement de la tentative d'arnaque auprès des bons interlocuteurs

Contexte¶

Tu es agent du SAAD de Loudéac. Mme Even, 83 ans, bénéficiaire du service, a reçu hier un appel d'une voix qu'elle a reconnue comme celle de son petit-fils, en détresse, demandant un virement urgent pour « une caution de garde à vue ». Elle n'a rien envoyé mais reste très perturbée : « C'était vraiment sa voix, comment c'est possible ? » Ta responsable de secteur te confie l'accompagnement pour comprendre ce qui s'est passé.

Ce que tu observes : Mme Even garde son téléphone allumé en permanence par peur de rater un appel important ; elle n'a jamais entendu parler des contenus générés par intelligence artificielle ; elle a l'habitude de publier des vidéos de ses petits-enfants sur un réseau social ouvert à tous.

Ton rôle aujourd'hui

Avec ton binôme, répartissez-vous les rôles : l'aidant ou l'aidée.

Si tu joues Mme Even, tiens le rôle sérieusement : répète que « c'était vraiment sa voix », et à un moment de l'étape C, demande à ton binôme si elle doit arrêter complètement de publier des vidéos de sa famille.

Problématique

« Comment expliquer à une usagère comment une voix peut être imitée par l'IA, sans minimiser sa peur ni la couper de tout usage numérique par excès de prudence ? »

Mission¶

A — Diagnostic du mécanisme de l'appel suspect¶

Identifier, à partir de la fiche Hypertrucage (deepfake) : comment se protéger — CNIL, comment une voix peut être imitée et ce qui rend ce type d'arnaque particulièrement efficace.
Expliquer simplement, sans jargon technique, comment une voix peut être imitée par l'IA.
Établir le lien entre les vidéos publiques de Mme Even et le matériau qui a pu servir à imiter la voix du petit-fils.

B — Préparation de réflexes de vérification¶

Retenir deux réflexes concrets que Mme Even pourra appliquer seule la prochaine fois, sans dépendre de toi dans l'urgence (rappeler sur le numéro habituel, poser une question secrète convenue en famille).
Expliquer pourquoi l'urgence demandée dans ce type d'appel doit alerter plutôt que précipiter.

C — Accompagnement de Mme Even dans la vérification et le signalement¶

Proposer, avec ton binôme, à Mme Even la méthode de vérification en termes qu'elle comprend et la tester sur un cas fictif similaire.
Gérer l'imprévu : Mme Even, effrayée, veut supprimer tous ses comptes en ligne dans l'heure — noter ta réponse.
Décrire, étape par étape, la procédure officielle de signalement de cet appel (à qui, dans quel ordre) ; le cas est fictif : ne faire aucun signalement réel.

D — Orientation de Mme Even sur ses publications en ligne¶

Proposer un ajustement de la confidentialité de ses publications (public restreint plutôt que suppression totale), respectant son souhait de garder le lien avec sa famille éloignée.

E — Prise de recul et explicitation¶

J'explicite mes choix (2-3 min, à l'oral)

Présenter ta méthode à ton binôme ou à ton enseignant, et répondre à ces trois questions :

Pourquoi as-tu choisi ces deux réflexes de vérification plutôt que d'autres ?
Comment as-tu répondu à la peur de Mme Even sans la minimiser ni l'amplifier ?
Que proposerais-tu si le prochain usager n'avait personne à qui poser une question secrète convenue ?

Questions de synthèse

Pourquoi l'urgence est-elle un signal d'alerte plutôt qu'une raison d'agir vite dans ce type d'appel ?
Quel est le lien entre des publications publiques et le risque d'imitation vocale par IA ?

Vérifier mes réponses

Un escroc utilise l'urgence pour empêcher la victime de vérifier ou de réfléchir avant d'agir : ralentir et vérifier est toujours le bon réflexe, même face à une voix reconnue.
Des vidéos publiques fournissent le matériau audio nécessaire pour entraîner un outil d'imitation vocale : plus elles sont accessibles, plus le risque d'imitation crédible augmente.

Ressources et outils

CNIL — Hypertrucage (deepfake), comment se protéger et signaler : source officielle sur le mécanisme et le signalement — CNIL — Hypertrucage (deepfake), comment se protéger et signaler.
Cybermalveillance.gouv.fr : signalement d'un acte de cybermalveillance — Cybermalveillance.gouv.fr.

CRCN / Pix

CRCN 4.1 — Sécuriser l'environnement numérique

Compétence psychosociale

Empathie et coopération — Tu as accueilli la peur de Mme Even sans la minimiser.

Retour sur mon action : Comment as-tu accueilli sa peur ? Qu'as-tu dit pour ne pas la minimiser ?

Ce qu'il faut retenir¶

L'IA peut imiter une voix ou un visage (hypertrucage) à partir de vidéos ou d'enregistrements publiés en ligne.
Ce qu'on publie publiquement peut être réutilisé contre soi ou ses proches : je vérifie la confidentialité des publications.
Face à une demande urgente d'argent, je vérifie par un autre canal : rappeler sur le numéro habituel, poser une question convenue à l'avance.
En cas d'arnaque ou de tentative, je signale selon la procédure officielle.

Dans cette activité : appel frauduleux imitant la voix du petit-fils d'une usagère.

Grille d'évaluation

C8.2 — Risques en ligne et IA (MP8, prépare l'ECCF E7.4)

Production attendue : le diagnostic du mécanisme de l'appel, la méthode de vérification, le signalement décrit, la proposition d'ajustement des publications, et l'explicitation orale.

Critère (référentiel C8.2)	Indicateurs observables	Descripteurs par niveau
Posture d'accompagnement : mobilisation des ressources de la personne	Méthode de vérification réutilisable seule par Mme Even Imprévu de la suppression totale des comptes traité sans décider à sa place	-- : Aucune méthode de vérification transmise, ou une solution appliquée à la place de Mme Even ; l'imprévu de la suppression des comptes est traité en décidant pour elle. - : Une méthode évoquée mais dépendante de l'aidant pour être réutilisée (pas de geste autonome clair) ; l'imprévu est géré mais sans explorer d'autre option avec elle. + : Deux réflexes de vérification formulés en termes que Mme Even peut réutiliser seule ; l'imprévu de la suppression est traité en l'aidant à peser le pour et le contre. ++ : Les deux réflexes sont testés avec elle sur un cas fictif et elle peut reformuler comment les appliquer seule ; l'imprévu est traité en construisant avec elle une réponse intermédiaire (ajustement plutôt que suppression).
Mise en place d'une relation en maintenant la distanciation professionnelle requise	Peur de Mme Even ni minimisée ni amplifiée Explication du mécanisme sans jargon technique	-- : La peur de Mme Even est ignorée ou balayée (« il n'y a pas de raison d'avoir peur »), ou au contraire amplifiée ; l'explication reste technique (deepfake, entraînement de modèle) sans reformulation accessible. - : La peur est reconnue mais l'échange reste centré sur le risque plutôt que sur ce qu'elle peut faire ; l'explication mélange termes techniques et reformulation. + : La peur est nommée et accueillie sans être minimisée ni dramatisée davantage ; le mécanisme est expliqué avec des mots courants, sans terme technique non expliqué. ++ : L'échange part explicitement du ressenti de Mme Even avant d'expliquer le mécanisme ; l'explication est entièrement en langage courant et vérifiée par une reformulation d'elle.
Anticipation et réalisation des démarches	Procédure officielle de signalement décrite Proposition d'ajustement des publications respectueuse de son souhait de garder le lien familial	-- : Aucune procédure de signalement décrite, ou un canal non officiel est cité ; la proposition sur les publications ignore le souhait de garder le lien familial (suppression totale imposée). - : La procédure de signalement est décrite mais incomplète (mauvais interlocuteur ou étape manquante) ; l'ajustement proposé réduit fortement la visibilité sans lien avec le besoin réel de Mme Even. + : La procédure officielle de signalement est décrite étape par étape (CNIL ou cybermalveillance.gouv.fr) ; un ajustement de confidentialité (public restreint) est proposé en cohérence avec son souhait de garder le lien familial. ++ : La procédure est décrite et les suites données à un signalement sont identifiées ; l'ajustement de confidentialité est expliqué à Mme Even avec le geste concret pour le réaliser elle-même la prochaine fois.