🤖 Débattre de l'IA comme aide ou comme substitut¶

Objectifs pédagogiques¶

Analyser le fonctionnement simplifié d'une intelligence artificielle générative
Identifier des biais et des limites connus de ces outils
Débattre de l'usage de l'IA comme aide ou comme substitut, en secteur SAPAT notamment

Contexte¶

Tu es agent au service d'aide à domicile (SAAD) de la commune. Les outils d'IA générative (chatbots, générateurs de texte ou d'image) sont de plus en plus présents, y compris dans les métiers du social et de l'accompagnement. La responsable de secteur, Mme Even, envisage d'autoriser leur usage pour rédiger des comptes rendus et organise un débat d'équipe. Bien utilisés, ils peuvent faire gagner du temps ; mal utilisés ou mal compris, ils peuvent produire des erreurs (hallucinations), reproduire des biais, ou remplacer une réflexion qui devrait rester humaine — en particulier dans une relation d'aide.

Ton rôle : tu comprends le fonctionnement général d'une IA générative, tu identifies ses limites, et tu prépares ta position pour le débat d'équipe sur son usage dans votre métier.

Problématique

« Comment une IA générative fonctionne-t-elle, quelles sont ses limites, et où placer la frontière entre aide utile et substitut risqué dans un métier de l'accompagnement ? »

Mission¶

Deux mots à connaître : une hallucination est une réponse fausse, présentée comme vraie ; un biais est une tendance systématique à favoriser certains profils, certaines idées ou certaines cultures.

Le principe : une IA générative de texte est entraînée sur de très grandes quantités de textes. Elle calcule, mot après mot, quel mot a le plus de chances de suivre ceux qui précèdent. Elle ne comprend pas le sens de ce qu'elle écrit : c'est pour cela qu'elle peut affirmer une erreur avec la même assurance qu'une vérité.

Lire le paragraphe « Le principe » ci-dessus et noter dans OneNote 2 idées clés, avec tes mots.
Poser à Copilot (compte Office 365 du lycée) une question simple sur un fait vérifiable (ex. une date, un chiffre officiel) et copier sa réponse dans OneNote.
Chercher la réponse à la même question sur un site officiel (ex. un site de l'État ou d'une institution) et relever dans OneNote les éléments identiques et les éléments différents entre les deux réponses.
Qualifier la réponse de l'IA par un seul mot — exacte, approximative ou fausse — et justifier ce choix en une phrase.
Chercher sur un site fiable (média reconnu, organisme public) un exemple de biais des IA génératives, et le noter dans OneNote avec sa source.
Débattre, en petit groupe, sur ce sujet : dans un métier d'accompagnement (aide à domicile, structure médico-sociale), une IA peut-elle rédiger un compte rendu de visite à la place du professionnel ? Si tu travailles seul, écrire les arguments des deux camps. Noter ensuite dans OneNote 2 arguments pour un usage de l'IA comme aide et 2 arguments contre un usage de l'IA comme substitut.
Rédiger une conclusion personnelle en 4 lignes sur la place que tu donnerais à l'IA dans ta future pratique professionnelle. Amorces possibles : « Dans mon futur métier, j'utiliserais l'IA pour… » · « Je ne lui confierais jamais… parce que… ». Tu peux aussi écrire ta conclusion sans amorce.

Questions de synthèse

Expliquer pourquoi une IA générative peut affirmer une erreur avec la même assurance qu'une vérité.
Citer un argument pour l'usage de l'IA comme aide dans un métier d'accompagnement.
Citer un argument contre son usage comme substitut dans un métier d'accompagnement.

Ressources et outils

Copilot (compte Office 365 du lycée) : l'IA générative testée à l'étape 2.
CNIL — Intelligence artificielle — enjeux et cadre réglementaire côté données personnelles.

CRCN / Pix

CRCN 1.1 — Mener une recherche et une veille d'information (vérification d'un fait produit par une IA)
Parcours Pix associé : [Parcours IA - 2nde - Partie 1] Décrypter le fonctionnement et les enjeux de l'IA [26-27]
Code de campagne : ZSHNKD347

Compétence psychosociale

Pensée critique — Tu as confronté la réponse de l'IA à une source officielle avant de la croire.

Retour sur mon action : Quels écarts as-tu relevés entre l'IA et la source officielle ? Dans quel cas te fieras-tu à une IA, et dans quel cas vérifieras-tu ?

Ce qu'il faut retenir¶

Une IA générative prédit la suite la plus probable d'un texte : elle ne comprend pas le sens de ce qu'elle produit.
Une réponse d'IA peut être fausse tout en paraissant sûre (hallucination) : je la vérifie toujours.
L'IA peut aider, mais la décision et le jugement professionnel restent humains.

Dans cette activité : préparation d'un débat d'équipe sur l'IA dans un service d'aide à domicile.

Grille d'évaluation

Production attendue : une trace écrite du fait vérifié, du biais relevé et de la conclusion personnelle, déposée dans OneNote.

Critère	Indicateurs observables	Descripteurs par niveau
Compréhension du fonctionnement	Deux idées clés du paragraphe « Le principe » sont reformulées avec ses propres mots.	-- : Le principe de fonctionnement d'une IA générative n'est pas reformulé. - : Une seule idée clé est notée, ou elle est recopiée sans reformulation. + : Deux idées clés du paragraphe « Le principe » sont notées avec ses propres mots, dont la prédiction statistique du mot suivant. ++ : Niveau + atteint, et l'absence de compréhension réelle du sens est expliquée avec un exemple de la réponse testée.
Vérification de fait	La réponse de l'IA est comparée à une source officielle et qualifiée d'exacte, approximative ou fausse avec une justification.	-- : Aucune comparaison avec une source officielle n'est faite. - : La comparaison est faite mais la source n'est pas officielle, ou la réponse de l'IA n'est pas qualifiée. + : La réponse de l'IA à un fait vérifiable est comparée à un site officiel, les éléments identiques et différents sont relevés, et la réponse est qualifiée d'exacte, approximative ou fausse avec une justification. ++ : Niveau + atteint, et un exemple de biais des IA génératives est relevé avec sa source.
Argumentation du débat	2 arguments pour l'aide et 2 contre le substitut sont notés et appliqués à un métier d'accompagnement.	-- : Aucun argument n'est noté. - : Il manque des arguments (moins de 2 pour l'usage comme aide ou moins de 2 contre l'usage comme substitut). + : 2 arguments pour l'aide et 2 arguments contre le substitut sont notés et appliqués à un métier d'accompagnement. ++ : Niveau + atteint, et la conclusion personnelle de 4 lignes s'appuie sur ces arguments.