🤖 Intelligence artificielle : comprendre sans s'en remettre¶

Objectifs pédagogiques¶

Analyser le fonctionnement simplifié d'une intelligence artificielle générative
Identifier des biais et des limites connus de ces outils
Débattre de l'usage de l'IA comme aide ou comme substitut, en secteur SAPAT notamment

Contexte¶

Les outils d'IA générative (chatbots, générateurs de texte ou d'image) sont de plus en plus présents, y compris dans les métiers du secteur social et de l'accompagnement à la personne. Bien utilisés, ils peuvent faire gagner du temps ; mal utilisés ou mal compris, ils peuvent produire des erreurs (hallucinations), reproduire des biais, ou remplacer une réflexion qui devrait rester humaine — en particulier dans une relation d'aide.

Ton rôle : tu comprends le fonctionnement général d'une IA générative, tu identifies ses limites, et tu débats de son usage en contexte professionnel SAPAT.

Problématique

« Comment une IA générative fonctionne-t-elle, quelles sont ses limites, et où placer la frontière entre aide utile et substitut risqué dans un métier de l'accompagnement ? »

Mission¶

Regarde ou lis la ressource fournie par l'enseignant expliquant, en langage simple, le principe d'une IA générative de texte (apprentissage sur de grandes quantités de textes, prédiction du mot suivant, absence de compréhension réelle du sens).
Teste une IA générative de texte (compte établissement ou outil autorisé) avec une question simple sur un fait vérifiable (ex. une date, un chiffre officiel). Vérifie la réponse avec une source fiable et note si elle est exacte, approximative ou fausse.
Relève un exemple de biais connu des IA génératives (ex. sur-représentation de certains profils dans les images générées, réponses culturellement orientées) à partir de la ressource fournie.
En petit groupe, débattez de la question : dans un métier d'accompagnement (aide à domicile, structure médico-sociale), une IA peut-elle rédiger un compte rendu de visite à la place du professionnel ? Listez 2 arguments pour un usage comme aide, et 2 arguments contre un usage comme substitut.
Rédige une conclusion personnelle en 4 lignes sur la place que tu donnerais à l'IA dans ta future pratique professionnelle.

Astuce

Une IA générative ne « sait » rien : elle prédit statistiquement la suite la plus probable d'un texte. C'est pour cela qu'elle peut affirmer une erreur avec la même assurance qu'une vérité — vérifier reste indispensable.

Où répondre ?

Dépose ta vérification de fait, l'exemple de biais relevé et ta conclusion personnelle dans ton bloc-notes OneNote, section EG4 — Vivre et agir ensemble.

Ressources et outils¶

Ressource fournie par l'enseignant (support de classe sur le fonctionnement d'une IA générative).
CNIL — Intelligence artificielle — enjeux et cadre réglementaire côté données personnelles.

CRCN / Pix¶

CRCN 1.1 — Mener une recherche et une veille d'information (vérification d'un fait produit par une IA)

Aucun parcours Pix Orga rattaché à cette activité : le parcours « Décrypter le fonctionnement et les enjeux de l'IA » est déjà attribué à l'activité Les données des usagers ne t'appartiennent pas sur cette page (règle de non-répétition d'un même parcours au sein d'une même année, référentiel §14).

Ce qu'il faut retenir¶

Une IA générative prédit statistiquement du texte, elle ne « comprend » pas le sens de ce qu'elle produit
Une réponse d'IA peut être fausse (hallucination) tout en paraissant assurée : la vérification reste nécessaire
Dans un métier d'accompagnement, l'IA peut être une aide mais ne remplace pas le jugement professionnel humain

Grille d'évaluation¶

Critère	Indicateurs observables	Niveau
Compréhension du fonctionnement	Le principe de prédiction statistique est correctement reformulé avec ses propres mots.	Insatisfaisant / À consolider / Satisfaisant / Très satisfaisant
Vérification de fait	La vérification du fait testé est menée avec une source fiable et le résultat correctement qualifié.	Insatisfaisant / À consolider / Satisfaisant / Très satisfaisant
Argumentation du débat	Les arguments pour/contre sont pertinents et appliqués au contexte professionnel SAPAT.	Insatisfaisant / À consolider / Satisfaisant / Très satisfaisant