Avec l’arrivée de chatGPT, les élèves génèrent du texte mais encore très peu d’images. Les biais cognitifs comme la sétérotypisation des bases de données reproduite lors des générations d’images par l’intelligence artificielle sont les mêmes que pour les générations de texte, mais elles sont visibles. La prise de conscience est plus rapide.
Cette activité d’une heure a été proposée à 15 élèves volontaires de la 6° à la 4°, en décembre 2023. La production est une exposition virtuelle de pères Noël générés par l’IA.
Objectifs
Prendre conscience qu’utiliser une intelligence artificielle générative d’images n’est pas une recherche d’informations mais un acte créatif
Comprendre l’importance de la fiabilité et de la qualité des bases de données dans l’usage des outils d’intelligence artificielles génératives d’images
Expérimenter les stéréotypes culturels contenus dans les bases de données des systèmes d’intelligence artificielle et reproduits dans les générations d’images
Trouver les indices visuels qui permettent d’évaluer si l’image est générée par une intelligence artificielle
Compétences du CRCN et EMI
| Domaines | Compétences |
| CRCN - Communication et collaboration | Partager et publier |
| CRCN - Création de contenu | Développer des documents multimédias |
| EMI – objectif 1 | Utiliser des systèmes d’Intelligence Artificielle. Savoir travailler en groupe pour des documents collaboratifs et collectifs (pad). Droit à l’image, droit d’auteur |
| EMI – objectif 2 | Comprendre les principes du traitement algorithmique des informations des SIA.
|
| EMI – Objectif 6 | Prendre conscience des Stéréotypes véhiculés par les SIA |
Outils numériques
- Outils pour communiquer, échanger, collaborer : Padlet
- Outils pour produire / coproduire / cocréer : un ordinateur connecté à Internet. Un outil d’Intelligence artificielle générative d’images respectant le RGPD : celui de Padlet (pas de comptes à créer pour les élèves)
Déroulement de la séance
Présentation de l’activité aux élèves et de la production finale souhaitée : un padlet avec des images de pères Noël de leur imagination, générées par l’outil d’intelligence artificielle de Padlet
Les élèves accèdent au Padlet en écrivant l’adresse URL du padlet dans le navigateur. L’adresse URL est projetée en grand format.
L’enseignant leur montre comment générer une image avec l’outil d’Intelligence artificielle générative de Padlet (« Je ne peux pas dessiner »). Les élèves devront en sélectionner une seule par prompt rédigé. Une consigne rapide est donnée sur la rédaction du prompt : "Soyez précis, l’intelligence artificielle ne sait pas ce que vous imaginez." Les élèves rédigent leur prompt dans lequel ils doivent décrire le Père Noël de leur choix. Ils génèrent des images et en sélectionne une par prompt rédigé. Celle-ci est intégrée au Padlet avec la mention du prompt rédigé pour générer l’image.
Mise en commun via le Padlet. Chaque image est projetée et analysée par le groupe. L’enseignant pose des questions afin d’amener les élèves à une analyse réflexive de leur expérience.
Les remarques des élèves sont mentionnées dans le Padlet. Celui-ci est publié et intégré dans l’ENT de l’établissement.
Compte-rendu de l'échange de l'enseignant avec les élèves
Question de l’enseignant : Est-ce que l’image correspond à leur prompt et donc à leur image mentale ?
Réponses des élèves : Pas toujours, parfois c’est mieux, parfois c’est complètement hors-sujet. On n’a pas assez décrit le Père Noël.
Question de l’enseignant : Quelles émotions ont-ils ressenties en effectuant ce travail ?
Réponses des élèves : C’était trop bien. On pourra le refaire ?
Réponse de l’enseignant : générer des images produit des émotions positives qui donnent envie de continuer (surprise, plaisir).
Question de l’enseignant :Est-ce que vos images ont des défauts ?
Réponses des élèves : Il y a trop de doigts à certaines mains, elles sont malformées, il y 3 bras, un bras qui traverse une cuisse, un animal à deux têtes, le père Noël est habillé dans la baignoire.
Réponse de l’enseignant : l’IA ne cherche pas des images en provenance d’une base de données mais les génère. Ainsi, les images ont des défauts qu’on peut percevoir en observant bien les images. En écrivant un prompt, vous créez une nouvelle image. En utilisant un moteur de recherche d’images comme Google Images, vous cherchez des images déjà existantes et publiées sur le Web.
Question de l’enseignant : Comment expliquer les points communs entre vos images alors que les prompts sont différents.
Réponses des élèves : On aurait dû décrire un Père Noël différent du Père Noël qu’on connaît : sans bonnet, sans barbe, une veste de couleur jaune …
Réponse de l’enseignant : l’IA générative d’images utilise des bases de données composées d’images déjà existantes de Père Noël. Dans notre culture occidentale, le père Noël est, comme ceux générés par l’IA, un homme blanc, avec un costume bien défini et un visage sympathique et jovial, il a toujours la même morphologie. L’arrière-plan de vos pères Noël est souvent avec un sapin, des cadeaux, une cheminée où brûle un feu, de la neige, un grand fauteuil accueillant où est assis le Père Noël. C’est un stéréotype culturel. C’est ainsi qu’est représenté le père Noël dans notre culture occidentale et c’est ainsi que l’IA va le générer.
Analyse réflexive sur la séquence
Le personnage du père Noël a été proposé car l’activité a été réalisée en décembre. Cette activité peut donc être réalisée avec des lieux (Paris sera représenté avec la tour Eiffel), des femmes (elles seront minces et belles), des métiers (le pompier portera-t-il un équipement français ou américain ?), des fêtes folkloriques comme Halloween (on trouvera des citrouilles, la couleur orange ...) etc.
Il faudra être vigilant sur le respect de la laïcité dans le choix du sujet.
Ressources
Père Noël artificiel (padlet.com)
Une séquence proposée par Aline Bousquet, professeure documentaliste au collège Madeleine Cros (81).
