Format d’animation / Jeu
la boite noire de l’ia
Ouvrez la Boîte noire de l’IA pour comprendre le cycle de vie d’une IA générative de texte.
durée : 1h30 à 2h
participants : 7 à 15
matériel : le jeu « La boite noire de l’IA »
Qu’est-ce que la boite noire de l’IA ?
La Boîte noire de l’IA est un format ludique et pédagogique qui met en avant la matérialité et la réalité sociale et environnementale de l’intelligence artificielle. Si cette technologie suscite un intérêt considérable, les techniques d’IA sorties des laboratoires restent méconnues du grand public bien qu’il les utilise au quotidien. Le caractère abstrait de l’IA est peu à peu contrebalancé par de nombreuses recherches académiques et journalistiques qui montrent que, pour être performante et passer à l’échelle, les IA ont besoin : de volume important en données et capacités de calculs, d’investissement énorme en travail humain (pour la collecte, l’annotation des données et l’évaluation récursive des modèles) ainsi qu’en ressources (métaux rares, réseaux d’électricité, systèmes de refroidissements de data centers avec de l’eau). C’est pour pallier ce manque de compréhension du grand public qu’est née la Boîte Noire de l’IA.
« Il est urgent de développer des outils de médiation qui permettent aux citoyens de comprendre vraiment comment l’IA est produite et où se situent les choix de ses concepteurs. Avec notre projet « la Boîte Noire de l’IA », nous proposons un atelier collaboratif qui permet aux participants de reconstituer le cycle de vie complet de ces technologies. En déconstruisant pas à pas le fonctionnement de l’IA, depuis l’extraction des métaux rares jusqu’à l’impact des data centers, nous révélons sa matérialité bien réelle : une infrastructure industrielle massive, consommatrice de ressources et de travail humain. Car l’intelligence dite « artificielle » n’a rien de magique ni d’immatériel. Elle repose sur des infrastructures physiques, des choix politiques et économiques, et le travail souvent invisible de milliers de personnes. Cela passe par un effort massif de médiation et d’éducation populaire, loin des discours d’experts. Notre capacité collective à comprendre ces systèmes et à faire des choix éclairés sur leur déploiement est un enjeu démocratique majeur. » Samuel Goëta, cofondateur de Datactivist.
Les objectifs d’un atelier Boite noire de IA
- Comprendre le fonctionnement d’une IA générative de texte, en reconstituant son cycle de vie depuis l’extraction des minéraux jusqu’au coût énergétique des centres de données ;
- Débattre des conséquences sociétales, environnementales et éthiques des IA ;
- Faire des choix en conscience de nos usages de cette technologie ?
Les 3 étapes de l’atelier
1. Introduction (20mn, facultatif si les participants ont déjà manipulé une IA générative de texte)
Objectif : découvrir ce qu’est une IA générative et ses principaux enjeux
Proposition de brise-glace : inviter les participants à se connecter à Compar:IA avec leur smartphone ou ordinateur. Les laisser explorer librement l’outil et tester différents prompts et leur demander de partager : le modèle qui a donné la réponse la plus claire/utile selon eux ; les différences remarquées entre les modèles. Enfin, expliquer les notions clés rencontrées à partir de la présentation (voir ressources).
Astuce d’animation : pendant cette phase, votre rôle est d’accompagner la découverte, pas de donner un cours magistral. Valorisez les observations des participants et complétez au besoin.
2. Découverte des ressources et reconstitution des grandes étapes de la construction d’une IA générative (1h10) :
Placement des hexagones (15 min)
Objectif : comprendre les grandes étapes de fabrication d’une IA générative.
Consignes d’animation : inviter les participants à ouvrir la Boîte Noire et leur demander de reconstituer le cycle de fabrication d’une IA en plaçant les hexagones dans le bon ordre, en forme de ruche (dans le sens horaire).
Les 6 étapes sont à placer dans cet ordre :
- Extraction et consommation de ressources naturelles ;
- Collecte de données d’entraînement ;
- Traitement des données ;
- Entraînement du modèle ;
- Renforcement du modèle ;
- Usage de l’agent conversationnel ;
- (Retour à l’étape 0/6 pour montrer le caractère cyclique de l’IA).
Point de vigilance : insistez sur la forme circulaire du placement pour montrer que l’extraction des ressources et la consommation d’énergie est à la fois un prérequis et une conséquence de l’IA.
Placement des cartes actions (45 min)
Objectif : approfondir la compréhension de chaque étape.
Consignes d’animation : sortir les cartes actions et les distribuer aux participants (ou mettre le tas de cartes au milieu de la ruche pour que chaque participant puisse piocher). Les participants doivent lire et comprendre les cartes, puis les placer dans l’ordre chronologique sur l’étape hexagonale correspondante.
Options d’animation pour la lecture des cartes :
Option 1 : chaque participant lit à voix haute une carte, l’animateur s’assure que tout le monde a compris.
Option 2 temps de découverte en autonomie pendant lequel chacun lit les cartes, puis les fait circuler.
Option 3 : les participants s’organisent librement.
Conseil : rappelez aux participants que chaque carte comporte un texte en gras (essentiel) et un texte complémentaire. Ils doivent au minimum lire le texte en gras des 24 cartes.
Point important : les cartes doivent être placées sur une seule étape (pas entre deux étapes). Les participants doivent se mettre d’accord sur le placement.
Placement des cartes controverses (10 min)
Les participants doivent discuter et déterminer à quelle étape ils les associent.
Elles peuvent être placées plus librement sur les différentes étapes bien que certaines cartes controverses correspondent davantage à certaines étapes.
3. Débat et conclusion (30 minutes +/- et selon affinités)
Objectif : Discuter des enjeux soulevés par l’IA générative
Options d’animation pour le débat :
Option 1 : l’animateur choisit une carte controverse (sur un des thèmes sur lesquels il est le plus à l’aise)
D’abord débattre à partir de la question au recto (5-10 min).
Retourner la carte et découvrir les différents points de vue au verso.
Poursuivre le débat à partir de la question finale.
Option 2 : le groupe choisit une carte controverse et en débat ensemble
D’abord débattre à partir de la question au recto (5-10 min).
Retourner la carte et découvrir les différents points de vue au verso.
Poursuivre le débat à partir de la question finale.
Option 3 : diviser en 2-3 sous-groupes qui prennent chacun une carte controverse
Chaque groupe débat d’abord sur le recto.
Puis découvre et discute les points de vue au verso.
Les groupes partagent ensuite leurs réflexions.
Conclusion – Tour de table : chaque participant partage en 1 minute ce qu’il a retenu et ce qu’il souhaite faire suite à cet atelier, en s’appuyant s’il le souhaite sur les nombreuses cartes actions (avoir un usage plus responsable ? Se documenter sur une dimension particulière de l’IA générative ?).
Après l’atelier
- Veillez à bien rassembler les retours des participants. Pensez par ailleurs à immortaliser l’atelier avec quelques clichés par exemple.
- Partagez votre expérience avec les équipes Datactivist à boitenoireia@datactivi.st et du Conseil à bonjour@cafeia.org et lors d’un café animation en ligne le jeudi à 13h30.
Le matériel nécessaire
Le matériel requis est minime : les cartes et fiches de la Boîte noire de l’IA et c’est tout ! Le plus important pour l’animateur reste de se concentrer sur la facilitation des échanges. Vous pouvez également imprimer les différentes cartes et fiches.
Assurez-vous également que la salle utilisée pour l’atelier offre suffisamment d’espace et que chacun y dispose d’une place assise. Pensez également à des petites choses à boire ou à grignoter, mais de l’eau et des gobelets font très bien l’affaire si le temps est court.
Comment devenir animateur de La boite noire de l’IA ?
Pour devenir animateur de La Boîte noire de l’IA, rien de plus simple ! Les cartes développées par les créateurs du jeu, disponibles gratuitement sur le site de Datactivist, sont remplies de conseils à destination des futurs animateurs. Vous pouvez également vous référer à la foire aux questions disponible sur le site de Datactivist.
Enfin, n’hésitez pas à rentrer directement en contact avec Datactivist via l’adresse suivante : boitenoireia@datactivi.st.
Comment se procurer le jeu ?
La Boîte noire de l’IA est téléchargeable gratuitement en version numérique imprimable depuis le site de Datactivist.
Vous êtes proche de Nantes ? Des boîtes de jeu sont également disponibles en prêt. N’hésitez pas à en faire la demande auprès de fanny.giraudeau@nantesmetropole.fr et julie.SWARTVAGHER@nantesmetropole.fr.
Qui est à l’origine du jeu ?
Datactivist. Datactivist est une société coopérative (SCOP) spécialisée dans l’ouverture et la médiation des données et dont la mission est de donner à toutes et le pouvoir de comprendre et d’agir pour plus de démocratie, de justice et de résilience.
Nantes Métropole. Ce projet s’inscrit dans le cadre de la démarche “Nantes débat de l’IA” lancée en mars 2024 par Nantes Métropole qui vise à questionner collectivement les enjeux de l’IA et favoriser une culture commune grâce à la mobilisation des acteurs numériques du territoire. En s’appuyant du réseau des professionnels de la médiation numérique de Nantes Métropole que la collectivité anime depuis 10 ans, en collaboration avec Ping, 52 structures, associatives et publiques du territoire, qui accompagnent au quotidien les métropolitains dans leurs pratiques du numérique, ont participé à l’élaboration de ce jeu pour permettre une meilleur acculturation à l’IA et ainsi favoriser des usages éclairés du plus grand nombre.