La semaine de l’IA pour tous a été une semaine de déplacements intenses. Mais, contrairement à notre habitude, l’équipe de Café IA s’est peu déplacée pour animer des cafés IA. Nous sommes surtout allés observer les pratiques des animateurs, qui, partout en France, ont fait vivre l’évènement. Pour une fois, nous étions spectateurs plutôt qu’animateurs. L’occasion de prendre un peu de recul sur la démarche. Tentons d’en dresser un rapport d’étonnement.
La première chose qu’on doit noter, c’est que le principe des Cafés IA est partout bien assimilé. Si certains animateurs monopolisent parfois la parole (voir ce que nous disions sur l’importance à faire circuler la parole en évoquant « l’intelligence collective appliquée »), les principes de la discussion et de l’échange restent souvent premiers. La découverte d’outils semble plus présente que nous ne la promouvons, et elle produit des discussions de fonds qui ne doivent pas être déconsidérées, bien au contraire. Contrairement aux jeux, la découverte d’outils permet parfois de politiser plus avant les enjeux pour autant que cette découverte ouvre un espace commun plutôt qu’elle n’enferme le public dans un usage individuel. Ce que je veux dire par là, c’est que lancer des pratiques individuelles d’outils ne génère pas la même participation ni les mêmes discussions que quand l’atelier permet de l’appréhender en groupe, ce qui produit à la fois plus d’entraide entre les participants et plus de critiques sur ce que les outils font, permettant de mieux en percevoir les forces et les limites. L’enjeu n’est pas tant que les gens manipulent, mais qu’ils observent de concert.
La critique de l’IA est partout mais reste confuse, désorientée
La seconde chose qui m’a frappé lors de cette semaine, c’est que la semaine de l’IA pour tous a été d’abord une semaine de critiques nourries sur l’IA. Si tout le monde évoque la puissance des outils, même les promoteurs de l’IA en pointent des limites dans leurs homélies. Ceux qui défendent l’expérimentation en situation, expriment toujours au moins des précautions d’usages, comme le fait « qu’il n’y a pas d’IA sans gouvernance » ou que l’humain doit toujours rester au cœur du dispositif. Les formules peuvent paraître creuses, elles expriment néanmoins une vigilance, une inquiétude qui n’est pas seulement rhétorique. On entend souvent par exemple que des expérimentations ont été lancées, mais n’ont pas été finalisées, mais que le processus a permis de reposer des questions et de réorienter des pratiques.
Le discours sur l’IA n’est pas tant lénifiant, qu’argumentatif, c’est-à-dire qu’il en présente souvent des forces et des limites. Cela ne produit pas nécessairement des cadrages radicaux ou très technocritiques, bien sûr, mais des animateurs au public, des présentateurs aux experts, tout le monde semble avoir bien compris que tout ce que l’IA raconte, produit, reste à prendre avec des pincettes. « Sans notre intelligence, ces IA ne le sont pas toujours », disait pertinemment une animatrice dans un Café IA organisé par France Travail. Bien sûr, les critiques restent souvent superficielles, procédurales, assez peu politisées (même si on a entendu un discret mais sincère « le risque c’est que l’IA soit uniquement au service du patronat »). Confuses surtout, à l’image des productions mêmes de l’IA génératives. C’est un peu comme si à l’époque des machines qui parlent, leur désorientation nous désorientait en retour.
Même quand on chante le déploiement d’une IA souveraine comme le faisait l’un des intervenants au colloque IA et action publique qui se tenait à Nancy, les digressions critiques sont nombreuses. La difficulté, c’est qu’elles proviennent d’innombrables positionnements politiques, ce qui rend leur lecture difficile. Dans de mêmes espaces se côtoient à la fois des critiques écologiques, libertariennes, souveraines, anticapitalistes… tant et si bien qu’on ne sait laquelle est pertinente pour orienter son regard. Les enjeux demeurent confus. L’enjeu est-il de produire une IA responsable et frugale ? Une IA souveraine et libérale ? L’enjeu est-il technique ou organisationnel ? Les excès que l’on voit partout passer dans l’actualité sont toujours pointés du doigt : que ce soit le risque de désinformation, d’automatisation du travail ou d’autonomisation des systèmes pour faire la guerre. Mais ils sont souvent relativisés quand ils ne sont pas évoqués comme inéluctables. Et le caractère inéluctable de l’IA semble très partagé : ce que répètent nombre de ceux qui en présentent les enjeux est qu’il va falloir faire avec. Les apôtres trop zélés ne sont pas encore hués (cela commence pourtant à être le cas, ailleurs), mais on sent bien que l’inéluctabilité finit par agacer de plus en plus de gens, qui se sentent coincés par l’évolution de ces outils. On a l’impression que nous n’avons pas de marge de manœuvre, comme le montre la couverture du dernier numéro de Wired, titrant « IA ou mourir en l’essayant ». Comme si face à l’IA tout était déjà joué, voire perdu.
La critique reste confuse. Elle s’exprime sur les enjeux sans parvenir toujours à les mettre en perspective, à les construire, à les ordonner… Loin d’être une technocritique structurée, organisée, politisée, les utilisateurs sont agités de questionnements, de perspectives qu’ils peinent à saisir dans le flux de l’accélération dans laquelle ils sont pris. Il faut dire que l’accélération n’aide pas à y voir clair. Pour beaucoup le sujet est complexe et le flot de nouveautés dépasse tout un chacun. Personne ne se sent à l’aise dans sa pratique. Tout le monde se sent dépassé, même ceux dont les pratiques sont les plus actives. Et plus les utilisateurs tentent de monter dans le train, plus il accélère. Pas étonnant que ces ressentis génèrent une forme de malaise diffus.
On trouve bien sûr d’autres formes de confusion qui sont au cœur des limites de tout exercice qui parle d’IA. Celles d’évoquer des sujets que personne ne maîtrise vraiment, qui se noient dans des propos qui peuvent tourner au café du commerce. Des formes d’ambivalences ou de relativisme, des conclusions faciles, des raccourcis problématiques. La productivité et l’automatisation sont toujours positivées, rarement questionnées. Les questions de santé également. Les enjeux écologiques préoccupent tout le monde, mais sont peu mis en perspectives. Les défis et les risques sociétaux sont vus de la même manière, souvent édulcorés de peur d’effrayer. Les impacts, de la destruction d’emploi à la fracture numérique posent des problèmes auxquels « il faudra réfléchir ». Les biais et discriminations sont peu perçus comme des limites à la performance. La montée de la surveillance est abordée, mais elle est renvoyée au score social chinois ou au seul capitalisme de surveillance des Gafams… Jamais aux outils et déploiements que l’on met soi-même en place. Bref, la critique est bien là, mais elle n’est pas structurée.
L’information est partagée, mais demeure très segmentée : on a lu une chose dessus… et on passe à une autre. On évoque le fait que la plupart des modèles sont devenus payants et que l’accès est devenu plus compliqué pour tout un chacun… mais il suffit d’attendre demain pour obtenir de nouveaux crédits pour continuer ses échanges… On réagit aux dernières informations (« on parle des annonces de Google qui ont été faites hier ! »), mais on ne leur donne pas de profondeur. La critique est souvent superficielle, légère… et traduit bien plus une forme de fascination pour ces outils, ces évolutions et leur accélération qu’elle ne produit de mises en perspectives.
Des ateliers aux conférences, bien souvent, on construit une critique par petits bouts, entre amusements et anecdotes. Sous les rires, omniprésents, les questions sont bien là, mais les perspectives sont surtout inexorables. Là, on expose les pistes d’usage responsable (la transparence, l’éducation, la diversité ici, la sobriété, la souveraineté, l’éthique par là…), mais elles semblent surtout inatteignables. On s’en désole gentiment. « On verra bien de quoi l’avenir sera fait ». On a l’impression d’être parfois dans un espace entre l’information et la désinformation, dans un espace liminal entre les mondes. Entre la télé et le bistrot. Quand certains ne savent pas vraiment répondre, ils font néanmoins comme les chatbots, ils répondent quand même en disant parfois un peu n’importe quoi. On répète aux utilisateurs qu’il ne faut pas mettre d’informations personnelles… et on leur explique comment y publier son CV pour observer si l’IA fait des recommandations d’améliorations pertinentes. On retiendra celles qui nous parlent, pas nécessairement celles qui devraient être le plus efficaces…
Un besoin d’accompagnement inapaisable
« L’IA, c’est une jungle, on ne sait pas par quoi commencer ni comment monter en compétence ». Beaucoup de gens sont à la recherche de repères, d’assistance pour les aider à comprendre. Chez les participants aux Cafés IA, les gens veulent tester, appréhender, se faire eux-mêmes leur opinion. Dans les ateliers, partout, on entend l’envie d’apprendre, de savoir faire et de comprendre. Souvent, passé les présentations et les précautions, le public est invité à pratiquer ou à observer dans le détail le fonctionnement d’un outil. La découverte à plusieurs est à la fois un moyen pour pratiquer, s’encourager, s’entraider face à l’adversité, découvrir des pratiques qu’ils ne connaissaient pas, de trouver des astuces pour les utiliser autrement, et toujours, de pointer leurs limites.
Face à l’accélération des outils, les gens sont à la recherche de repères, comme cette dame qui souhaitait trouver des modalités pour valider ses compétences en IA parce que les employeurs en demandent. On demande aux gens désormais de maîtriser l’IA, mais sans que cette maîtrise ne soit définie et sans accès à des formations dont l’apport n’est pas toujours clair, comme nous le disions dans une de nos brèves (Offres d’emploi : maîtrise de l’IA exigée !). Beaucoup d’utilisateurs ont l’impression d’avoir des usages basiques et des demandes basiques. Tous cherchent à en tirer un meilleur usage, mais sont assez démunis pour apprendre comment faire (peu pensent à demander à l’IA de les accompagner, ce qui montre que le réflexe n’est pas là). Les gens souhaitent mieux maîtriser les outils, apprendre des pratiques plus sophistiquées et plus fines. Mais, pour beaucoup, il demeure très difficile de saisir, là où l’IA est utile et là où elle ne l’est pas. « L’IA devrait apprendre à parler au conditionnel », fait remarquer pertinemment une participante.
C’est un peu comme si, face à la confusion des réponses, à la charge de la vérification, il était rassurant d’être à plusieurs pour affronter les machines. Comme si l’individualisation des usages nécessitait en retour de renouer avec des échanges, comme si la confrontation avec les machines rendait l’humain plus nécessaire que jamais pour mettre ses productions en perspective ou à distance.
Dans un autre débat autour des impacts de l’IA sur la scolarité, un intervenant, prof en collège, soulignait l’importance à accompagner les pratiques. C’est par elles que se diffuse un regard critique sur ce que les machines produisent. Tous reconnaissent que l’utiliser convenablement demande finalement beaucoup de travail, contrairement à ce « ça me fait gagner du temps » qu’on entend ad vitam aeternam, comme si les chatbots nous avaient transformés nous-mêmes en robots répétant les mêmes mèmes.
Face à la puissance, une inquiétude généralisée
Mais ce que je retiens avant tout de cette semaine, c’est le sentiment d’inquiétude que tout le monde finit par exprimer à un moment ou un autre. On sent souvent une forme de fascination terrifiée (« C’est tellement ludique, on peut passer sa journée dessus »). Si lesavis et retours d’expériences sur l’utilité sont souvent tranchés, les perspectives que l’IA dessine pour demain restent plus inquiètes : certains veulent « rester confiants » (ce qui n’est pas tout à fait l’être), d’autres expriment plutôt de l’inquiétude, la crainte d’être distanciés.
Le rapport distant à l’information sur l’IA, le relativisme et la confusion catalysent pourtant quand on est invité à prendre des exemples concrets et notamment quand on invite les utilisateurs à utiliser à leur tour ou quand on leur montre le potentiel des outils. Lors d’un des ateliers auquel j’assistais, l’animateur a montré en profondeur le fonctionnement de quelques outils. Il a créé une chanson sur Mureka depuis le Corbeau et le Renard, en montrant qu’il suffisait d’appuyer sur un bouton pour changer de style. « L’humain n’a plus qu’à choisir et valider ». On est dans l’amusement et la fascination de pouvoir faire des choses dont on ne se croyait pas capable. « Entre être chanteur ou être musicien demain… Peut-être vaudra-t-il mieux être spécialiste de Mureka ? ». Il passe à une démo de NotebookLM. Y injecte le PDF d’un des livres les plus lus qui soit. D’un clic, il en produit un résumé et une analyse. D’un autre le transforme en podcast, en vidéo, en carte mentale, en jeu de slides, en quizz…
D’un coup, dans la magie de l’IA, tout devient synthèse. Même la carte mentale oublie son objet, celle de nous aider à mémoriser puisqu’on n’a plus à la faire. La présentation est très belle, mais à quoi sert-elle encore ? Même chose pour le podcast… Mais ce qui me frappe, ici, c’est l’absence de société. On écoute une synthèse qui semble en partie pertinente certainement, qui éclaire une lecture, mais sur un contenu qu’on n’a plus eu besoin de lire et dont chacun n’a que de vagues souvenirs. L’explication est bien là, mais personne ne la lira, ne partagera vraiment ce qui est écrit, comme si l’analyse produite n’avait plus de valeur sociale ou intellectuelle… L’exemple finit par être comme toujours vertigineux. Tout est produit et nul n’a acquis quoi que ce soit. On ne sait pas si le public a le souffle coupé ou repart inquiet, s’il prend la mesure de la démonstration. (« Et tout ça c’est gratuit ! Bel avenir ! Ah ah ah »). Le public reste assez silencieux face aux démonstrations. Même après avoir écouté une vidéo où un philosophe annonce la fin du métier de traducteur.
J’ai surtout l’impression que les gens repartent glacés. Les résultats sont peut-être très imparfaits, mais cela n’a pas d’importance. Ce que les gens ont vu, c’est la facilité. Ce qui les inquiète, c’est de comprendre que faire un résumé de livre, une présentation, des quizz leur aurait pris, à eux, beaucoup de temps. Pour ceux qui ne savaient pas bien ce que c’était, la découverte de l’IA ressemble à une douche froide.
En retournant au RER, je reprends la lecture d’un livre sur Maven, le système d’IA américain pour faire la guerre. Le contraste est saisissant. Entre ce Café IA dans une salle en bas d’une barre d’immeubles d’une petite ville de l’Essonne et la guerre automatisée, on a parlé d’une même chose… Une grande puissance qui ici comme là-bas nous laisse démunis, vulnérables, impuissants. De la monstration des outils d’aujourd’hui à ceux qui se profilent demain, la sensation reste la même, celle que le fossé de notre impuissance s’est terriblement creusé.
Tu m’étonnes qu’à mesure que les gens découvrent ces outils, la colère monte… partout. Pour Mme et M. Toutlemonde, c’est notre capacité même à faire, à être, qui semble remise en cause. Devant la puissance de ces outils à produire une chanson, une vidéo, une présentation, une analyse… qui demanderait à chacun d’entre nous du temps et des savoir-faire, c’est le sentiment de dépassement qui est inéluctable. Chacun semble découvrir que ces outils sont plus forts que nous. Bien sûr, ils ont des faiblesses, des défaillances problématiques… Bien sûr, leurs productions sont loin d’être fiables…. Mais le ressenti premier tient bien de la peur. Tout le monde entend que se mettre à jour ne va pas être simple. Et que l’avenir va être plus compliqué qu’il n’est.
« Personne ne doit rester sur le bord du chemin numérique », disait une autre personne cette semaine. Ça va quand même être un peu compliqué.
