Co-concevoir sa charte autour de l’iA

Un Café IA vise avant tout à être le point de départ d’actions concrètes et enrichissantes pour ses participants, que ce soit à l’échelle individuelle ou collective. Un charte peut permettre de formaliser un cadre d’usage et d’édicter des grands principes communs, tout en ouvrant une conversation transparente et pluripartite sur la façon dont nous souhaitons collectivement nous emparer ou non de l’IA.

Parmi les nombreux débouchés possible d’un Café IA, la co-conception d’une charte autour de l’intelligence artificielle est une opportunité de :

• Susciter une conversation sur les outils d’intelligence artificielle utilisés dans un certain contexte, leurs fonctionnement et éventuels dysfonctionnements et la façon dont nous souhaitons collectivement les utiliser ou ne pas les utiliser. 
• Réunir autour de la table des participants aux points de vue, activités et façons d’utiliser l’IA divers voire divergents ; 
• Établir un guide partagé de bon usage ou de non-usage de l’IA ; 
• Disposer d’un support de transparence vis-à-vis de l’extérieur (clients, partenaires, grand public, régulateurs…).

Cette co-conception évite les rédactions unilatérales, parfois déconnectées des réalités de terrain et renforcera l’appropriation des principes édictés, en impliquant l’ensemble des parties prenantes pour aboutir à un document mieux accepté, mieux appliqué parce que plus représentatif et adapté au contexte d’usage. 

La co-conception de chartes est notamment particulièrement adaptée aux Cafés IA dans le milieu professionnel (entreprises, associations, administrations, collectivités territoriales…) ou à l’école. Mais elle peut aussi être pertinente dans d’autres contextes. En fonction de votre situation, n’hésitez pas à vous en emparer. 

La préparation de cette charte peut-être le débouché d’un ou plusieurs Cafés IA antérieurs, voire l’objectif même d’un Café IA. 

Ces chartes peuvent avoir plusieurs objectifs, en particulier :

• Guider et encadrer les usages individuels : ces chartes encadrent les comportements, pratiques ou responsabilités des individus (employés, étudiants, chercheurs, agents publics…) lorsqu’ils utilisent des outils d’IA dans le cadre de leur activité ou de leur formation.
  L’objectif est de :
  • Démystifier l’IA auprès du grand public.
  • Recueillir les attentes, les inquiétudes et les propositions des citoyens.
  • Renforcer la transparence, la confiance et la lisibilité autour des politiques publiques en matière d’intelligence artificielle. 
• Encadrer l’offre de services d’IA : ces chartes encadrent les services proposés intégrant de l’IA et et apportent des garanties aux utilisateurs finaux.
  L’objectif est de :
  • Faire preuve de transparence sur l’usage de l’IA par l’organisation et démontrer l’engagement de l’organisation envers une IA éthique et responsable.
  • Préciser les droits des usagers : recours, explication, correction…
  • Rappeler les principes qui entourent les systèmes conçus : fiabilité, sécurité, non-discrimination…
    
• Établir une stratégie organisationnelle ou institutionnelle sur l’IA : ces chartes plus généralistes visent à communiquer sur la stratégie d’une organisation à propos de l’IA et fixer des orientations collectives d’ensemble. Elles interviennent souvent en amont d’actions concrètes.
  L’objectif est de :
  • Affirmer une position de principe sur l’IA et des engagements éthiques. 
  • Guider les actions à venir en les intégrant dans une vision cohérente. 
  • Servir de cadre de référence partagé vis-à-vis des collaborateurs en interne et des partenaires en externe.
  • Préciser les actions entreprises par l’organisation pour accompagner ses collaborateurs dans cette transition.
    
• Guider et encadrer le développement et la conception de systèmes d’IA : ces chartes encadrent les pratiques des concepteurs, ingénieurs, data scientists ou chercheurs dans la phase de conception, entraînement et test des systèmes IA.
  L’objectif est de :
  • Encourager à intégrer les principes éthiques dès la conception des outils, “by design”.
  • Garantir la transparence, la traçabilité et l’explicabilité des systèmes conçus. 
  • Clarifier les rôles et responsabilités de chacun.
  • Établir des critères d’ajustement voire d’arrêt des projets en cas de dysfonctionnements sérieux.
    
• Établir la gouvernance et la supervision de l’IA : ces chartes définissent les modalités de pilotage, de contrôle et d’évaluation des systèmes d’IA déjà en place. Elles peuvent par exemple prévoir des audits, des comités éthiques, des indicateurs de performance ou de conformité…
  L’objectif est de : d’idées au plus près des territoires en :
  • Favorisant les synergies entre acteurs d’une même zone géographique. 
  • Permettant de co-construire des usages de l’IA adaptés aux besoins réels. 

Certaines chartes peuvent bien sûr combiner ces différentes dimensions et cette liste n’a pas vocation à être exhaustive mais plutôt à montrer la diversité de chartes qui peuvent exister.

Au regard du caractère évolutif des systèmes d’intelligence artificielle, il est important de prévoir des mécanismes de mise à jour régulière de la charte établie, en fonction des évolutions technologiques, légales ou liées au contexte d’utilisation de la charte. En fonction du contexte, il est également important d’associer les partenaires sociaux à la conception de cette charte. Là encore, les Cafés IA peuvent être mobilisés et permettent d’assurer des échanges ultérieurs sur la mise en œuvre de la charte et ses éventuelles évolutions. 

Nous vous proposons ci-dessous des exemples de chartes classées par thématique. Si vous avez d’autres chartes à porter à notre connaissance pour enrichir ce guide, écrivez-nous à bonjour@cafeia.org. N’hésitez pas à nous partager également les chartes que vous auriez co-conçues lors d’un Café IA !