Charte IA

Qu'est-ce qu'une charte IA ? Définition simple

Une charte IA est un document interne qui fixe les règles d'usage, de développement, de gouvernance et de contrôle des systèmes d'intelligence artificielle au sein d'une organisation. Elle précise ce qui est autorisé, ce qui est interdit, qui décide et qui contrôle. Dans le service public, cette charte d'utilisation devient particulièrement utile face à l'adoption croissante de l'IA : agents conversationnels, génération de contenus, aide à la décision ou automatisation de tâches. Elle pose un cadre clair avant que les pratiques ne se diffusent de manière désordonnée, garantissant ainsi une utilisation responsable et transparente.

Le premier enjeu d'une charte IA est de réduire le flou organisationnel. Sans cadre écrit, les usages de l'IA peuvent se multiplier de façon hétérogène, avec des interprétations différentes selon les métiers, les prestataires ou les équipes. La Commission européenne souligne qu'en l'absence d'une politique IA, les organisations s'exposent à des risques de confusion, de désalignement entre les pratiques des salariés et les valeurs de l'organisation, ainsi qu'à des incidents pouvant produire des effets réputationnels, financiers ou juridiques.

Le deuxième enjeu est celui de la gestion des risques. Une charte IA permet d'anticiper les risques de fuite de données personnelles, d'usage inapproprié d'outils génératifs, de biais, d'atteinte à la vie privée ou de mauvaise répartition des responsabilités.

Enfin, un autre enjeu de la charte IA est de prendre en compte la conduite au changement. Celle-ci joue justement un rôle clé dans l'accompagnement des transformations induites par l'IA : modification des rythmes de travail, évolution des relations professionnelles ou encore redéfinition des tâches. Elle peut devenir un levier de dialogue social.

Définition technique d'une charte d'intelligence artificielle

Sur le plan technique et organisationnel, une charte d'intelligence artificielle n'est pas une loi : c'est un document de gouvernance interne qui précise comment une organisation entend développer, déployer, utiliser et superviser des systèmes d'IA. Elle traduit les recommandations européennes en règles concrètes et applicables.

Une charte d'utilisation de l'IA couvre généralement plusieurs dimensions :

• les principes directeurs : finalité, proportionnalité, contrôle humain, transparence, explicabilité, sécurité, qualité ;
• les rôles et responsabilités : direction, DSI, métiers, conformité, juristes, RSSI, DPO, responsables de projet ;
• les règles d'usage : outils autorisés, données concernées, usages permis, limites à respecter ;
• les mécanismes de validation et de contrôle : analyse de risque, traçabilité, documentation, revues internes, audits, suivi des incidents ;
• les mesures d'accompagnement : formation, sensibilisation, support, dialogue social, mise à jour du cadre.

Ces éléments correspondent aux grands axes mis en avant par les travaux européens sur la gouvernance de l'IA et par les recommandations de la CNIL sur la conformité et la maturité des systèmes d'IA.

Cadre juridique et réglementaire d'une charte IA dans l'administration

La Commission européenne décrit l'AI policy organisationnelle comme un cadre servant à guider l'usage et le développement des systèmes d'IA dans une entreprise ou une institution, afin de rendre la gouvernance concrète et applicable. La charte ne remplace pas la loi, mais elle traduit ces exigences en consignes concrètes pour les collectivités et les administrations. Elle précise comment identifier les finalités, qualifier les responsabilités, réaliser une analyse d'impact si nécessaire et sécuriser les traitements.

Une charte IA s'inscrit dans un environnement structuré par le RGPD, les recommandations de la CNIL et l'AI Act européen, entré en vigueur le 1er août 2024. Ce dernier, premier cadre législatif mondial sur l'intelligence artificielle, classe les systèmes selon leur niveau de risque et fixe des obligations proportionnées.

Enfin, la charte IA a un impact sur la conduite du changement et l'intégration de principes éthiques. L'Anact rappelle que les transformations liées à l'IA touchent aussi les temporalités, les rythmes de travail, les relations professionnelles et le contenu du travail. Une charte IA responsable peut alors devenir un outil de dialogue et de clarification, intégrant des valeurs comme la transparence, la proportionnalité et la supervision humaine, plutôt qu'un simple document de conformité.

Cas d'usage d'une charte IA dans les collectivités

L'IA générative, qu'elle soit utilisée en collectivité ou en entreprise, nécessite un cadre spécifique en raison de ses usages étendus et de ses risques particuliers : fuite de données, biais algorithmiques, dépendance aux fournisseurs ou génération de contenus inappropriés. Une charte IA doit donc prévoir des règles pour la rédaction assistée, la synthèse documentaire, la détection de fraude ou l'analyse prédictive.

Dans une collectivité territoriale, elle encadre l'usage d'agents conversationnels, d'outils de résumé automatique, de génération de documents, d'analyse de comptes rendus ou d'assistance à la relation usagers. Elle précise quels types de données peuvent être saisis dans un outil, quels usages doivent rester sous validation humaine, comment gérer la confidentialité et quels services sont autorisés à expérimenter ou déployer des solutions d'IA. La charte cadre également l'usage d'outils génératifs par les salariés (ChatGPT, Copilot).

Par exemple, le département d'Ille-et-Vilaine s'est doté d'une charte éthique élaborée par des groupes de travail associant 24 agents de métiers différents. Le portail ALLiaNCE, mis en place par numérique.gouv.fr, recense les chartes publiées par les administrations françaises afin de favoriser le partage de bonnes pratiques et d'encourager une IA éthique au service de l'intérêt général.

Dans les secteurs fortement régulés comme la santé, la charte IA complète les recommandations spécialisées, telles que le guide HAS-CNIL sur le bon usage des systèmes d'IA en contexte de soins, qui insiste sur l'organisation interne, la gouvernance, la contractualisation adaptée et l'encadrement des usages pour les établissements et professionnels concernés.