Une charte IA est un document formalisé par une collectivité locale (ville, métropole, département, région) permettant d’encadrer l’utilisation de l’intelligence artificielle sur son territoire.
Elle permet de définir les grands principes, valeurs et règles à respecter par l’ensemble des acteurs locaux (agents, partenaires, prestataires, citoyens…) afin de garantir un usage à la fois éthique, sécurisé et transparent de l’IA dans les services publics du territoire. Cette charte s’inscrit dans la stratégie de transformation numérique du territoire et vise à instaurer la confiance dans l’adoption de l’IA à l’échelle locale.
Quels sont les grands principes définis dans une charte IA ?
La charte repose généralement sur les principes suivants :
– Transparence : expliciter les finalités, les méthodes et les limites de l’IA utilisée. Il s’agit également de pouvoir signaler le recours à l’IA.
–Équité et inclusion : prévenir les biais algorithmiques et garantir l’égalité d’accès aux services publics. Il s’agit notamment de prendre position contre les dérives de décisions automatisées non justifiées et de garantir un droit d’explication sur toute décision prise par une IA.
–Supervision humaine : l’IA reste un outil d’aide, elle ne se substitue aux décisions humaines.
–Protection des données et vie privée : assurer la sécurité et la confidentialité des données collectées et traitées.
–Durabilité : tenir compte de l’impact environnemental de l’IA.
–Sécurité : prévenir les usages malveillants et se prémunir contre les risques cyber.
Quels sont les enjeux d’une charte IA territoriale ?
Les enjeux sont multiples :
– Éthique et acceptabilité sociale : il s’agit de rassurer les citoyens sur l’encadrement de l’IA, prévenir la déshumanisation des services publics et garantir le respect des droits fondamentaux.
– Souveraineté numérique : il s’agit de renforcer la maîtrise locale des outils et des données, protéger l’intérêt général, et réduire la dépendance aux acteurs privés étrangers.
– Expérimentation et innovation : il s’agit de permettre l’adaptation de l’IA aux réalités territoriales et encourager l’innovation par l’expérimentation responsable.
– Montée en compétence : il s’agit d’accompagner les acteurs locaux (agents, citoyens…) dans l’appropriation des outils d’IA grâce à des actions d’acculturation et de formation
– Coordination et gouvernance : la charte permet de structurer le pilotage des projets IA (création de comités directions de la donnée, référents IA) pour un développement harmonisé sur le territoire.
Ainsi, la charte IA territoriale constitue un levier essentiel pour moderniser les services publics locaux tout en plaçant l’humain, l’éthique et l’intérêt général au centre de la transition numérique.
Quels exemples de chartes IA territoriales ?
Une charte sur l’IA peut être établie à différents échelons territoriaux : la métropole, le département, la région.
Le département d’Ille et Villaine s’est doté d’une « charte éthique de l’utilisation de l’IA et de la donnée ». Elaborée par 24 agents de la collectivité, de métiers différents, cette charte a été approuvée l’assemblée départementale.
La Région Sud Provence-Alpes-Côte d’Azur : a publié un projet de charte d’utilisation de l’IA pour ses services administratifs, centrée sur l’éthique, la conformité RGPD et la localisation des données en France ou en UE.
La métropole de Marseille a établi une charte métropolitaine pour un usage éthique de l’intelligence artificielle
Nantes Métropole dispose d’une Charte Métropolitaine de la Donnée et de l’IA ; elle a mené de nombreux débats publics pour bâtir et mettre à jour ses principes.