Comment Nantes (44) encadre les usages et le déploiement de l’intelligence artificielle via sa "boussole de l’IA" ?

Face à la diffusion rapide de l’intelligence artificielle dans les organisations publiques et à la multiplication d’offres technologiques parfois peu lisibles, Nantes Métropole a choisi de se doter d’un cadre clair pour encadrer les usages de l’IA. Publiée en 2024, la « boussole de l’IA » traduit une doctrine politique et opérationnelle visant à interroger systématiquement la pertinence, les impacts et les risques des projets intégrant de l’intelligence artificielle. Conçue comme un outil d’aide à la décision, elle permet d’évaluer chaque projet au regard de sept critères exigeants, déclinés en une grille d’analyse détaillée, et d’ancrer les choix technologiques dans une gouvernance collective et assumée.

En quoi consiste concrètement votre projet et quels en sont les principaux objectifs ?

En 2024, Nantes Métropole a établi une doctrine qui définit « un cadre de régulation » pour le recours à l’IA dans ses politiques publiques. Il s’est concrétisé par la mise en place la même année de la "boussole de l’IA" qui est un outil opérationnel interne mis à disposition des services de Nantes Métropole et de la Ville de Nantes.

Il s’agit d’une grille d’analyse permettant d’évaluer un projet présenté par nos équipes ou une solution d’IA proposée par prestataire selon 7 critères. Visuellement, nous avons représenté cette démarche d’évaluation par une boussole dont chaque point d’orientation correspond à un de ces 7 critères. Un questionnaire intégrant 80 questions permet de couvrir ces 7 critères et au final d’obtenir une évaluation précise de la pertinence du projet ou de la solution.

Définir ces critères a demandé un gros travail, car ils couvrent à la fois les usages des solutions IA, mais aussi leur finalité, leur utilité, leur impact environnemental et surtout leur intérêt pour notre territoire, face à d’autres solutions.

Les 7 critères de notre boussole sont :

• Absence d’identification biométrique et absence de collecte de données sensibles, qui pourraient caractériser un ou des individus susceptibles de générer des biais discriminatoires (notamment caractérisation physique, comportementale, vestimentaire...)
• Conformité au cadre juridique (absence de risque juridique) et à la politique de cybersécurité
• Contribution à l’amélioration du service public
• Contribution à l'amélioration des conditions de travail des agents publics
• Respect des engagements en matière de sobriété énergétique
• Exigence de transparence et redevabilité (sur quelles données ont été entraînées les IA)
• Évaluation du bénéfice par rapport à une solution alternative sans IA (est-ce qu’il y a un vrai besoin d’IA ?)

 

La boussole répond ainsi à des enjeux pratiques : toutes nos directions métier sont régulièrement sollicitées par des offreurs de solutions d’IA. Il nous fallait donc une doctrine pour que les métiers puissent évaluer la pertinence des propositions. Il y a aussi une dimension plus politique qui est de déployer des solutions d’IA utiles et frugales, en cohérence avec notre démarche de numérique responsable.

Comment le sujet s’est-il imposé à l’agenda de votre collectivité ? (Irritants, problématique, besoin, nouvelle obligation légale…)

Les réflexions datent d’avant 2024, suite notamment à l’arrivée de ChatGPT en 2022. Le sujet de l’intelligence artificielle s’est imposé progressivement, à la croisée de plusieurs dynamiques. D’une part, Nantes Métropole s’inscrit depuis de nombreuses années dans une politique ambitieuse de numérique responsable, formalisée notamment par une charte métropolitaine de la donnée et par une stratégie dédiée. Cette culture préalable a naturellement conduit la collectivité à s’interroger sur l’IA dès lors que celle-ci a pris une place croissante dans le débat public.

D’autre part, l’arrivée de solutions d’IA générative largement accessibles (dont ChatGPT) a accéléré les usages, y compris au sein des services. Comme beaucoup d’organisations, la collectivité a constaté l’émergence de pratiques non encadrées ou « shadow IA », avec des agents utilisant des outils grand public sans cadre juridique ou de sécurité clairement établi.

Dans ce contexte, il est rapidement apparu nécessaire de poser un cadre commun pour encourager une innovation reposant sur les besoins nécessaires de la collectivité au bénéfice du service public. Cela nous permet d'éviter une adoption subie.

L’enjeu était aussi de répondre à des inquiétudes légitimes, qu’il s’agisse des impacts environnementaux, des risques de dépendance technologique, des coûts cachés ou encore des effets sur l’organisation du travail. La boussole de l’IA est née de cette volonté de reprendre la main politiquement sur un sujet à forts enjeux.

Quelles sont les sources d’inspiration que vous avez suivies pour vous faire une idée de ce projet ?

Nous sommes quelque peu précurseurs en la matière et il n’y a pas d’autre projet de ce type dont nous nous sommes directement inspirés. Nous avons cependant regardé ce qui se passait ailleurs, comme par exemple l’interdiction de ChatGPT en 2023 par la ville de et la Métropole de Montpellier.

Nous nous sommes également nourris de réflexions portées au niveau national et européen, qu’il s’agisse des recommandations de la CNIL, des débats autour du futur e règlement européen sur l’intelligence artificielle ou des échanges menés dans différents réseaux de collectivités. Des retours d’expérience, des séminaires et des publications spécialisées ont participé à l’identification des principaux points de vigilance et les zones d’incertitude.

Enfin, le dialogue avec les services internes a été déterminant. Les échanges avec les agents, leurs questionnements et parfois leurs réticences ont contribué à façonner un outil pragmatique, centré sur les usages concrets plutôt que sur des principes abstraits. La boussole est ainsi le fruit d’un croisement entre une vision politique affirmée et une approche très opérationnelle, nourrie par le terrain.

Y a-t-il des compétences ou sujets spécifiques à maîtriser avant de se lancer dans ce projet ?

Mettre en place la boussole de l’IA a mobilisé des compétences variées et complémentaires. L’un des enseignements majeurs du projet est que l’IA ne peut pas être traitée comme un sujet strictement technique. Les compétences juridiques sont essentielles, notamment en matière de protection des données personnelles, de conformité réglementaire et d’analyse des risques. La compréhension du cadre européen, en particulier du RGPD et du règlement sur l’IA, constitue un prérequis important.

Les compétences en cybersécurité sont également indispensables, car les systèmes intégrant de l’IA peuvent introduire de nouvelles vulnérabilités. À cela s’ajoutent des compétences organisationnelles et managériales, afin d’évaluer l’impact des projets sur les métiers, les processus de travail et la qualité de vie des agents.

Enfin, une culture du débat et de la transversalité est nécessaire. La boussole repose sur un travail collectif associant directions numériques, ressources humaines, juristes, experts métiers et élus. Il ne s’agit pas d’atteindre une expertise exhaustive en IA, mais de savoir poser les bonnes questions et d’accepter une part d’incertitude, compensée par des choix politiques clairs.

Quelles furent les phases préparatoires du projet ? Avez-vous mené une étude en amont du projet pour définir sa faisabilité et/ou son impact ? (Enquêtes publics…)

La première phase a consisté à formaliser en 2023/2024 une doctrine partagée sur l’intelligence artificielle. Ce travail a été mené collectivement avec des élus et des directions ressources, afin de définir les principes non négociables et les marges de manœuvre possibles. La boussole est ensuite venue traduire cette doctrine en un outil concret, utilisable par les services dès 2024.

Outre l’identification des 7 critères et la rédaction du questionnaire de 80 questions, nous avons élaboré une méthode. Chaque projet est ainsi instruit au regard des sept critères, au sein d’un groupe projet pluridisciplinaire. Cette instruction collective permet d’identifier les bénéfices attendus, mais aussi les risques et les points de vigilance.

Il y a également une validation politique. Une fois l’analyse réalisée, les projets sont discutés en commission associant élus et services, afin d’arbitrer en connaissance de cause. Ce processus garantit que l’IA n’est pas introduite par défaut, mais à l’issue d’un choix éclairé, proportionné aux enjeux du projet.

Après avoir élaboré cette méthode, nous avons testé le dispositif sur de premiers cas d’usage, comme la prédiction des repas à produire pour les cantines scolaires, la qualité de la voirie par analyse d’images ou encore la réduction de la consommation en eau dans les foyers.

Dernière phase, la boussole a été déployée au sein de l’ensemble des services, avec des réunions d’information et des sessions de présentation.

Comment avez-vous assuré le bon dimensionnement du projet ?

Ce n’est pas un projet technique, donc nous n’avons pas eu à dimensionner le déploiement d’équipements ou de ressources particulières. Le seul dimensionnement est celui d’avoir formulé les 7 critères et les 80 questions, ainsi que le choix que la boussole s’impose à l’ensemble des équipes de la ville et de métropole.

Comment la collectivité a-t-elle financé ce projet et quelles ont été les aides sollicitées/obtenues ?

Il n’y a pas eu de budget dédié et il est difficile d’en évaluer le coût. Le projet a demandé plusieurs mois de travail à plusieurs dizaines d’agents. L’élaboration de la boussole s’est appuyée majoritairement sur des ressources internes, mobilisant les compétences existantes au sein de la collectivité.

Quels sont les autres acteurs qui vous ont accompagné dans la préparation et la réalisation de ce projet ?

Partenaire Urban AI : Dans le cadre de notre dispositif de concertation territoriale « Nantes Débat de l’IA », une moisson de travaux, de productions, d’échanges a été récoltée et analysée de manière indépendante par le think tank Urban AI, spécialisé dans l’exploration des phénomènes liés à l’IA urbaine. La méthodologie d’analyse approfondie d’Urban AI a consisté à entrer au cœur des modalités d’expression par une analyse socio-sémiotique. Elle a permis d’identifier et de cartographier les thématiques, les acteurs et les discours qui s’expriment sur le territoire nantais.

Quels conseils donneriez-vous à un élu qui souhaiterait se lancer dans un projet similaire ?

L’intelligence artificielle ne peut pas être considérée comme une simple solution technique : c’est un sujet immensément politique, qui engage notre responsabilité sur les plans démocratique, social, environnemental et éthique. N'oublions pas que les conditions d'extraction des métaux rares qui fabriquent les technologies, et d'entraînement des IA sont majoritairement irrespectueuses des droits humains.

La boussole de l’IA nous permet de poser ces questions afin de déterminer collectivement notre réel besoin au sein du service public.

Le premier conseil serait donc de considérer l’IA comme un sujet politique à part entière. Il est essentiel de clarifier en amont les valeurs et les principes que la collectivité souhaite défendre, afin de disposer d’un cap clair face à des technologies en évolution rapide. Il est également important d’associer très tôt les services et les agents. La boussole n’est pas un outil de contrôle, mais un support de dialogue et de pédagogie. En impliquant les équipes dès le départ, on favorise l’appropriation et on limite les résistances.

Enfin, il faut accepter une démarche itérative. Les connaissances sur l’IA, ses impacts environnementaux ou organisationnels, restent partielles. Plutôt que de chercher une réponse définitive, mieux vaut se doter d’un cadre évolutif, capable de s’adapter aux retours d’expérience et aux évolutions réglementaires.