Shadow IA : comment endiguer l’IA " clandestine " dans les administrations locales ?
Qu’entend-on par Shadow IA et pourquoi ce phénomène se développe-t-il dans les collectivités ? Le "Shadow IA", que je préfère appeler "IA clandestine", désigne l’utilisation professionnelle d’outils d’intelligence artificielle qui ne sont pas autorisés, reconnus ou encadrés par l’employeur. Dans les collectivités, ce phénomène concerne principalement les outils d’IA générative grand public, comme ChatGPT, Claude, […]
Qu’entend-on par Shadow IA et pourquoi ce phénomène se développe-t-il dans les collectivités ?
Le "Shadow IA", que je préfère appeler "IA clandestine", désigne l’utilisation professionnelle d’outils d’intelligence artificielle qui ne sont pas autorisés, reconnus ou encadrés par l’employeur. Dans les collectivités, ce phénomène concerne principalement les outils d’IA générative grand public, comme ChatGPT, Claude, Gemini ou Perplexity, auxquels les agents peuvent accéder très facilement, y compris depuis leur téléphone personnel.
Le développement de ces usages s’explique d’abord par la simplicité de ces outils. Ils sont intuitifs, fonctionnent en langage naturel et permettent d'obtenir rapidement des résultats. Il n'est plus nécessaire de maîtriser des compétences informatiques particulières pour les utiliser. Beaucoup d'agents les connaissent déjà dans leur vie personnelle et trouvent naturel de les mobiliser dans leur travail, notamment pour rédiger des documents, rechercher des informations, synthétiser des textes ou automatiser certaines tâches.
Il faut comprendre que ces pratiques ne résultent généralement pas d'une volonté de contourner les règles. Les agents cherchent avant tout à gagner du temps et à améliorer leur efficacité. Dans les services publics, où les sollicitations sont nombreuses et les moyens parfois contraints, cette promesse est particulièrement attractive. L'IA peut permettre de consacrer moins de temps à certaines tâches administratives pour en accorder davantage à l'accompagnement des usagers ou aux situations complexes.
Le problème apparaît lorsque ces usages se développent sans que la collectivité en ait connaissance et sans règles clairement établies.
Au Loiret, nous avons pu mesurer cette réalité dès le lancement de notre expérimentation sur l'IA générative, début 2025. Un questionnaire adressé aux 2 300 agents a recueilli environ 170 réponses. Parmi les répondants, une majorité utilisait déjà des outils d'IA dans son travail, alors même que nous n'avions pas encore communiqué de doctrine sur le sujet. Ce résultat ne permet évidemment pas de généraliser à l'ensemble des agents, car ceux qui ont répondu étaient probablement les plus intéressés. Il montre néanmoins que les usages précèdent souvent les décisions de l'employeur.
Pour les collectivités, la première étape consiste donc à reconnaître l'existence de ces pratiques plutôt qu'à considérer qu'elles n'existent pas tant qu'elles ne sont pas officiellement autorisées.
Quels sont les principaux risques associés à ces usages clandestins ?
Le premier risque, et certainement le plus important, concerne la divulgation de données personnelles, notamment celles des usagers. Les collectivités manipulent quotidiennement de nombreuses informations nominatives, parfois particulièrement sensibles.
C'est évidemment le cas dans les départements, qui interviennent dans les domaines de l'action sociale, du handicap, de la protection de l'enfance ou de l'accompagnement des personnes âgées. Mais les communes sont également concernées, par exemple lorsqu'elles gèrent les inscriptions à la cantine, aux centres de loisirs ou aux équipements municipaux.
Un agent peut être tenté de soumettre une situation individuelle à un outil d'IA générative pour obtenir une réponse plus rapidement. Même lorsqu'il agit avec les meilleures intentions, il risque alors de transmettre des informations qui ne devraient pas sortir du système d'information de sa collectivité.
Ces pratiques soulèvent des questions de conformité au RGPD et de responsabilité juridique. Les données sont confiées à des prestataires extérieurs, selon des conditions d'hébergement, de conservation et de réutilisation qui dépendent des outils et des contrats. Il faut aussi prendre en compte, selon les fournisseurs, les enjeux liés à l'extraterritorialité du droit.
Cela ne signifie pas qu'il faille considérer toutes les données des collectivités comme confidentielles. Une grande partie des documents produits par les administrations a vocation à être publique : délibérations, arrêtés, décisions ou rapports, sous réserve des informations qui doivent être protégées. Il faut donc apprendre aux agents à distinguer les informations qu'ils peuvent utiliser de celles qui ne doivent jamais être communiquées à un service externe non autorisé.
Au Loiret, nous avons notamment expérimenté l'utilisation de Perplexity pour aider des agents intervenant dans le domaine de l'autonomie à retrouver rapidement des informations réglementaires. Nous leur avons expliqué qu'ils pouvaient interroger l'outil sur une situation générique, mais sans communiquer le nom, le prénom ou les informations personnelles de l'usager. Malgré ces consignes, nous avons repéré une requête contenant des données nominatives. Cela montre combien la vigilance doit rester permanente.
Un deuxième risque concerne la cybersécurité. Les outils utilisés en dehors du cadre fixé par la collectivité peuvent échapper à sa politique de sécurité. Le risque devient particulièrement important lorsque des agents développent, avec l'aide de l'IA, des applications ou des programmes connectés aux fichiers et aux ressources informatiques internes. Des accès insuffisamment maîtrisés peuvent alors créer de nouvelles vulnérabilités.
Enfin, le Shadow IA pose une question organisationnelle. Lorsque des agents utilisent clandestinement ces outils, leurs gains de productivité restent invisibles. La collectivité ne peut ni les mesurer ni réfléchir à la meilleure manière de réaffecter le temps gagné. Ces usages peuvent également accentuer les différences entre les agents qui maîtrisent déjà l'IA et ceux qui ne l'utilisent pas. L'enjeu est donc aussi d'éviter une nouvelle fracture numérique au sein des équipes.
Faut-il interdire les outils d'IA générative pour protéger les collectivités ?
À mon sens, il vaut mieux encadrer les usages que les interdire. Certaines collectivités ont initialement choisi de bloquer l'accès à ChatGPT ou à d'autres outils. Cette démarche peut se comprendre, notamment lorsqu'elles ne disposent pas encore d'un cadre d'utilisation et qu'elles souhaitent se prémunir contre les risques.
Mais une interdiction ne fait pas nécessairement disparaître les pratiques. Les agents disposent aujourd'hui de ces outils sur leurs smartphones personnels. Si l'employeur bloque les accès depuis le réseau professionnel, certains continueront à les utiliser autrement, sans en parler. On risque alors d'encourager précisément les comportements clandestins que l'on cherche à éviter.
Par ailleurs, contrôler individuellement l'utilisation de ces outils n'est ni simple techniquement ni sans contraintes juridiques.
C'est pourquoi je recommande une démarche fondée sur la confiance, la responsabilisation et la pédagogie, accompagnée de règles explicites. L'employeur doit reconnaître l'intérêt de l'IA, tout en précisant les conditions dans lesquelles elle peut être utilisée.
C'est l'orientation que nous avons retenue au Loiret dès janvier 2025. Nous avons choisi de ne pas interdire les outils grand public et d'autoriser les agents à créer des comptes avec leur adresse professionnelle, tout en mettant en place une charte et un dispositif d'accompagnement. Nous avons également beaucoup communiqué sur notre expérimentation afin de montrer que la collectivité s'intéressait au sujet et que les agents pouvaient en parler ouvertement.
Cette approche n'est pas dénuée de risques. Une interdiction explicite peut offrir à la collectivité un cadre juridique plus protecteur en cas d'usage non autorisé. Mais elle ne constitue pas, à elle seule, une réponse suffisante au phénomène. Notre conviction est qu'il faut avant tout faire évoluer les comportements.
Quelles bonnes pratiques recommandez-vous pour encadrer les usages de l'IA ?
La formation, l'information et la sensibilisation des agents sont indispensables. Mais il faut également disposer d'un cadre écrit, à travers une charte qui précise clairement ce qui est autorisé et ce qui ne l'est pas. Je pense qu’il faut d’ailleurs commencer par cette charte, puis mettre en place les sessions de formation.
Je recommande de construire cette charte avec la DSI, le RSSI, le DPO, les ressources humaines, la communication interne et les représentants des agents.
La charte doit rester simple et compréhensible. Elle doit notamment rappeler l'interdiction de transmettre des données personnelles ou nominatives d'usagers à des outils d'IA non autorisés à les traiter. Elle doit aussi préciser les usages permis et les obligations de vérification des contenus générés.
Il faut également aborder les questions éthiques. Par exemple, lorsque l'IA a joué un rôle déterminant dans la production d'un document ou d'un travail, il me semble important de le signaler. C'est une disposition que nous avons ajoutée à la deuxième version de notre charte.
Une fois ce cadre établi, on peut donc former les agents à son application. Et la formation ne doit pas se limiter à une présentation des risques juridiques. Elle doit d'abord expliquer ce qu'est une IA générative, comment fonctionnent les modèles de langage et pourquoi ils peuvent produire des erreurs.
Nous insistons notamment sur la nécessité de vérifier systématiquement les réponses. Un agent doit conserver son esprit critique et ne pas s'appuyer sur un résultat qu'il n'est pas capable de contrôler ou d'expertiser lui-même.
La formation doit aussi être pratique. Il faut montrer les possibilités offertes par ces outils, en présentant des cas d'usage concrets, tout en expliquant les précautions nécessaires à chaque étape.
Au Loiret, nous avons rendu la formation obligatoire pour l'ensemble des cadres hiérarchiques. Nous organisons également des webinaires réguliers, désormais hebdomadaires, et avons formé 35 référents IA répartis dans nos 21 directions. Leur rôle consiste notamment à accompagner leurs collègues et à diffuser les bonnes pratiques au plus près des métiers.
Il faut enfin considérer que cette sensibilisation n'est jamais terminée. Les outils évoluent rapidement, de nouveaux usages apparaissent et les agents ont besoin de rappels réguliers.
La mise à disposition d'outils officiels et une gouvernance dédiée peuvent-elles contribuer à limiter le Shadow IA ?
Oui, car il est important que les agents disposent de solutions identifiées et accompagnées par leur employeur. Cela ne signifie pas nécessairement imposer un outil unique, mais proposer un environnement de travail dans lequel les usages peuvent être mieux maîtrisés.
Les offres professionnelles ou les versions destinées aux équipes présentent notamment l'intérêt de disposer de fonctionnalités d'administration centralisée. Selon les solutions, elles permettent de gérer les comptes, de paramétrer des règles communes et de mieux maîtriser les conditions d'utilisation.
Au Loiret, à l'issue de notre expérimentation, nous avons choisi d'acquérir 22 licences Claude en mode Team, avec une licence attribuée à chaque direction. Nous assumons le choix d'un fournisseur américain, tout en recherchant les moyens de sécuriser les pratiques.
La console d'administration nous permet notamment de mettre en place des instructions communes. Avant de traiter une demande, l'outil invite ainsi l'agent à confirmer qu'il ne transmet aucune donnée personnelle sensible et lui rappelle les dispositions de la charte.
Ce type de mécanisme constitue avant tout un outil de sensibilisation. Il ne dispense évidemment pas de la vigilance de l'agent et ne garantit pas, à lui seul, l'absence de données sensibles.
Nous travaillons également sur des extensions de navigateur destinées à rappeler les consignes avant l'utilisation d'une IA générative, voire à détecter certaines informations qui nécessiteraient une anonymisation.
Mais au-delà des outils, il faut organiser une véritable gouvernance de l'IA. Celle-ci doit associer les compétences informatiques, juridiques, humaines et métiers, afin de traiter à la fois les risques et les opportunités.
Au Loiret, nous avons mis en place trois niveaux de gouvernance : un groupe de pilotage stratégique, une cellule opérationnelle et un réseau de référents IA dans les directions.
Cette organisation permet de faire remonter les besoins des agents, répondre à leurs questions et accompagner leurs expérimentations plutôt que de les laisser développer des pratiques isolées. Elle montre aussi que l'employeur s'engage dans une démarche constructive.
Comment inscrire cet encadrement dans la durée et transformer les usages individuels en bénéfices collectifs ?
Il faut d'abord accepter que les règles évoluent. Une charte ne peut pas être considérée comme un document figé alors que les outils et leurs fonctionnalités changent constamment. Les collectivités doivent organiser une veille technologique et réglementaire et adapter progressivement leur cadre d'utilisation.
Mais je crois surtout qu'il faut encourager le partage des connaissances entre agents. C'est un enjeu essentiel, parfois sous-estimé, de la lutte contre le Shadow IA. L’IA clandestine, c'est finalement de l'égoïsme d'usage, et c'est dommage, car il n’y a pas de partage de connaissances.
C'est pourquoi je recommande de créer des espaces dans lesquels les agents peuvent présenter leurs expérimentations, expliquer ce qui fonctionne et partager leurs bonnes pratiques.
Au Loiret, nous animons notamment un espace intranet consacré à l'IA, avec des tutoriels, une foire aux questions et un espace de discussion. Nos référents se réunissent régulièrement pour présenter leurs réalisations. Lors d'un récent webinaire, une agente a montré un traitement qu'elle avait développé avec l'IA et une autre collègue a immédiatement souhaité le réutiliser. C'est exactement le type de dynamique que nous cherchons à encourager.
Il faut aussi permettre aux agents moins familiarisés avec ces technologies d'exprimer leurs besoins. Nous avons, par exemple, accompagné une agente d'accueil dans un collège qui souhaitait comprendre comment l'IA pourrait lui être utile dans son métier. Ce type de démarche contribue à diffuser les compétences et à limiter les écarts entre agents.
Au final, l'objectif ne doit donc pas être uniquement de surveiller les usages, mais de créer les conditions d'un apprentissage collectif. Lorsqu'une collectivité communique sur ses expérimentations, accompagne ses agents, reconnaît leurs initiatives et leur permet de partager leurs découvertes, elle rend les usages clandestins moins attractifs. L'enjeu est ainsi de passer d'une IA utilisée individuellement, parfois dans l'ombre, à une IA maîtrisée, partagée et mise au service de l'ensemble de la collectivité.