Shadow IA
Le shadow AI (ou IA fantôme) désigne l'usage d'outils d'intelligence artificielle par les agents sans validation de la collectivité. Définition, risques, cadre juridique et réponses concrètes pour les territoires.
Cette définition couvre également les termes :
- IA fantôme
- IA de l'ombre
- IA clandestine
Définitions
Qu'est-ce que le shadow AI (IA fantôme) ?
Le shadow AI, ou IA fantôme, désigne l'usage d'outils d'intelligence artificielle (IA) par des agents ou des services sans l'approbation ni la supervision de la direction des systèmes d'information (DSI) de leur organisation. Un agent qui copie des extraits de courriers reçus dans un assistant conversationnel grand public ouvert sur son compte personnel, un service qui retranscrit une réunion avec une application téléchargée sans validation, une direction qui utilise un générateur d'images non référencé : tout cela est du shadow AI.
Le phénomène prolonge le shadow IT, l'informatique fantôme, mais s'en distingue par sa nature : il porte spécifiquement sur des outils d'IA, dont les sorties nourrissent parfois des décisions et dont les données saisies échappent à toute maîtrise. Sa progression est massive : selon IBM, l'usage d'applications d'IA générative par les salariés est passé de 74 % à 96 % entre 2023 et 2024, et 38 % d'entre eux reconnaissent partager des informations professionnelles sensibles avec des outils d'IA sans autorisation. Le Work Trend Index 2024 de Microsoft et LinkedIn relève que près de huit utilisateurs d'IA sur dix apportent leurs propres outils au travail.
Dans une collectivité territoriale, le shadow AI naît rarement d'une intention de contourner les règles : il traduit un besoin des agents , gagner du temps sur la rédaction, la retranscription, la traduction, la synthèse , que l'offre validée ne satisfait pas encore. C'est un signal d'usage autant qu'un risque.
Comment le shadow AI se manifeste-t-il et comment le détecter ?
Le shadow AI emprunte des chemins variés : comptes personnels sur des services d'IA grand public, extensions de navigateur, fonctions d'IA activées par défaut dans des logiciels existants (messageries, suites bureautiques), interfaces de programmation intégrées à des outils métiers, ou encore agents d'IA bricolés à partir de modèles publics. Les risques techniques sont concrets : exposition de données personnelles ou stratégiques à des serveurs tiers, absence de journalisation et d'inventaire, sorties fausses présentées comme des faits, et contournement de la chaîne de responsabilité du système d'information (SI).
La détection ne peut pas reposer sur la seule interdiction. Elle combine un recensement volontaire des usages (questionnaire anonymisé, campagne de déclaration blanche), le croisement avec le registre des traitements tenu avec le délégué à la protection des données (DPO), et la supervision technique des flux sortants, notamment vers les domaines des services d'IA. L'Agence nationale de la sécurité des systèmes d'information (ANSSI) a publié des recommandations de sécurité pour la mise en œuvre de solutions d'IA générative, et son centre CERT-FR a consacré en février 2026 une note aux attaques visant l'IA générative. La maîtrise passe ensuite par une offre validée : passerelle sécurisée, authentification unique, journalisation, supervision humaine, et déploiement d'outils approuvés plutôt que dénonciation des usages.
Quel est le cadre juridique du shadow AI dans une collectivité ?
Aucun texte n'interdit l'usage de l'IA en tant que tel : le risque juridique naît avant tout de l'absence de cadre, de contrôle et de gouvernance. Trois niveaux de règles s'appliquent aux collectivités territoriales.
D'abord, le règlement général sur la protection des données (RGPD), règlement (UE) 2016/679. La collectivité reste responsable des traitements de données personnelles effectués par ses agents, y compris lorsque ceux-ci utilisent des outils non déclarés. Les articles 5 (licéité, loyauté, minimisation des données), 24 (responsabilité du responsable de traitement) et 32 (sécurité des données) sont directement concernés. L'usage non encadré d'un outil d'IA avec des données d'usagers peut ainsi exposer la collectivité à des manquements en matière de protection des données personnelles. La Commission nationale de l'informatique et des libertés (CNIL) a d'ailleurs adopté, le 18 janvier 2024, une recommandation sur l'application du RGPD au développement des systèmes d'IA.
Ensuite, le règlement européen sur l'intelligence artificielle (AI Act), règlement (UE) 2024/1689, dont les obligations s'appliquent progressivement. Une collectivité qui utilise un système d'IA agit comme déployeur au sens de l'article 26. À ce titre, elle doit notamment garantir un usage conforme aux instructions du fournisseur, la conservation des journaux nécessaires, une supervision humaine efficace et l'information des personnes concernées lorsque cela est requis. Certains usages du secteur public relèvent en outre de la catégorie des systèmes d'IA à haut risque.
Enfin, le respect du cadre juridique passe aussi par une gouvernance interne structurée. Cela implique la mise en place d'une charte IA co-construite, la tenue d'un registre des traitements à jour, l'information et la formation des agents, ainsi que la réalisation d'une analyse d'impact relative à la protection des données (AIPD) lorsque le traitement est susceptible d'engendrer un risque élevé pour les droits et libertés des personnes. Le guide d'usage de l'IA pour les agents publics de l'État constitue à ce titre une base de référence facilement transposable aux collectivités.
En pratique, le shadow AI devient problématique lorsqu'un agent utilise un outil d'IA sans que la collectivité puisse démontrer sa conformité au RGPD, à l'AI Act et à ses propres règles internes. L'enjeu n'est donc pas seulement technologique, mais aussi juridique, organisationnel et managérial.
Cas d'usage de l'acculturation numérique pour les collectivités
| Situation | Ce qui se joue | Réponse recommandée |
|---|---|---|
| Des agents utilisent déjà des IA génératives à titre personnel, sans le dire | Fuite potentielle de données, besoins métiers invisibles. | Réaliser un état des lieux par la déclaration plutôt que par la sanction : questionnaire anonymisé, ateliers de retours d'usage et entretiens avec les services. |
| Encadrer les usages sans bloquer l'innovation | Légitimité et lisibilité du cadre posé. | Mettre en place une charte IA co-construite, une gouvernance claire, un référent IA et un programme de sensibilisation des agents. |
| Le besoin non satisfait pousse les agents vers des outils non validés | Cause racine du shadow AI. | Déployer une offre approuvée, sécurisée et intégrée au système d'information, éventuellement via une mutualisation ou une centrale d'achat. |
| Détecter les usages non déclarés dans le système d'information | Visibilité technique des flux sortants. | Analyser les flux réseau, activer la journalisation des accès aux services d'IA et organiser des campagnes régulières de déclaration des usages.
Retour d'expérience à venir sur ce cas d'usage. |