Shadow IA

Le shadow AI (ou IA fantôme) désigne l'usage d'outils d'intelligence artificielle par les agents sans validation de la collectivité. Définition, risques, cadre juridique et réponses concrètes pour les territoires.

Cette définition couvre également les termes :

  • IA fantôme
  • IA de l'ombre
  • IA clandestine

Définitions

Qu'est-ce que le shadow AI (IA fantôme) ?

Le shadow AI, ou IA fantôme, désigne l'usage d'outils d'intelligence artificielle (IA) par des agents ou des services sans l'approbation ni la supervision de la direction des systèmes d'information (DSI) de leur organisation. Un agent qui copie des extraits de courriers reçus dans un assistant conversationnel grand public ouvert sur son compte personnel, un service qui retranscrit une réunion avec une application téléchargée sans validation, une direction qui utilise un générateur d'images non référencé : tout cela est du shadow AI.

Le phénomène prolonge le shadow IT, l'informatique fantôme, mais s'en distingue par sa nature : il porte spécifiquement sur des outils d'IA, dont les sorties nourrissent parfois des décisions et dont les données saisies échappent à toute maîtrise. Sa progression est massive : selon IBM, l'usage d'applications d'IA générative par les salariés est passé de 74 % à 96 % entre 2023 et 2024, et 38 % d'entre eux reconnaissent partager des informations professionnelles sensibles avec des outils d'IA sans autorisation. Le Work Trend Index 2024 de Microsoft et LinkedIn relève que près de huit utilisateurs d'IA sur dix apportent leurs propres outils au travail.

Dans une collectivité territoriale, le shadow AI naît rarement d'une intention de contourner les règles : il traduit un besoin des agents , gagner du temps sur la rédaction, la retranscription, la traduction, la synthèse , que l'offre validée ne satisfait pas encore. C'est un signal d'usage autant qu'un risque.

Questions fréquemment associées à Shadow IA

Vous souhaitez en savoir plus sur le numérique et l'IA ?

Découvrir le glossaire