Intelligence artificielle et commande publique : garder la maîtrise

Laurent Bidault est avocat au barreau de Paris, associé fondateur du cabinet Novlaw Avocats, spécialiste en droit public des affaires et en commande publique appliquée aux secteurs du numérique et de l’innovation. 

Introduction

L’intelligence artificielle s’installe progressivement dans les pratiques des acheteurs publics et des collectivités territoriales. Dans le domaine de la commande publique, elle commence à être utilisée aussi bien par les acheteurs publics que par les entreprises qui répondent aux marchés. Cette évolution ouvre des perspectives intéressantes pour faciliter certaines tâches administratives ou analyser plus rapidement des informations. Mais elle soulève aussi plusieurs questions juridiques importantes : place de l’IA dans la décision publique, dépendance technologique ou encore protection des données confidentielles.

Trois points méritent aujourd’hui une attention particulière : la diffusion rapide de ces outils dans les pratiques de la commande publique, les limites juridiques de leur usage par les acheteurs publics, et les enjeux de confidentialité et de souveraineté qu’ils soulèvent.

Une technologie déjà présente dans les pratiques

L’intelligence artificielle n’est pas totalement nouvelle dans les outils utilisés par les acheteurs publics. Depuis plusieurs années, certains logiciels intègrent déjà des fonctions d’assistance pour la rédaction des documents de marché. Par exemple, des bases de données permettent de générer automatiquement des clauses selon le type de marché ou la nature de la procédure.

Ce qui change aujourd’hui, c’est l’apparition de l’intelligence artificielle générative. Là où les logiciels classiques se contentaient d’exploiter des bases de données, ces nouveaux outils permettent de formuler directement une demande et de générer en réponse des clauses contractuelles, des synthèses ou des analyses.

Cette évolution concerne les deux côtés de la commande publique.

Du côté des acheteurs publics, l’intelligence artificielle peut être utilisée pour rédiger les documents du marché, analyser des candidatures, comparer certaines données financières ou effectuer des recherches sur les entreprises candidates. Elle peut également aider à accéder plus rapidement à certaines informations dans les dossiers.

Du côté des entreprises, ces outils sont aussi de plus en plus utilisés pour préparer les réponses aux appels d’offres. Il est aujourd’hui possible de soumettre à une intelligence artificielle les documents d’un marché public et de lui demander de proposer une réponse structurée. Dans certains cas, il faut reconnaître que les résultats peuvent être particulièrement convaincants.

Les collectivités se retrouvent ainsi de plus en plus confrontées à des offres qui ont été rédigées avec l’aide de l’intelligence artificielle.

Un outil d’aide à la décision, pas un substitut à l’acheteur public

Le droit de la commande publique repose sur des principes fondamentaux : égalité de traitement des candidats, transparence des procédures et libre concurrence. L’intelligence artificielle peut être utilisée dans ce cadre, mais à condition de ne pas lui confier un rôle qu’elle ne peut, ni surtout ne doit, assumer.

L’IA peut constituer un outil utile pour accéder plus rapidement à certaines informations ou pour faciliter la comparaison de données entre plusieurs offres. Elle peut également contribuer à améliorer l’efficacité administrative en automatisant certaines tâches répétitives, par exemple pour contrôler que les candidats ont remis correctement leurs pièces administratives.

En revanche, elle ne peut et ne doit pas se substituer à l’analyse et au jugement de l’acheteur public.

La décision d’attribuer un marché public engage la responsabilité de l’acheteur, de sorte qu’elle doit rester le résultat d’une appréciation humaine. Confier cette décision à un système automatisé ferait peser des risques juridiques importants sur l’administration.

Les outils d’intelligence artificielle peuvent en effet produire des erreurs, couramment appelées « hallucinations ». Ils peuvent également interpréter de manière incorrecte certaines informations ou produire des réponses qui paraissent plausibles mais reposent sur des données erronées ou qui sont biaisées.

Dans un domaine aussi sensible que la commande publique, ces erreurs peuvent avoir des conséquences importantes. L’IA pourrait, par exemple, conclure qu’une entreprise propose l’offre économiquement la plus avantageuse alors que les données analysées ne le justifient pas.

Les systèmes d’intelligence artificielle peuvent également reproduire certains biais. Dans l’analyse d’une candidature, ils pourraient être tentés d’émettre des jugements implicites sur la fiabilité d’une entreprise à partir d’indicateurs secondaires, comme la taille de la structure ou le niveau de chiffre d’affaires, par exemple en considérant qu’un opérateur est le meilleur du seul fait qu’il disposerait d’un chiffre d’affaires conséquent.

Ces biais peuvent conduire à des appréciations erronées ou injustifiées si les résultats produits par l’IA ne font pas l’objet d’un contrôle humain rigoureux.

L’intelligence artificielle doit donc être envisagée avant tout comme un outil d’assistance, d’aide à la décision, mais ne pas se substituer au pouvoir décisionnel de l’acheteur.

Confidentialité des données : deux risques majeurs

L’utilisation de l’intelligence artificielle par les acheteurs publics soulève des enjeux particuliers en matière de protection des informations sensibles. Ces outils, s’ils peuvent faciliter certaines tâches administratives, impliquent également des risques spécifiques liés à la confidentialité des données.

Au-delà de ces considérations, un autre risque mérite une attention particulière : celui de la confidentialité des données.

Dans une procédure de marché public, les candidatures et les offres déposées par les entreprises sont confidentielles car protégées par le secret des affaires. L’administration doit donc garantir la confidentialité de ces informations.

Or l’utilisation d’outils d’intelligence artificielle généralistes peut poser problème à cet égard. Lorsque des documents confidentiels sont transmis à ces systèmes, ils peuvent être réutilisés pour entraîner les modèles d’intelligence artificielle.

Autrement dit, les informations fournies pourraient être réutilisées indirectement dans d’autres requêtes.

Dans le cadre d’un appel d’offres, cette situation pourrait conduire à une diffusion involontaire d’informations confidentielles. Les collectivités doivent donc être particulièrement vigilantes dans l’utilisation de ces outils, notamment lorsqu’elles manipulent des documents sensibles.

Conclusion : des pistes pour préserver les principes de la commande publique

L’intelligence artificielle doit rester un instrument au service de l’analyse humaine et des principes qui structurent la commande publique : transparence, égalité de traitement des candidats et protection des données. Quelques réflexes peuvent guider les collectivités :

• Considérer l’IA comme un outil d’aide à la décision, et non comme un outil de décision. La décision d’attribuer un marché public doit rester entre les mains de l’acheteur.
• Maintenir un contrôle humain systématique. Les outils d’intelligence artificielle peuvent produire des erreurs ou des analyses biaisées. Ils ne doivent pas se substituer à l’analyse juridique et économique menée par l’administration.
• Être attentif à la confidentialité des données. Dans une procédure de marché public, les candidatures et les offres sont protégées par le secret des affaires. Les transmettre à des outils d’intelligence artificielle généralistes peut conduire à diffuser involontairement des informations confidentielles.
• Privilégier des environnements sécurisés lorsque cela est possible. L’utilisation d’outils internes ou fonctionnant avec les données propres à l’administration peut permettre de mieux maîtriser les informations traitées.