Giskard

Giskard est une plateforme open-source de test et d'audit des systèmes d'intelligence artificielle, conçue pour adresser les risques liés à la qualité, la sécurité et la conformité des modèles IA. Fondée en 2021 par Alexandre Combessie et Jean-Marie John-Mathews, la startup française propose une solution holistique permettant de détecter automatiquement les hallucinations, biais éthiques, injections de prompt et fuites de données grâce à des outils comme le scanner RAGET et SCAN. Sa bibliothèque open-source génère des suites de tests personnalisables pour les modèles de Machine Learning et LLM, tout en s'intégrant aux pipelines CI/CD pour une validation continue15. La plateforme combine analyse statistique (indice PSI, test de Kolmogorov-Smirnov) et tests métamorphiques inspirés de la recherche en FairML pour garantir robustesse et équité algorithmique. Principalement utilisé par les secteurs bancaire et assurantiel (Société Générale, AXA, Crédit Agricole), Giskard se spécialise dans l'audit des agents conversationnels à base de LLM, avec une approche "security-by-design". Sa solution SaaS ou on-premise inclut un LLM Evaluation Hub pour le red teaming automatisé, générant des attaques adverses via des modèles comme GPT-4o afin d'évaluer la conformité aux politiques métier. Certifiée GDPR et hébergée dans l'UE, la plateforme offre un chiffrement des données et des contrôles d'accès RBAC, positionnant Giskard comme un acteur clé pour la mise en production responsable de l'IA générative.