Publié le 2 octobre 2026 à 10:00 · Publication originale
Le benchmark le déclare performant.
Le 24 avril 2026, Tanzila Kehkashan, Muhammad Abdullah et leurs collègues analysent quinze benchmarks dans Artificial Intelligence Review, dont SWE-bench, WebArena et GAIA.
Aucun n'intègre la sécurité dans son score principal, ni l'efficacité économique. Treize évaluent exclusivement la réussite ou l'échec de la tâche.
Le résultat masque parfois une fuite de données ou des dépenses incontrôlées.
Le 6 mars, le NIST publie AI 800-4 sur la surveillance des systèmes déployés. Fondé sur la littérature et trois ateliers, le rapport distingue six domaines, dont le fonctionnement, la sécurité et les interactions humaines. Il souligne les dérives difficiles à détecter et les journaux fragmentés.
Pour un agent connecté à un ERP, le taux de réussite ne suffit pas. Chaque action doit pouvoir être rapprochée de sa configuration: version du modèle, prompt, sources RAG, droits IAM et appels d'outils. Les traces révèlent les erreurs d'exécution et le coût réel d'une opération.
Après toute modification susceptible de changer son comportement, les tests de régression doivent être rejoués. En production, les métriques doivent être ventilées par tâche et niveau de risque. Une moyenne rassurante peut masquer une défaillance critique.
Une violation grave des permissions peut justifier une suspension, même si le taux de réussite reste excellent. Le seuil relève de la politique de risque de l'organisation, pas d'un score universel fixé par le NIST.
ULTRA®
Le système peut dériver sans que le modèle change.
Un index RAG actualisé fait remonter un document compromis. Une API modifie son schéma et l'agent transmet un mauvais paramètre. Une nouvelle politique IAM retire un droit que le logiciel tente encore d'exercer.
Le modèle est identique; son environnement a changé.
Il faut donc versionner les dépendances, comparer les nouvelles configurations à une référence et déployer progressivement, notamment par canary. Les journaux doivent conserver des preuves exploitables sans exposer inutilement les données personnelles.
Chaque indicateur critique doit déclencher une intervention: validation humaine, révocation d'un accès ou retour arrière. Détecter une défaillance sans pouvoir intervenir laisse le risque intact.
ARGOS
Un système que l'on sait mesurer, mais que l'on ne sait pas arrêter, échappe déjà à notre autorité.
Sources
Kehkashan et al., Artificial Intelligence Review, avril 2026
NIST, AI 800-4, mars 2026
OpenAI, Evaluate agent workflows, documentation
#VOCEASSOCIATION #GouvernanceIA #AgentsIA #EvaluationIA #Observabilité