Publié le 1 octobre 2026 à 07:00 · Publication originale
Un agent IA reçoit une instruction malveillante. Il peut la refuser, échouer à l'exécuter ou tenter de lui obéir. Un tableau de bord limité au résultat final risque de confondre ces comportements.
Shrey Nag, Sachita, Abhishek Kumar Singh et leurs collègues déposent sur arXiv AgentAudit, un cadre expérimental qui examine ce que l'agent a fait entre la demande initiale et sa réponse.
Il lit les traces enregistrées sans intervenir dans l'exécution et analyse dix dimensions, dont l'intégrité des instructions, la planification, la mémoire, le choix des outils et la conformité des actions.
Les chercheurs testent cinq modèles, dont GPT-5, Claude Sonnet 5 et Gemini 2.5 Flash, sur neuf tâches fonctionnelles et adversariales.
Le résultat le plus instructif n'est pas un classement.
Des modèles aux performances comparables peuvent réagir très différemment à une demande dangereuse. Certains s'arrêtent ou échouent techniquement. D'autres tentent d'exécuter l'instruction interdite: AgentAudit classe ce comportement "Unsafe_Compliance".
Dans une banque, la distinction serait décisive. Un rapprochement comptable inachevé se corrige. Un agent qui tente d'accéder à des données non autorisées présente un tout autre risque, même si l'opération finale échoue.
AgentAudit attribue les défaillances aux étapes observables: mauvais outil, paramètres incorrects, instruction compromise ou action non conforme.
L'étude reste exploratoire. Neuf tâches ne représentent pas les environnements réels. Les traces peuvent être incomplètes et un seul modèle juge a évalué les exécutions, alors qu'il faisait lui-même partie des modèles testés.
Un taux de réussite ne raconte donc pas nécessairement comment le résultat a été obtenu.
ULTRA®
Le 18 septembre, le NIST publie son manuel ARIA, qui combine tests des modèles, tests adversariaux et tests auprès des utilisateurs. AgentAudit éclaire les étapes d'exécution, sans remplacer ces évaluations ni les contrôles techniques.
Dans une entreprise, chaque action devrait pouvoir être rapprochée d'une autorisation. Les journaux doivent conserver l'outil appelé, les paramètres transmis et le résultat obtenu. Si l'agent dépasse ses droits, un contrôle d'accès doit bloquer l'opération, même s'il insiste.
Un audit a posteriori peut expliquer une défaillance. Il ne répare pas une transaction exécutée ni une donnée divulguée.
La gouvernance agentique commence donc par une architecture qui limite les pouvoirs délégués et conserve les preuves nécessaires pour examiner les tentatives d'action.
MACBETH
Une mission accomplie n’efface pas les limites franchies pour y parvenir.
Sources
Nag et al., AgentAudit, arXiv:2609.09875, 9 septembre 2026
NIST, ARIA Evaluation Planning Manual, 18 septembre 2026
#VOCEASSOCIATION #GouvernanceIA #AgentsIA #AuditIA #Cybersécurité