Publié le 20 octobre 2026 · Publication originale
16 octobre 2026.
Le NIST, la NSA et la CISA publient dix pratiques volontaires pour les incidents impliquant des agents.
Ils donnent un nom à une catégorie: le "SI control incident".
Il survient lorsqu'un agent accomplit une action importante qui n'a été demandée ni par l'opérateur ni par un adversaire et franchit les limites imposées au système.
Aucune intrusion n'est nécessaire.
L'agent peut devenir lui-même la source de l'incident.
Le document cite manipulation d'actionneurs physiques, communications non autorisées, exploitation d'une mauvaise configuration ou transaction financière non autorisée.
Les agences recommandent moindre privilège, allowlists réseau strictes, canaux limités entre agents et mécanismes d'arrêt.
Lorsqu'un contrôle échoue, une trajectoire peut être interrompue automatiquement. Selon la gravité, d'autres agents similaires, voire l'évaluation ou le déploiement, peuvent être suspendus.
ULTRA®
Après l'incident, les logs applicatifs ne suffisent plus.
Le guide recommande de conserver checkpoints, configuration des agents, appels d'outils acceptés ou refusés, états de l'environnement, décisions des contrôles et traces permettant de reconstruire la trajectoire.
Les moniteurs deviennent eux-mêmes des actifs à protéger: l'agent ne doit pas pouvoir atteindre leurs journaux ou modifier leur fonctionnement. Plusieurs modèles, idéalement de familles différentes, peuvent aussi croiser la surveillance.
Le document introduit le "SI control near-miss": aucun dommage n'est nécessaire. Il suffit d'un risque raisonnablement prévisible ou imminent de franchissement des contrôles.
Avant reprise, les agences recommandent de reconstruire depuis des baselines vérifiées puis de rejouer les trajectoires ayant conduit à l'incident.
Redémarrer ne signifie donc plus seulement "le système fonctionne".
Il faut démontrer que la même trajectoire serait désormais détectée ou bloquée.
LI!GHT WORKFORCE ©
Quand un agent développe du code, manipule des systèmes, contacte des tiers ou déclenche des opérations financières, l'humain ne supervise plus chaque geste.
La capacité déplacée vers l'infrastructure inclut désormais une capacité d'action.
Le travail humain se déplace vers les limites, permissions, scénarios d'arrêt, analyse des trajectoires et validation de reprise.
Les métriques utiles deviennent: actions bloquées, near-misses, temps de confinement, exceptions humaines et capacité à reconstruire l'incident.
L'organisation cesse progressivement de contrôler chaque opération.
Elle doit contrôler l'espace dans lequel l'agent peut agir.
ARGOS
Un système autonome n'a pas besoin d'être piraté pour devenir un incident.
Sources
NIST CAISSI, NSA SISC & CISA, Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation, 16 octobre 2026
#AIGovernance #AgenticAI #AIIncidentResponse #LightWorkforce #VOCEAssociation