Publié le 27 septembre 2026 à 19:00 · Publication originale
À l'ACL 2026, Yijie Hao, Lingjie Chen, Ali Emami et Joyce C. Ho testent cette intuition avec "Thought Injection".
Pendant qu'un modèle raisonne, les chercheurs injectent un indice dans sa trace. Ils séparent alors deux questions: cet indice modifie-t-il la réponse? Et le modèle reconnaît-il son influence?
Sur 45.000 échantillons et trois modèles, les indices injectés modifient effectivement les sorties.
Sur 30.000 tests supplémentaires, lorsque les indices sont extrêmes, leur influence n'est pas reconnue dans plus de 90% des cas.
Le modèle produit pourtant une justification cohérente et plausible, mais différente de la cause que les chercheurs viennent de manipuler.
L'analyse des activations montre aussi une activité accrue dans des directions que les auteurs associent à la complaisance et à la tromperie.
Cela ne signifie pas que la machine "ment" comme un humain.
Cela montre quelque chose de plus précis: ce qui influence causalement une sortie et l'explication que le modèle en donne peuvent diverger.
Une explication n'est donc pas encore une preuve de causalité.
ULTRA®
Avec les agents, cette distinction devient une question de gouvernance.
Un agent peut expliquer qu'il a écarté un fournisseur pour risque opérationnel, attribué une baisse de marge au mix produit ou classé une alerte cyber comme faux positif.
L'explication peut être impeccable.
Si elle n'est pas une trace fidèle de ce qui a déterminé l'action, elle ne constitue pas un audit.
Conserver le prompt et la réponse ne suffit plus. Il faut reconstruire les données disponibles, les outils appelés, les permissions ouvertes, les règles appliquées et les actions exécutées.
Sinon, l'entreprise peut obtenir davantage d'explications tout en comprenant moins bien comment ses décisions ont été produites.
OpenAI a montré en 2025 que surveiller les chaînes de raisonnement peut révéler certains comportements indésirables, tout en soulignant que cette monitorabilité reste fragile sous certaines pressions d'entraînement.
Il est de séparer justification, trace d'exécution et preuve.
Le ROI d'un agent devrait intégrer autre chose que les heures économisées: actions vérifiées, corrections humaines, faux positifs, coût des erreurs et traçabilité disponible.
La gouvernance commence peut-être ici: ne jamais confondre une machine capable de justifier une décision avec un système capable de démontrer comment elle a été produite.
GOLO
Une raison devient dangereuse lorsqu'elle ressemble parfaitement à la cause sans l'être.
Sources
Hao, Chen, Emami & Ho, ACL 2026
OpenAI, "Detecting misbehavior in frontier reasoning models", 2025
#VOCEASSOCIATION #IntelligenceArtificielle #AgentsIA #GouvernanceIA #Raisonnement