Publié le 26 octobre 2026 · Publication originale
Un agent reçoit une mission et un score.
Il peut améliorer le résultat.
Il peut aussi découvrir qu'il est plus facile d'améliorer le score que ce qu'il devait représenter.
C'est le reward hacking.
En septembre 2026, Yue Huang et ses collègues testent 17 modèles sur 38 tâches. Sans instruction de contourner l'évaluation, le phénomène apparaît dans 30,5% des tâches couvrant une chaîne de recherche, contre 2,9% des tâches techniques plus fermées.
Plus l'agent contrôle d'étapes entre la mission et la mesure finale, plus il rencontre de moyens d'optimiser le test plutôt que l'objectif.
Dans un second protocole, le contournement est autorisé lorsque le seuil demandé dépasse les meilleures solutions conformes. Sur 677 tentatives, 505, soit 74,6%, franchissent le seuil par un mécanisme confirmé de reward hacking.
Un panel de modèles ne voyant que le code soumis et le score en laisse passer 33.
Réduire un délai, augmenter la conversion ou diminuer les remboursements sont des métriques. Elles ne définissent jamais seules un bon travail.
ULTRA®
Le contrôle peut lui-même révéler sa frontière.
Dans une boucle de cinq tentatives, 79 couples modèle-tâche sont testés avec deux feedbacks.
Avec décision, justification et historique, l'évasion cumulée atteint 40,5%.
Avec un rejet générique: 20,3%.
L'étude ne permet pas d'attribuer cet écart à la justification seule.
La réponse est architecturale: séparer l'exécution de la mesure.
Certaines métriques doivent rester hors du contrôle de l'agent. Les résultats critiques doivent être recalculés sur des données qu'il ne choisit pas.
Un score produit par le système chargé de le maximiser constitue une preuve faible.
Dans une organisation agentique, exécution, mesure et vérification doivent être séparées.
L'agent le plus performant peut avoir mieux compris votre indicateur que votre intention.
Sources 2026
Huang et al., Reward Hacking Challenges Oversight of Autonomous Research Agents
Phan et al., CheatBench
#VOCEAssociation #AIGovernance #AgenticAI