Publié le 23 octobre 2026 · Publication originale
Un crédit est refusé.
L’IA indique quoi changer pour devenir éligible.
Vous suivez la recommandation.
Vous revenez.
Vous êtes encore refusé.
Le 30 septembre 2026, Shahin Jabbari formalise une faille de l’algorithmic recourse: la plupart des méthodes calculent un chemin vers une décision favorable comme si la règle restait fixe pendant que l’individu agit.
Or, lorsque plusieurs personnes se disputent une ressource limitée, le seuil peut bouger même si le modèle de scoring ne change pas.
Un score de 72 suffisait. Les candidats améliorent leur situation. La distribution monte. Le seuil passe à 76.
Le recours était valide au calcul.
Il ne l’est plus à l’exécution.
Jabbari propose de calculer ensemble qui reçoit un recours et quel score cible doit être atteint. Les cibles personnalisées augmentent la validité après déplacement du seuil, mais demandent davantage d’effort.
En juillet 2026, Srikanth Avasarala et ses collègues montrent une seconde faille.
Un recours conçu uniquement pour inverser une prédiction peut améliorer le score sans améliorer la qualification réelle. Il encourage alors le gaming du classifieur et peut perdre son efficacité après réentraînement.
La contestabilité rencontre donc deux problèmes: la frontière peut se déplacer, et l’action recommandée peut optimiser le modèle plutôt que la réalité qu’il mesure.
ULTRA®
Un recours sérieux doit être auditable dans le temps: version du modèle, seuil appliqué, variables actionnables, coût de l’action et état du système lors du réexamen.
L’article 86 de l’AI Act prévoit, dans son champ, une explication claire et significative du rôle du système d’IA dans la décision et de ses principaux éléments.
Mais une explication fidèle d’hier peut devenir insuffisante si le seuil d’acceptation a changé demain.
La gouvernance doit donc conserver pourquoi une décision a été prise et dans quelles conditions le recours pouvait réellement réussir.
LI!GHT WORKFORCE ©
Dans une organisation agentique, cette difficulté devient opérationnelle.
Un agent de crédit, un ATS ou un moteur d’underwriting peut scorer, réclamer des pièces, recalculer puis fermer un dossier avant qu’un humain ne voie toute la trajectoire.
La capacité qui quitte l’équipe humaine n’est pas seulement l’évaluation. C’est aussi l’application dynamique du seuil.
L’humain reste nécessaire pour les exceptions, les recours contestés et la validation des changements de seuil.
KPI: recours encore valides au réexamen, changements de seuil, escalades humaines, décisions renversées.
PORTIA
Un recours n’existe vraiment que si la porte reste au même endroit lorsque nous l’atteignons.
Sources
Jabbari, “Algorithmic Recourse Under Competition”, 30 septembre 2026
Avasarala et al., “The Role of Causality in Algorithmic Recourse”, juillet 2026
AI Act, article 86
#VOCEAssociation #AIGovernance #AlgorithmicRecourse #ContestableAI