Publié le 16 octobre 2026 · Publication originale
Une banque utilise une IA pour estimer le risque de défaut.
Deux groupes reçoivent un score de 20%. Dans chacun, environ 20% des personnes concernées font effectivement défaut.
À ce niveau, le score est calibré.
Mais regardons les clients qui ne feront pas défaut. Si l'IA les classe à tort comme risqués beaucoup plus souvent dans un groupe que dans l'autre, Equalized Odds échoue.
Même modèle. Deux tests d'équité. Deux verdicts.
La calibration demande qu'un même score corresponde à une fréquence observée comparable entre groupes. Equalized Odds exige que, conditionnellement au résultat réel, faux positifs et faux négatifs soient comparables.
Lorsque les taux de base diffèrent, ces critères sont généralement incompatibles, sauf cas particuliers comme un prédicteur parfait.
En 2026, Etam Benger et Katrina Ligett montrent à l'ICML une difficulté supplémentaire.
Même des scores parfaitement calibrés par groupe, jusqu'aux véritables probabilités conditionnelles, peuvent perdre la sufficiency lorsqu'ils deviennent des décisions binaires.
Transformer "risque:61%" en "refusé" peut donc changer les propriétés de fairness du système.
Un dashboard affichant "FAIRNESS:PASS" masque une question: selon quelle définition?
ULTRA®
LA MÉTRIQUE EST DÉJÀ UNE DÉCISION DE GOUVERNANCE
Benger et Ligett étudient la sufficiency via le Positive Predictive Value et le False Omission Rate. Ils caractérisent les décisions réalisables et proposent un post-traitement optimisant la classification sous contrainte de sufficiency, puis minimisant l'écart avec separation.
Pour une banque, un assureur ou une direction RH, choisir une métrique revient à décider quelles erreurs doivent être rendues comparables entre populations.
L'AI Act européen n'impose pas une métrique unique de fairness. Pour les systèmes à haut risque, il exige notamment gouvernance des données, examen des biais, traçabilité et supervision humaine.
LI!GHT WORKFORCE ©
Avec un agent, le score devient action.
Il peut refuser un dossier, demander des justificatifs, modifier une priorité ou ne transmettre que certains cas à un humain.
Il faut alors auditer le modèle, le seuil, les règles d'escalade, les outils appelés et la logique qui transforme une probabilité en conséquence réelle.
Un modèle peut être calibré et alimenter malgré tout une chaîne décisionnelle discriminatoire.
PORTIA
Aucune équation ne décide seule quelle erreur une institution considère comme la moins acceptable.
"La justice commence lorsque nous cessons de confondre une mesure avec le choix moral qu'elle dissimule."
Sources 2026
Benger & Ligett, ICML 2026.
Joshua Thong, Philosophy & Technology, 2026.
Règlement (UE) 2024/1689 sur l'intelligence artificielle, version consolidée 2026.
#AIGovernance #AlgorithmicFairness #ResponsibleAI #LIghtWorkforce #AIAct #VOCEAssociation