Publié le 9 octobre 2026 à 05:00 · Publication originale
Une étude publiée le 13 mai 2026 dans npj Digital Medicine teste dix algorithmes sur trois jeux de données médicaux: capteurs portables, risque cardiaque et AVC.
Pour chacun, les chercheurs imposent trois répartitions femmes-hommes: 50/50, 90/10 et 10/90.
Puis ils mesurent l'écart de précision entre les sexes.
Dans la décomposition de variance, l'identité du dataset explique 63,4% de la variation. Le choix de l'algorithme: 9,7%. Le scénario d'échantillonnage: 0,2%.
L'interaction dataset-algorithme ajoute 17,2%.
Le même modèle peut donc sembler presque équitable dans un domaine et défavoriser nettement un groupe dans un autre.
Même le 50/50 réduit certains écarts sans les supprimer.
Un dataset contient davantage qu'une proportion: qualité du signal, variables disponibles, pratiques cliniques, labels historiques, erreurs et corrélations locales continuent de structurer ce que le modèle apprend.
L'étude reste limitée à trois datasets et à une variable binaire de sexe. Ces pourcentages ne sont pas des constantes universelles.
Le message de gouvernance, lui, est net: équilibrer les lignes ne démontre pas l'équité du système.
Pour une banque, un assureur ou un recruteur, l'analogie est directe. Supprimer une variable sensible n'efface pas les proxys capables de la reconstruire indirectement.
ULTRA®
L'audit doit descendre au comportement réel du modèle.
Faux positifs, faux négatifs, AUROC, PR-AUC et calibration doivent être stratifiés par sous-groupes, puis retestés par site, période et contexte.
La métrique elle-même change le diagnostic. Pour les écarts de PR-AUC, l'algorithme n'explique plus que 1,9% de la variance, tandis que le scénario d'échantillonnage monte à 32%.
L'article 10 de l'AI Act impose, pour les systèmes à haut risque concernés, des jeux de données pertinents, suffisamment représentatifs, dotés de propriétés statistiques appropriées et examinés pour les biais susceptibles d'affecter les droits fondamentaux ou de produire une discrimination.
Un ratio 50/50 ne suffit donc pas à établir la conformité.
LI!GHT WORKFORCE ©
Dans une architecture agentique, le biais peut quitter le score pour devenir une action.
Un agent peut classer, demander une pièce, déclencher une investigation ou décider quels dossiers arrivent jusqu'à l'humain.
L'audit doit alors couvrir modèle, outils, orchestration, mémoire, seuils d'escalade, permissions et historique des décisions.
Moins d'intermédiaires humains signifie aussi moins d'occasions de voir une anomalie avant qu'elle ne devienne opérationnelle.
PORTIA
L'égalité des proportions ne garantit jamais l'égalité des conséquences.
Sources 2026
Elgendi M. et al., npj Digital Medicine, 13 mai 2026
Règlement (UE) 2024/1689, article 10
#VOCEAssociation #AIGovernance #AlgorithmicFairness #ResponsibleAI #AIAct