Publié le 2 octobre 2026 à 09:00 · Publication originale
Une IA répond à une question médicale et cite les éléments du dossier qui auraient déterminé sa conclusion. Les chercheurs les modifient pour observer ce qui change réellement sa réponse.
L'explication ne correspond pas toujours aux facteurs décisifs.
À l'ICLR, Katie Matton et ses collègues utilisent des interventions contrefactuelles et un modèle bayésien hiérarchique. Ils identifient aussi des explications qui occultent l'influence de biais sociaux.
Un récit cohérent peut masquer les vrais déterminants d'une réponse.
En juillet 2026, Harry Mayne et ses collègues testent 18 modèles sur 7.000 situations contrefactuelles. Leurs auto-explications améliorent de 11 à 37 % la prédiction du comportement, selon leur métrique NSG. Mais 5 à 15 % sont gravement trompeuses, selon le modèle.
Elles contiennent donc de l'information utile, sans constituer une preuve suffisante.
À l'ACL 2026, Bar Alon et ses collègues proposent Faithful Serum. La méthode utilise des cartes d'attribution des tokens pour guider, par intervention sur l'attention, la formulation d'une explication. La fidélité progresse dans les tests; la transparence causale exhaustive reste à démontrer.
Lorsqu'une banque refuse un crédit, un LLM peut rédiger une justification irréprochable. Elle ne prouve pas que le score reposait sur les facteurs cités. Un code postal peut aussi servir de substitut à une caractéristique protégée.
La qualité de l'explication doit pouvoir être testée indépendamment de sa qualité littéraire.
ULTRA®
La contestabilité exige une architecture de preuves.
Chaque décision sensible doit être reliée aux données utilisées, à la version du modèle et aux interventions humaines. SHAP et les analyses contrefactuelles éclairent le rôle des variables sans établir, à elles seules, l'absence de discrimination. Les taux de faux positifs et de faux négatifs doivent aussi être examinés entre groupes, selon les conséquences des erreurs.
L'article 86 de l'AI Act prévoit, dans son champ limité, une explication du rôle de l'IA et des principaux éléments de certaines décisions individuelles. L'article 22 du RGPD encadre les décisions exclusivement automatisées ayant des effets significatifs et prévoit des garanties, dont la contestation et, dans les cas concernés, l'intervention humaine.
Le réexamen doit permettre de corriger les données, d'accéder aux éléments pertinents et de modifier la décision. Une seconde justification automatique ne suffit pas.
PORTIA
Celui qui détient le pouvoir de décider ne devrait jamais détenir seul le pouvoir d'en expliquer les raisons.
Sources
Matton et al., ICLR, 2025
Mayne et al., ICML, 2026
Alon et al., ACL, 2026
AI Act, art. 86; RGPD, art. 22
#VOCEASSOCIATION #GouvernanceIA #Explicabilité #DiscriminationAlgorithmique #Contestabilité