Publié le 17 septembre 2026 à 14:00 · Publication originale
La note est accompagnée d'une explication produite en apparence par une intelligence artificielle. Elle indique quels éléments ont pesé dans l'évaluation, selon une présentation inspirée de SHAP, une méthode utilisée pour rendre interprétables les décisions de certains modèles.
Parmi les étudiants, 33 connaissent particulièrement bien l'intelligence artificielle.
Ils ignorent cependant un détail.
Aucune IA n'a corrigé leurs copies.
Les chercheurs sont partis des notes attribuées par l'enseignant. Puis, pour la moitié des participants, ils les ont artificiellement diminuées de 25%.
Un étudiant méritant 16 pouvait ainsi découvrir une note de 12, présentée comme le résultat d'un système algorithmique et accompagnée d'éléments expliquant cette décision.
L'expérience, publiée en 2026 par Saša Brdnik, Alen Colakovic et Sašo Karakatič, cherchait à mesurer ce qui se produit lorsqu'une décision injuste devient explicable.
Le résultat est moins rassurant que prévu.
Les étudiants confrontés aux notes diminuées n'ont pas accordé significativement moins de confiance au système que ceux qui voyaient leurs véritables résultats. Leur satisfaction n'a pas non plus chuté significativement.
Même la connaissance de l'IA n'offrait qu'une protection limitée.
Surtout, les chercheurs ont distingué deux choses que nous confondons facilement: avoir le sentiment de comprendre une explication et être capable de comprendre réellement le système qu'elle décrit.
Les deux ne coïncidaient pas toujours.
Ce détail concerne bien davantage qu'un examen universitaire.
Depuis plusieurs années, l'intelligence artificielle explicable, ou XAI, cherche à rendre les systèmes algorithmiques plus compréhensibles. SHAP, par exemple, peut attribuer à différentes variables une contribution dans le résultat produit par un modèle.
Mais une interface peut être claire sans que son utilisateur soit capable d'en évaluer correctement le fonctionnement. Des recherches sur l'explicabilité observent un écart entre compréhension subjective et compréhension objective.
Nous avons appris à nous méfier des "boîtes noires". Nous risquons d'accorder davantage de crédit à une boîte simplement parce qu'elle nous montre quelque chose qui ressemble à son mécanisme.
Graphiques, pourcentages, facteurs explicatifs: ces éléments peuvent apporter une information précieuse. Leur présence ne transforme pas pour autant une décision en décision correcte.
La prochaine fois qu'une IA expliquera pourquoi elle est arrivée à un résultat, l'expérience slovène laissera derrière elle un réflexe assez simple.
Regarder l'explication, puis regarder encore une fois le résultat.
Sources
Brdnik, Colakovic & Karakatič, "Unjustified trust and satisfaction in explainable artificial intelligence"
ACM Transactions on Interactive Intelligent Systems
#IA #XAI #Algorithmes #Cognition #Confiance #VOCEASSOCIATION