Publié le 11 septembre 2026 à 13:00 · Publication originale
Un médecin examine une radiographie et ne voit rien d'anormal.
Le logiciel d'intelligence artificielle affiche pourtant:
"Suspicion de lésion: 87%."
Que se passe-t-il dans la tête du médecin?
Il regarde probablement l'image une seconde fois.
Et cette fois, il cherche une lésion.
Ce déplacement presque imperceptible porte un nom: l'automation bias, ou biais d'automatisation.
Nous avons tendance à accorder davantage de confiance à une recommandation lorsqu'elle provient d'un système automatisé, particulièrement lorsqu'il paraît précis, rapide et objectif.
Le phénomène existait bien avant ChatGPT.
Dans l'aviation, la médecine ou les systèmes industriels, des chercheurs ont observé deux comportements opposés mais liés.
Le premier consiste à suivre une recommandation incorrecte de la machine.
Le second est plus étrange: ne pas remarquer une anomalie parce que le système ne l'a pas signalée.
En fait, l'automatisation peut créer simultanément de la confiance et de l'inattention.
L'IA amplifie le problème.
Une machine qui affiche simplement un chiffre reste relativement facile à contredire. Une IA générative peut désormais produire une explication parfaitement structurée, citer des arguments, adopter le vocabulaire d'un expert et présenter sa conclusion avec une assurance linguistique impressionnante.
Or l'assurance d'une phrase n'est pas la mesure de sa vérité.
Le risque devient encore plus subtil dans l'entreprise.
Un collaborateur demande à une IA de comparer trois investissements. Elle produit un classement, construit les arguments et recommande l'option B.
L'humain croit encore prendre la décision.
Mais combien de son raisonnement consiste désormais à évaluer les trois options, et combien consiste simplement à vérifier que la recommandation B semble raisonnable?
C'est ici que l'IA transforme la compétence humaine.
Le problème n'est plus seulement de savoir si la machine peut se tromper.
Il faut concevoir des organisations dans lesquelles l'humain conserve réellement la capacité cognitive de la contredire.
Car le danger d'une IA convaincante n'est peut-être pas qu'elle décide à notre place.
C'est que nous continuions à appeler "notre décision" celle que nous n'avons plus vraiment prise.
ULTRA®
En Chine, l’automation bias devient un problème d’ingénierie cognitive. En 2026, Zhejiang University et le National Key Laboratory of Human Factors Engineering ont testé la "dynamic trust calibration" humain-IA.
Sous forte charge cognitive, le "process-based updating" s’affaiblit: l’humain devient moins sensible à l’exactitude réelle de la recommandation. À l’inverse, l’"outcome-based updating", plus heuristique, gagne en influence. Résultat: confiance subjective et compliance envers l’IA augmentent.
Le prochain enjeu du Human-AI Teaming n’est plus seulement le Human-in-the-Loop, mais le "calibrated reliance": concevoir l’interface pour que l’humain sache quand déléguer, vérifier ou contredire l’algorithme.