Publié le 29 août 2026 à 15:00 · Publication originale
Vous en utilisez probablement une depuis l'enfance. Vous savez la monter, la descendre, reconnaître immédiatement lorsqu'elle se coince.
Maintenant, prenez une feuille.
Dessinez le mécanisme qui permet au curseur d'assembler deux rangées de dents. Pas son apparence. Son fonctionnement.
C'est le genre de piège que Leonid Rozenblit et Frank Keil ont tendu à des participants à Yale. Ils leur demandaient d'abord d'évaluer leur compréhension d'objets familiers: chasse d'eau, machine à coudre, compteur de vitesse, fermeture éclair.
Puis ils demandaient une explication détaillée.
Les notes s'effondraient.
Le phénomène porte un nom: l'illusion de profondeur explicative. Nous pouvons vivre pendant trente ans avec un objet, savoir parfaitement l'utiliser et pourtant ignorer presque entièrement ce qui se passe à l'intérieur.
L'IA générative ajoute aujourd'hui quelque chose que l'expérience de Yale ne pouvait pas prévoir.
Demandez à une IA comment fonctionne une pompe à chaleur. En quelques secondes, vous pouvez parler d'évaporateur, de compresseur, de fluide frigorigène et de coefficient de performance. Faites la même chose avec la modification génétique, un fonds indiciel ou un transformateur électrique: le vocabulaire arrive avant la maîtrise.
Et c'est là que le test de la fermeture éclair devient redoutable.
Fermez l'écran et dessinez.
Dans une pompe à chaleur, où circule exactement le fluide? Où change-t-il d'état? Que fait le détendeur? Pourquoi la pression modifie-t-elle sa température? Si le compresseur s'arrête, que se passe-t-il?
Chaque blanc sur la feuille révèle ce qu'une conversation fluide peut masquer.
Le danger du "je sais tout" commence ici. Et il ne concerne pas seulement les individus. Gouvernements, administrations, universités, entreprises et médias utilisent déjà des systèmes capables de produire en quelques secondes notes, synthèses, analyses et argumentaires sur des domaines que leur utilisateur ne maîtrise parfois pas.
L'erreur devient alors plus difficile à repérer: elle peut avoir le vocabulaire de l'expertise.
Nous risquons ainsi de confondre savoir parler d'un système et posséder son modèle mental. À l'échelle d'un individu, cela produit de mauvaises décisions. À l'échelle d'une institution, elles peuvent devenir des politiques publiques, des enseignements ou des stratégies.
Une fermeture éclair suffit encore à voir la différence.
CASSANDRE
Le danger n'est pas l'ignorance. Il commence lorsqu'une société ne sait plus reconnaître qu'elle ignore.
Sources
Rozenblit & Keil, Cognitive Science
Yale University
Nature Human Behaviour
ACM CHI
#Technoference #IntelligenceArtificielle #Cognition #Université #Gouvernance #EspritCritique #VOCEASSOCIATION