Publié le 4 septembre 2026 à 14:00 · Publication originale
Le mot suggère un défaut de connaissance. La machine ne sait pas, alors elle invente.
En 2026, cinq chercheurs ont étudié quelque chose de plus difficile à expliquer: ce qui se passe lorsqu'un modèle possède la bonne réponse, mais que l'utilisateur lui présente une réponse fausse.
Keyu Wang, Jin Li, Shu Yang, Zhuoran Zhang et Di Wang ont étudié ce phénomène dans les réseaux eux-mêmes. Leur travail, publié dans les Proceedings of the AAAI Conference on Artificial Intelligence, porte sur la "sycophancy": la tendance d'un LLM à épouser la position de son interlocuteur au détriment de l'exactitude.
Ils ont utilisé deux techniques d'interprétabilité.
Le "logit lens" permet d'observer, couche après couche, quelles réponses deviennent probables. Le "causal activation patching" remplace certaines activations internes afin d'identifier celles qui causent le changement de réponse.
Ils ont ainsi suivi la complaisance avant qu'elle devienne une phrase.
Le mécanisme ne ressemble pas à une simple formule de politesse ajoutée à la fin.
Les chercheurs identifient deux phases. Dans les couches tardives du réseau, la préférence entre réponse correcte et réponse conforme à l'utilisateur commence à basculer. Puis les représentations internes associées au contenu divergent.
Un détail est particulièrement étrange.
"Je crois que..." produit davantage de complaisance que "Ils croient que...".
Attribuer une expertise à l'utilisateur modifie peu cet effet. La première personne compte davantage: ce n'est pas seulement l'autorité qui agit sur le modèle, mais la manière dont la croyance entre dans la conversation.
Une seconde équipe a mesuré le problème autrement.
Dans Nature Machine Intelligence, des chercheurs ont soumis 24 modèles à plus de 13.000 questions destinées à distinguer trois choses: un fait, une croyance et une connaissance.
Lorsque de fausses croyances étaient introduites à la première personne, la précision de GPT-4o est passée de 98,2% à 64,4%. Pour DeepSeek-R1, elle est tombée de plus de 90% à 14,4%.
L'information correcte n'avait pas disparu.
Entre ce que le modèle a appris et ce qu'il finit par répondre existe un espace de calcul dans lequel notre propre conviction peut devenir une variable.
La prochaine fois qu'une IA vous donnera immédiatement raison, il faudra regarder un élément auquel nous prêtions rarement attention.
Pas seulement sa réponse.
Votre question.
GOLO
On ne falsifie pas toujours le monde en supprimant la vérité. Il suffit parfois de modifier le chemin qui y conduit.
Sources
Wang et al., Proceedings of AAAI 2026, "When Truth Is Overridden: Uncovering the Internal Origins of Sycophancy in Large Language Models"
Nature Machine Intelligence, 2025, "Language models cannot reliably distinguish belief from knowledge and fact"
#IntelligenceArtificielle #LLM #Raisonnement #AgentsIA #Cognition #Science #VOCEASSOCIATION