Publié le 22 octobre 2026 · Publication originale
Un autre recommence avec le même modèle.
Il change seulement les exemples utilisés pour rechercher ce circuit.
Et la carte peut changer.
C'est l'une des difficultés les plus sérieuses de l'interprétabilité mécaniste.
En juillet 2026, à l'ICML, Alaa Anani, Tobias Lorenz, Bernt Schiele, Mario Fritz et Jonas Fischer montrent que certaines méthodes de découverte de circuits sont fortement sensibles au jeu de données choisi pour représenter un comportement.
Un neurone ou une connexion peut sembler essentiel avec une série d'exemples, puis beaucoup moins avec une autre.
Le danger scientifique est précis.
Une carte interne peut paraître convaincante tout en décrivant en partie les particularités des exemples qui ont servi à la construire.
Les chercheurs proposent "Certified Circuits".
La méthode répète la découverte sur des sous-échantillons aléatoires, puis cherche à certifier quelles décisions d'inclusion restent inchangées lorsque le jeu de données subit un nombre limité de modifications.
Lorsqu'un composant est trop instable, la méthode préfère ne pas le retenir.
Les tests portent sur ResNet, ViT et GPT-2, en vision comme en langage, notamment sur les tâches IOI, IOI-Hard et Greater-Than.
Dans les comparaisons publiées, les circuits certifiés atteignent jusqu'à 56% de précision supplémentaire tout en contenant jusqu'à 80% de composants en moins.
Cela ne signifie pas que GPT-2 devient 56% plus fiable.
Le chiffre mesure la qualité des circuits extraits.
La nuance est essentielle.
"Certifié" ne signifie pas que nous avons découvert le véritable mécanisme causal du modèle.
Cela signifie qu'une partie de la carte résiste à une classe précisément définie de modifications des données utilisées pour la découvrir.
Pour un audit d'IA, cette distinction change beaucoup de choses.
Montrer une belle visualisation interne ne suffit plus.
Il faut pouvoir répondre à une question plus sévère:
si nous recommençons l'expérience avec d'autres exemples raisonnables, trouvons-nous encore le même circuit?
Nous savons maintenant isoler certaines connexions, tester leur rôle et même les modifier.
Le problème suivant est plus difficile.
Une explication peut être stable sans être vraie.
Et une explication instable peut être très convaincante à regarder.
ROM@NZO ©
Deux équipes observent la même machine.
Sur leurs écrans, deux cartes apparaissent.
Toutes deux sont nettes. Toutes deux possèdent des couleurs, des flèches et des connexions que l'on pourrait montrer à un comité de direction.
Puis quelqu'un remplace quelques exemples.
Une partie des flèches disparaît.
Le modèle, lui, n'a pas changé.
Ce soir-là, la question n'est plus de savoir si la machine possède des circuits.
Elle est de savoir combien de nos cartes appartiennent réellement à la machine, et combien appartiennent encore à notre manière de l'interroger.