Publié le 22 septembre 2026 à 13:00 · Publication originale
Le modèle est-il lent?
Peut-être pas.
La requête a pu passer par un moteur de recherche, récupérer six documents, appeler un modèle, déclencher un outil, attendre une API, recevoir une erreur, recommencer puis appeler une seconde fois le modèle.
L'utilisateur ne voit qu'une réponse et douze secondes.
L'ingénieur doit voir le trajet.
C'est le rôle de l'observabilité distribuée.
Lorsqu'une requête entre dans un système, elle reçoit un identifiant de trace. Chaque opération importante crée ensuite un "span", un segment horodaté représentant une partie du travail.
La trace peut ainsi montrer 80 millisecondes dans la recherche documentaire, 1,7 seconde dans le premier appel au modèle, 6 secondes dans une API externe puis un nouvel appel après échec.
Le temps total cesse d'être une boîte noire.
OpenTelemetry fournit un standard open source permettant de produire et transporter traces, métriques et journaux entre systèmes.
En 2026, ses conventions sémantiques couvrent également l'IA générative.
Une opération peut enregistrer le modèle appelé, le nombre de tokens d'entrée et de sortie et les appels d'outils. Le contenu des prompts, réponses ou résultats peut aussi être capturé lorsqu'on l'active explicitement.
Cette dernière possibilité introduit immédiatement une difficulté.
La meilleure trace pour diagnostiquer un incident peut également contenir le contrat confidentiel, le dossier médical ou le message privé qui l'a provoqué.
Observer davantage peut donc créer davantage de données sensibles à protéger.
À mesure que les agents enchaînent modèles, outils et API, leur résultat final raconte de moins en moins ce qui s'est réellement passé.
Une trace conserve cette histoire opérationnelle.
ULTRA®
Une trace complète peut devenir trop chère avant même que l'application le soit.
À plusieurs millions de requêtes, conserver chaque span, événement et contenu produit un second système de données.
L'échantillonnage en tête décide de conserver une trace dès son départ. Il est économique, mais ignore encore si elle finira en erreur ou prendra 40 secondes.
L'échantillonnage en queue attend de connaître son résultat. Il peut conserver 100% des erreurs et des latences extrêmes tout en supprimant une grande partie du trafic banal.
Cette différence devient précieuse pour les agents: l'anomalie intéressante peut n'apparaître qu'au dernier appel d'une chaîne de vingt opérations.
OpenTelemetry prévoit aussi que les attributs coûteux, volumineux ou sensibles puissent être optionnels.
Conseil: séparer métadonnées diagnostiques et contenu métier. Une excellente observabilité ne consiste pas à tout enregistrer.
Le système le plus facile à déboguer peut sinon devenir celui qui a copié le plus de secrets.