Tester un agent sur des cas qu'il n'a pas vus
Accès libre · Séquence de travail: 35 à 45 minutes estimées, comprenant lecture, analyse, production et correction. Durée à confirmer par un pilote; adaptez le temps à votre rythme.
Objectif professionnel
Préparer un ensemble d'évaluation indépendant
Production attendue: Une matrice de contrôle comportant entrée, règle, résultat attendu, preuve et propriétaire; les calculs détaillés lorsqu’ils sont pertinents.
Parcours de travail
- Comprendre et reformuler le mécanisme: 8 minutes.
- Construire le dossier du cas et vérifier les hypothèses: 12 minutes.
- Traiter la variante de transfert et examiner une référence: 10 à 15 minutes.
- Comparer au corrigé et réviser la production: 5 à 10 minutes.
Ces temps organisent une activité complète. La seule lecture de la page est plus courte. Conservez votre première réponse avant de consulter la correction; une production de 400 à 600 mots, ou un tableau et son commentaire d’une précision équivalente, permet de rendre le raisonnement examinable.
Le mécanisme
Des cas consultés pendant l'amélioration du système ne constituent plus une évaluation entièrement indépendante. La séparation doit porter sur les documents, familles de tâches et versions, selon le risque de fuite. Les erreurs servent à améliorer le système, mais le test final doit préserver des situations nouvelles.
Un jeu de test sert à estimer un comportement hors des exemples utilisés pour construire le système. Si l'équipe corrige sans cesse le produit sur les mêmes questions, ce jeu devient progressivement un outil de développement. Il faut conserver un lot indépendant et documenter ses conditions d'accès. La séparation peut porter sur des périodes, des clients ou des familles de situations. Une simple répartition aléatoire ne suffit pas lorsque des dossiers presque identiques apparaissent dans plusieurs lots. La qualité de l'évaluation dépend de ce que l'on prétend généraliser.
Geler une évaluation qui n'a pas servi à régler le système
Une répartition illustrative des 30 dossiers pourrait réserver 18 dossiers au développement, six à la validation et six au test final. Elle laisse toutes les questions d'un dossier dans le même ensemble. Ce choix ne garantit ni équilibre thématique ni puissance statistique: il faut décrire les catégories et la difficulté de chaque ensemble. Dès qu'une réponse du test final sert à modifier une consigne, le dossier concerné a influencé le développement. Le journal de versions doit rendre cette contamination visible et prévoir un nouveau test pour la prochaine décision.
Démonstration pédagogique: les données ajoutées à titre d’exemple ne sont pas des résultats empiriques.
Repères méthodologiques communs
Une chaîne documentaire commence avant la génération de texte. Les documents sont acquis, découpés, indexés et filtrés; les résultats sont ensuite sélectionnés et présentés au modèle. Chaque étape peut perdre une information ou modifier son contexte. Une évaluation utile conserve un jeu de questions avec les passages attendus et vérifie séparément leur récupération et leur utilisation.
Une réponse peut être correcte sans citation adéquate, ou comporter une citation qui ne soutient pas sa conclusion. L’évaluation de l’exactitude et celle de l’appui documentaire ne doivent donc pas être confondues. Pour une affirmation sensible, il faut retrouver la proposition dans une source pertinente, vérifier sa version et examiner ses conditions d’application. Un lien présent dans la réponse n’accomplit pas ce travail à lui seul.
Les outils ajoutent une seconde difficulté: le contenu lu peut influencer des actions. Le système doit conserver la différence entre donnée externe, instruction de l’utilisateur et permission effective. Les règles de destination, de montant ou de périmètre doivent être appliquées par les services concernés. Un contrôle textuel peut compléter ces règles, mais ne constitue pas une frontière d’autorisation suffisante.
Les mesures doivent enfin préciser leur population. Le rappel documentaire peut être calculé sur les questions disposant d’un passage de référence. L’exactitude conditionnelle porte sur un sous-ensemble. Le taux global exige de connaître les autres résultats. Documentez les exclusions, abstentions et cas indéterminés. Cette discipline évite qu’une amélioration locale soit présentée comme la réussite du service complet.
Un dossier de décision technique
Présentez les composants, les états et les frontières de responsabilité. Séparez la sortie proposée par un modèle de l’action effectivement exécutée. Pour chaque contrôle, indiquez son emplacement, sa condition de déclenchement et la preuve observable. Un prompt prudent ne remplace pas un refus appliqué par le service.
Travaillez d’abord avec les informations effectivement fournies. Énumérez séparément les hypothèses nécessaires, en précisant lesquelles changeraient la décision. Si une donnée manque, formulez une conclusion conditionnelle ou une demande de preuve. Une valeur inventée ne doit jamais devenir une observation.
Cas professionnel: consolidation guidée
Situation fictive conçue pour l’apprentissage; les chiffres ne décrivent ni une étude ni un client réel.
Vous disposez de 300 questions issues de 30 dossiers. Proposez un découpage développement/validation/test qui évite de distribuer des questions du même dossier partout. Définissez les règles de gel et une procédure après découverte d'une erreur.
- Définissez la décision ou la proposition à examiner et son périmètre.
- Construisez la production attendue avec les données du cas. Montrez les calculs et les unités, ou reliez chaque affirmation à une observation.
- Présentez au moins une interprétation concurrente. Indiquez la donnée qui permettrait de la départager.
- Rédigez une recommandation de 120 à 180 mots avec ses conditions de validité. Précisez ce qui reste impossible à conclure.
Transfert à une situation nouvelle
Une moitié des documents était publique pendant l'entraînement du modèle: expliquez la limite de l'indépendance revendiquée.
Répondez avant d’ouvrir le corrigé. Modifiez explicitement votre dossier initial: quelle règle reste valable, quelle hypothèse tombe et quelle preuve supplémentaire devient nécessaire? Une réponse qui répète simplement la conclusion du premier cas ne démontre pas le transfert.
Travail sur les références
NISTGEN: évaluation contextualisée; le partage 18/6/6 est un exemple de conception à adapter, non une prescription statistique.
L’objectif documentaire est de soutenir ou de limiter la conclusion suivante: Préparer un ensemble d'évaluation indépendant.
Choisissez ci-dessous la source dont le périmètre correspond directement au mécanisme étudié. Identifiez sa section, sa version et sa date; relevez une proposition précise et expliquez son lien avec une étape de votre production. Indiquez également une conclusion que cette source ne permet pas de soutenir. Les portails généraux et programmes de formation constituent des points d’entrée, non une preuve scientifique du cas.
Si le texte intégral est inaccessible ou sous licence, ne prétendez pas l’avoir vérifié. Consignez la limite, identifiez le document ou la section à obtenir et rédigez votre conclusion sous cette réserve. Les calculs et situations fictives restent des constructions pédagogiques VOCE.
Ouvrir le corrigé argumenté
Correction du cas
La séparation par dossier limite les ressemblances directes, sans garantir l'absence de fuite thématique. Le test est gelé avant la décision finale. Toute consultation pour optimiser doit être documentée et peut nécessiter un nouveau jeu.
Correction du transfert
La publication antérieure crée une possibilité d'exposition, pas la preuve que le modèle a mémorisé le document. Signaler cette limite, privilégier des cas nouveaux ou des transformations contrôlées, puis tester leur validité. Ne pas appeler le jeu totalement inédit sans information suffisante sur les données d'entraînement.
Évaluer puis réviser
Critère propre à ce module: Le découpage porte sur les dossiers et l'usage ultérieur des réponses du test est tracé.
- 4 points: analyse du mécanisme, calculs ou relations documentaires corrects.
- 3 points: justification de la décision par des données et des hypothèses explicites.
- 2 points: traitement réel de la variante, avec une conclusion adaptée.
- 1 point: référence précise et limite de portée correctement identifiées.
Repère interne proposé: 8/10 sans erreur critique. Une preuve inventée, une causalité non démontrée, une unité erronée décisive ou un droit supposé sans fondement imposent une reprise. Ce barème sert à l’autoévaluation; il n’atteste pas à lui seul une compétence acquise.
Après comparaison, corrigez votre dossier dans une seconde version et ajoutez un court journal: erreur repérée, effet sur la conclusion, correction et vérification restante. Conservez les deux versions seulement si vous avez réellement effectué l’activité.
Références et portée
NIST Generative AI Profile
Nature: cadre volontaire. Version: NIST AI 600-1, 2024.
Portée du registre: tests, traçabilité et limites des systèmes génératifs. Vérification documentaire enregistrée: 2026-10-17.
Notice officielle NIST consultée; sections détaillées à relire avant validation
Les compétences VCLF sont des repères internes. Aucun alignement supplémentaire avec ESCO, e-CF ou un niveau de qualification n’est déduit automatiquement de cette réécriture. Les statuts de vérification ci-dessus restent ceux du registre; ils ne constituent pas une nouvelle lecture intégrale de chaque source.
Version et provenance
Compétence: VCLF-AI-AI034. Réécriture et cas complémentaires: VOCE Association avec assistance IA, 18 octobre 2026. Le socle documentaire antérieur et ses réserves sont conservés. Relecture indépendante et mesure des durées auprès d’apprenants: à réaliser.