Une chaîne d'agents multiplie les frontières
Accès libre · Séquence de travail: 35 à 45 minutes estimées, comprenant lecture, analyse, production et correction. Durée à confirmer par un pilote; adaptez le temps à votre rythme.
Objectif professionnel
Établir un budget d'autorité partagé
Production attendue: Une matrice de contrôle comportant entrée, règle, résultat attendu, preuve et propriétaire; les calculs détaillés lorsqu’ils sont pertinents.
Parcours de travail
- Comprendre et reformuler le mécanisme: 8 minutes.
- Construire le dossier du cas et vérifier les hypothèses: 12 minutes.
- Traiter la variante de transfert et examiner une référence: 10 à 15 minutes.
- Comparer au corrigé et réviser la production: 5 à 10 minutes.
Ces temps organisent une activité complète. La seule lecture de la page est plus courte. Conservez votre première réponse avant de consulter la correction; une production de 400 à 600 mots, ou un tableau et son commentaire d’une précision équivalente, permet de rendre le raisonnement examinable.
Le mécanisme
Chaque agent supplémentaire introduit un échange de données et une possibilité d'amplifier une erreur. Les droits ne doivent pas s'additionner implicitement au fil des délégations. Une tâche déléguée possède un périmètre et un résultat attendu; le système appelant reste responsable de la validation avant effet externe.
Dans un système composé, chaque agent peut agir correctement au regard de sa tâche locale et produire une conséquence indésirable à l'échelle globale. Un agent prépare un bénéficiaire, un autre calcule un montant et un troisième exécute. Il faut conserver l'identité de la demande initiale, les preuves et les limites tout au long du chemin. La délégation ne doit pas créer de nouveaux droits. Le budget d'action global empêche qu'une limite par appel soit contournée par une succession d'opérations. L'audit suit donc une intention complète et ses effets cumulés.
Empêcher une délégation d'élargir la mission
Dans la chaîne recherche/rédaction/envoi, le dossier transmis peut contenir un identifiant de mission, les sources autorisées, les destinataires permis et une date d'expiration. Le rédacteur produit un texte; il ne peut pas ajouter une autorisation d'envoi à une adresse trouvée dans une source. Le dernier service compare les paramètres réels à la mission approuvée. Une signature du message intermédiaire aiderait à établir son origine, pas à rendre légitime tout ce qu'il demande. La responsabilité reste attachée à une politique appliquée, indépendamment de la fluidité de la conversation entre agents.
Démonstration pédagogique: les données ajoutées à titre d’exemple ne sont pas des résultats empiriques.
Repères méthodologiques communs
Une chaîne documentaire commence avant la génération de texte. Les documents sont acquis, découpés, indexés et filtrés; les résultats sont ensuite sélectionnés et présentés au modèle. Chaque étape peut perdre une information ou modifier son contexte. Une évaluation utile conserve un jeu de questions avec les passages attendus et vérifie séparément leur récupération et leur utilisation.
Une réponse peut être correcte sans citation adéquate, ou comporter une citation qui ne soutient pas sa conclusion. L’évaluation de l’exactitude et celle de l’appui documentaire ne doivent donc pas être confondues. Pour une affirmation sensible, il faut retrouver la proposition dans une source pertinente, vérifier sa version et examiner ses conditions d’application. Un lien présent dans la réponse n’accomplit pas ce travail à lui seul.
Les outils ajoutent une seconde difficulté: le contenu lu peut influencer des actions. Le système doit conserver la différence entre donnée externe, instruction de l’utilisateur et permission effective. Les règles de destination, de montant ou de périmètre doivent être appliquées par les services concernés. Un contrôle textuel peut compléter ces règles, mais ne constitue pas une frontière d’autorisation suffisante.
Les mesures doivent enfin préciser leur population. Le rappel documentaire peut être calculé sur les questions disposant d’un passage de référence. L’exactitude conditionnelle porte sur un sous-ensemble. Le taux global exige de connaître les autres résultats. Documentez les exclusions, abstentions et cas indéterminés. Cette discipline évite qu’une amélioration locale soit présentée comme la réussite du service complet.
Un dossier de décision technique
Présentez les composants, les états et les frontières de responsabilité. Séparez la sortie proposée par un modèle de l’action effectivement exécutée. Pour chaque contrôle, indiquez son emplacement, sa condition de déclenchement et la preuve observable. Un prompt prudent ne remplace pas un refus appliqué par le service.
Travaillez d’abord avec les informations effectivement fournies. Énumérez séparément les hypothèses nécessaires, en précisant lesquelles changeraient la décision. Si une donnée manque, formulez une conclusion conditionnelle ou une demande de preuve. Une valeur inventée ne doit jamais devenir une observation.
Cas professionnel: consolidation guidée
Situation fictive conçue pour l’apprentissage; les chiffres ne décrivent ni une étude ni un client réel.
Un agent de recherche transmet un dossier à un rédacteur puis à un agent d'envoi. Cartographiez les données, droits et validations. Introduisez une source malveillante et une erreur de destinataire dans deux essais séparés.
- Définissez la décision ou la proposition à examiner et son périmètre.
- Construisez la production attendue avec les données du cas. Montrez les calculs et les unités, ou reliez chaque affirmation à une observation.
- Présentez au moins une interprétation concurrente. Indiquez la donnée qui permettrait de la départager.
- Rédigez une recommandation de 120 à 180 mots avec ses conditions de validité. Précisez ce qui reste impossible à conclure.
Transfert à une situation nouvelle
Un sous-agent possède davantage de droits que son appelant: concevez une politique empêchant l'escalade implicite.
Répondez avant d’ouvrir le corrigé. Modifiez explicitement votre dossier initial: quelle règle reste valable, quelle hypothèse tombe et quelle preuve supplémentaire devient nécessaire? Une réponse qui répète simplement la conclusion du premier cas ne démontre pas le transfert.
Travail sur les références
OWASP: excessive agency et permissions des outils; la restriction de délégation doit être testée dans l'architecture réelle.
L’objectif documentaire est de soutenir ou de limiter la conclusion suivante: Établir un budget d'autorité partagé.
Choisissez ci-dessous la source dont le périmètre correspond directement au mécanisme étudié. Identifiez sa section, sa version et sa date; relevez une proposition précise et expliquez son lien avec une étape de votre production. Indiquez également une conclusion que cette source ne permet pas de soutenir. Les portails généraux et programmes de formation constituent des points d’entrée, non une preuve scientifique du cas.
Si le texte intégral est inaccessible ou sous licence, ne prétendez pas l’avoir vérifié. Consignez la limite, identifiez le document ou la section à obtenir et rédigez votre conclusion sous cette réserve. Les calculs et situations fictives restent des constructions pédagogiques VOCE.
Ouvrir le corrigé argumenté
Correction du cas
L'agent d'envoi ne doit pas considérer le texte du rédacteur comme une autorisation. La destination et les pièces sont validées indépendamment. Les journaux relient les appels sans recopier toutes les données sensibles.
Correction du transfert
Limiter l'action déléguée aux droits accordés à la mission et compatibles avec ceux de l'appelant. Les privilèges supplémentaires du sous-agent restent inutilisables sans autorisation distincte. Tester un appelant sans droit d'envoi: la chaîne doit refuser l'effet final même si le dernier composant possède techniquement un connecteur de courrier.
Évaluer puis réviser
Critère propre à ce module: Aucune autorisation métier n'est créée par le texte d'un sous-agent.
- 4 points: analyse du mécanisme, calculs ou relations documentaires corrects.
- 3 points: justification de la décision par des données et des hypothèses explicites.
- 2 points: traitement réel de la variante, avec une conclusion adaptée.
- 1 point: référence précise et limite de portée correctement identifiées.
Repère interne proposé: 8/10 sans erreur critique. Une preuve inventée, une causalité non démontrée, une unité erronée décisive ou un droit supposé sans fondement imposent une reprise. Ce barème sert à l’autoévaluation; il n’atteste pas à lui seul une compétence acquise.
Après comparaison, corrigez votre dossier dans une seconde version et ajoutez un court journal: erreur repérée, effet sur la conclusion, correction et vérification restante. Conservez les deux versions seulement si vous avez réellement effectué l’activité.
Références et portée
OWASP LLM06 Excessive Agency
Nature: référentiel sécurité. Version: 2025.
Portée du registre: droits, portée des outils, autonomie excessive. Vérification documentaire enregistrée: 2026-10-17.
Page officielle consultée
Les compétences VCLF sont des repères internes. Aucun alignement supplémentaire avec ESCO, e-CF ou un niveau de qualification n’est déduit automatiquement de cette réécriture. Les statuts de vérification ci-dessus restent ceux du registre; ils ne constituent pas une nouvelle lecture intégrale de chaque source.
Version et provenance
Compétence: VCLF-API-AI031. Réécriture et cas complémentaires: VOCE Association avec assistance IA, 18 octobre 2026. Le socle documentaire antérieur et ses réserves sont conservés. Relecture indépendante et mesure des durées auprès d’apprenants: à réaliser.