La préférence humaine ne garantit pas la vérité
Accès libre · Séquence de travail: 35 à 45 minutes estimées, comprenant lecture, analyse, production et correction. Durée à confirmer par un pilote; adaptez le temps à votre rythme.
Objectif professionnel
Construire une évaluation distincte de l'alignement
Production attendue: Une matrice de contrôle comportant entrée, règle, résultat attendu, preuve et propriétaire; les calculs détaillés lorsqu’ils sont pertinents.
Parcours de travail
- Comprendre et reformuler le mécanisme: 8 minutes.
- Construire le dossier du cas et vérifier les hypothèses: 12 minutes.
- Traiter la variante de transfert et examiner une référence: 10 à 15 minutes.
- Comparer au corrigé et réviser la production: 5 à 10 minutes.
Ces temps organisent une activité complète. La seule lecture de la page est plus courte. Conservez votre première réponse avant de consulter la correction; une production de 400 à 600 mots, ou un tableau et son commentaire d’une précision équivalente, permet de rendre le raisonnement examinable.
Le mécanisme
Une préférence annotée dépend de la consigne et des personnes qui comparent les réponses. Une réponse convaincante peut être préférée malgré une erreur. La qualité factuelle doit donc être mesurée séparément de l'agrément. Les comparaisons doivent conserver les réponses, critères et désaccords; agréger trop tôt masque les arbitrages.
L'optimisation à partir de préférences apprend à favoriser certaines réponses selon des comparaisons. DPO utilise ces préférences pour ajuster le modèle sans entraîner explicitement un modèle de récompense dans son schéma de base. Une préférence peut refléter la précision, mais aussi la longueur ou le ton. Un système peut ainsi paraître meilleur tout en devenant plus persuasif lorsqu'il se trompe. L'évaluation doit séparer préférence, exactitude et capacité à refuser une réponse insuffisamment étayée. Les annotateurs doivent recevoir des critères et déclarer leurs désaccords plutôt que forcer une unanimité artificielle.
Désagréger la préférence
Une fiche d'annotation peut demander séparément si la réponse résout la tâche, si ses propositions vérifiables sont exactes et si sa présentation convient au lecteur. Une préférence globale ne révèle pas lequel de ces critères a dominé. Pour limiter les effets de présentation dans le protocole proposé, masquer le nom du modèle, varier l'ordre des réponses et conserver les désaccords. Le comptage des erreurs doit préciser son unité: réponses comportant une erreur ou nombre total d'erreurs. Les deux ne donnent pas le même taux lorsque plusieurs erreurs apparaissent dans une réponse.
Démonstration pédagogique: les données ajoutées à titre d’exemple ne sont pas des résultats empiriques.
Repères méthodologiques communs
Le coût d’un modèle doit être décomposé selon l’opération étudiée. Les paramètres stockés, les activations temporaires, le contexte et les transferts mémoire consomment des ressources différentes. Une réduction du nombre de paramètres entraînés ne donne donc pas directement la réduction de mémoire totale ou du temps d’exécution. L’unité de comparaison doit rester explicite: exemple traité, jeton généré ou tâche correctement achevée.
Une transformation technique peut préserver certaines propriétés et en modifier d’autres. Une optimisation de calcul peut conserver la formulation mathématique tout en produisant de petites différences numériques. Une quantification change la représentation de valeurs. Une adaptation de faible rang modifie un sous-espace de paramètres. Il faut identifier la transformation exacte avant d’interpréter un résultat de benchmark.
L’évaluation sépare au minimum les données utilisées pour ajuster le système et celles utilisées pour décider de son acceptation. Lorsque plusieurs versions sont comparées, garder les résultats par cas permet d’identifier les gains et pertes. Une moyenne favorable peut provenir de progrès sur des cas fréquents alors que les cas critiques se dégradent. Les conditions matérielles, versions et paramètres d’inférence appartiennent au compte rendu.
Les réponses préférées par des évaluateurs, les réponses factuellement correctes et les réponses utiles au travail représentent des critères distincts. Un mécanisme d’optimisation ne garantit que ce qu’il mesure dans ses conditions. Dans votre analyse, précisez la cible, les effets non mesurés et les tests qui pourraient invalider l’interprétation proposée. Une explication du mécanisme doit rester indépendante de la promesse commerciale.
Un dossier de décision technique
Présentez les composants, les états et les frontières de responsabilité. Séparez la sortie proposée par un modèle de l’action effectivement exécutée. Pour chaque contrôle, indiquez son emplacement, sa condition de déclenchement et la preuve observable. Un prompt prudent ne remplace pas un refus appliqué par le service.
Travaillez d’abord avec les informations effectivement fournies. Énumérez séparément les hypothèses nécessaires, en précisant lesquelles changeraient la décision. Si une donnée manque, formulez une conclusion conditionnelle ou une demande de preuve. Une valeur inventée ne doit jamais devenir une observation.
Cas professionnel: consolidation guidée
Situation fictive conçue pour l’apprentissage; les chiffres ne décrivent ni une étude ni un client réel.
Deux modèles reçoivent 200 comparaisons: B est préféré 130 fois, mais contient 24 erreurs factuelles contre 12 pour A. Construisez une grille séparant exactitude, utilité et style; proposez un protocole en aveugle.
- Définissez la décision ou la proposition à examiner et son périmètre.
- Construisez la production attendue avec les données du cas. Montrez les calculs et les unités, ou reliez chaque affirmation à une observation.
- Présentez au moins une interprétation concurrente. Indiquez la donnée qui permettrait de la départager.
- Rédigez une recommandation de 120 à 180 mots avec ses conditions de validité. Précisez ce qui reste impossible à conclure.
Transfert à une situation nouvelle
Des évaluateurs experts préfèrent A tandis que des novices préfèrent B: préparez une recommandation par usage.
Répondez avant d’ouvrir le corrigé. Modifiez explicitement votre dossier initial: quelle règle reste valable, quelle hypothèse tombe et quelle preuve supplémentaire devient nécessaire? Une réponse qui répète simplement la conclusion du premier cas ne démontre pas le transfert.
Travail sur les références
DPO: distinguer l'objectif d'optimisation des préférences et une évaluation indépendante de la factualité.
L’objectif documentaire est de soutenir ou de limiter la conclusion suivante: Construire une évaluation distincte de l'alignement.
Choisissez ci-dessous la source dont le périmètre correspond directement au mécanisme étudié. Identifiez sa section, sa version et sa date; relevez une proposition précise et expliquez son lien avec une étape de votre production. Indiquez également une conclusion que cette source ne permet pas de soutenir. Les portails généraux et programmes de formation constituent des points d’entrée, non une preuve scientifique du cas.
Si le texte intégral est inaccessible ou sous licence, ne prétendez pas l’avoir vérifié. Consignez la limite, identifiez le document ou la section à obtenir et rédigez votre conclusion sous cette réserve. Les calculs et situations fictives restent des constructions pédagogiques VOCE.
Ouvrir le corrigé argumenté
Correction du cas
B obtient 65% de préférences, mais les erreurs observées doublent. Sans savoir si les mêmes questions échouent, la comparaison reste incomplète. La préférence ne remplace pas la vérification des faits.
Correction du transfert
Examiner les raisons du désaccord et les critères métier plutôt que compter les experts comme une nouvelle majorité automatique. Pour une décision factuelle sensible, exiger une exactitude documentée et une présentation compréhensible. Un modèle apprécié des novices mais trompeur sur les faits doit être corrigé ou limité, pas recommandé sur sa seule préférence.
Évaluer puis réviser
Critère propre à ce module: L'unité d'erreur est définie et le choix par usage repose sur les exigences de la tâche.
- 4 points: analyse du mécanisme, calculs ou relations documentaires corrects.
- 3 points: justification de la décision par des données et des hypothèses explicites.
- 2 points: traitement réel de la variante, avec une conclusion adaptée.
- 1 point: référence précise et limite de portée correctement identifiées.
Repère interne proposé: 8/10 sans erreur critique. Une preuve inventée, une causalité non démontrée, une unité erronée décisive ou un droit supposé sans fondement imposent une reprise. Ce barème sert à l’autoévaluation; il n’atteste pas à lui seul une compétence acquise.
Après comparaison, corrigez votre dossier dans une seconde version et ajoutez un court journal: erreur repérée, effet sur la conclusion, correction et vérification restante. Conservez les deux versions seulement si vous avez réellement effectué l’activité.
Références et portée
Rafailov et al., Direct Preference Optimization
Nature: article de recherche. Version: 2023, arXiv 2305.18290.
Portée du registre: optimisation sur préférences. Vérification documentaire enregistrée: 2026-10-17.
Notice primaire consultée
Les compétences VCLF sont des repères internes. Aucun alignement supplémentaire avec ESCO, e-CF ou un niveau de qualification n’est déduit automatiquement de cette réécriture. Les statuts de vérification ci-dessus restent ceux du registre; ils ne constituent pas une nouvelle lecture intégrale de chaque source.
Version et provenance
Compétence: VCLF-AI-AI021. Réécriture et cas complémentaires: VOCE Association avec assistance IA, 18 octobre 2026. Le socle documentaire antérieur et ses réserves sont conservés. Relecture indépendante et mesure des durées auprès d’apprenants: à réaliser.