DeepSeek-R1: ce que récompense un raisonnement
Accès libre · Séquence de travail: 35 à 45 minutes estimées, comprenant lecture, analyse, production et correction. Durée à confirmer par un pilote; adaptez le temps à votre rythme.
Objectif professionnel
Auditer la vérifiabilité d'une récompense
Production attendue: Une matrice de contrôle comportant entrée, règle, résultat attendu, preuve et propriétaire; les calculs détaillés lorsqu’ils sont pertinents.
Parcours de travail
- Comprendre et reformuler le mécanisme: 8 minutes.
- Construire le dossier du cas et vérifier les hypothèses: 12 minutes.
- Traiter la variante de transfert et examiner une référence: 10 à 15 minutes.
- Comparer au corrigé et réviser la production: 5 à 10 minutes.
Ces temps organisent une activité complète. La seule lecture de la page est plus courte. Conservez votre première réponse avant de consulter la correction; une production de 400 à 600 mots, ou un tableau et son commentaire d’une précision équivalente, permet de rendre le raisonnement examinable.
Le mécanisme
L'apprentissage par renforcement favorise ce que la récompense mesure. Une récompense sur la réponse finale peut améliorer la réussite sans garantir que le texte de raisonnement représente fidèlement le calcul interne. Il faut distinguer résultat vérifiable, conformité du format et justification utile à l'utilisateur.
Le travail DeepSeek-R1 étudie notamment l'apprentissage par renforcement pour des capacités de raisonnement. Les tâches à résultat vérifiable permettent une récompense plus directement contrôlable que les jugements ouverts. Le transfert à un avis de direction n'est pas automatique: une réponse chiffrée correcte dans un problème fermé et une recommandation stratégique mobilisent des preuves différentes. Il faut examiner la fonction de récompense, ses angles morts et les moyens de l'exploiter. Les raisonnements affichés restent des sorties du système, sans accès garanti à l'ensemble de son fonctionnement interne.
Chercher les raccourcis du vérificateur
Une tâche fictive demande une distance à partir d'une vitesse et d'une durée. Si tous les exemples d'apprentissage utilisent des heures, le modèle peut mémoriser une multiplication sans traiter l'unité. Une épreuve à 60 km/h pendant 30 minutes devrait donner 30 km, pas 1.800. D'autres raccourcis possibles sont une réponse copiée dans le contexte, un motif de réponse récurrent ou un vérificateur qui accepte n'importe quel texte contenant le bon nombre. Le test doit faire échouer ces stratégies sans transformer les cas en devinettes linguistiques.
Démonstration pédagogique: les données ajoutées à titre d’exemple ne sont pas des résultats empiriques.
Repères méthodologiques communs
Le coût d’un modèle doit être décomposé selon l’opération étudiée. Les paramètres stockés, les activations temporaires, le contexte et les transferts mémoire consomment des ressources différentes. Une réduction du nombre de paramètres entraînés ne donne donc pas directement la réduction de mémoire totale ou du temps d’exécution. L’unité de comparaison doit rester explicite: exemple traité, jeton généré ou tâche correctement achevée.
Une transformation technique peut préserver certaines propriétés et en modifier d’autres. Une optimisation de calcul peut conserver la formulation mathématique tout en produisant de petites différences numériques. Une quantification change la représentation de valeurs. Une adaptation de faible rang modifie un sous-espace de paramètres. Il faut identifier la transformation exacte avant d’interpréter un résultat de benchmark.
L’évaluation sépare au minimum les données utilisées pour ajuster le système et celles utilisées pour décider de son acceptation. Lorsque plusieurs versions sont comparées, garder les résultats par cas permet d’identifier les gains et pertes. Une moyenne favorable peut provenir de progrès sur des cas fréquents alors que les cas critiques se dégradent. Les conditions matérielles, versions et paramètres d’inférence appartiennent au compte rendu.
Les réponses préférées par des évaluateurs, les réponses factuellement correctes et les réponses utiles au travail représentent des critères distincts. Un mécanisme d’optimisation ne garantit que ce qu’il mesure dans ses conditions. Dans votre analyse, précisez la cible, les effets non mesurés et les tests qui pourraient invalider l’interprétation proposée. Une explication du mécanisme doit rester indépendante de la promesse commerciale.
Un dossier de décision technique
Présentez les composants, les états et les frontières de responsabilité. Séparez la sortie proposée par un modèle de l’action effectivement exécutée. Pour chaque contrôle, indiquez son emplacement, sa condition de déclenchement et la preuve observable. Un prompt prudent ne remplace pas un refus appliqué par le service.
Travaillez d’abord avec les informations effectivement fournies. Énumérez séparément les hypothèses nécessaires, en précisant lesquelles changeraient la décision. Si une donnée manque, formulez une conclusion conditionnelle ou une demande de preuve. Une valeur inventée ne doit jamais devenir une observation.
Cas professionnel: consolidation guidée
Situation fictive conçue pour l’apprentissage; les chiffres ne décrivent ni une étude ni un client réel.
Un entraînement récompense uniquement le résultat numérique. Imaginez quatre façons de réussir le test sans maîtriser la tâche. Concevez une évaluation avec problèmes nouveaux, données parasites et réponses volontairement impossibles.
- Définissez la décision ou la proposition à examiner et son périmètre.
- Construisez la production attendue avec les données du cas. Montrez les calculs et les unités, ou reliez chaque affirmation à une observation.
- Présentez au moins une interprétation concurrente. Indiquez la donnée qui permettrait de la départager.
- Rédigez une recommandation de 120 à 180 mots avec ses conditions de validité. Précisez ce qui reste impossible à conclure.
Transfert à une situation nouvelle
Le modèle réussit les exercices connus mais échoue quand les unités changent: concevez un test de transfert.
Répondez avant d’ouvrir le corrigé. Modifiez explicitement votre dossier initial: quelle règle reste valable, quelle hypothèse tombe et quelle preuve supplémentaire devient nécessaire? Une réponse qui répète simplement la conclusion du premier cas ne démontre pas le transfert.
Travail sur les références
R1: lire les objectifs et limites annoncés par les auteurs; la longueur d'une explication ne prouve pas la fidélité du raisonnement interne.
L’objectif documentaire est de soutenir ou de limiter la conclusion suivante: Auditer la vérifiabilité d'une récompense.
Choisissez ci-dessous la source dont le périmètre correspond directement au mécanisme étudié. Identifiez sa section, sa version et sa date; relevez une proposition précise et expliquez son lien avec une étape de votre production. Indiquez également une conclusion que cette source ne permet pas de soutenir. Les portails généraux et programmes de formation constituent des points d’entrée, non une preuve scientifique du cas.
Si le texte intégral est inaccessible ou sous licence, ne prétendez pas l’avoir vérifié. Consignez la limite, identifiez le document ou la section à obtenir et rédigez votre conclusion sous cette réserve. Les calculs et situations fictives restent des constructions pédagogiques VOCE.
Ouvrir le corrigé argumenté
Correction du cas
Les fuites de réponses, motifs mémorisés et défauts du vérificateur peuvent améliorer artificiellement le score. L'évaluation doit isoler les familles de problèmes et examiner l'abstention. Un raisonnement plus long ne constitue pas une preuve indépendante.
Correction du transfert
Construire des paires équivalentes, par exemple 0,5 heure et 30 minutes, en gardant le problème constant. Ajouter une entrée où la durée manque: la bonne réponse demande cette donnée. Vérifier nombre, unité et conditions, puis réserver une famille de problèmes nouvelle pour distinguer apprentissage de la règle et mémorisation.
Évaluer puis réviser
Critère propre à ce module: Le vérificateur refuse une bonne valeur dans une mauvaise unité et accepte une abstention justifiée.
- 4 points: analyse du mécanisme, calculs ou relations documentaires corrects.
- 3 points: justification de la décision par des données et des hypothèses explicites.
- 2 points: traitement réel de la variante, avec une conclusion adaptée.
- 1 point: référence précise et limite de portée correctement identifiées.
Repère interne proposé: 8/10 sans erreur critique. Une preuve inventée, une causalité non démontrée, une unité erronée décisive ou un droit supposé sans fondement imposent une reprise. Ce barème sert à l’autoévaluation; il n’atteste pas à lui seul une compétence acquise.
Après comparaison, corrigez votre dossier dans une seconde version et ajoutez un court journal: erreur repérée, effet sur la conclusion, correction et vérification restante. Conservez les deux versions seulement si vous avez réellement effectué l’activité.
Références et portée
DeepSeek-AI, DeepSeek-R1
Nature: rapport de recherche. Version: 2025, arXiv 2501.12948.
Portée du registre: récompenses et raisonnement, sans affiliation VOCE. Vérification documentaire enregistrée: 2026-10-17.
Notice primaire consultée
Les compétences VCLF sont des repères internes. Aucun alignement supplémentaire avec ESCO, e-CF ou un niveau de qualification n’est déduit automatiquement de cette réécriture. Les statuts de vérification ci-dessus restent ceux du registre; ils ne constituent pas une nouvelle lecture intégrale de chaque source.
Version et provenance
Compétence: VCLF-AI-AI022. Réécriture et cas complémentaires: VOCE Association avec assistance IA, 18 octobre 2026. Le socle documentaire antérieur et ses réserves sont conservés. Relecture indépendante et mesure des durées auprès d’apprenants: à réaliser.