Publié le 16 octobre 2026 · Publication originale
Une banque possède des millions de transactions clients.
Elle ne veut pas transmettre les lignes originales à son fournisseur d'IA. Elle génère donc un dataset synthétique qui en reproduit les propriétés statistiques.
Les noms ont disparu. Les transactions réelles aussi.
Mais "synthétique" ne signifie pas automatiquement anonyme.
En 2026, des chercheurs de UCLA attaquent des générateurs de données tabulaires fondés sur des LLM.
Leur méthode LevAtt n'accède ni au modèle ni à son jeu d'entraînement. Elle observe uniquement les données synthétiques et cherche à déterminer si certaines chaînes numériques appartenaient aux données utilisées par le générateur.
Dans plusieurs tests, l'attaque révèle une fuite importante. Dans certains cas, elle devient même un classificateur d'appartenance parfait.
La copie artificielle peut donc révéler une information sur l'original.
Le NIST prévient contre cette confusion: les données synthétiques produites sans confidentialité différentielle n'offrent généralement que des garanties informelles et peuvent rester vulnérables à des attaques de confidentialité.
ULTRA®
LA PROVENANCE CHANGE DE COUCHE
En mai 2026, une étude liée à LLMs4EU souligne un second risque.
Un dataset synthétique peut contenir des éléments protégés, dériver d'un modèle entraîné illicitement ou rester soumis aux licences du modèle générateur.
"100% synthetic" ne répond donc pas à quatre questions: quel modèle l'a produit, avec quelles données, sous quelle licence et avec quel niveau de mémorisation?
La due diligence doit conserver modèle et version, licence, transformations et tests de membership inference ou de reconstruction lorsqu'ils sont pertinents.
L'Union européenne a inscrit en 2026 les données synthétiques, l'authenticité et la provenance parmi les travaux prénormatifs préparant de futures spécifications ou normes.
LI!GHT WORKFORCE ©
Avec les agents, cette faiblesse change d'échelle.
Un agent peut générer des millions d'exemples, les filtrer, les annoter puis les injecter dans le fine-tuning d'un autre modèle.
Sans registre de provenance, la dépendance juridique peut se propager plus vite qu'une organisation ne peut la reconstruire.
Chaque lot devrait conserver le modèle source, sa licence, ses paramètres de génération, ses contrôles de mémorisation et l'agent ayant déclenché l'opération.
Une LI!GHT WORKFORCE © sans mémoire de ses données peut fabriquer une dette juridique invisible.
CELLINI
Effacer l'original ne suffit pas lorsque la copie conserve encore une trace de son existence.
Sources
Ward et al., PoPETs 2026
Talmoudi et al., LEGAL 2026
NIST SP 800-226, 2025
Commission européenne, programme de normalisation 2026
#SyntheticData #AIGovernance #DataGovernance #LegalTech #VOCEAssociation