La politique de conservation de Fable chez Anthropic révèle le problème non résolu de confiance dans les données des laboratoires d’IA

La décision d’Anthropic de conserver pendant 30 jours les journaux d’utilisation de son modèle phare Fable a poussé plusieurs grands clients à restreindre ou bloquer le système pour les travaux sensibles, selon un reportage de The Information cité par The Decoder. Cet épisode montre qu’il reste difficile pour les clients d’évaluer et de faire confiance aux garanties d’entreprise concernant les exclusions d’entraînement et la conservation des données.

Nvidia limiterait Fable aux tâches moins sensibles, tandis que Booz Allen Hamilton en a interdit l’utilisation pour des logiciels de cybersécurité propriétaires. Palantir bloque le déploiement de Fable via sa plateforme jusqu’à ce qu’Anthropic fournisse ce qu’elle décrit comme des garanties irrévocables de conservation zéro des données. La réaction a transformé une politique destinée à soutenir la surveillance des abus en un test pour savoir si les fournisseurs d’IA de pointe peuvent répondre aux attentes des acheteurs d’entreprises et d’administrations en matière de contrôle des données.

La politique Fable d’Anthropic devient une ligne de fracture pour les entreprises

Anthropic a introduit en juin la politique de conservation des journaux pendant 30 jours afin de se défendre contre ce que The Decoder décrit comme des « attaques complexes et inédites ». Pour les clients qui traitent de la propriété intellectuelle, du code source, de la recherche en sécurité ou des données opérationnelles, la conservation des journaux crée toutefois un risque différent : des invites et des réponses sensibles peuvent rester accessibles au fournisseur ou devenir partie intégrante d’un système interne plus large de gestion des données.

La réaction rapportée est particulièrement notable, car Nvidia a investi dans Anthropic et fournit du matériel utilisé dans le développement des modèles de l’entreprise. Justin Boitano, vice-président Enterprise AI chez Nvidia, a déclaré à The Information que l’entreprise estime que la conservation zéro des données, ou ZDR, devrait être activée par défaut. Nvidia utilise plutôt ses propres modèles Nemotron pour des applications internes telles que le suivi de la chaîne d’approvisionnement assisté par IA, tout en réservant Fable à des tâches moins sensibles, notamment des projets open source.

Booz Allen Hamilton, utilisateur précoce du modèle Mythos d’Anthropic, aurait interdit à ses employés d’utiliser Fable pour des logiciels de cybersécurité propriétaires. Son directeur technique, Bill Vass, a déclaré que l’entreprise craignait que le modèle puisse apprendre à partir de son code. La position de Palantir a également une dimension commerciale : l’entreprise bénéficie du fait que les clients exécutent les modèles via sa plateforme contrôlée plutôt que de se connecter directement à des fournisseurs externes. Cet incitatif n’invalide pas la préoccupation, mais il constitue un contexte pertinent pour évaluer la solidité de l’objection de l’entreprise.

La conservation zéro ne répond pas à toutes les questions sur les données

Anthropic se serait orientée vers un programme de journaux de sécurité géré par le client après la résistance des entreprises et la décision d’OpenAI en août d’autoriser les clients de GPT-5.6 Cyber à stocker les journaux de sécurité sur leurs propres serveurs. Le programme comparable d’Anthropic devrait être déployé à l’automne pour certains clients, selon les éléments source. Les rapports disponibles n’indiquent pas dans quelle mesure le programme sera proposé ni s’il couvrira tous les types d’interactions d’entreprise.

Une autre complication est que la conservation zéro s’applique au contenu stocké, pas nécessairement à toutes les informations produites lorsqu’un client utilise un service d’IA. The Decoder indique qu’Anthropic et OpenAI collectent tous deux des métadonnées et des données d’utilisation techniques auprès de clients professionnels. OpenAI décrit une partie de ces informations comme dé-identifiées et affirme que des classificateurs automatisés et des outils de sécurité analysent les données commerciales pour comprendre comment ses services sont utilisés. L’entreprise dit que ces classifications contiennent des métadonnées plutôt que les données commerciales sous-jacentes.

Cette distinction n’a pas satisfait tous les clients. Les rapports indiquent que certaines organisations restent incertaines sur le contenu exact des métadonnées, leur durée de conservation et leur capacité éventuelle à révéler des schémas à forte valeur commerciale. Pour les équipes achats, la question va donc au-delà du simple fait de savoir si un fournisseur stocke les invites. Elle inclut les journaux, la télémétrie, les classificateurs, les enregistrements de débogage, les systèmes de surveillance des abus et toute information dérivée utilisée pour améliorer les produits ou détecter les défaillances.

Les preuves et les affirmations restent difficiles à comparer

Les affirmations centrales de cette affaire proviennent de décisions de clients rapportées et de commentaires de dirigeants, et non d’un audit indépendant des systèmes d’Anthropic ou d’OpenAI. Le reportage de The Information, tel que résumé par The Decoder, sert de base aux récits sur les restrictions de Nvidia, l’interdiction interne de Booz Allen Hamilton et la politique de déploiement de Palantir. L’option à venir d’Anthropic pour la journalisation gérée par le client est également rapportée ici plutôt que documentée par une spécification produit publique complète.

Le débat va au-delà de l’entraînement direct des modèles. L’ancien cofondateur d’OpenAI, John Schulman, a décrit un éventail d’utilisations possibles des données clients, allant du pré-entraînement direct à la distillation et à des tâches d’apprentissage par renforcement construites à partir des traces des utilisateurs. Il a soutenu que la dé-identification est une protection faible contre les fuites de propriété intellectuelle et a appelé à des normes de divulgation plus strictes. Dans une clarification ultérieure, Schulman a déclaré que les données utilisateur contribueraient probablement peu aux gains de capacités de pointe par rapport au pré-entraînement et à l’apprentissage par renforcement à grande échelle. Il a néanmoins ajouté que ces données peuvent aider à identifier les modes de défaillance et les cas réels difficiles.

La chercheuse Sarah Hooker a soulevé une préoccupation connexe : les méthodes de données synthétiques pourraient permettre à un laboratoire d’extraire des schémas statistiques utiles sans conserver ni reproduire directement le matériel original. Ce sont des possibilités techniques importantes, mais la source n’établit pas qu’Anthropic ou OpenAI aient utilisé les données d’un client particulier de cette manière. Elles montrent plutôt pourquoi un langage contractuel axé uniquement sur l’« entraînement » peut laisser les clients dans l’incertitude quant aux signaux dérivés et aux flux de travail de développement des modèles.

L’inquiétude est devenue plus concrète après que le mathématicien Tristan Buckmaster et son coauteur Levent Alpöge ont déclaré avoir utilisé Codex d’OpenAI en travaillant sur les équations de Navier-Stokes, puis avoir vu OpenAI présenter une percée impliquant une voie de solution similaire. OpenAI a d’abord déclaré qu’elle ne pouvait exclure une contribution de données produit anonymisées, avant d’affirmer plus tard que les invites de la période concernée n’avaient pas pu influencer le système. L’incident n’a pas prouvé un usage abusif, mais il a montré à quelle vitesse la confiance peut se détériorer lorsque les chercheurs ne peuvent pas retracer indépendamment le traitement de leurs entrées.

Implications pour les créateurs et les acheteurs d’entreprise

Pour les équipes produit IA, la leçon pratique est que la promesse d’un fournisseur de « ne pas entraîner sur les données métiers » n’est qu’un contrôle parmi d’autres. Les équipes qui déploient des modèles pour le codage, la sécurité, la recherche ou les opérations doivent cartographier l’ensemble du parcours des données : stockage des invites, journaux de réponses, surveillance des abus, accès du support, génération de métadonnées, périodes de conservation, sous-traitants et processus d’amélioration des modèles.

Les développeurs peuvent réagir en orientant les travaux sensibles vers des modèles auto-hébergés ou contrôlés en interne comme Nemotron de Nvidia, en séparant les charges de travail à faible et à haut risque, ou en exigeant une journalisation gérée par le client. Ces approches peuvent réduire l’exposition, mais elles ajoutent des coûts d’infrastructure, d’évaluation, de mises à jour de modèles et de support opérationnel. Les petites entreprises peuvent avoir moins d’alternatives et être contraintes d’accepter des politiques de fournisseurs que les grandes entreprises peuvent négocier.

Le différend soulève également une question concurrentielle. Les laboratoires de pointe veulent accéder à des signaux d’utilisation réels pour améliorer la fiabilité et identifier les attaques, tandis que les acheteurs d’entreprise veulent que ces mêmes interactions restent isolées. Les fournisseurs qui offrent des contrôles précis de rétention, des politiques de télémétrie auditable et des limites claires autour des données dérivées peuvent obtenir un avantage même lorsque leurs modèles ne sont pas les meilleurs dans les benchmarks.

Ce qu’il faut surveiller ensuite

Le signal immédiat sera la portée du programme de journalisation géré par le client d’Anthropic : quels clients sont éligibles, s’il couvre toute l’utilisation de Fable et si certaines métadonnées résiduelles restent chez Anthropic. Les acheteurs devraient également surveiller des définitions plus claires des données « dé-identifiées » de la part d’OpenAI et d’autres fournisseurs, y compris les périodes de conservation et les usages autorisés.

Un second signal sera de savoir si Nvidia, Booz Allen Hamilton et Palantir rétablissent un accès plus large à Fable après les changements de politique. Davantage de divulgations clients, d’audits indépendants ou de modèles contractuels pourraient indiquer que le marché passe des assurances générales à des contrôles vérifiables. À l’inverse, le maintien de modèles internes distincts pour les travaux sensibles suggérerait que la confiance reste une contrainte de déploiement plutôt qu’un simple détail d’approvisionnement.

Point de vue de Creati.ai

Le différend autour de Fable ne prouve pas que les laboratoires d’IA entraînent secrètement leurs modèles sur chaque invite d’entreprise. Il prouve que les politiques actuelles laissent souvent trop de place à l’interprétation. « Pas d’entraînement » et « zéro conservation des données » traitent des risques importants, mais n’expliquent pas entièrement ce qu’il advient de la télémétrie, des signaux de détection des abus, des données dérivées ou de l’accès temporaire par les systèmes du fournisseur.

Pour les acheteurs d’IA, la confiance devient un problème d’architecture et de gouvernance, pas une formule marketing. Les fournisseurs qui rendent les flux de données observables, configurables et contractuellement exécutoires seront mieux placés pour gagner des charges de travail sensibles. D’ici là, les entreprises continueront à séparer l’usage pratique de l’IA du travail qu’elles jugent trop précieux pour être confié à un service de modèle opaque.