Garry Tan de Y Combinator appelle les laboratoires américains open-weight à distiller les modèles de pointe

Le PDG de Y Combinator, Garry Tan, appelle les entreprises américaines d’IA open-weight à être autorisées à distiller des modèles de pointe propriétaires, affirmant qu’un accès plus large pourrait empêcher que l’IA avancée soit contrôlée par un seul fournisseur.

Tan a déclaré à CNBC qu’il préférerait que les régulateurs n’interviennent pas dans le litige actuel sur la distillation de modèles. Il a ensuite indiqué à TechCrunch que les plus petits laboratoires américains devraient pouvoir utiliser ouvertement cette technique sur des systèmes de pointe américains, créant ainsi davantage d’alternatives nationales aux modèles open-weight chinois.

Cette position met le dirigeant de l’un des accélérateurs de startups les plus influents de la Silicon Valley en désaccord avec les appels de certaines entreprises de modèles de pointe en faveur d’un contrôle plus strict de la façon dont les clients utilisent leurs systèmes. Elle ouvre aussi un débat plus large sur la question de savoir si les connaissances obtenues via un accès payant à un modèle doivent être considérées comme un résultat propriétaire, une infrastructure publique ou quelque chose entre les deux.

Ce que propose Tan

La distillation de modèles consiste généralement à interroger largement un modèle plus grand et à utiliser ses réponses pour entraîner un autre système. Ce procédé peut aider un modèle plus petit à apprendre des schémas de langage, de raisonnement ou de performance sur des tâches sans reproduire les poids sous-jacents du modèle plus grand. Les laboratoires d’IA utilisent couramment la distillation dans le cadre de travaux légitimes d’entraînement et d’évaluation.

La proposition de Tan ne vise pas à ce que des entreprises américaines utilisent des identifiants volés ou se fassent passer pour des clients. TechCrunch a rapporté qu’il souhaite que les laboratoires américains puissent accéder aux modèles de pointe « par la porte d’entrée », en utilisant un accès ordinaire au modèle plutôt que la tromperie ou des comptes non autorisés.

Son argument comporte deux volets. Premièrement, Tan estime que les entreprises de pointe pourraient aller trop loin en dictant ce que les clients peuvent faire des informations renvoyées via leurs API d’IA. Deuxièmement, il affirme que les entreprises d’IA propriétaires ont elles-mêmes construit leurs systèmes en absorbant d’énormes quantités de connaissances humaines librement accessibles, y compris des contenus protégés par le droit d’auteur dont les titulaires n’ont pas nécessairement donné leur autorisation.

Du point de vue de Tan, permettre aux entreprises d’IA open-weight d’apprendre à partir de systèmes commerciaux pourrait créer un contrepoids à la concentration de la puissance de calcul, du capital et des talents de recherche entre les mains d’un petit nombre de laboratoires d’IA de pointe. Il a déclaré que le pire scénario serait qu’une entreprise prenne une avance écrasante et devienne un fournisseur « monolithique ».

Pourquoi la distillation est contestée

Ces commentaires interviennent après que Anthropic a publié un second rapport alléguant que des entreprises chinoises d’IA ont mené ce qu’elle appelle des « attaques de distillation illicites ». Selon le rapport tel que décrit par TechCrunch, ces entreprises auraient dissimulé leur identité, utilisé la fraude et eu recours à des identifiants volés pour extraire des capacités d’autres modèles sans autorisation.

Le PDG d’Anthropic, Dario Amodei, a auparavant appelé les régulateurs américains à réagir à ce type d’activité. Cette position considère la distillation non autorisée comme un problème de sécurité et de propriété intellectuelle, et non comme une conséquence ordinaire du fait de proposer un modèle via une API.

La distinction entre distillation autorisée et interdite est donc centrale. Tan n’approuve pas le vol d’identifiants ni la tromperie décrits dans les allégations d’Anthropic. Il soutient que les laboratoires américains open-weight devraient disposer d’une voie légitime pour mener des travaux d’entraînement similaires dans des conditions d’accès transparentes.

Cette proposition laisse néanmoins sans réponse des questions difficiles. Un fournisseur de modèle peut autoriser les clients à générer des sorties tout en limitant l’usage de ces sorties pour entraîner un système concurrent. Il peut aussi imposer des limites techniques, une surveillance ou des conditions contractuelles destinées à empêcher une extraction systématique. Les propos de Tan remettent en question la portée actuelle de l’applicabilité de ces restrictions, mais ils n’établissent pas de cadre juridique pour les remplacer.

Éléments de preuve et limites de l’affirmation

L’information centrale est la position politique publique de Tan, rapportée par TechCrunch après des commentaires à CNBC et des remarques de suivi à la publication. Rien dans le reportage fourni n’indique que le gouvernement américain prépare un « régime américain de distillation », ni que la proposition de Tan ait été adoptée par Y Combinator comme plateforme politique officielle.

De même, le reportage ne fournit aucune mesure indépendante montrant que la distillation produirait de manière fiable des modèles open-weight compétitifs, réduirait les coûts d’entraînement ou diminuerait la dépendance aux systèmes chinois. Ces résultats font partie de l’argument en faveur de la proposition, et non de résultats démontrés dans ce récit.

Les affirmations d’Anthropic concernant les laboratoires chinois sont également présentées comme des allégations provenant du propre rapport de l’entreprise. Les éléments disponibles n’incluent ni enquête indépendante ni réponse des entreprises nommées. Cela importe, car une même activité technique peut être perçue très différemment selon l’autorisation, les conditions contractuelles, l’échelle des requêtes et le fait que les identifiants aient été obtenus légitimement ou non.

Pour les développeurs, l’enseignement pratique est que la distillation reste techniquement établie mais politiquement non tranchée. Les développeurs de modèles peuvent utiliser cette méthode dans des contextes autorisés, mais les accords d’accès et les politiques des fournisseurs peuvent déterminer si un flux de travail d’entraînement donné est permis.

Conséquences pour les développeurs et les entreprises

Si l’avis de Tan gagnait un soutien politique, les plus petits laboratoires américains pourraient disposer d’un chemin plus direct pour améliorer les modèles open-weight. Ils pourraient utiliser des systèmes de pointe pour la génération de données synthétiques, des démonstrations de raisonnement, des évaluations ou un fine-tuning spécialisé, plutôt que de dépendre uniquement des jeux de données publics et d’exemples générés en interne.

Cela pourrait intensifier la concurrence entre développeurs de modèles et offrir davantage d’options aux équipes produit lorsqu’elles ont besoin d’un déploiement local, d’un plus grand contrôle sur les poids ou d’une moindre dépendance à un seul fournisseur hébergé. Cela pourrait aussi créer de nouveaux services commerciaux autour d’un accès sous licence à des modèles enseignants et de pipelines de distillation soigneusement documentés.

Les risques seraient importants. Les entreprises de pointe pourraient réagir en augmentant les prix, en restreignant l’accès à fort volume, en ajoutant des filtres de sortie plus stricts ou en limitant les comptes qui semblent entraîner des concurrents. Une extraction plus agressive pourrait également rendre plus difficile pour les fournisseurs la protection de capacités propriétaires et le recouvrement des coûts de développement de grands modèles.

Les acheteurs d’entreprise feraient face à une question de gouvernance connexe. Une société utilisant un modèle distillé devrait comprendre non seulement les performances du modèle sur les benchmarks, mais aussi la provenance de ses données d’entraînement, les autorisations attachées aux sorties du modèle enseignant et la possibilité que le système résultant reproduise des contenus protégés ou sensibles. Dans des environnements réglementés, ces questions pourraient compter autant que la qualité du modèle.

Le débat touche aussi à la sécurité de l’IA. La distribution open-weight peut améliorer l’auditabilité et le contrôle utilisateur, mais elle peut rendre plus facile le déploiement de capacités puissantes sans la surveillance ou les systèmes de refus d’un fournisseur central. L’argument concurrentiel de Tan traite le risque de concentration ; il ne résout pas à lui seul les questions d’abus, de vie privée ou de responsabilité.

Ce qu’il faut surveiller ensuite

Le premier signal sera de savoir si les décideurs américains distinguent la distillation autorisée de l’activité clandestine alléguée par Anthropic, au lieu de traiter tout entraînement de modèle à modèle comme une seule catégorie. Toute règle proposée concernant les API d’IA, les données synthétiques ou la propriété des sorties de modèles clarifierait si l’idée de Tan gagne du terrain.

Le marché devra également surveiller une éventuelle révision par les fournisseurs de pointe des conditions régissant les requêtes à fort volume, l’imitation de modèles et l’entraînement de concurrents. De nouveaux programmes de licence pourraient offrir un compromis : autoriser la distillation sous contrats explicites tout en préservant le contrôle des fournisseurs sur l’accès et l’attribution.

Sur le plan technique, des évaluations indépendantes seront importantes. Les affirmations selon lesquelles les modèles distillés peuvent égaler ou approcher les systèmes de pointe devraient être testées sur la fiabilité, la sécurité, l’exactitude factuelle et le coût, et pas seulement sur quelques tâches de benchmark choisies. Des preuves d’une adoption réelle par des laboratoires américains open-weight seraient aussi plus solides que de simples arguments sur la compétitivité nationale.

Point de vue de Creati.ai

La proposition de Tan doit être comprise avant tout comme un argument de concurrence, et non comme une réponse tranchée aux questions de propriété intellectuelle ou de sécurité entourant la distillation. Il avertit que les restrictions imposées par les fournisseurs de pointe pourraient renforcer précisément la concentration de pouvoir que de nombreux décideurs tentent d’éviter.

Mais un régime ouvert aurait besoin de limites claires. Un accès autorisé, des registres d’entraînement transparents et des garde-fous applicables pourraient soutenir un écosystème de modèles plus sain ; tolérer la fraude ou l’extraction indifférenciée risquerait en revanche de saper les incitations commerciales qui financent la recherche de pointe. Pour les développeurs d’IA et les acheteurs d’entreprise, la question à court terme est moins de savoir si la distillation existe que de savoir si les fournisseurs, les régulateurs et les tribunaux peuvent définir quand elle est légitime.