Y Combinators Garry Tan fordert US-Open-Weight-Labs auf, Frontier-Modelle zu destillieren

Y Combinator-CEO Garry Tan fordert, dass US-amerikanische Open-Weight-KI-Unternehmen proprietäre Frontier-Modelle destillieren dürfen, und argumentiert, dass ein breiterer Zugang verhindern könnte, dass fortgeschrittene KI von nur einem Anbieter kontrolliert wird.

Tan sagte CNBC, dass er es vorziehen würde, wenn sich die Regulierungsbehörden nicht in den aktuellen Streit über Modelldestillation einmischen. Später sagte er TechCrunch, dass kleinere amerikanische Labs die Technik offen auf US-Frontier-Systemen nutzen können sollten, um mehr heimische Alternativen zu chinesischen Open-Weight-Modellen zu schaffen.

Diese Position bringt den Leiter eines der einflussreichsten Startup-Accelerators im Silicon Valley in Gegensatz zu Forderungen einiger Frontier-Model-Unternehmen nach strengeren Kontrollen darüber, wie Kunden ihre Systeme nutzen. Sie eröffnet auch eine breitere Debatte darüber, ob Wissen, das durch bezahlten Modellzugang gewonnen wird, als proprietäres Ergebnis, öffentliche Infrastruktur oder etwas dazwischen behandelt werden sollte.

Was Tan vorschlägt

Modelldestillation bedeutet im Allgemeinen, ein größeres Modell umfangreich abzufragen und seine Antworten zu verwenden, um ein anderes System zu trainieren. Der Prozess kann einem kleineren Modell helfen, Muster in Sprache, Schlussfolgerung oder Aufgabenleistung zu lernen, ohne die zugrunde liegenden Gewichte des größeren Modells zu reproduzieren. KI-Labs nutzen Destillation häufig als Teil legitimer Trainings- und Evaluierungsarbeit.

Tans Vorschlag sieht nicht vor, dass amerikanische Unternehmen gestohlene Zugangsdaten verwenden oder sich als Kunden ausgeben. TechCrunch berichtete, dass er möchte, dass US-Labs Frontier-Modelle „durch die Vordertür“ erreichen dürfen, also über gewöhnlichen Modellzugang statt über Täuschung oder unbefugte Konten.

Sein Argument hat zwei Teile. Erstens ist Tan der Ansicht, dass Frontier-Unternehmen möglicherweise zu weit gehen, wenn sie vorschreiben, was Kunden mit Informationen tun dürfen, die über ihre KI-APIs zurückgegeben werden. Zweitens argumentiert er, dass proprietäre KI-Unternehmen ihre Systeme selbst aufgebaut haben, indem sie riesige Mengen öffentlich zugänglichen menschlichen Wissens aufgenommen haben, einschließlich urheberrechtlich geschützten Materials, dessen Eigentümer nicht zwangsläufig ihre Zustimmung gegeben haben.

Aus Tans Perspektive könnte es, wenn Open-Weight-KI-Unternehmen von kommerziellen Systemen lernen dürfen, ein Gegengewicht zur Konzentration von Rechenleistung, Kapital und Forschungstalenten bei einer kleinen Zahl von Frontier-KI-Labs schaffen. Er sagte, das schlimmste Szenario wäre, dass ein Unternehmen einen überwältigenden Vorsprung gewinnt und zu einem „monolithischen“ Anbieter wird.

Warum Destillation umstritten ist

Die Äußerungen kommen, nachdem Anthropic einen zweiten Bericht veröffentlicht hat, in dem chinesische KI-Unternehmen beschuldigt werden, sogenannte „illegale Destillationsangriffe“ durchgeführt zu haben. Laut der von TechCrunch beschriebenen Darstellung des Berichts hätten die Unternehmen ihre Identitäten verschleiert, Betrug eingesetzt und gestohlene Zugangsdaten verwendet, um ohne Erlaubnis Fähigkeiten aus anderen Modellen zu extrahieren.

Anthropic-CEO Dario Amodei hat US-Regulierungsbehörden zuvor aufgefordert, auf solche Aktivitäten zu reagieren. Diese Position behandelt unbefugte Destillation als ein Sicherheits- und geistiges-Eigentums-Problem und nicht als gewöhnliche Folge davon, ein Modell über eine API anzubieten.

Die Unterscheidung zwischen erlaubter und verbotener Destillation ist daher zentral. Tan unterstützt nicht den in Anthropics Vorwürfen beschriebenen Diebstahl von Zugangsdaten und die Täuschung. Er argumentiert vielmehr, dass amerikanische Open-Weight-Labs einen legitimen Weg haben sollten, ähnliche Trainingsarbeiten unter transparenten Zugangsbedingungen durchzuführen.

Diese Vorschlag lässt jedoch schwierige Fragen offen. Ein Modellanbieter kann Kunden erlauben, Ausgaben zu erzeugen, gleichzeitig aber die Nutzung dieser Ausgaben zum Training eines konkurrierenden Systems einschränken. Er kann auch technische Begrenzungen, Überwachung oder vertragliche Bedingungen auferlegen, um systematische Extraktion zu verhindern. Tans Äußerungen stellen infrage, ob diese Beschränkungen heute so weitreichend durchsetzbar sein sollten, schaffen aber keinen rechtlichen Rahmen, um sie zu ersetzen.

Belege und Grenzen der Behauptung

Die zentrale Nachricht ist Tans öffentliche politische Position, die TechCrunch nach Äußerungen gegenüber CNBC und anschließenden Kommentaren an die Publikation berichtete. Es gibt in den vorliegenden Berichten keinen Hinweis darauf, dass die US-Regierung ein „amerikanisches Destillationsregime“ vorbereitet oder dass Tans Vorschlag von Y Combinator als formale politische Linie übernommen wurde.

Ebenso liefern die Berichte keine unabhängigen Messungen, die zeigen, dass Destillation zuverlässig wettbewerbsfähige Open-Weight-Modelle hervorbringt, Trainingskosten senkt oder die Abhängigkeit von chinesischen Systemen verringert. Diese Ergebnisse sind Teil des Arguments für den Vorschlag, aber in diesem Bericht nicht nachgewiesen.

Anthropics Vorwürfe gegen chinesische Labs werden ebenfalls als Behauptungen aus dem eigenen Bericht des Unternehmens dargestellt. Die verfügbaren Belege umfassen weder eine unabhängige Untersuchung noch eine Antwort der genannten Unternehmen. Das ist wichtig, weil dieselbe technische Aktivität je nach Autorisierung, Vertragsbedingungen, Umfang der Abfragen und der Frage, ob Zugangsdaten rechtmäßig erlangt wurden, ganz anders aussehen kann.

Für Entwickler ist die praktische Schlussfolgerung, dass Destillation technisch etabliert, politisch aber noch ungeklärt ist. Modelentwickler können die Methode in autorisierten Umgebungen nutzen, doch Zugangsvereinbarungen und Anbieterrichtlinien können bestimmen, ob ein bestimmter Trainingsablauf erlaubt ist.

Auswirkungen für Entwickler und Unternehmen

Sollte Tans Sicht politische Unterstützung finden, könnten kleinere amerikanische Labs einen direkteren Weg erhalten, Open-Weight-Modelle zu verbessern. Sie könnten Frontier-Systeme für die Erzeugung synthetischer Daten, Reasoning-Demonstrationen, Evaluierungen oder spezialisiertes Fine-Tuning nutzen, statt nur auf öffentliche Datensätze und intern erzeugte Beispiele angewiesen zu sein.

Das könnte den Wettbewerb für Modellentwickler verschärfen und Produktteams mehr Optionen geben, wenn sie lokale Bereitstellung, größere Kontrolle über Gewichte oder geringere Abhängigkeit von einem einzelnen gehosteten Anbieter benötigen. Es könnte auch neue kommerzielle Angebote rund um lizenzierte Lehrer-Modell-Zugänge und sorgfältig dokumentierte Destillations-Pipelines schaffen.

Die Risiken wären erheblich. Frontier-Unternehmen könnten mit höheren Preisen, Beschränkungen für Zugriffe mit hohem Volumen, stärkeren Ausgabefiltern oder der Begrenzung von Konten reagieren, die den Eindruck erwecken, Wettbewerber zu trainieren. Aggressivere Extraktion könnte es Anbietern zudem erschweren, proprietäre Fähigkeiten zu schützen und die Kosten für die Entwicklung großer Modelle wieder hereinzuholen.

Unternehmenskunden stünden vor einer verwandten Governance-Frage. Ein Unternehmen, das ein destilliertes Modell verwendet, müsste nicht nur die Benchmark-Leistung des Modells verstehen, sondern auch die Herkunft seiner Trainingsdaten, die an die Ausgaben des Lehrer-Modells geknüpften Berechtigungen und die Möglichkeit, dass das resultierende System geschütztes oder sensibles Material reproduziert. In regulierten Umgebungen könnten diese Fragen ebenso wichtig sein wie die Modellqualität.

Die Debatte berührt auch die KI-Sicherheit. Die Verbreitung von Open-Weight-Modellen kann die Prüfbarkeit und die Nutzerkontrolle verbessern, kann aber leistungsfähige Fähigkeiten leichter ohne Überwachung oder Verweigerungssysteme eines zentralen Anbieters bereitstellen. Tans Wettbewerbsargument adressiert das Konzentrationsrisiko; es löst für sich genommen weder Missbrauchs-, Datenschutz- noch Rechenschaftsfragen.

Worauf man als Nächstes achten sollte

Das erste Signal wird sein, ob US-Politiker zwischen autorisierter Destillation und der von Anthropic behaupteten verdeckten Aktivität unterscheiden, statt sämtliches Training von Modell zu Modell in eine einzige Kategorie zu stecken. Jegliche vorgeschlagenen Regeln zu KI-APIs, synthetischen Daten oder dem Eigentum an Modellausgaben würden klären, ob Tans Idee an Zugkraft gewinnt.

Der Markt sollte auch beobachten, ob Frontier-Anbieter die Bedingungen für Abfragen mit hohem Volumen, Modellikation und Wettbewerbstraining überarbeiten. Neue Lizenzprogramme könnten einen Mittelweg bieten: Destillation unter expliziten Verträgen erlauben und gleichzeitig die Kontrolle der Anbieter über Zugang und Zuschreibung bewahren.

Technisch werden unabhängige Evaluierungen wichtig sein. Behauptungen, dass destillierte Modelle Frontier-Systeme erreichen oder ihnen nahekommen können, sollten über Zuverlässigkeit, Sicherheit, Faktentreue und Kosten hinweg getestet werden – nicht nur anhand ausgewählter Benchmark-Aufgaben. Belege für eine reale Nutzung durch amerikanische Open-Weight-Labs wären ebenfalls aussagekräftiger als allgemeine Argumente über nationale Wettbewerbsfähigkeit.

Creati.ai-Perspektive

Tans Vorschlag sollte am besten als Wettbewerbsargument verstanden werden, nicht als endgültige Antwort auf die mit Destillation verbundenen Fragen des geistigen Eigentums oder der Sicherheit. Er warnt davor, dass Beschränkungen durch Frontier-Anbieter genau die Machtkonzentration verstärken könnten, die viele politische Entscheidungsträger vermeiden wollen.

Ein offenes Regime bräuchte jedoch klare Grenzen. Autorisierter Zugang, transparente Trainingsaufzeichnungen und durchsetzbare Schutzmaßnahmen könnten ein gesünderes Modell-Ökosystem unterstützen; die Duldung von Betrug oder wahlloser Extraktion würde dagegen die kommerziellen Anreize untergraben, die Frontier-Forschung finanzieren. Für KI-Entwickler und Unternehmenskäufer ist die kurzfristige Frage weniger, ob Destillation existiert, sondern ob Anbieter, Regulierer und Gerichte definieren können, wann sie legitim ist.