OpenAI, Anthropic und Google DeepMind bestätigen wochenlange Gespräche über KI-Sicherheit

OpenAI hat seit mehreren Wochen mit den Rivalen Anthropic und Google DeepMind über KI-Sicherheit gesprochen, sagte das Unternehmen gegenüber Reportern am Dienstag Chris Lehane, sein weltweiter Politikchef. Die Offenlegung bestätigt, dass die führenden Frontier-Model-Unternehmen sich privat abgestimmt haben, während politische Entscheidungsträger darüber debattieren, wie mit immer leistungsfähigeren Systemen umzugehen ist.

Die Gespräche finden vor dem Hintergrund einer sich vertiefenden Spaltung in Washington statt. Anthropic-CEO Dario Amodei hat die Branche aufgefordert, das Tempo der Entwicklung von Frontier-KI zu verlangsamen, um katastrophale Risiken zu verringern, während Präsident Donald Trump und sein KI-Berater David Sacks diese Bedenken zurückgewiesen und argumentiert haben, strengere Beschränkungen könnten die Vereinigten Staaten gegenüber China schwächen. Für KI-Entwickler und Unternehmenskäufer könnte der Streit darüber entscheiden, wie sich Modellbewertungen, Bereitstellungskontrollen und unabhängige Aufsicht in der nächsten Marktphase entwickeln.

Warum die Gespräche jetzt öffentlich wurden

Lehanes Kommentare, über die TechCrunch nach früheren Berichten von Bloomberg berichtete, folgten auf einen öffentlichen Essay von Amodei, in dem er zu engerer Zusammenarbeit zwischen KI-Unternehmen aufrief. OpenAI-CEO Sam Altman, Google DeepMind-CEO Demis Hassabis und SpaceXAIs Elon Musk gehörten zu den Branchenvertretern, die den Aufruf Berichten zufolge unterstützten.

Altman hat außerdem gesagt, OpenAI werde mit Anthropic zusammenarbeiten, um externe Prüfer in seine Abläufe einzubinden. Diese Prüfer sollen überwachen, ob fortgeschrittene Modelle sicher entwickelt und eingesetzt werden, obwohl die verfügbaren Berichte den Umfang, die Befugnisse oder die Betriebsstandards der vorgeschlagenen Überprüfungen nicht spezifizieren.

Die privaten Gespräche waren schon vor der Bestätigung durch OpenAI angedeutet worden. TechCrunch berichtete, Altman habe kürzlich private Gespräche mit anderen KI-Führern eingeräumt. The Information berichtete separat, OpenAI, Anthropic und Google DeepMind arbeiteten auf eine Branchenstandard-Organisation hin, fügte jedoch hinzu, Altman habe OpenAI-Mitarbeitern gesagt, dass ein solches Vorhaben möglicherweise ohne Unterstützung der US-Regierung voranschreiten müsse.

Die Gespräche scheinen daher mehr als bloßen informellen Kontakt zwischen Führungskräften zu umfassen. Sie könnten gemeinsame Sicherheitspraktiken, externe Bewertung und einen möglichen Mechanismus zur Festlegung von Standards über konkurrierende Labore hinweg beinhalten. Die Unternehmen haben keinen detaillierten Rahmen öffentlich vorgelegt, und TechCrunch sagte, man habe OpenAI, Anthropic und Google um Stellungnahme gebeten.

Sicherheitskoordination trifft auf Kartellrechtsbedenken

Die Zusammenarbeit zwischen direkten Wettbewerbern schafft eine rechtliche und kommerzielle Komplikation. Altman und andere haben eingeräumt, dass gemeinsame Gespräche kartellrechtliche Bedenken auslösen könnten, wenn Aufsichtsbehörden zu dem Schluss kommen, dass Sicherheitskoordination dazu genutzt wird, Wettbewerb zu begrenzen, Produkteinführungen zu verlangsamen oder Märkte aufzuteilen.

Amodeis Vorschlag enthielt einen engen staatlichen Ausnahmemechanismus, der bestimmte sicherheitsbezogene Koordination schützen würde. Laut TechCrunch sagte Lehane, die Unternehmen bräuchten eine solche Ausnahme nicht. Diese Position lässt eine zentrale Frage offen: Welche Schutzmaßnahmen können die Labore gemeinsam besprechen, ohne in Verhaltensweisen zu geraten, die als Unterdrückung des Wettbewerbs ausgelegt werden könnten?

Die Unterscheidung ist wichtig, weil es sich bei den Unternehmen nicht bloß um akademische Forschungsgruppen handelt. OpenAI, Anthropic und Google DeepMind konkurrieren um Entwickler, Unternehmensverträge, Infrastrukturkapazitäten und Einfluss auf die Standards, die fortgeschrittene Modelle künftig regeln könnten. Ein gemeinsames Testprotokoll könnte die Vergleichbarkeit verbessern und Doppelarbeit verringern, aber es könnte den größten Laboren auch unverhältnismäßige Kontrolle über die Regeln verschaffen, die für den Rest der Branche gelten.

Für Unternehmen, die auf diesen Modellen aufbauen, könnte das Ergebnis Dokumentation, Prüfanforderungen und den Zugang zu risikoreicheren Fähigkeiten beeinflussen. Ein freiwilliger Branchenprozess könnte schneller vorankommen als Gesetzgebung, ihm könnten jedoch eine einheitliche Durchsetzung oder unabhängige Autorität fehlen.

Belege, Behauptungen und die politische Spaltung

Die am stärksten bestätigte Tatsache in der Berichterstattung ist Lehanes Aussage, dass OpenAI seit Wochen Sicherheitsgespräche mit Anthropic und Google DeepMind führt. Das weitergehende Vorhaben einer Standard-Organisation beruht bislang auf Berichten von The Information und nicht auf einer öffentlichen Ankündigung der Unternehmen.

Auch die Vorteile von Drittanbieter-Bewertungen sind in dem zugrunde liegenden Material eher hypothetisch als belegt. Es wurden keine unabhängigen Ergebnisse, keine Namen von Prüfern, keine Testkriterien und kein Durchsetzungsprozess genannt. Verweise auf katastrophale Risiken spiegeln die Position von Amodei und anderen Befürwortern von KI-Sicherheit wider, nicht eine etablierte Messung, die zeigt, dass ein bestimmtes Modell oder ein bestimmter Einsatz einen solchen Schwellenwert erreicht hat.

Hassabis hat zuvor gefordert, dass die Vereinigten Staaten eine neue Standardisierungsstelle einrichten, die in der Lage ist, fortgeschrittene Modelle zu prüfen und branchenweite Verlangsamungen zu koordinieren, wenn Risiken zunehmen. Dieser Vorschlag steht im Gegensatz zu der Trump und Sacks zugeschriebenen Haltung, die Warnungen vor existenziellen Risiken als übertrieben oder politisch motiviert darstellen und den Wettbewerb mit China betonen.

Der politische Konflikt verleiht den privaten Gesprächen ungewöhnliche Bedeutung. Wenn die US-Regierung kein formales Aufsichtsmodell schaffen will, könnten die Frontier-Labore versuchen, eines selbst aufzubauen. Doch eine private Stelle, die von den zu prüfenden Unternehmen geführt wird, müsste sich Fragen nach Unabhängigkeit, Transparenz und Interessenkonflikten stellen.

Was die Gespräche für KI-Entwickler bedeuten könnten

Für Modellentwickler ist die unmittelbare Folge möglicherweise eine Verschiebung hin zu gemeinsamen Bewertungsverfahren. Gemeinsame Tests könnten es erleichtern, Systeme anhand gefährlicher Fähigkeiten zu vergleichen, Änderungen zwischen Modellversionen zu überwachen und zu erkennen, wann ein Einsatz stärkere Kontrollen benötigt. Sie könnten auch neue Compliance-Kosten verursachen, insbesondere für kleinere Unternehmen, denen die Sicherheitsteams und die Infrastruktur der größten Labore fehlen.

Für Enterprise-Produktteams könnte unabhängige Verifizierung Teil der Lieferantenprüfung werden. Käufer könnten irgendwann Nachweise verlangen, dass ein Modell externe Tests durchlaufen hat, bevor es sensible Daten verarbeiten, Werkzeuge bedienen oder Entscheidungen in regulierten Arbeitsabläufen treffen darf. Allerdings gibt es keinen bestätigten Zeitplan für solche Anforderungen, und in der Berichterstattung wurde keine Einigung beschrieben, die bereits eine gemeinsame Zertifizierung festgelegt hätte.

Auch die wirtschaftlichen Folgen sind unmittelbar. Eine aus Sicherheitsbefunden koordinierte Verlangsamung könnte Einfluss auf Veröffentlichungspläne, API-Verfügbarkeit und das Tempo haben, mit dem Entwickler neue Funktionen erhalten. Umgekehrt könnte, wenn Unternehmen sich wegen Kartellrisiken nicht abstimmen können, jedes Labor weiterhin eigene Schwellenwerte und Bewertungsmethoden festlegen. Das könnte den Wettbewerb erhalten, den Kunden aber uneinheitliche Informationen über Modellrisiken liefern.

Die Frage geht zudem über diese drei Firmen hinaus. Eine Branchenstandard-Organisation müsste Open-Model-Entwickler, Cloud-Anbieter, unabhängige Forscher und Unternehmen berücksichtigen, die Modelle in spezialisierten Umgebungen einsetzen. Regeln, die nur von den größten Frontier-Laboren geschaffen werden, könnten für das breitere Ökosystem schwer zu übernehmen sein.

Worauf als Nächstes zu achten ist

Das nächste konkrete Signal wird sein, ob OpenAI, Anthropic oder Google DeepMind öffentlich die Teilnehmer, den Umfang und die Governance der Sicherheitsgespräche benennt. Einzelheiten zu Drittprüfern – einschließlich der Frage, wer sie ernennt, was sie einsehen dürfen und ob ihre Ergebnisse veröffentlicht werden – würden einen substanziellen Aufsichtsplan von einem bloßen allgemeinen Bekenntnis unterscheiden.

Auch die Reaktion der Gesetzgeber auf den FRONTIER Act wird wichtig sein. Lehane sagte, OpenAI unterstütze eine Bestimmung, die führende Frontier-Labore verpflichtet, „unabhängige Verifizierungsorganisationen“ in ihre Unternehmen zu lassen. Gesetzesformulierung, Durchsetzungsbefugnisse und die Definition eines betroffenen Labors könnten darüber entscheiden, ob der Vorschlag zu einer echten Verpflichtung wird oder eine politische Position bleibt.

Schließlich sollten Entwickler auf eine formelle Ankündigung einer Standardisierungsstelle, gemeinsame Bewertungsmaßstäbe und Hinweise achten, dass der Prozess Organisationen außerhalb der drei größten Beteiligten einbezieht. Ohne diese Signale bleiben die Gespräche zwar eine wichtige Offenlegung über Koordination, aber noch kein operatives Sicherheitsregime.

Creati.ai-Perspektive

Die Bedeutung dieser Geschichte liegt nicht nur darin, dass drei KI-Unternehmen miteinander sprechen. Entscheidend ist, dass die Unternehmen offenbar einen Bedarf für gemeinsame Sicherheitsprozesse erkennen, während sie in einem Markt agieren, in dem Zusammenarbeit rechtliche und wettbewerbliche Risiken schaffen kann. Diese Spannung wird prägen, ob Aufsicht durch Gesetzgebung, freiwillige Standards oder einen Flickenteppich unternehmensspezifischer Praktiken entsteht.

Für Entwickler und Unternehmenskäufer lautet die praktische Lehre, Sicherheitszusagen erst dann als vollständig zu betrachten, wenn sie überprüfbare Belege liefern: definierte Tests, unabhängigen Zugang, veröffentlichte Ergebnisse und klare Konsequenzen bei Verstößen. Die Gespräche mögen ein nützlicher Ausgangspunkt sein, doch ihre Glaubwürdigkeit hängt davon ab, ob die Beteiligten Aufsicht wirklich unabhängig machen können, ohne ein Sicherheitsforum zu einem Zugangskontrollmechanismus für den KI-Markt zu machen.