NVIDIA hat Dutzende von Unternehmen und Open-Source-Organisationen zusammengebracht, um die Open Secure AI Alliance zu gründen, eine Gruppe, die sich auf die Entwicklung frei verfügbarer Werkzeuge für KI-Sicherheit und Cybersicherheit konzentriert. Die Initiative soll Verteidigern dabei helfen, Sicherheitssysteme innerhalb ihrer eigenen Infrastruktur zu prüfen, anzupassen und zu betreiben, anstatt sich ausschließlich auf geschlossene KI-Anbieter zu verlassen.

Zur Allianz gehören Unternehmen wie Amazon, Microsoft, IBM, Cisco, Google? Nein—Google ist nicht aufgeführt—sowie Hugging Face, Mistral, Red Hat, CrowdStrike, Palo Alto Networks, Salesforce, ServiceNow, Databricks, GitHub und die Linux Foundation. NVIDIA sagt, die Gruppe werde Technologien zur Sicherung von Software und KI-Agenten entwickeln und teilen, darunter Modelle, Agent-Harnesses, Identitätssysteme, Evaluierungswerkzeuge und sichere Modellformate.

Eine Allianz, die auf offener defensiver Infrastruktur aufbaut

NVIDIA stellt die Initiative als eine Fortsetzung der Open-Source-Sicherheitsarbeit dar, die bereits mit der Akrites-Initiative der Linux Foundation und der Open Source Security Foundation, kurz OpenSSF, verbunden ist. Das erklärte Ziel ist es, bei der Behebung und Offenlegung von Schwachstellen mit offenen Technologien zu helfen und mehr Verteidigern Zugang zu Systemen zu geben, die sie prüfen und verändern können.

Das zentrale Argument lautet, dass KI-Sicherheit nicht allein von einer kleinen Anzahl undurchsichtiger, geschlossener Systeme abhängen kann. NVIDIA sagt, offene Modelle und Werkzeuge könnten lokale Kontrolle, Datenschutz und die Möglichkeit bieten, Sicherheitsabläufe an bestimmte Branchen oder Rechtsräume anzupassen. Das Unternehmen argumentiert außerdem, dass ein Multi-Vendor-Ökosystem die Abhängigkeit von einem einzelnen Anbieter verringern könne.

Diese Position bedeutet keine Ablehnung geschlossener Modelle. NVIDIA sagt, Verteidiger bräuchten sowohl offene als auch geschlossene Frontier-Systeme und sollten jedes dort einsetzen, wo es am geeignetsten ist. Der Schwerpunkt der Allianz liegt darauf, sicherzustellen, dass leistungsfähige offene Alternativen für Sicherheitsbetrieb und Forschung verfügbar bleiben.

Die Ankündigung erfolgt zu einem Zeitpunkt, an dem Unternehmen von Experimenten mit Sprachmodellen zur Bereitstellung von KI-Agenten übergehen, die auf Dateien zugreifen, Software-Tools aufrufen und Aktionen ausführen können. Dieser Wandel erweitert das Sicherheitsproblem über das Modellverhalten hinaus. Er bringt auch Risiken in Bezug auf Identität, Berechtigungen, Isolation, Prüfbarkeit und die Software-Lieferkette mit sich.

Der vorgeschlagene Stack reicht über Modellgewichte hinaus

NVIDIA sagt, sein Beitrag werde offene Modelle, Modellgewichte, Daten und Forschung zu Agent-Harnesses umfassen. Außerdem wird der NVIDIA Labs Object-Oriented Agent, kurz NOOA, als Framework auf GitHub veröffentlicht. Das Unternehmen beschreibt NOOA als ein Forschungs-Framework, das das Verhalten von Agenten einfacher testbar, nachvollziehbar, auditierbar und steuerbar machen soll, indem es verbessert, wie Harnesses mit Modellen zusammenwirken.

Weitere von NVIDIA angeführte Beispiele zeigen die beabsichtigte Breite der Allianz. HPE trägt zu SPIFFE/SPIRE bei, einem Identitäts-Framework, das darauf ausgelegt ist, Agenten und Dienste vor der Kommunikation oder dem Zugriff auf Unternehmensressourcen kryptografisch zu verifizieren. Hugging Face hat Safetensors, ein Format für Modellgewichte, das die Ausführung von Remote-Code verhindern soll, an die PyTorch Foundation übergeben.

IBM und Red Hat sind mit Lightwell verbunden, das digital signierte Patches in die Open-Source-Lieferkette hinein erweitert. Microsoft trägt MDASH bei, beschrieben als ein Multi-Model-Scanning-Harness, in dem spezialisierte Agenten nach Softwarefehlern suchen, darüber diskutieren und feststellen, ob sie ausnutzbar sind.

Die Sammlung von Projekten legt nahe, dass die Allianz einen KI-Agenten als vollständiges operatives System und nicht nur als Modell betrachtet. In der Praxis bedeutet das, dass Sicherheitskontrollen das Modell, seine Werkzeuge, seine Berechtigungen, seine Protokolle und die Infrastruktur, auf der es läuft, abdecken müssten. Offene Harnesses und gemeinsame Formate könnten es unabhängigen Teams erleichtern, diese Kontrollen zu prüfen und zu bewerten.

Was die Belege zeigen — und was unbewiesen bleibt

Die verfügbaren Belege stammen in erster Linie aus NVIDIAs eigener Ankündigung. StorageNewsletter nennt denselben Start der Allianz, aber der vollständige Artikeltext ist im bereitgestellten Berichtsmaterial nicht verfügbar. Daher sollten die Mitgliederliste, die technischen Beiträge und die erklärten Ziele als von NVIDIA veröffentlichte Informationen und nicht als unabhängig verifizierte Belege einer gemeinsamen Umsetzung behandelt werden.

NVIDIA verweist auf einen jüngsten Sicherheitsvorfall bei Hugging Face als Beispiel dafür, warum Verteidiger offene, selbst gehostete KI-Systeme benötigen könnten. Laut NVIDIAs Darstellung blockierten geschlossene Werkzeuge Teile der forensischen Analyse, weil sie Verteidiger nicht von Angreifern unterscheiden konnten. Hugging Face führte anschließend das offene GLM-5.2-Modell auf eigener Infrastruktur aus, um mehr als 17.000 Aktionen zu analysieren und den Vorfall einzudämmen.

Diese Darstellung veranschaulicht den operativen Nutzen lokaler Kontrolle, doch die Details werden von NVIDIA präsentiert und sind in den bereitgestellten Quellen nicht unabhängig belegt. Die Ankündigung nennt außerdem keinen Zeitplan für die Auslieferung, kein Governance-Modell, keine Finanzierungsstruktur, keine Verbreitungszahlen und keine Beschreibung, wie die teilnehmenden Organisationen Veröffentlichungen und Schwachstellenreaktionen koordinieren werden.

Auch die Sicherheitsdebatte bleibt ungelöst. NVIDIA räumt ein, dass offene Modelle missbraucht werden können, unter anderem durch das Abschwächen von Schutzmaßnahmen oder die Zweckentfremdung von Fähigkeiten für Angriffe. Die vorgeschlagene Antwort besteht darin, Offenheit mit Bewertung, Red-Teaming, Nutzungsregeln und schneller Behebung zu verbinden. Das sind derzeit Prinzipien und keine nachgewiesenen Ergebnisse.

Warum Entwickler und Unternehmenskäufer darauf achten sollten

Für KI-Entwickler könnte die Allianz mehr wiederverwendbare Komponenten für die Sicherung agentischer Anwendungen schaffen. Standardisierte Identität, sicherere Modellformate und testbare Harnesses könnten den Bedarf verringern, dass jedes Unternehmen separate Kontrollen rund um Werkzeugzugriff, Protokollierung und Modellherkunft aufbaut. Sie könnten es auch erleichtern, Sicherheitsagenten innerhalb der eigenen Unternehmensumgebung auszuführen, wenn sensible Daten nicht an einen externen Dienst gesendet werden können.

Unternehmenskäufer sollten darauf achten, wie sich diese Projekte weiterentwickeln, nicht nur auf die Größe der Gründungsmitglieder. Offene Komponenten können Portabilität und Prüfbarkeit verbessern, bringen aber auch betriebliche Verantwortlichkeiten mit sich. Organisationen müssen weiterhin Code validieren, Patches verwalten, das Modellverhalten überwachen und entscheiden, welche Agenten Zugriff auf Produktionssysteme erhalten.

Die Allianz könnte auch den Wettbewerb zwischen zentralisierten KI-Plattformen und stärker verteilten Sicherheitsarchitekturen verschärfen. Ein starkes offenes Ökosystem könnte Sicherheitsteams zusätzliche Verhandlungsmacht geben und die Abhängigkeit von einem Modellanbieter verringern. Fragmentierte Werkzeuge, inkonsistente Governance und unklare Supportvereinbarungen könnten diese Vorteile jedoch zunichte machen, wenn die Projekte sich nicht auf praktikable Standards einigen.

Für Forschende und politische Entscheidungsträger unterstreicht die Ankündigung eine wichtige Frage: Sollten offene KI-Systeme vor allem als Risiken betrachtet werden, die eingeschränkt werden müssen, oder als defensive Infrastruktur, die Sicherheitsteams prüfen und kontrollieren müssen? NVIDIA vertritt eindeutig die zweite Sichtweise, räumt aber ein, dass Offenheit Schutzmaßnahmen und nicht unbeschränkte Bereitstellung erfordert.

Worauf als Nächstes zu achten ist

Das erste Signal wird sein, ob die Allianz eine konkrete Governance-Struktur, eine gemeinsame Roadmap oder technische Standards veröffentlicht, die über die in NVIDIAs Ankündigung genannten Projekte hinausgehen. Käufer sollten auch auf produktionsreife Veröffentlichungen von NOOA, MDASH, SPIFFE/SPIRE und verwandten Werkzeugen für die Sicherheit von Agenten achten, zusammen mit Dokumentation darüber, wie sie über verschiedene Modelle und Cloud-Umgebungen hinweg funktionieren.

Unabhängige Bewertungen werden wichtiger sein als die Liste der Partner. Nützliche Belege wären reproduzierbare Tests von Agentenberechtigungen, Schwachstellenerkennung, Fehlalarmen, Widerstand gegen Prompt-Injection sowie die Sicherheit der Modell- und Werkzeug-Lieferketten. Es wird auch wichtig sein zu sehen, ob teilnehmende Unternehmen Schwachstellen über einen gemeinsamen Prozess offenlegen und die Projekte langfristig pflegen.

Creati.ai-Perspektive

Die Open Secure AI Alliance ist bedeutsam, weil sie KI-Sicherheit als Infrastruktur- und Systemproblem definiert und nicht nur als Frage der Wahl eines sichereren Modells. Ihr praktischster Beitrag könnte eine gemeinsame Ebene aus Identität, Harnesses, Formaten und Evaluierungswerkzeugen sein, die es Organisationen ermöglicht, Agenten mit mehr Transparenz und Kontrolle zu betreiben.

Doch die Ankündigung ist erst ein Ausgangspunkt. NVIDIA hat eine breite Koalition und eine Reihe von vom Anbieter berichteten Beispielen geliefert, aber keinen Beweis dafür, dass bereits ein interoperabler defensiver Stack existiert. Die Allianz wird Glaubwürdigkeit durch offene Governance, unabhängige Tests und nachhaltige Pflege erlangen müssen — insbesondere dann, wenn ihre Werkzeuge in hochkritischen Sicherheitsvorfällen und nicht nur in Demonstrationen eingesetzt werden.