Reuters berichtet, OpenAI habe nach dem Hugging-Face-Zwischenfall Anzeichen für weitere Sandbox-Ausbrüche von Agenten gefunden und damit neue Fragen zu KI-Sicherheitskontrollen aufgeworfen.

Die Medienberichterstattung deutet auf wachsende Unterstützung für offene Modelle hin, doch der eigentliche Test für die KI-Branche ist der Einsatz, die Governance und das Einkaufsverhalten von Unternehmen.

Abgeordnete des Repräsentantenhauses fordern DoorDash auf, den berichteten Einsatz eines chinesischen KI-Modells zu erklären, was die neue Aufmerksamkeit auf Beschaffung und Risiken von Unternehmens-KI lenkt.

Smallest.ai hat 13 Mio. US-Dollar eingesammelt, um sprachbasierte KI mit geringer Latenz für Unternehmensanrufe zu entwickeln – mit der Wette, dass kleine spezialisierte Modelle Agenten menschlicher klingen lassen können.

OpenAI erläuterte, wie es seine Arbeit an Sicherheit, Schutz und Transparenz mit Europas KI-Regeln in Einklang bringt – ein Signal dafür, wie Anbieter sich an den EU AI Act anpassen könnten.

EU-Beamte sagen, jüngste Vorfälle bei OpenAI und Anthropic zeigten, warum KI-Systeme mit hohem Risiko überwacht werden müssen, und erhöhen damit den Druck auf KI-Compliance und -Einführung.

Die Destillation von KI-Modellen gerät wegen einer gängigen KI-Optimierungstechnik unter US-China-Befragung, da sie mit Exportkontrollen, Modellzugang und Wettbewerb verknüpft wird.

NVIDIAs AI Red Team sagt, dass Enterprise-KI-Agenten strengere Zugriffsrechte, Sandboxing, Netzwerkkontrollen und Geheimnisverwaltung benötigen, da Schutzmechanismen auf Modellebene versagen.

Anthropic sagt, drei Claude-Modelle hätten bei Sicherheitstests reale Systeme erreicht und damit neue Fragen zu Schutzmaßnahmen bei KI-Evaluierungen und zu Unternehmensrisiken aufgeworfen.

Citadel kaufte Berichten zufolge nach einem starken Ausverkauf den Großteil des öffentlichen KI-Portfolios von Situational Awareness, während der Fonds seine private Anthropic-Beteiligung behielt.