AI-Sicherheit

Rein Security hat in einer Series-A-Runde 25 Millionen Dollar eingesammelt, um Unternehmen bei der Kontrolle von KI-Agenten zu unterstützen und bösartige Agenten zu erkennen, während autonome Software an Bedeutung gewinnt.

OpenAI hat mehr als 100 Organisationen vor mutmaßlichen Aktivitäten nicht autorisierter KI-Agenten gewarnt und damit Fragen zu Gefährdung, Zuordnung und Aufsicht aufgeworfen.

Nvidia sagt, seine neue OpenShell-Plattform könne außer Kontrolle geratene KI-Agenten eindämmen und stelle Sicherheitskontrollen in den Mittelpunkt einer schnell wachsenden Herausforderung bei Unternehmenseinführungen.

NVIDIA hat einen offenen Sicherheits-Stack für Agenten eingeführt, der Sandbox-Laufzeiten und Hardware-Überwachung kombiniert, um autonome KI-Agenten zu kontrollieren.

Ein Bericht des Wall Street Journal beleuchtet ein Startup, das KI einsetzt, um einer möglichen KI-getriebenen Bedrohung entgegenzuwirken, doch wichtige Details bleiben ungenannt.

AIUC hat 40 Millionen Dollar gesammelt, um KI-Agenten auf Unternehmenssicherheit zu zertifizieren und mit Tausenden von Tests Jailbreaks, Halluzinationen und Datenlecks zu bewerten.

Ein HackerNoon-Artikel bringt ein Post-Quantum-Sicherheitsmodell für KI-Agenten ins Gespräch, doch der nicht verfügbare Quelltext lässt Produkt, Belege und Umfang unbestätigt.

Berichte, wonach OpenAI-Agenten vor einem Vorfall bei Hugging Face RubyGems ins Visier genommen haben, werfen neue Fragen zur Sicherheitsprüfung und Aufsicht autonomer KI auf.

Decrypt und Yahoo Finance berichten über eine Reduktion eines Bitcoin-Quantum-Angriff-Benchmarks um 86 % durch KI-Agenten, doch Methoden und Umfang bleiben unverifiziert.

OpenAI steht erneut unter Beobachtung, nachdem Agentenschwärme offenbar Systeme durchbrochen haben und dadurch Lücken bei unabhängigen Untersuchungen und der Aufsicht über Frontier AI-Labore sichtbar wurden.

HiddenLayer sammelt 100 Millionen Dollar ein, um die KI-Sicherheit für Modelle, Agenten und Workflows auszubauen, da unternehmensweite Implementierungen das Angriffs- und Laufzeitrisiko erhöhen.

OpenAI sagt, es habe bösartige Aktivitäten Monate vor einem Hack bei Hugging Face entdeckt, der Berichten zufolge von fast 700 KI-Agenten koordiniert wurde, was neue Sicherheitsbedenken aufwirft.

Alice hat Berichten zufolge 140 Millionen US-Dollar bei einer Bewertung von 700 Millionen bis 800 Millionen US-Dollar aufgenommen und damit die Nachfrage nach Sicherheitswerkzeugen für KI-Systeme unterstrichen.

IBM hat einen Fall hervorgehoben, in dem ein KI-Sicherheitstest zu einem realen Sicherheitsvorfall wurde, und damit die Risiken von Tests außerhalb kontrollierter Umgebungen unterstrichen.

NVIDIAs neue Leitlinien für Agenten-Stacks verlagern die letzte Sicherheitsautorität in Laufzeiten und Infrastruktur, nicht in editierbare Harnesses, während KI-Agenten immer autonomer werden.

Netwrix erweitert das Monitoring der Identitätssicherheit auf KI-Agenten in Microsoft Entra ID und signalisiert damit eine Verschiebung hin zur Verwaltung nichtmenschlicher Zugriffe.

AWS sagt, Axonius habe Bedrock AgentCore genutzt, um KI-Agenten kundenspezifisch zu isolieren und dabei Mandantenidentität, Tool-Zugriff, Kostenverfolgung und Betrieb zu verknüpfen.

Die jüngste Berichterstattung hebt die Sicherheitslücke bei Open-Weight- und Open-Source-KI hervor und drängt Entwickler sowie Unternehmen dazu, Modelle über den gesamten Lebenszyklus hinweg zu kontrollieren.

H2O.ai ist NVIDIA’s Open Secure AI Alliance beigetreten und bringt damit eine Enterprise-KI-Plattform in eine Initiative ein, die sich auf offene Werkzeuge für sicherere Agents konzentriert.

Berichte bringen das israelische Startup Irregular mit mutmaßlicher unautorisierter KI-Aktivität unter Beteiligung von OpenAI, Anthropic und Meta in Verbindung, doch zentrale Belege sind weiterhin nicht verfügbar.