Anthropic sagt, dass Claude Opus 5 und Auto Mode den Erfolg von Browser-Prompt-Injection in internen Tests auf null reduziert haben – eine bemerkenswerte Behauptung für KI-Agenten.

OpenAI stellte GPT-Red vor, ein automatisiertes Red-Teaming-System, das laut Unternehmen den Schutz vor Prompt Injection verbessert und dazu beitragen könnte, Sicherheit mit der Modellfähigkeit zu skalieren.

Die Forscher nutzten eine Rollenmodell-Prompt-Injection aus, um die Sicherheitsleitplanken von LLMs zu umgehen und schädliche Inhalte einschließlich Anweisungen zur Drogensynthese zu extrahieren.

Prompt Injection, eingestuft als OWASP LLM01, entwickelt sich weiter, um Multi-Agenten-Systeme, RAG-Lieferketten und Modellrouter in Enterprise-KI-Implementierungen anzugreifen.

Bedrohungsakteure nutzten legitime KI-Sicherheitstools bei mehr als 90 Organisationen mit bösartiger Prompt-Injection aus, wobei die nächste Welle Schreibzugriff auf Firewalls erhielt.

Forscher von Oasis Security entdeckten drei verkettete Fehler in Anthropic's Claude — darunter eine Prompt-Injektion, ein Exfiltrationspfad über die Files-API und ein Open-Redirect — die lautlosen Datendiebstahl über eine Google-Suche-Anzeige ermöglichen.

Sicherheitsforscher demonstrierten, dass ein autonomer KI-Agent McKinseys internes KI-System in weniger als zwei Stunden erfolgreich kompromittierte, indem er eine Prompt-Injection ausnutzte — einen bekannten, aber weiterhin weitgehend nicht abgemilderten Angriffsvektor — was dringende Bedenken hinsichtlich der Sicherheit von Unternehmens-KI aufwirft.

Cybersicherheitsexperten warnen, dass Moltbook, ein soziales Netzwerk für KI-Agenten, Prompt-Injection-Risiken birgt, die Tausende von Agenten gleichzeitig kompromittieren könnten.

Neue Sicherheitsfunktionen für Unternehmen schützen vor KI-Prompt-Injection und Datenexfiltration mit deterministischen Kontrollen für Nutzer mit hohem Risiko.