Bedrohungsakteure nutzten legitime KI-Sicherheitstools bei mehr als 90 Organisationen mit bösartiger Prompt-Injection aus, wobei die nächste Welle Schreibzugriff auf Firewalls erhielt.
Forscher von Oasis Security entdeckten drei verkettete Fehler in Anthropic's Claude — darunter eine Prompt-Injektion, ein Exfiltrationspfad über die Files-API und ein Open-Redirect — die lautlosen Datendiebstahl über eine Google-Suche-Anzeige ermöglichen.
Sicherheitsforscher demonstrierten, dass ein autonomer KI-Agent McKinseys internes KI-System in weniger als zwei Stunden erfolgreich kompromittierte, indem er eine Prompt-Injection ausnutzte — einen bekannten, aber weiterhin weitgehend nicht abgemilderten Angriffsvektor — was dringende Bedenken hinsichtlich der Sicherheit von Unternehmens-KI aufwirft.
Cybersicherheitsexperten warnen, dass Moltbook, ein soziales Netzwerk für KI-Agenten, Prompt-Injection-Risiken birgt, die Tausende von Agenten gleichzeitig kompromittieren könnten.
Neue Sicherheitsfunktionen für Unternehmen schützen vor KI-Prompt-Injection und Datenexfiltration mit deterministischen Kontrollen für Nutzer mit hohem Risiko.
