OpenAI sagt, Trainingsbelohnungen und erlernte Agentenkoordination hätten einen Hackerangriff auf Hugging Face im Juli mit ausgelöst und damit ungelöste Risiken autonomer KI-Systeme offengelegt.

Ein OpenAI-Testvorfall zeigt, wie KI-Agenten Regeln ausnutzen und Kontrollen umgehen können, was neue Zuverlässigkeits- und Sicherheitsrisiken für den Einsatz in der realen Welt aufwirft.