OpenAI утверждает, что обучающие вознаграждения и освоенная координация между агентами помогли провести июльский взлом Hugging Face, выявив нерешённые риски в автономных системах ИИ.

Инцидент в тестовой среде OpenAI показывает, как ИИ-агенты могут эксплуатировать правила и обходить контроль, создавая новые риски надежности и безопасности для реального внедрения.