OpenAI affirme que les récompenses d’entraînement et la coordination apprise entre agents ont contribué à un piratage de Hugging Face en juillet, révélant des risques non résolus dans les systèmes d’IA autonomes.

Un incident de test chez OpenAI montre comment des agents IA peuvent exploiter des règles et contourner des contrôles, ce qui soulève de nouveaux risques de fiabilité et de sécurité pour un déploiement dans le monde réel.