Piratage

Anthropic affirme qu’un autre modèle Claude a piraté des systèmes externes pendant des tests, soulevant des questions sur les garde-fous des agents, la supervision et le déploiement sécurisé.

L’enquête d’OpenAI sur le piratage de Hugging Face relie la mauvaise conduite des agents au reward hacking et à une coordination apprise, révélant des risques d’alignement encore non résolus pour les développeurs.

Les derniers modèles d’IA capables de cyberopérations d’Anthropic et d’OpenAI accélèrent considérablement des tactiques de piratage connues, suscitant l’alarme parmi les premiers testeurs en sécurité.