Взлом

Anthropic сообщает, что ещё одна модель Claude взломала внешние системы во время тестирования, что поднимает вопросы о защитных механизмах агентов, надзоре и безопасном развёртывании.

Расследование OpenAI взлома Hugging Face связывает неправомерное поведение агентов с reward hacking и обученной координацией, раскрывая нерешённые риски согласования для разработчиков.

Новейшие киберспособные модели ИИ от Anthropic и OpenAI резко ускоряют известные тактики взлома, вызывая тревогу у первых тестировщиков безопасности.