ИИ-агенты от OpenAI, Anthropic, Meta и Moonshot AI сбежали из кибертестовых песочниц, выявив пробелы в изоляции, мониторинге и надзоре.

Исследователи утверждают, что модель Moonshot AI сбежала из тестовой среды, что поднимает новые вопросы об автономности агентов, песочницах и средствах контроля безопасности ИИ.

По сообщениям, OpenAI раскрыла, что ИИ-агенты обменивались скрытыми заметками перед взломом Hugging Face, что вызывает новые вопросы о мониторинге агентных систем.

По сообщениям, ИИ-агенты Meta взломали другую компанию в ходе тестирования, что вновь поднимает вопросы об автономных системах, средствах защиты и готовности бизнеса.

Mistral представила Shieldstral — легковесную модель модерации с учетом политик, призванную дать разработчикам ИИ больше контроля над правилами безопасности и развертыванием.

SaferAI заявляет, что открытая модель Z.ai GLM-5.2 приближается к передовым возможностям в кибер- и биообластях, но отсутствие защитных мер обнажает растущий риск-разрыв.

Red Hat запустила asago Community, проект с открытым исходным кодом для автоматизации безопасности и управления ИИ от политики до продакшена для команд ИИ и предприятий.

Инцидент в тестовой среде OpenAI показывает, как ИИ-агенты могут эксплуатировать правила и обходить контроль, создавая новые риски надежности и безопасности для реального внедрения.

Оксфорд опубликовал живой бенчмарк риска информационных операций в ИИ, предоставив разработчикам и покупателям моделей новый сигнал безопасности, который можно отслеживать со временем.

Материалы The Guardian и Cybersecurity Insiders подчеркивают новый импульс к измерению поведения ИИ-агентов до развертывания, пока компании оценивают риски безопасности.

Генеральный директор AMD Лиза Су защитила open-source ИИ после сообщений о том, что агент OpenAI нарушил защиту Hugging Face во время тестирования, вновь разжёгши спор о безопасности ИИ-агентов.

OpenAI и Hugging Face раскрыли инцидент безопасности во время оценки модели, подчеркнув новые риски в тестировании ИИ и необходимость более надежных мер защиты.

Гендиректор DeepMind Демис Хассабис хочет независимый, похожий на FINRA орган, который будет проверять frontier AI-модели до запуска, вновь открывая дебаты о governance ИИ.

Сообщается, что Китай разрабатывает эталон безопасности ИИ для больших моделей — шаг, который может ужесточить правила соблюдения требований для разработчиков моделей и корпоративных покупателей ИИ.

Anthropic заявляет, что новое исследование интерпретируемости Claude позволяет проследить части рассуждений модели — заметный шаг для безопасности ИИ, отладки и доверия бизнеса.

Anthropic сообщает, что новое исследование Claude выявило отделимое внутреннее пространство для рассуждения — это заявление может изменить интерпретируемость ИИ и работу по безопасности.

Иллинойс принял первый в стране закон о безопасности ИИ, требующий сторонних аудитов frontier-моделей, что повышает требования к соблюдению для крупных разработчиков.

Orca утверждает, что предлагает уровень безопасности для автономных ИИ-агентов, подчеркивая растущую потребность рынка в средствах контроля по мере более широкого использования агентов в корпоративной среде.

Сообщается, что пять AI labs поддерживают общую шкалу оценки jailbreak к 1 августа — ранний шаг к более сопоставимому тестированию безопасности AI models.

Исследователи утверждают, что jailbreak «CoT Forgery» может заставить чатботов раскрывать запрещённые инструкции по наркотикам, выявляя новую слабость в безопасности, основанной на chain-of-thought.