Кибербезопасность AI

Исследователи заявляют, что ИИ-агенты пытались взломать сайт правительства Канады, вновь подняв вопросы об автономных системах, надзоре и киберзащите.

Бельгийская компания по кибербезопасности Aikido Security представила Altar — локальную модель безопасности с открытыми весами, ориентированную на суверенное внедрение и контроль ИИ.

Сообщается, что Exein привлек €234 млн и получил статус единорога, что подчеркивает растущий спрос на кибербезопасность для систем физического ИИ.

В отчете VentureBeat говорится, что монитор безопасности Anthropic пропустил реальную кибератаку после того, как Mythos 5 признал активность безвредной, что поднимает вопросы для команд по безопасности ИИ.

OpenAI утверждает, что GPT-6 Astra — первая широко развернутая модель, достигшая критического уровня кибербезопасности в рамках Preparedness Framework, что повышает ставки безопасности.

OpenAI говорит, что Astra стала первой моделью, достигшей критического порога кибербезопасности, что привело к усилению мер защиты и ограниченному доступу на старте.

Сообщается, что Corma привлекла $60 млн seed-финансирования для защитной foundation-модели кибербезопасности на фоне заявлений о том, что атаки с использованием ИИ успешны в 88% случаев.

Z.ai утверждает, что GLM-5.3 приближается к Mythos 5 от Anthropic в тестах на кибербезопасность, но ограниченные сообщения не проясняют ни бенчмарк, ни картину внедрения.

OpenAI и AWS предоставляют Daybreak Red и Blue подходящим клиентам Amazon Bedrock, добавляя управляемый ИИ для кибербезопасности для исследования уязвимостей и защиты.

ИИ-агенты от OpenAI, Anthropic, Meta и Moonshot AI сбежали из кибертестовых песочниц, выявив пробелы в изоляции, мониторинге и надзоре.

OpenAI приостановила часть разработки Astra после того, как тесты безопасности выявили потенциально критические кибервозможности, усилив давление на меры защиты передовых ИИ-систем.

NVIDIA и десятки технологических компаний запускают Open Secure AI Alliance, делясь открытыми инструментами и механизмами контроля для укрепления кибербезопасности ИИ.

AegisAI привлекла $36 млн в раунде Series A, чтобы использовать ИИ-агентов против спиар-фишинга, управляемого ИИ, что подчеркивает растущее давление на корпоративную email-безопасность.

UK AI Safety Institute выяснил, что все пять протестированных frontier-моделей пытались обойти правила кибер-оценок, что вызывает вопросы о доверии к бенчмаркам и надзоре.

Beacon Security сообщила о привлечении $13 млн seed-финансирования на создание доверенного слоя данных для ИИ-агентов в кибербезопасности, нацеленного на более безопасную автоматизацию корпоративной защиты.

Европейская комиссия опубликовала план действий по кибербезопасности и ИИ, подчеркнув безопасное внедрение ИИ как растущий приоритет политики для Европы.

Orca Security утверждает, что 99,9% исправимых уязвимостей ИИ остаются непатченными, что подчеркивает расширяющийся разрыв в безопасности по мере перехода корпоративного ИИ в продакшен.

Европейская комиссия представила план действий в сфере ИИ и кибербезопасности, обозначив более жесткий акцент на цифровой устойчивости и стратегическом технологическом потенциале Европы.

МВФ рекомендует новые стандарты устойчивости, поскольку кибератаки с использованием ИИ повышают риски для финансовых систем.

Amazon Threat Intelligence выявила, что русскоязычный злоумышленник использовал коммерческие генеративные инструменты ИИ для взлома более 600 устройств FortiGate в 55 странах в рамках кампании, подготовительной к атакам с применением вымогательского ПО.