NVIDIA объединила десятки компаний и организаций с открытым исходным кодом, чтобы сформировать Open Secure AI Alliance — группу, сосредоточенную на разработке общедоступных инструментов для безопасности ИИ и кибербезопасности. Инициатива призвана помочь защитникам проверять, адаптировать и эксплуатировать системы безопасности в собственной инфраструктуре, а не полагаться исключительно на закрытых поставщиков ИИ.

В альянс входят такие компании, как Amazon, Microsoft, IBM, Cisco, Google? Нет — Google не указан — а также Hugging Face, Mistral, Red Hat, CrowdStrike, Palo Alto Networks, Salesforce, ServiceNow, Databricks, GitHub и Linux Foundation. По словам NVIDIA, группа будет разрабатывать и делиться технологиями для защиты программного обеспечения и ИИ-агентов, включая модели, harnesses для агентов, системы идентификации, инструменты оценки и безопасные форматы моделей.

Альянс, построенный вокруг открытой оборонительной инфраструктуры

NVIDIA представляет инициативу как продолжение работ по безопасности с открытым исходным кодом, уже связанных с инициативой Akrites Linux Foundation и Open Source Security Foundation, или OpenSSF. Заявленная цель — помогать устранять и раскрывать уязвимости с использованием открытых технологий, одновременно давая большему числу защитников доступ к системам, которые они могут изучать и модифицировать.

Ключевой тезис состоит в том, что безопасность ИИ не может зависеть лишь от небольшого числа непрозрачных, закрытых систем. NVIDIA утверждает, что открытые модели и инструменты могут обеспечить локальный контроль, защиту данных и возможность адаптировать рабочие процессы безопасности под конкретные отрасли или юрисдикции. Компания также считает, что экосистема с несколькими поставщиками может снизить зависимость от одного вендора.

Эта позиция не означает отказ от закрытых моделей. NVIDIA говорит, что защитникам нужны как открытые, так и закрытые frontier-системы, используя каждую там, где она наиболее уместна. Акцент альянса — в том, чтобы обеспечить доступность сильных открытых альтернатив для операций безопасности и исследований.

Объявление сделано в момент, когда предприятия переходят от экспериментов с языковыми моделями к развертыванию ИИ-агентов, способных получать доступ к файлам, вызывать программные инструменты и совершать действия. Этот сдвиг расширяет проблему безопасности за пределы поведения модели. Он также вносит риски, связанные с идентичностью, правами доступа, изоляцией, аудируемостью и цепочкой поставок ПО.

Предлагаемый стек выходит за пределы весов модели

NVIDIA заявляет, что ее вклад будет включать открытые модели, веса моделей, данные и исследования по harnesses для агентов. Кроме того, компания выпускает на GitHub фреймворк NVIDIA Labs Object-Oriented Agent, или NOOA. NVIDIA описывает NOOA как исследовательский фреймворк, призванный упростить тестирование, трассировку, аудит и управление поведением агентов за счет улучшения того, как harnesses интегрируются с моделями.

Другие примеры, приведенные NVIDIA, показывают предполагаемый масштаб альянса. HPE вносит вклад в SPIFFE/SPIRE — фреймворк идентификации, предназначенный для криптографической проверки агентов и сервисов перед их взаимодействием или доступом к корпоративным ресурсам. Hugging Face передала в PyTorch Foundation Safetensors — формат весов моделей, призванный предотвратить удаленное выполнение кода.

IBM и Red Hat связаны с Lightwell, который расширяет использование цифрово подписанных патчей в цепочке поставок открытого ПО. Microsoft вносит MDASH, описываемый как многомодельный harness для сканирования, в котором специализированные агенты ищут ошибки ПО, спорят о них и определяют, можно ли их эксплуатировать.

Набор проектов указывает на то, что альянс рассматривает ИИ-агента как полноценную операционную систему, а не просто как модель. На практике это означает, что средства безопасности должны охватывать модель, ее инструменты, права доступа, журналы и инфраструктуру, на которой она работает. Открытые harnesses и общие форматы могут упростить независимым командам проверку и оценку этих механизмов контроля.

Что показывают доказательства — и что остается недоказанным

Доступные доказательства в основном исходят из собственного объявления NVIDIA. StorageNewsletter также перечисляет запуск этого альянса, однако полный текст его статьи недоступен в предоставленных материалах. Поэтому список участников, технические вклады и заявленные цели следует рассматривать как информацию, опубликованную NVIDIA, а не как независимо подтвержденное свидетельство совместной реализации.

NVIDIA ссылается на недавний инцидент безопасности Hugging Face как на пример того, почему защитникам могут понадобиться открытые, самостоятельно размещенные ИИ-системы. По версии NVIDIA, закрытые инструменты заблокировали часть форензического анализа, поскольку не могли отличить защитников от атакующих. Затем Hugging Face запустила открытую по весам модель GLM 5.2 на собственной инфраструктуре, чтобы проанализировать более 17 000 действий и локализовать вторжение.

Этот пример иллюстрирует практическую пользу локального контроля, но детали представлены NVIDIA и не подтверждены независимо в предоставленных источниках. Объявление также не содержит графика поставки, модели управления, структуры финансирования, показателей внедрения или описания того, как участники будут координировать релизы и реагирование на уязвимости.

Дискуссия о безопасности также остается нерешенной. NVIDIA признает, что открытые модели могут быть использованы во вред, в том числе путем ослабления защитных механизмов или переориентации возможностей на атаки. Ее предлагаемый ответ — сочетать открытость с оценкой, red teaming, правилами использования и быстрым устранением проблем. На этом этапе это принципы, а не доказанные результаты.

Почему это важно для разработчиков и корпоративных покупателей

Для разработчиков ИИ альянс может создать более переиспользуемые компоненты для защиты агентных приложений. Стандартизированная идентичность, более безопасные форматы моделей и тестируемые harnesses могут уменьшить необходимость для каждой компании строить отдельные механизмы контроля доступа к инструментам, ведения журналов и происхождения модели. Это также может облегчить запуск защитных агентов внутри собственной среды компании, когда конфиденциальные данные нельзя отправлять внешнему сервису.

Корпоративным покупателям следует обращать внимание на то, как эти проекты взрослеют, а не только на размер числа учредителей. Открытые компоненты могут улучшить переносимость и аудируемость, но также создают операционные обязанности. Организациям все равно придется проверять код, управлять патчами, отслеживать поведение модели и решать, какие агенты получают доступ к производственным системам.

Альянс также может обострить конкуренцию между централизованными ИИ-платформами и более распределенными архитектурами безопасности. Сильная открытая экосистема может дать командам безопасности больше переговорной силы и снизить зависимость от одного поставщика модели. Однако фрагментированные инструменты, непоследовательное управление и неясные соглашения о поддержке могут нивелировать эти преимущества, если проекты не сойдутся вокруг практических стандартов.

Для исследователей и политиков это объявление поднимает важный вопрос: следует ли рассматривать открытые ИИ-системы прежде всего как риски, которые нужно ограничивать, или как оборонительную инфраструктуру, которую командам безопасности необходимо изучать и контролировать. NVIDIA явно отстаивает вторую точку зрения, одновременно признавая, что открытость требует защитных мер, а не неограниченного развертывания.

За чем следить дальше

Первым сигналом станет то, опубликует ли альянс конкретную структуру управления, общую дорожную карту или технические стандарты сверх проектов, названных в объявлении NVIDIA. Покупателям также стоит следить за готовыми к производству релизами NOOA, MDASH, SPIFFE/SPIRE и связанных инструментов безопасности агентов, а также за документацией, показывающей, как они работают в разных моделях и облачных средах.

Независимые оценки будут важнее списка партнеров. Полезными доказательствами будут воспроизводимые тесты полномочий агентов, обнаружения уязвимостей, ложных срабатываний, устойчивости к prompt injection и безопасности цепочек поставок моделей и инструментов. Также важно будет увидеть, раскрывают ли участвующие компании уязвимости через общий процесс и поддерживают ли проекты со временем.

Мнение Creati.ai

Open Secure AI Alliance важен тем, что определяет безопасность ИИ как проблему инфраструктуры и систем, а не просто как вопрос выбора более безопасной модели. Его наиболее практический вклад может заключаться в общей прослойке идентификации, harnesses, форматов и инструментов оценки, которая позволит организациям управлять агентами с большей прозрачностью и контролем.

Но это объявление — лишь отправная точка. NVIDIA представила широкую коалицию и набор примеров, сообщенных вендорами, а не доказательство того, что уже существует интероперабельный оборонительный стек. Альянс будет зарабатывать доверие через открытое управление, независимое тестирование и устойчивое сопровождение — особенно когда его инструменты будут использоваться в напряженных инцидентах безопасности, а не только в демонстрациях.