NVIDIAは、数十社の企業とオープンソース組織を集め、AIの安全性とサイバーセキュリティのための公開利用可能なツールの開発に焦点を当てるグループ、Open Secure AI Allianceを結成した。この取り組みは、閉鎖的なAIプロバイダーに全面的に依存するのではなく、防御側が自社インフラ上でセキュリティシステムを検査し、適応させ、運用できるよう支援することを目的としている。

この連合には、Amazon、Microsoft、IBM、Cisco、Google? いいえ—Googleは含まれていない—に加え、Hugging Face、Mistral、Red Hat、CrowdStrike、Palo Alto Networks、Salesforce、ServiceNow、Databricks、GitHub、そしてLinux Foundationなどが含まれる。NVIDIAによれば、グループはモデル、エージェント・ハーネス、IDシステム、評価ツール、安全なモデル形式を含む、ソフトウェアおよびAIエージェントを保護するための技術を開発し、共有するという。

オープンな防御インフラを中心に据えた連合

NVIDIAはこの取り組みを、Linux FoundationのAkritesイニシアチブやOpen Source Security Foundation、またはOpenSSFにすでに関連するオープンソースのセキュリティ活動の延長として位置づけている。公表された目的は、オープンな技術を用いて脆弱性の修正と開示を支援し、より多くの防御側が検査・改変できるシステムへのアクセスを得られるようにすることだ。

中心的な主張は、AIセキュリティが少数の不透明で閉鎖的なシステムだけに依存することはできない、という点にある。NVIDIAは、オープンなモデルとツールがローカル制御、データ保護、特定の業界や法域に合わせたセキュリティワークフローの適応を可能にすると述べる。同社はまた、マルチベンダーのエコシステムにより、単一ベンダーへの依存を減らせると主張している。

この立場は、閉鎖モデルの否定を意味するものではない。NVIDIAは、防御側にはオープンとクローズドの両方のフロンティアシステムが必要であり、それぞれが最も適切な場面で使われるべきだとしている。連合の重点は、セキュリティ運用と研究のために、能力の高いオープンな代替手段が利用可能であり続けるようにすることにある。

この発表は、企業が言語モデルの試行段階から、ファイルにアクセスし、ソフトウェアツールを呼び出し、行動できるAIエージェントの展開へ移行している最中に行われた。この変化は、セキュリティ上の問題をモデルの挙動の範囲を超えて広げる。さらに、ID、権限、隔離、監査可能性、ソフトウェア供給網に関するリスクももたらす。

提案されたスタックはモデル重みを超える

NVIDIAは、自社の貢献にはオープンモデル、モデル重み、データ、そしてエージェント・ハーネスに関する研究が含まれると述べている。また、NVIDIA Labs Object-Oriented Agent、すなわちNOOAフレームワークをGitHubで公開している。同社はNOOAを、ハーネスがモデルとどのように統合されるかを改善することで、エージェントの振る舞いをテスト、追跡、監査、統制しやすくすることを意図した研究フレームワークだと説明している。

NVIDIAが挙げる他の例は、連合が意図する広がりを示している。HPEは、エージェントやサービスが通信したり企業リソースへアクセスしたりする前に、暗号学的に検証するために設計されたIDフレームワーク、SPIFFE/SPIREに貢献している。Hugging Faceは、リモートコード実行を防ぐことを目的としたモデル重みの形式であるSafetensorsをPyTorch Foundationに提供した。

IBMとRed Hatは、デジタル署名付きパッチをオープンソース供給網へ拡張するLightwellと関連している。MicrosoftはMDASHを提供しており、これは特化したエージェントがソフトウェアのバグを探索し、議論し、それが悪用可能かどうかを判断するマルチモデル・スキャン・ハーネスだと説明されている。

これらのプロジェクト群は、連合がAIエージェントを単なるモデルではなく、完全な運用システムとして扱っていることを示唆している。実際には、セキュリティ制御はモデル、そのツール、権限、ログ、そしてそれを動かすインフラ全体をカバーする必要がある。オープンなハーネスと共通フォーマットは、独立したチームがこれらの制御を検査・評価するのを容易にする可能性がある。

証拠が示すこと、そして未証明のまま残ること

利用可能な証拠は、主にNVIDIA自身の発表に由来する。StorageNewsletterも同じ連合の立ち上げを掲載しているが、提供された報道資料には記事全文がない。そのため、メンバー一覧、技術的貢献、表明された目的は、共同実施の独立検証済み証拠ではなく、NVIDIAが公表した情報として扱うべきである。

NVIDIAは、最近のHugging Faceのセキュリティ事案を、防御側がオープンな自己ホスト型AIシステムを必要とする可能性がある例として挙げている。NVIDIAの説明によれば、閉鎖的なツールは防御側と攻撃者を区別できなかったため、フォレンジック分析の一部を妨げた。その後、Hugging FaceはオープンウェイトのGLM 5.2モデルを自社インフラ上で実行し、17,000件以上のアクションを分析して侵入を封じ込めたという。

この説明はローカル制御の運用上の意義を示しているが、詳細はNVIDIAによって提示されたものであり、提供資料内で独立に裏付けられてはいない。また、この発表には提供時期、ガバナンスモデル、資金調達構造、採用数、参加組織がどのようにリリースや脆弱性対応を調整するかの説明もない。

安全性をめぐる議論も依然として未解決だ。NVIDIAは、オープンモデルが悪用される可能性、例えば防御策を弱めたり攻撃に能力を転用したりする可能性を認めている。提案する答えは、オープン性に評価、レッドチーミング、利用規則、迅速な修正を組み合わせることだ。現段階では、これは実証された成果ではなく原則にとどまる。

ビルダーと企業の購入担当者が注目すべき理由

AIビルダーにとって、この連合はエージェント型アプリケーションを保護するための再利用可能なコンポーネントを増やす可能性がある。標準化されたID、より安全なモデル形式、テスト可能なハーネスは、各社がツールアクセス、ログ記録、モデルの来歴をめぐる個別の制御を構築する必要性を減らすかもしれない。また、機密データを外部サービスへ送れない場合に、企業自身の環境内でセキュリティエージェントを運用しやすくする可能性もある。

企業の購入担当者は、創設メンバーの数だけでなく、これらのプロジェクトがどう成熟するかに注目すべきだ。オープンなコンポーネントは可搬性と監査可能性を高める一方で、運用上の責任も生じさせる。組織は引き続きコードの検証、パッチ管理、モデル挙動の監視、どのエージェントに本番システムへのアクセスを与えるかの判断を行う必要がある。

この連合はまた、中央集権型AIプラットフォームと、より分散したセキュリティアーキテクチャとの競争を激化させる可能性がある。強力なオープンエコシステムは、セキュリティチームにさらなる交渉力を与え、単一のモデルプロバイダーへの依存を減らすかもしれない。しかし、プロジェクトが実用的な標準を中心に収束しなければ、断片化したツール、一貫性のないガバナンス、不明確なサポート体制がその利点を相殺してしまう可能性がある。

研究者や政策立案者にとって、この発表は重要な問いを改めて突きつける。オープンなAIシステムは主に制限すべきリスクとして扱うべきか、それともセキュリティチームが検査し制御する必要がある防御インフラとして扱うべきか。NVIDIAは明確に後者の見方を主張しているが、オープン性には無制限の展開ではなく保護策が必要だとも認めている。

今後注目すべき点

最初の兆候は、連合がNVIDIAの発表で挙げられたプロジェクトを超えて、具体的なガバナンス構造、共有ロードマップ、あるいは技術標準を公表するかどうかだ。購入者はまた、NOOA、MDASH、SPIFFE/SPIRE、関連するエージェントセキュリティツールの本番対応版リリースと、それらが異なるモデルやクラウド環境でどのように機能するかを示す文書にも注目すべきである。

独立評価は、パートナー一覧よりも重要になる。役立つ証拠としては、エージェント権限、脆弱性検出、誤検知、プロンプトインジェクション耐性、モデルおよびツール供給網の安全性に関する再現可能なテストが挙げられる。また、参加企業が共通プロセスを通じて脆弱性を開示し、プロジェクトを継続的に維持しているかどうかも重要だ。

Creati.ai の見方

Open Secure AI Alliance が重要なのは、AIセキュリティを、より安全なモデルを選ぶかどうかだけの問題ではなく、インフラとシステムの問題として定義しているからだ。その最も実用的な貢献は、ID、ハーネス、フォーマット、評価ツールの共有レイヤーであり、組織がより高い可視性と制御をもってエージェントを運用できるようにすることかもしれない。

しかし、この発表はまだ出発点にすぎない。NVIDIAが提供したのは広範な連合とベンダー報告の例であり、相互運用可能な防御スタックがすでに存在するという証明ではない。連合が信頼性を得るには、オープンなガバナンス、独立したテスト、継続的な保守が必要になる。特に、そのツールがデモではなく、緊張の高いセキュリティインシデントで使われる場合にはなおさらだ。