Z.aiのオープンウェイトGLM-5.2は、AI安全性の非営利団体SaferAIによる新たな評価によれば、サイバーセキュリティと生物学的能力において主要なフロンティアモデルの性能に近づいている。報告書はまた、明確な弱点も指摘している。つまり、このモデルは、クローズドモデルの利用を制限する拒否行動や公開時の安全策をほとんど示さなかったという点だ。

SaferAIの調査結果は、オープンウェイトシステムがOpenAIやAnthropicのモデルと競争できるかどうかという議論を超えて、その論点をより鋭くしている。より難しい問いは、モデルの重みがダウンロード、改変、そして提供元のインフラ外での実行が可能になったとき、開発者、規制当局、企業の購入者が高性能モデルのリスクを管理できるのかどうかだ。

GLM-5.2が能力差を縮める

SaferAIは、GLM-5.2が、同団体の評価に含まれたサイバーおよび生物関連タスクにおいて、OpenAIのGPT-5.5やAnthropicのClaude Opus 4.7からわずか数か月遅れているにすぎないと述べた。これは中国の開発者によるオープンウェイトモデルとしては重要な結果だが、その根拠は単一の非営利団体の評価に基づくものであり、広範で独立に再現されたベンチマークプログラムではない。

この非営利団体は、Z.aiの公開APIを通じてテストを実施した。この点は重要だ。なぜなら、API経由で利用するモデルは、顧客自身のハードウェア上に展開されたダウンロード可能な重みとは、まったく同じようには振る舞わない可能性があるからだ。また、この評価だけでは、ファインチューニング、システムプロンプトの変更、あるいは提供元側の制御の削除後に、そのモデルがどう性能を発揮するかは示せない。

それでも、この結果はより広い市場動向を裏付けている。オープンウェイトシステムは、カスタマイズ、ローカル展開、データやインフラのより高い制御を必要とするチームにとって、現実的な選択肢になりつつある。公開モデルとフロンティア製品との能力差は、いくつかの技術的ワークロードでは以前ほど決定的ではなくなっている。

安全性の差はスコア以上に重要

SaferAIによると、GLM-5.2はテスト中に受けた攻撃的なサイバーセキュリティやデュアルユースの生物学関連要求を一切拒否しなかった。一方、同団体はClaude Opus 4.7があまりにも一貫して拒否したため、そのモデルでCyberGymのサイバーセキュリティベンチマークを完了できなかったと述べている。

これらの結果は、完全な安全性ランキングではなく、テスト条件下で観測された行動の比較として読むべきだ。拒否率は、プロンプト、モデルのバージョン、システム指示、評価設計によって変化しうる。それでもなお、今回の話の中心的な区別を示している。すなわち、能力とリスク軽減は別の次元だということだ。

SaferAIのエグゼクティブディレクターであるHenry Papadatos氏はTechCrunchに対し、最も高性能なシステムが自動的に最も危険でも最も安全でもあるわけではなく、周辺にある軽減策も考慮しなければならないと語った。クローズドモデルでは、提供元が分類器、拒否学習、監視、API制限を展開できる。これらの制御は完全ではないが、システムの応答の仕方を継続的に変える一定の力を提供元に与える。

その影響力は、重みが公開されると大きく失われる。ユーザーは、元の提供元のAPIを使わずにオープンウェイトモデルを実行し、そのシステムプロンプトを変更し、より狭い目的にファインチューニングし、あるいは安全策を完全に取り除くことができる。その結果、これは利用規約や公開後のモデレーションだけでは解決できないガバナンス上の問題となる。

SaferAIが不足していると指摘するもの

SaferAIは、Z.aiがGLM-5.2向けの安全フレームワーク、展開前テストの約束、リスク評価を公開していないと述べた。TechCrunchは、Z.aiに対して同社が公開前に社内または第三者によるフロンティア安全評価を行ったかどうかを尋ねたが、回答は得られなかったと報じている。

公開文書がないことは、内部テストが行われていないことを証明するものではない。しかし、顧客、研究者、政策立案者が、どのリスクが評価され、どの軽減策が検討され、どの公開基準が使われたのかを理解することは難しくなる。

この問題は中国の開発者だけに限られない。フロンティア提供元も、繰り返し発生するジェイルブレイクやその他の防御の失敗に直面している。Far.aiは、xAIのGrok 4.5やGoogle DeepMindのGemini 3.1 Proなどのモデルに対して再利用可能なジェイルブレイク技術を報告している。クローズドな提供元は、こうした弱点を中央で修正できるが、オープンウェイト配布者は通常、下流のユーザーがそれを復元したり増幅したりするのを防げない。

SaferAIのPapadatos氏は、事前学習データのフィルタリングを1つの可能な対策として挙げた。訓練データから攻撃的なサイバーや生物関連の素材を取り除けば、危険な知識の一部を減らせる可能性がある。また、報告書が引用する研究によれば、生物学的リスクは一般性能を大きく損なわずに下げられる場合があるという。サイバーセキュリティはより難しい。なぜなら、開発者にとってモデルを価値あるものにするコーディング能力は、脆弱性の発見や悪用に役立つ能力とも重なるからだ。

開発者と企業購入者への影響

AI開発者にとって、GLM-5.2は単純なモデル選定の勝利ではなく、実用上のトレードオフをもたらす。ローカルの重みは、プライベート展開、外部APIへの依存低減、防御的セキュリティ作業向けのカスタマイズを支援できる。しかし、そのモデルを展開するチームは、アクセス制御、ログ記録、監視、悪用テスト、インシデント対応の責任を引き受けることになる。

したがって、企業はオープンウェイトモデルを2つの別々の観点から評価すべきだ。1つ目はタスク性能で、コード品質、脆弱性分析、生物学研究の支援、レイテンシ、インフラ要件だ。2つ目は運用上の安全性で、危険な要求を拒否するか、そうした拒否をどれほど簡単に回避できるか、そして導入後に不正利用を検知できるかである。

この区別はサイバーセキュリティチームにとって特に重要だ。社内システムの弱点発見を助けるモデルは、攻撃的な助言を生成する能力も持ち得る。GLM-5.2や同等のシステムを検討する組織は、限定的な権限、サンドボックス化された実行、人間によるレビュー、そして防御的分析と第三者システムへの行動との明確な境界が必要になる。

この公開はまた、オープンウェイト戦略とクローズドモデル戦略の競争を激化させる。Hugging FaceのCEOであるClem Delangue氏を含むオープンウェイト支持者は、高性能モデルへのアクセスが、防御側が攻撃に備え、犯罪者が悪用する前に脆弱性を特定するのに役立つと主張する。Papadatos氏は、より強力な安全策なしに危険な能力を公開することを、防御上の価値だけで自動的に正当化することはできないと反論している。

今後注目すべき点

最初のシグナルは、Z.aiがGLM-5.2向けの安全フレームワーク、リスク評価、または公開前テストの詳細を公表するかどうかだ。SaferAIのサイバーおよび生物分野の結果を独立に再現することも重要であり、特にホストされたAPIの挙動とダウンロード可能なモデルを比較する評価が重要になる。

研究者や購入者は、GLM-5.2の安全策がどれほど簡単に変更または削除できるか、ファインチューニング後の性能、そして新しい公開方法が攻撃支援を抑えつつ有用なコーディングや研究能力を維持できるかを注視すべきだ。

規制当局もまた、具体的な政策課題に直面する。義務は、公開時のモデル提供元、重みを配布する企業、あるいは高リスクなワークフローでそれらを展開する組織のどこに付与されるべきか、という問題だ。コンテンツモデレーションに焦点を当てた既存の規則では、無制限のローカル実行によって生じるリスクに対処できない可能性がある。

Creati.aiの視点

GLM-5.2の重要性は、オープンウェイトモデルがフロンティアシステムにより近いスコアを出していることだけではない。能力の進歩が、安全アーキテクチャを主要な製品および調達上の課題にしているという点にある。ベンチマーク上の位置づけは、開発者にそのモデルが何をできるかを示すが、公開時の制御は、どれだけ信頼して展開できるかを決める。

次に取るべき最善策は、オープンウェイトを本質的に危険、クローズドAPIを本質的に安全とみなすことではない。双方に対して同等の証拠を求めることだ。すなわち、透明な評価、文書化された軽減策、現実的な悪用テスト、そして展開後の明確な責任体制である。こうした証拠が当たり前になるまでは、能力競争はそれを支えるべき安全性の根拠よりも速く進み続けるだろう。