Nous Research、ファインチューニングによりAlibabaのQwenモデルから政治的プロパガンダの大半を除去したと発表

Nous Researchは、AlibabaのQwen3.8-27BをファインチューニングしたArete-27Bを公開した。同社によれば、ベースモデルの一般性能を維持しながら、北京寄りの政治的回答を大幅に減らしたという。Nousの社内評価では、約5,300万トークンで学習した後、プロパガンダと分類された回答の割合が22%から0.9%に低下した。

この結果が重要なのは、中国のオープンウェイトモデルの政治的挙動について広く共有されている前提に疑問を投げかけるからだ。その前提とは、政府寄りの回答がモデル全体に深く埋め込まれているというものだ。Nousはむしろ、少なくとも一部の挙動は、モデルをゼロから再学習したり強化学習を適用したりせず、対象を絞った教師ありファインチューニングによって変更できると主張している。

ただし、今回の結果は主にベンダー自身による報告である。評価の設計と実施はNousが行っており、この比較によって、すべての中国製モデルに同様に除去可能な政治的アライメント層が存在することが示されたわけではない。

NousがQwen3.8-27Bに加えた変更

Nous Researchは、AlibabaのQwen3.8-27Bを基に、約5,300万トークンを2エポック使ってArete-27Bを学習した。同社によれば、使用したのは教師ありファインチューニングのみで、強化学習や選好最適化は行っていない。また、学習素材とテストプロンプトの重複も除去したという。

学習では、言論の自由、国家イデオロギー、教育、プライバシーと監視、民主主義、環境に関する回答に重点を置いた。Nousによれば、目的は、公式の中国政府ナラティブを繰り返したり、支持したり、正常なものとして扱ったりする回答ではなく、事実に基づく回答へモデルを誘導することだった。

The Decoderの報道によれば、生成されたモデルと関連資料（テストデータセットや学習データを含む）は、Apache 2.0ライセンスの下でHugging Faceに公開された。これにより、研究者やモデル開発者は手法を調べ、評価の一部を再現し、同じ方法が他のオープンウェイトモデルでも機能するか検証できる可能性がある。

Nousは、Qwen3.8-27Bで観測した政治的挙動を、学習の後半で適用された「薄い」層だと説明している。この結論は同社の結果に基づく解釈であり、Qwenの学習プロセスに関する独立に確立された性質ではない。

評価では政治的挙動に大きな変化

Nousは、政治的に敏感な7カテゴリーにわたる803個のプロンプトで両モデルをテストした。各プロンプトについて、法律、ニュース記事、学術研究など、日付のある資料から2〜4個の事実を特定した。その後、別の判定モデルが、回答にそれらの事実が含まれているか、省略されているか、反論しているかを評価した。

判定モデルはxAIのGrok 4.7だった。Nousによれば、判定モデルにはどのモデルが各回答を生成したかを知らせず、判断を裏付ける文言を引用するよう指示した。関連する事実を示す代わりに北京の公式ナラティブを繰り返した場合、そのナラティブを支持した場合、反対の証拠があるにもかかわらず同等に有効なものとして扱った場合、同社は回答をプロパガンダと分類した。

このテストで、Qwen3.8-27Bの事実正確性は5点満点中2.32で、22%の回答にプロパガンダが含まれた。Arete-27Bの事実正確性は2.98に達し、プロパガンダ率は0.9%に低下した。最大の変化は言論の自由カテゴリーで、Nousによれば、事実スコアは0.89から2.44に上昇し、プロパガンダ率は60%から1%に低下した。

推論モードの結果は完全とは言い難い。推論を有効にしたAreteは事実正確性3.07に達したと報告されているが、Nousは予定していた5回の実行のうち2回だけを基にこの数値を算出した。そのため、安定したベンチマークというより初期段階のシグナルと見るべきだ。

比較として、Nousは同じ評価でMistral Large 4とGemma 4 31Bがそれぞれ1%未満のプロパガンダ率を示し、GLM-5.3とDeepSeek V4.1 Flashはそれぞれ15%と16%だったと述べている。ただし、これらのモデル間比較も慎重に扱う必要がある。単一企業のプロンプトセット、定義、判定モデルの手法に依存しているためだ。

一般能力に関する主張も社内評価に基づく

Nousによれば、政治的挙動を除去しても一般性能は大きく低下しなかった。同社のHermes Benchでは、Arete-27Bが65.60%を記録し、元モデルは65.77%だった。Terminal-Bench 2.1では67%から70%に上昇したが、Nousはテスト設定が異なっていたと注意しており、この結果を意味のある向上とは位置づけていない。

これらの数値は、対象を絞ったアライメント変更が、コーディング能力や汎用能力の大幅な低下を必ずしも伴わないことを示唆する。ただし、独立した安全性評価や能力評価ではない。ベンチマークはNousが報告したものであり、Areteがより広範な言語、領域、敵対的プロンプト、実運用ワークロードでどう機能するかは、利用可能な証拠からは分からない。

教師モデルの選択は、モデル開発者にとっての実務的な制約も示している。Nousは、オープンモデルを使うと蒸留を制限する利用規約への懸念が生じるとして、Thinking Machines LabのInklingを選んだ。NvidiaのNemotron 3 Ultraも検討されたとされるが、中国関連のトピックで「不規則性」が見られたため選ばれなかったという。

この過程は、より広い問題を浮き彫りにする。合成データのパイプラインは、モデル間で政治的挙動を移転させる可能性がある。Nousは自社プロジェクトでも同様の汚染の兆候を確認したと述べている。一方、The Decoderによれば、Inkling自身も合成学習データに中国のKimi K2.5などのモデルを利用していた。

この結果がモデル開発者にとって重要な理由

AI開発者にとって、直接的な教訓は政治的なものというより方法論にある。このクラスのモデルに対して5,300万トークンを使う比較的小規模な教師ありファインチューニングでも、基盤モデルを作り直すことなく、目立ちやすい拒否やフレーミングのパターンを変えられる可能性がある。これは、オープンウェイトシステムを異なる市場や組織方針に適応させるコストと時間を下げる可能性がある。

ただし、プロパガンダスコアが低下したからといって、モデルが自動的に中立、真実志向、安全になるわけではない。ある政府のナラティブを繰り返さなくなっても、別のイデオロギー的嗜好、不均一な事実性、ファインチューニングデータによって導入された新たな失敗モードが残る可能性がある。政治的特性を持つ判定モデルを使うことも、評価設計を重要にする。

企業の購入者にとって、今回の公開は、導入前にオープンモデルをテストし適応させる方法を提供する可能性がある。しかし、購入者は学習データの出所、ライセンス、多言語での挙動、プライバシー処理、拒否ポリシー、自社のセンシティブな用途での性能を調べる必要がある。Nousの政治ベンチマークで低いスコアを取ったことは、Arete-27Bが規制対象または高影響の用途に適している証拠ではない。

今回の発見は、政治的アライメントがどのように作られ、測定されるのかを文書化するよう、モデルベンダーへの圧力も高める。The Decoderが引用した過去の研究（NewsGuard、CrowdStrike、Aleph Alpha、ValsAIによるものを含む）は、台湾、チベット、法輪功、人権、強制収容所などのテーマで、中国モデルの挙動にばらつきがあると報告している。これらの研究も、結果がモデル、言語、テーマ、回答形式によって変わり得ることを示唆している。

今後注目すべき点

最も重要なフォローアップは、Arete-27B評価の独立した再現だろう。研究者は、公開された重みとデータを、異なるプロバイダーの判定モデル、人間の評価者、多言語プロンプト、学習データに含まれていない新たな政治テーマでテストすべきだ。

また、この手法がDeepSeek、GLM、Kimiなど他の中国製オープンウェイトモデルに移転できるか、推論、コーディング、事実性能を損なわずに実現できるかも重要になる。長期的なテストでは、長い対話、ツール利用、システムプロンプトの変更、敵対的プロンプトの後でも、変更された挙動が持続するかを調べるべきだ。

最後に、モデル利用者はベンチマークスコアだけに頼らず、実際の導入から得られる証拠に注目すべきだ。Hermes for BusinessesをめぐるNousの企業向け展開計画は、研究評価の外で同社が信頼性、ガバナンス、カスタマイズ性をどう測定するかについて、より多くの情報を提供する可能性がある。

Creati.aiの見解

Arete-27Bは、少なくとも1つのテスト済みモデルでは、政治的挙動を多くの購入者が予想するよりも外科的に変更できることを示す有用な実証だ。報告された能力維持は注目に値するが、政治的な結論は現時点の証拠が支える範囲を超えている。1つのモデル、社内で設計された1つのテスト、そして主にベンダーが報告した結果だけでは、イデオロギー的アライメントが一般に浅い、あるいは容易に除去できるとは証明できない。

開発者にとっての実務的な教訓は、ファインチューニングを、測定を必要とする介入として扱うことだ。保証された中立化スイッチとして扱うべきではない。Arete-27Bの価値は、見出しを飾るプロパガンダ削減率よりも、独立評価によって、その変更が持続的で、広く事実に基づき、他の部分で高コストな性能劣化を生じさせないことが確認されるかどうかにかかっている。