Anthropic の Fable 保持ポリシーが、AI ラボにおける未解決のデータ信頼問題を露呈

Anthropic が主力モデル Fable の利用ログを30日間保持することを決めたことで、複数の大口顧客が機密性の高い業務で同システムを制限またはブロックしたと、The Decoder が引用した The Information の報道で明らかになった。この出来事は、学習対象外の保証やデータ保持に関する企業向けの説明が、顧客にとって依然として評価も信頼も難しいことを示している。

報道によると、Nvidia は Fable を比較的機密性の低い作業に限定し、Booz Allen Hamilton は独自のサイバーセキュリティソフトウェアでの使用を禁止した。Palantir は、Anthropic が取り消し不能なゼロデータ保持の保証を提供するまで、自社プラットフォーム経由での Fable の展開をブロックしている。この反応により、悪用監視を支えるための政策が、フロンティア AI 提供事業者が企業・政府の買い手のデータ管理期待に応えられるかどうかを試す試金石となっている。

Anthropic の Fable ポリシーが企業の分断点に

Anthropic は、The Decoder の説明によれば、「複雑で新しい攻撃」への防御を支援するため、6月に30日間のログ保持ポリシーを導入した。しかし、知的財産、ソースコード、セキュリティ研究、運用データを扱う顧客にとって、ログの保持は別のリスクを生む。機密性の高いプロンプトや出力が提供元から引き続きアクセス可能な状態に置かれたり、より広範な社内データ管理システムの一部になったりする可能性があるからだ。

この反応が特に注目されるのは、Nvidia が Anthropic に投資しており、同社のモデル開発で使われるハードウェアを供給しているためだ。Nvidia の Enterprise AI 担当副社長 Justin Boitano 氏は The Information に対し、ゼロデータ保持（ZDR）はデフォルトで有効であるべきだと同社は考えていると述べた。その一方で Nvidia は、AI 支援のサプライチェーン監視など社内用途には自社の Nemotron モデルを使い、Fable はオープンソースプロジェクトなど比較的機密性の低いタスクに割り当てている。

Anthropic の Mythos モデルを早期に利用していた Booz Allen Hamilton は、社員による Fable の独自サイバーセキュリティソフトウェアでの利用を禁じたと報じられている。CTO の Bill Vass 氏は、モデルが自社コードから学習してしまうことを懸念していると述べた。Palantir の姿勢にも商業的な側面がある。同社は、顧客が外部プロバイダーに直接接続するのではなく、自社が管理するプラットフォーム経由でモデルを実行するほど利益を得る。このインセンティブは懸念を無効にするものではないが、同社の異議の強さを評価するうえで重要な文脈である。

ゼロ保持ではすべてのデータ問題に答えられない

Anthropic は、企業側の反発と、OpenAI が8月に GPT-5.6 Cyber の顧客に対しセキュリティログを自社サーバーに保存することを認めた決定を受けて、顧客管理型のセキュリティログプログラムへ移行していると報じられている。提供された資料によれば、Anthropic の同様のプログラムは秋に一部の顧客向けに展開される見込みだ。現時点の報道では、そのプログラムがどこまで広く提供されるのか、またあらゆる種類の企業利用に対応するのかは明らかではない。

さらに複雑なのは、ゼロ保持が対象にするのは保存されたコンテンツであり、顧客が AI サービスを利用した際に生成される情報のすべてを必ずしも含まない点だ。The Decoder によると、Anthropic と OpenAI はどちらも企業顧客からメタデータや技術的な利用データを収集している。OpenAI はその一部を匿名化済みと説明し、自動分類器やセキュリティツールが、サービスの使われ方を理解するためにビジネスデータを分析していると述べている。同社は、そうした分類には基礎となるビジネスデータではなくメタデータのみが含まれると説明している。

しかし、その区別で十分だと感じていない顧客もいる。報道によれば、メタデータに何が含まれるのか、それがどれくらい保持されるのか、商業的に価値あるパターンを明らかにする可能性があるのかについて、依然として不透明だと感じる組織がある。したがって調達チームにとっての論点は、プロンプトを保存するかどうかだけではない。ログ、テレメトリ、分類器、デバッグ記録、悪用監視システム、製品改善や障害検出に使われる派生情報も含まれる。

証拠と主張は依然として比較しづらい

この件の中心的な主張は、Anthropic や OpenAI のシステムに対する独立監査ではなく、報じられた顧客判断と幹部のコメントに基づいている。The Decoder が要約した The Information の報道が、Nvidia の制限、Booz Allen Hamilton の社内禁止、Palantir の展開方針に関する記述の根拠となっている。Anthropic が導入予定の顧客管理型ロギング機能も、ここでは完全な公開仕様書ではなく報道ベースである。

この議論は直接的なモデル学習にとどまらない。元 OpenAI 共同創業者の John Schulman は、顧客データの可能な用途を、直接の事前学習から、ユーザートレースに基づく蒸留や強化学習タスクまで幅広く説明してきた。彼は、匿名化では知的財産の流出に対する防御として弱いと主張し、より強い開示規範を求めている。後の訂正で Schulman は、大規模事前学習や強化学習と比べると、ユーザーデータがフロンティア能力の向上に大きく寄与する可能性は低いと述べた。それでも彼は、そのようなデータが失敗モードや現実の難しい事例の特定に役立つとした。

研究者 Sarah Hooker は関連する懸念として、合成データ手法によって、元の素材を直接保持したり再現したりせずに有用な統計パターンを抽出できる可能性を指摘した。これは重要な技術的可能性だが、ソースは Anthropic や OpenAI が特定の顧客データをそのように利用したことを示してはいない。むしろ、契約文言が「学習」にのみ焦点を当てると、派生シグナルやモデル開発ワークフローについて顧客が不安を抱えたままになる理由を示している。

懸念がさらに具体化したのは、数学者 Tristan Buckmaster と共著者 Levent Alpöge が、Navier–Stokes 方程式の研究で OpenAI の Codex を使い、その後 OpenAI が似た解法経路を伴うブレークスルーを発表したと述べた後だった。OpenAI は当初、匿名化された製品データが寄与した可能性を否定できないと述べたが、その後、該当期間のプロンプトはシステムに影響を与え得なかったと発表した。この件は不正利用を証明したわけではないが、研究者が自分の入力がどう扱われたかを独自に追跡できないと、信頼がいかに急速に損なわれるかを示した。

ビルダーと企業バイヤーへの示唆

AI 製品チームにとっての実務的な教訓は、プロバイダーの「業務データでは学習しない」という約束は、数ある制御のひとつにすぎないということだ。コーディング、セキュリティ、研究、運用にモデルを導入するチームは、プロンプト保存、応答ログ、悪用監視、サポートアクセス、メタデータ生成、保持期間、下請け業者、モデル改善プロセスまで、データの全経路を把握する必要がある。

開発側は、Nvidia の Nemotron のようなセルフホストまたは社内管理モデルへ機密性の高い作業を振り分ける、低リスクと高リスクのワークロードを分離する、あるいは顧客管理型ロギングを要求することで対応できる。これらの方法は露出を減らせるが、インフラ、評価、モデル更新、運用サポートのコストが増える。小規模企業は選択肢が少なく、より大きな企業なら交渉できるような提供元ポリシーを受け入れざるを得ない可能性がある。

この対立は競争上の問題も提起する。フロンティアラボは信頼性向上や攻撃検知のために実際の利用シグナルへのアクセスを求める一方で、企業バイヤーは同じやり取りを切り離したままにしておきたい。正確な保持制御、監査可能なテレメトリポリシー、派生データの明確な境界を提供するプロバイダーは、ベンチマークで最強でなくても優位に立てる可能性がある。

今後注目すべき点

直近の注目点は、Anthropic の顧客管理型ロギングプログラムの対象範囲だ。どの顧客が対象になるのか、Fable の利用全体をカバーするのか、残存メタデータが Anthropic に残るのかを確認したい。また、OpenAI や他のプロバイダーが「匿名化済み」データをどう定義するのか、保持期間や許可される用途も含めて、より明確な説明が求められる。

2つ目の注目点は、ポリシー変更後に Nvidia、Booz Allen Hamilton、Palantir が Fable への広範なアクセスを復活させるかどうかだ。顧客からの追加開示、独立監査、契約テンプレートなどが増えれば、市場が一般的な保証から検証可能な制御へ移行していることを示すかもしれない。逆に、機密作業に別の社内モデルを使い続けるなら、信頼は調達の細部ではなく、依然として導入上の制約であり続けることを示唆する。

Creati.ai の見解

Fable をめぐる争いは、AI ラボが企業のあらゆるプロンプトを秘密裏に学習に使っている証拠ではない。むしろ、現行のポリシーが解釈の余地を広く残しすぎていることの証拠だ。「学習しない」と「ゼロデータ保持」は重要なリスクに対処するが、テレメトリ、悪用検知シグナル、派生データ、プロバイダーシステムによる一時的アクセスがどう扱われるのかを十分には説明しない。

AI の買い手にとって、信頼はマーケティング文句ではなく、アーキテクチャとガバナンスの問題になりつつある。データフローを可視化し、設定可能で、契約上も強制可能にするプロバイダーが、機密性の高いワークロードを獲得するうえで有利になるだろう。それまでは、企業は便利な AI 利用と、ブラックボックスなモデルサービスに入れるには価値が高すぎると考える仕事を切り分け続けることになる。