Anthropicは、Claudeが生成したテキストに透かしを入れる計画について、読者に見た目の変化を与えずにAI作成の文章を識別するよう設計された仕組みだと、より詳しく説明した。同社によると、この透かしは適切な暗号鍵があれば検出でき、別個の透かし検出APIも提供する予定だという。

この説明は、Anthropicが今週初めに、Claudeが欧州連合のAI法の透明性コードに準拠するため透かしを採用すると発表したことを受けたものだ。この動きは、雇用主や学校、その他の機関がこの技術を使って、明示されていないClaudeの使用を特定できるのではないかと懸念する利用者の間で議論を呼んでいる。

Claudeの透かしはどのように機能するよう設計されているか

金曜日に公開されたブログ投稿で、Anthropicは、ClaudeがGoogle DeepMindによって開発され2024年に紹介されたSynthID-Text方式を使用すると述べた。この手法は、複数の単語やフレーズが同様に適切である場合に、言語モデルがどの選択をするかに依存している。たとえば、モデルは天気を表現する複数の妥当な方法を持つことがある。応答全体を通じて、こうした選択は、通常の読者には分からないが、対応する検出キーを持つ人なら確認できる統計的パターンを形成しうる。

Anthropicは、この透かしがClaudeの出力品質に影響を与えるべきではないと述べた。同社は、透かし付きの応答は読者にとって透かしなしの応答と区別がつかないと説明しており、通常の執筆やコーディングのワークフロー中にユーザーがこの仕組みに気づく可能性は低いという。

予定されている検出APIは、透かしそのものよりも重要になる可能性がある。説明どおりに公開されれば、開発者、出版社、教育者、企業の管理者が、汎用のAI検出ツールだけに頼るのではなく、自社のシステムに検証機能を組み込む手段を得られる。

編集、校正、全面的な書き換え

Anthropicは、透かしがテキストのあらゆる版で永続的であるわけではないことを認めている。同社によると、軽い編集では完全には消えない可能性が高い一方、すべての単語を置き換える全面的な書き換えでは消えるという。この違いにより、この仕組みは最終文書がモデルと何らかの関係を持つことを証明するというより、Claudeの出力が実質的に残っていることを識別するのに役立つ。

結果は、Claudeを編集者としてどう使うかにも左右される。モデルが人間の書いた文章の校正だけを行う場合、Anthropicによれば、透かしが付けられるテキストがほとんどない可能性がある。なぜなら、ほとんどの単語は元の著者由来だからだ。検出は、その文章の長さやClaudeがどれだけ大きく変更したかに依存する。

この制約は、コンプライアンスや出所確認のワークフローを構築する製品チームにとって重要だ。透かしの陽性結果は、Claudeが素材を生成または大幅に変更したことを示すかもしれないが、基礎となるアイデアを書いたのが誰か、テキストのどれだけが人間によるものか、最終版が後で別の場所で書き換えられたかどうかまでは確定できないかもしれない。

この仕組みがコードに意味すること

Anthropicは、透かしは通常の文章よりもコードでは弱くなると見込んでいる。実用的なソフトウェアでは、一般にモデルが入れ替え可能な単語や構造の間で選べる自由度が低く、透かしパターンに利用できる恣意的な決定の数が減るためだ。

同社によれば、特にコメントなど、柔軟な言語表現を含むコードでは、検出可能なシグナルが現れる可能性はあるという。一方で、実行可能なコードへの影響は定義上ごく小さいとしており、透かしは主にコード生成への制約ではなく、出所確認の仕組みとして意図されていることを示唆している。

エンジニアリング組織にとって、この違いは、透かしの重要性がプログラムの機能動作よりも、ドキュメント、コメント、コミットメッセージ、生成された説明にあることを意味しうる。また、検出結果は、短い断片や制約の強いコードよりも、長い自然言語の応答のほうが信頼性が高い可能性があることも示している。

Anthropicの主張の根拠

現時点の詳細は、Anthropic自身の計画実装に関する説明に由来する。同社の「出力品質は変わらない」「軽い編集に耐える」「コードへの影響は限定的」といった主張はベンダー側の説明であり、元記事には独立したテスト結果、検出精度、偽陽性率、透かし検出APIの公開日などは示されていない。

技術的な基盤がAnthropic独自というわけでもない。Anthropicは、採用予定の手法としてGoogle DeepMindの透かし技術SynthID-Textを挙げている。同社はまた、他の主要モデル開発企業も同じ行動規範に署名し、自社の透かしを実装する予定だと述べているが、元資料ではそれらの企業名や、各システムの相互運用性については説明されていない。

これは、文体的なシグナルや繰り返しの書き方のパターンを調べるAI検出製品とは異なる。Anthropicは、透かし検証を、Pangramのようにテキストの特徴からAI使用を推測しようとするサービスと明確に区別している。透かしチェックはモデルが作ったシグナルを探し、文体ベースの検出は文章そのものから確率的判断を下す。

利用者の反発は、この展開に市場と政策の側面を加えている。TechCrunchはReddit上の利用者がこの動きを批判したと報じ、Business InsiderはX上の数十人がClaudeのサブスクリプションを解約したと主張したと報じた。これらは報告された利用者の反応であり、Anthropicの顧客基盤の測定された変化を示す証拠ではない。

開発者と企業バイヤーへの影響

AI開発者にとって、この発表は、出所確認が別のモデレーションや検出層ではなく、APIレベルの機能になる方向を示している。レポート、マーケティング文、サポート回答、社内文書を生成するアプリは、将来的に出力内容に機械可読な確認情報を付与できるようになるかもしれない。

企業バイヤーは、透かしが何を正当に証明できるのかを判断する必要がある。それはClaudeの出力に近い内容を識別するのに役立つかもしれないが、共同執筆、強く編集された文書、複数のツールを介してコピーされた素材の問題は解決しない。雇用、教育、コンプライアンス判断に透かしを使う組織には、不確実な結果や偽陰性の可能性に対応する方針が必要になる。

この手法は展開上のトレードオフも生む。透かしは各応答に目に見えるラベルを出さずに透明性要件を支えられるが、検証には適切な検出システムへのアクセスが必要だ。AnthropicがAPIを公開し、独立評価が行われるまでは、開発者はその遅延、コスト、信頼性、サードパーティのコンテンツ管理システムとの互換性を評価できない。

今後注目すべき点

最初の注目点は、Anthropicによる透かし検出APIの公開であり、その文書、アクセス制御、価格、対応コンテンツ種別が含まれる。次に独立したテストで、短文・長文応答、言い換え、翻訳、校正、敵対的な書き換えに対する検出率を調べる必要がある。

開発者は、Anthropicが人間とAIが混在したテキスト向けのポリシーガイダンスを公表するかどうか、またコード、コメント、ドキュメントをどう扱うかにも注目すべきだ。もう一つの未解決の問いは、異なるモデル提供者の透かしが一貫して認識できるのか、それとも各社の実装に閉じたままなのかという点だ。

最後に、EUの透明性コードとその実際の執行が、透かしを主要モデル提供者の基本要件にするのか、それともより広範な開示システムの一部にとどまるのかを決めることになる。

Creati.ai の見解

Anthropicの説明によって、Claudeの透かしは目に見えるラベルというより、隠れた出所シグナルのように聞こえるようになった。これは大規模な検証に役立つ可能性があるが、検出ツールが正確でアクセスしやすく、そして著者の確定証拠ではなくモデル関与の証拠として解釈される場合に限られる。

最も重要なテストは、APIが利用可能になった後に来る。独立した結果が、通常の編集や実際の制作ワークフローの中で透かしがどう振る舞うかを示すまでは、企業はそれをガバナンスのための進化中のシグナルとして扱うべきであり、単独のコンプライアンス判断として扱うべきではない。