Anthropicは、すべてのClaudeの回答に「SynthID-Text」という隠れた統計的パターンを埋め込むようになりました。同社によれば、この措置はEU AI法の透明性コード（Transparency Code）を満たすものであり、開発者がテキストがAIモデルによるものであることを証明する手段を提供します。このウォーターマークは、人間が読む文章の質を損なうことなく、軽微な編集にも耐えることができます。

なぜウォーターマークが追加されるのか

欧州の規制当局は、大規模言語モデル（LLM）プロバイダーに対し、AIが生成したコンテンツを人間の文章と区別できるようにすることを求めてきました。まもなく欧州全域で施行されるEU AI法の透明性コードは、開発者に対し、モデルが生成するあらゆるテキストに対して信頼できる検出方法を提供することを義務付けています。Anthropicは、昨年Google DeepMindが初めて発表したSynthID-Text技術を採用することで、これに応えました。

この決定はRedditやXで大きな議論を呼び、ユーザーからは、ウォーターマークによって出力の品質が低下したり、監視のためのバックドアになったりするのではないかという懸念の声が上がりました。Anthropicは、このパターンは読者には見えず、レイテンシ（遅延）も発生せず、プライベートなデプロイメントではオフにすることも可能であると反論しています。技術的な詳細を公開することで、同社は憶測を鎮め、業界のベンチマークを確立したいと考えています。

SynthID-Textの仕組み

従来のAI検出器は、繰り返される言い回し、不自然な句読点、あるいは人間の文章からの統計的な逸脱といった、言語的な癖をスキャンします。しかし、人間が段落を書き直すとそれらの兆候はすぐに消えてしまうため、検出器の信頼性は低くなります。対照的に、SynthID-Textは、モデルのトークン選択ステップ中に隠れた信号を埋め込みます。

Claudeが、同等に妥当な2つのトークン（例えば「overcast」か「grey」か）の間で選択を行う際、システムは事前に計算されたバイナリパターンに適合する方へと決定を誘導します。文書全体を通じて、これらの誘導がビットのシーケンスを形成し、後で検出APIがそれを抽出できるようになります。このパターンは意図的に影響が低く抑えられています。選択された類義語は依然として完全に自然な言葉であるため、文章の流れは変わりません。ウォーターマークは表面的なテキストではなくトークンストリーム内に存在するため、すべてのトークンを置き換えない限り、ほとんどの下流処理にも耐えることができます。

編集耐性：何が残り、何が消えるのか

よくある批判は、ユーザーがAI生成の文章を単に編集することでウォーターマークを消去できるのではないかというものです。Anthropicの内部テストでは、3つの編集シナリオが示されています。

  • 軽微な編集 – 誤字脱字の修正、形容詞の入れ替え、文章の順序の調整など。ほとんどのトークンが変更されないため、ウォーターマークの統計的署名は大部分が維持されます。
  • Claudeを活用した大幅な編集 – すでにAIが生成した文章を含むドラフトを、Claudeに書き換えさせる場合。ユーザーが言葉遣いの大部分をコントロールしていれば、新しく人間が選んだテキストの量に比例して、ウォーターマークの信号は弱まります。
  • 完全な書き換え – すべてのトークンを新しい生成結果や手動の書き換えに置き換える場合。この時点で元のウォーターマークは破壊されますが、元のモデルの出力の痕跡が残らないため、結果として得られるテキストはEUが定義する「AI生成」の基準を満たさなくなります。

結論として、ウォーターマークは日常的なブラッシュアップには耐えられますが、コンテンツの完全な再生成には耐えられません。

コード生成：ウォーターマークが存在する場所

Claudeはコーディングアシスタントとして広く利用されており、1行のコードスニペットからフルスタックのモジュールまで幅広く生成します。プログラミング言語では類義語の選択肢がほとんどありません。「for」を「while」に置き換えるようなトークンの変更は、ロジックを変えてしまいます。そのため、Anthropicは、モデルが言葉を選ぶ自由度を持つセクション、つまりコメント、docstring、およびコードに付随する説明文においてのみ、ウォーターマークが現れると予測しています。

コードの機能部分は変更されないため、開発者は正確性やパフォーマンスの低下を感じることはありません。ウォーターマークの存在は、人間がコードを理解するのを助ける補助的なテキストに限定されており、実用性を損なうことなく透明性の要件を満たしています。

業界への波及効果

Anthropicは単独で動いているわけではありません。他の複数のLLM開発者も、標準化された検出APIを求める同じ行動規範（Code of Practice）に署名しています。EUの施行スケジュールが計画通りに進めば、ウォーターマークは、今日のデータ伝送における暗号化のように、LLMスタックにおけるデフォルトのレイヤーになる可能性があります。この要件を無視する企業は、罰金、欧州市場へのアクセスの喪失、あるいはサービスの強制的な削除といったリスクを負うことになります。

論争点

批判的な人々は、たとえ目に見えなくても、隠された署名が規制遵守の枠を超えて、追跡や帰属特定のために転用される可能性があると主張しています。また、誤検知（偽陽性）への懸念もあります。人間が書いたテキストを誤ってラベル付けしてしまう検知APIは、そのシグナルに依存するプラットフォームへの信頼を損なう可能性があります。Anthropicはこれらのリスクを認めており、検知アルゴリズムをオープンソース化することで、独立した監査やキャリブレーションを可能にすると述べています。

もう一つの実用的な懸念は、ウォーターマーク生成に伴う計算オーバーヘッドです。Anthropicの報告によれば、追加の処理による推論時間への影響は1%にも満たないとのことですが、この主張については、まもなく第三者によるベンチマークテストが行われる予定です。

今後の注目点

  • APIの展開 – Anthropicは、Claudeのあらゆる出力から隠されたビットパターンを抽出する公開エンドポイントをリリースする計画です。開発者は、このチェック機能をコンテンツモデレーションのパイプラインに組み込むことができるようになります。
  • 標準化への取り組み – 規制当局や業界団体は、ウォーターマークのメタデータに関する共通フォーマットの策定を進めており、これによりモデルをまたいだ検知が容易になる可能性があります。
  • 実証研究 – 独立した研究者たちが、敵対的な書き換えツールに対するSynthID-Textの耐性を調査し始めています。彼らの研究結果は、プラットフォームがこのシグナルをどの程度信頼するかを左右することになるでしょう。

要点

AnthropicがSynthID-Textを採用したことで、AIコミュニティはClaudeの出力品質を維持したまま、欧州の次なる透明性規則に対応するための具体的なツールを手にすることになります。このウォーターマークは、日常的な校正には耐えますが、テキストが完全に再生成されると消失します。また、プログラミング出力においては、機能に干渉しない非コード部分に存在します。この手法が業界の標準となるかどうかは、検知APIが実環境でどの程度うまく機能するか、そしてプライバシーや誤検知に関する懸念に対処できるかどうかにかかっています。