LLamjinLab
AI News文字数 4958読了時間≈ 13 分

将来のClaudeモデル、EU AI法の規則に基づき世界中でテキストへウォーターマークを付与へ

Anthropicは、将来のClaudeモデルにSynthIDベースのテキストウォーターマークとC2PAファイル認証情報を世界中で追加する。

AIClaudeAnthropicAI安全性

Anthropicは、将来のClaudeモデルに機械可読な来歴シグナルを組み込み、生成テキストには統計的ウォーターマークを追加し、対応ファイルには署名付きのC2PAメタデータを付与する。この変更は欧州連合（EU）のAI法への準拠を目的とするものだが、Anthropicはテキストウォーターマークを欧州の利用者に限定せず、世界中で適用する計画だ。

この方針は、2026年8月2日以降にEUで提供開始されるClaudeモデルを対象とする。これらのモデルは提供開始時からマーキングに対応し、Anthropicはそれ以前にリリースされたモデルにも今後数か月でシステムを拡張するため取り組んでいるとしている。同社は、最初の実装対象となる特定の新Claudeモデルを明らかにしていない。

ウォーターマークは、ラベル、隠しUnicode文字、あるいは応答内の追加行として表示されるものではない。代わりに、Claudeが生成時にトークンを選択する統計的プロセスを変化させる。Anthropicは、意味、可読性、レイテンシー、価格には影響しないとしているが、Claude固有の検出器、しきい値、偽陽性率、完全な技術評価はまだ公開していない。

一、マーキングはClaude製品とクラウド経由のアクセスを対象とする

Anthropicによると、対応モデルはClaudeのコンシューマーサービス、Claude Platform API、Claude Code、Claude Cowork、Claude Tagの全体でテキストウォーターマークを適用する。このウォーターマークは、AWS、Google Cloud、Microsoft Foundryを通じてこれらのモデルにアクセスした場合にも適用される。

このモデルレベルの実装は、マークが特定のユーザーインターフェースに依存しないため重要である。APIを呼び出す開発者もClaudeを直接利用する人も、対応モデルを使用する場合は同じウォーターマーキングプロセスを通じて生成されたテキストを受け取ることになる。

展開はグローバルに行われる。Anthropicは、この仕組みを地域別に制限する持続的な方法をまだ持たないとしており、対応モデルはClaudeが提供される場所であればどこでもテキストにマークを付与する。これにより、EUのコンプライアンス要件は、域外のClaude利用者と開発者にとっても製品上の変更となる。

この広範な対象範囲には条件がある。署名付きファイルメタデータは、すべてのクラウドプラットフォーム、製品機能、ファイル形式で利用できるとは限らない。既存のClaudeモデルも、Anthropicが更新するまではマークなしのままである可能性がある。そのため、検出可能なマークがないことは、ある文章がClaudeなしで生成されたことの証明にはならない。

Anthropicは、ウォーターマークにはテキストを生成した利用者、組織、アカウント、会話に関する情報は含まれないとしている。これは個人の出所ではなく、Claudeの生成プロセスに関連する統計的パターンを識別する。また、この仕組みでは出力トークンが追加されないため、Anthropicは利用料金を増やさないとしている。

二、ClaudeはSynthID-Textの一種を使用する

Claudeのテキストウォーターマークは、Google DeepMindが2024年のNature論文で説明し、その後ほかのモデル開発者にも提供した手法であるSynthID-Textに基づく。

通常、言語モデルは先行するテキストを条件として、確率分布から次のトークンをそれぞれ選択する。多くの文章には、複数の選択肢が同程度に適切となる箇所がある。ウォーターマーキングシステムは、こうした選択肢を利用して、可視の記号や別個のメタデータフィールドを挿入せずに、繰り返し現れる統計的パターンを作り出せる。

Anthropicは、その実装について、秘密鍵と先行する単語を用い、適格な選択肢に使う乱数の生成元を決定すると説明している。関連する鍵にアクセスできる検出器は文章を調べ、そのトークン列がClaudeのウォーターマーク付き生成プロセスとどの程度整合するかをスコア化できる。

Googleの参照実装では、SynthID-Textはtop-kおよびtop-pフィルタリングの後に適用されるlogitsプロセッサとして説明されている。疑似乱数関数がモデルの語彙全体にスコアを割り当て、ウォーターマーキング設定がトークン選択に影響を与える。追加のモデル学習は不要だが、第三者がシグナルを再現できないよう、鍵と設定は秘密に保つ必要がある。

したがって、ウォーターマークは生成された文言そのものの一部であり、通常はコピー＆ペースト後も残る。軽微な編集や抜粋では、検出可能な状態を維持するのに十分なパターンが残る可能性がある。一方で、徹底的な書き換え、翻訳、ほかのテキストとの混合は、検出器の確信度を下げたり、利用可能なシグナルを取り除いたりする可能性がある。

ウォーターマークの密度もタスクに依存する。自由形式の文章では重要度の低い単語選択が多い一方、事実に関する回答には、選択肢の中で一つの補完が明らかにより正確となるトークンが多い。Anthropicは、正確性を損なう可能性がある場合には、ウォーターマーキングのための誘導を適用しないとしている。

同じ制約はソースコードにも当てはまる。厳密な構文、識別子、プログラムの挙動は、置き換え可能なトークン選択肢の数を制限するため、コードには文章より検出可能なウォーターマークが少ない場合がある。コメントやほかの任意の文言には、なおパターンが含まれ得る。校正でも、Claudeが人の元の文言の大部分を維持する場合にはシグナルがほとんど残らない可能性がある。一方、翻訳ではClaudeが翻訳出力のすべての単語を選ぶため、ウォーターマークが含まれる可能性が高い。

三、ファイルにはテキスト手法ではなくC2PAメタデータを使用する

SVG、PNG、JPEG出力などの対応ファイルについて、AnthropicはCoalition for Content Provenance and Authenticityの標準に従った、小さな暗号学的署名付きの来歴記録を付与する。

C2PA認証情報は、ファイルの出所と処理履歴に関する情報を記録する。互換性のある検証ツールは署名付き記録を調べ、その記録との暗号学的関係を壊す形でファイルが変更されたかどうかを判断できる。

この仕組みはClaudeのテキストウォーターマークとは異なる。C2PA情報は、ピクセルや文言に統計的に符号化されるのではなく、ファイルのメタデータ内に存在する。その存在はClaudeがファイルを生成または処理したことを示し得るが、Claudeがその内部のすべての要素を作成したことを立証するものではない。

メタデータは、テキストレベルの統計的パターンよりも失われやすい。Anthropicは、形式変換、再保存、スクリーンショットの撮影、その他の処理によってファイルの認証情報が削除される可能性があると警告している。一部のプラットフォームは、そもそもメタデータを保持またはサポートしない可能性がある。

したがって、認証情報がないことは、Claudeがファイルに関与していないことの証明にはならない。逆に、有効な認証情報が示すのは記録された処理イベントのみであり、内容が正確か、より広い編集上の意味で真正か、主に人間が執筆したかについての判断ではない。

四、検出は確率的であり、Claude APIはまだ利用できない

Anthropicはウォーターマーク検出APIを提供するとしているが、8月27日時点で、そのAPI、公開日、判断しきい値、Claude固有の詳細な性能結果は公開していない。同社のヘルプドキュメントでは、さらなる技術ガイダンスを今後提供するとしている。

この情報の欠如により、Claudeの偽陽性確率を正確に評価することはできない。SynthID-Textの検出は本質的に確率的であり、Googleの公開実装は「watermarked」、「not watermarked」、「uncertain」を返すことができる。運用者は、偽陽性と偽陰性のトレードオフに応じてしきい値を設定する。

Anthropicの検出器が答えるのは限定的な問いである。すなわち、提出されたテキストの少なくとも一部の作成にClaudeが関与した可能性がどの程度あるかである。Claudeが文書全体を書いたことの証明、生成と大幅な編集の区別、利用者の特定、異なるウォーターマーキング鍵を持つ無関係なモデルが生成したテキストの検出は行わない。

陽性結果は、基になるアイデアや元の文言が人に由来する素材を対象とする可能性がある。Claudeがその素材を翻訳、要約、再フォーマット、または大幅に編集していたかもしれない。陰性結果も同様に決定的ではない。文章が短すぎる、大幅に書き換えられている、ほかの文章と混合されている、旧いClaudeモデルで生成されている、あるいは非対応の利用経路を通じて生成されている可能性があるためだ。

Anthropicは、社内テストでコンテンツ、創造性、可読性への影響は見られなかったと報告しているが、基となるClaude評価は公開していない。最も近い公開された大規模な証拠は、約2,000万件のウォーターマーク付きおよびウォーターマークなしのGemini応答に対するフィードバックを比較し、ユーザー評価に統計的に有意な差はなかったと報告したGoogle DeepMindのSynthID-Text研究である。この結果は一般的な手法を支持するが、Anthropicの非公開実装を独立して測定したものではない。

これらの制約により、検出器は雇用、教育、剽窃、懲戒に関する判断において、単独の証拠としては不適切である。APIが提供された後も、責任ある利用には、公開されるしきい値、評価データ、文章の長さ、言語、編集履歴、その他の来歴証拠が必要となる。

五、この変更は法的なマーキング要件を実装する

EU AI法第50条は、2026年8月2日に適用が開始された。同条は、生成AIシステムの提供者に対し、技術的に実現可能な範囲で、有効性、相互運用性、堅牢性、信頼性を備えた技術を用いて、合成音声、画像、動画、テキストの出力を機械可読な形式で検出可能にするよう求めている。

Anthropicは、AI生成コンテンツの透明性に関するEU行動規範に署名した組織の一つである。この規範は任意だが、基礎となる第50条の義務には法的拘束力がある。欧州委員会とAI Boardは、この規範を、署名者がコンプライアンスを実証できる枠組みとして認めている。

提供者側のマーキング要件は、可視的な開示に関する規則とは別のものである。Anthropicのような提供者は、該当するシステムに機械可読なシグナルを組み込まなければならない。デプロイヤーには、公益に関する事項について公衆に情報提供する目的で公開されるディープフェイクや特定のAI生成または操作されたテキストにラベルを付ける追加の義務があり、人によるレビューや編集上の責任を含む例外が適用される。

Claudeを別の製品に組み込む開発者にとって、Anthropicのモデルレベルのウォーターマークは必要な来歴インフラの一部を提供し得るが、開発者自身のコンプライアンス義務を解決するものではない。Anthropicは下流の開発者に対し、第50条が自社の製品とサービスにどのように適用されるかを評価するよう明示的に助言している。

よくある質問

すべてのClaude応答にはすでにウォーターマークが含まれていますか？

いいえ。この取り組みは2026年8月2日以降に提供開始された対応モデルを対象としており、旧モデルへのマーキングは現在も開発中である。

Claudeのテキストをコピーするとウォーターマークを除去できますか？

通常のコピー＆ペーストでは、パターンが単語選択に符号化されているため、ウォーターマークは維持されるはずである。大幅な書き換え、翻訳、ほかのテキストとの混合は、検出可能なシグナルを弱めたり除去したりする可能性がある。

ウォーターマークは、Claudeが文書全体を書いたことを証明できますか？

いいえ。Claudeが関与した可能性を示すことはできるが、完全な生成と大幅な編集、翻訳、要約を区別することはできない。

ウォーターマーキングによってClaudeのトークン使用量や価格は増加しますか？

Anthropicによると、追加のトークンは生成されず、仕組みが生成速度に与える影響もごくわずかであるため、ウォーターマークによって価格が変わることはない。

Claudeのウォーターマーク検出器は公開されていますか？

まだ公開されていない。Anthropicは検出APIと追加の技術ドキュメントを今後提供するとしているが、公開日やClaude固有のエラー率は明らかにしていない。

参考ソース

Share

この記事を共有