情報被害の話ではない

AI の透かしは利用者追跡に使えるのか Claude・SynthID の公式説明

AI 生成物の透かし(SynthID、C2PA)が「スパイマーク」だという指摘を検証。Claude の公式説明は利用者情報なしとする。ChatGPT Images と投稿前の注意点。

要点

  • AI が作った画像や文章に入る「透かし」が、作った人をたどる印に使われうる、という指摘が出ている。
  • ただし Anthropic は、Claude の文章の透かしに利用者・組織・会話をたどれる情報は入っていないと説明している。追跡に使われている証拠は、今回確かめた範囲では見つからなかった。
  • 画像に付く来歴情報(どのツールで作ったかの記録)は、対応するツールがあれば読める。Anthropic は、確認用のツールを用意するとしている。外に出す前に、何が付くかを知っておく価値はある。

何が起きたか

ArtCraft の創業者ブランドン・トーマス氏が、「Spymarks, not Watermarks」という記事で問題を提起した。利用者に知らせず、隠れた信号で生成物を追跡できる仕組みを「スパイマーク」と呼ぼう、という提案だ。GIGAZINE もこれを紹介して話題になった。

氏が根拠の一つにしたのは、Google の論文 SynthID-Image だ。氏の記事によると、論文は外部向けの方式 SynthID-O が、512×512 ピクセルの画像に 136 ビットの情報を入れられると報告しているという。この数字は氏の記事による報告で、論文の要旨には数値がなく、本文は確かめられていない。氏は、そのうち 64 ビットは識別番号に使えると読んでいる。ただし、この「64 ビットが識別番号」という部分は氏の解釈で、論文の要旨には書かれていない。個人の氏名や IP アドレスと結びつく、という話も、氏の懸念であって、確かめられた事実ではない。

では各社は何を入れているのか。公式説明を確かめた。

Claude(Anthropic)

  • 文章:Anthropic は、言葉の選び方に統計的なかたよりを持たせる方式だと説明している。文字は足さない。Anthropic は、透かしに利用者・組織・会話を特定できる情報はない、としている。
  • 読み取れる人:鍵を持つ人だけだ。検出は、規制当局・報道機関・研究者など資格のある組織向けの限定公開(Anthropic の説明)。
  • 画像などのファイル:署名付きの来歴情報(C2PA)が付く。誰でも Claude のサポートページにある無料の確認ツールで調べられる。この来歴情報にアカウント情報が入るかは、このページには書かれていない。

ChatGPT Images(OpenAI) OpenAI のヘルプ記事は、こちらからは直接読めなかった。検索結果の要約によると、来歴情報(C2PA)と目に見えない透かし(SynthID)を併用し、確認用のページも用意されている。何が埋め込まれ、アカウントと結びつくかは、確かめられていない。

これは、すでに扱った Claude と ChatGPT Images の透かしの記事(何が付くか)とは違う論点だ。今回は「誰が読め、人に結びつくのか」を問うている。

日本の利用者への影響

日本の利用者に限った被害の報告は、見つからなかった。Anthropic は、Claude が提供される場所では世界のどこでも、対応モデルの出力に印を付けると説明している。

Anthropic の文章の透かしは、EU の規則への対応として始まったと説明されている。

今すぐやること

  1. 画像を公開する前に、来歴情報が付いていないか確かめる。Claude の画像は、Anthropic の無料ツールで調べられる。
  2. 匿名で発信したい内容は、AI で作った画像や文章をそのまま使わない。透かしは、Anthropic も言うように、全面的に書き直すと消えうるが、頼りにはならない。
  3. 来歴情報は、スクリーンショットや形式の変換で消えることがある。Anthropic はこれを認めている。ただし、消す行為そのものが問題になる場面(仕事の規則や契約)もある。社内の決まりを先に見る。
  4. 文章に利用者の名前や社内情報を入れたまま、AI に頼まない。
  5. 「透かしがある=その人が作った」とは考えない。Anthropic は、印があっても作者の証明にはならないと説明している。

背景

追跡用の印は新しい発想ではない。プリンターの追跡ドット(印刷物に入る目立たない点)は、スパイマークの初期の例で、1980年代にさかのぼるとされる。トーマス氏もこの例を挙げている。

AI の透かしは、AI が作ったものを見分けるために使われている。EU の規則への対応という面もある。Anthropic は、文章に Claude が関わった可能性を判定する方法だと説明している。見分ける役に立つ一方、入れる側と読む側に力が偏りやすい。今回の指摘も、仕組みそのものより、利用者が何が入るかを知り、制御できるかを問うものだ。

現時点で言えるのは、Anthropic は利用者情報を入れていないと公に説明しており、その説明が正しいかを外から確かめる手段は、限られているということだ。SynthID の外部向け方式(SynthID-O)は、提携を通じて使えるとされる。

技術者向けの詳細
  • 論文: SynthID-Image(arXiv:2510.09263)。要旨によると、SynthID-O は提携を通じて使える外部向け方式で、検証サービスは信頼されたテスターに提供されている。
  • 136 ビットの容量は二次情報による。64 ビット識別子+72 ビット誤り訂正という内訳は、トーマス氏の記事の推計。
  • Anthropic の文章の透かしは SynthID-Text 系(Nature, 2024)の版。鍵なしでは検出できない。短い文や事実の羅列、コードでは検出しにくい。
  • Anthropic の対象は 2026年8月2日以降に出たモデル。古いモデルは順次。
  • 画像・ファイルの C2PA は、PNG・JPEG などに付く。形式変換・再保存・スクリーンショットで失われる。

出典

一次情報

報道

記事は、運営者が生成 AI を活用して作成し、内容を確かめたうえで公開しています。 誤りに気づいたら編集方針の連絡先へ。

次に読む

同じタグの記事

情報

Flock のナンバー読み取りカメラ、米国の自治体で解約が続く

Flock Safety の自動ナンバー読み取りカメラ(ALPR)を、米国の少なくとも10の自治体が夏からやめる方向に動いた。理由は自治体ごとに違い、連邦の移民当局によるデータ検索への懸念や州の法律の変更などが挙がる。日本の Nシステムや防犯カメラとの違いもまとめる。

#Flock Safety#ナンバー読み取り#監視カメラ#プライバシー