情報被害の話ではない

OpenAI、児童性的画像の分類ツールを無償提供 通報の選別用

OpenAI が AI 生成を含む児童性的虐待画像(CSAM)の分類ツールを、審査を通った団体に API で無償提供。NCMEC の通報急増と日本の状況を整理する。

要点

  • 生成 AI が作る偽の児童性的画像が増え、米国の通報窓口に 2025 年だけで 40 万件超の AI 関連の通報が届いた。
  • OpenAI は、見たことのない画像でも疑わしさを点数にして、人間の審査の順番付けを助けるツールを、審査を通った団体に無償で出す。
  • 成績は OpenAI と提携先の自己申告で、第三者の検証はまだない。ツールは最終判断をせず、人が確かめる前提である。

何が起きたか

OpenAI は 2026 年 11 月中旬、児童の性的虐待画像(CSAM)を見つけるための画像分類ツールを発表した。報道によると、発表日は 11 月 16 日ごろである。

従来の検出の多くは、ハッシュ(ファイルの指紋)で「すでに知られた画像」と照合する方式だった。新しいツールは画像そのものの特徴を見て、まだ誰も見つけていない画像や AI 生成の画像も疑う。結果は点数で返るため、審査する人は怪しい順に見られる。

OpenAI の発表によると、同社の評価では、既存の仕組みと同じ量の虐待画像を見つけつつ、審査に回す画像を 48% 減らせる見込みだという。印を付けた画像は、虐待を含む率が約 2 倍だったとも説明している。提携先の fal は、確信度の高い印のうち 72% を、審査員が未確認の CSAM と確認したと報告した。SafetyKit は、子どもを性的に描いた絵やアニメ調の画像の 90% を検出したと伝えられている。

使えるのは、OpenAI の API を通じた、審査済みの団体に限られる。費用はかからない。OpenAI の開発者向けガイドは、申請フォームと本人確認、導入の手続き、規約への同意が要るとしている。位置づけは「審査の支援」で、最終判断ではない。

OpenAI は、米国の NCMEC(行方不明・被搾取児童センター)が開発と評価に協力したと説明している。NCMEC の通報窓口(CyberTipline)は、2025 年に生成 AI が絡む通報を 40 万件超受けた。2024 年は約 6 万 7 千件だったとされる。

ほかに、ChatGPT で虐待画像を探す行為への警告と、24 時間の利用停止などの措置、捜査機関向けの調査支援ツールも発表された。

日本の利用者への影響

このツールが日本の窓口で使われるという発表は、確認できていない。対象は審査済みの団体で、日本の団体が入るかは分からない。

日本では、AI 生成の児童性的画像をめぐる動きが出ている。報道によると、警察庁は 2026 年上半期に、子どもの性的なディープフェイクの事案を 123 件把握した。前年同期は 60 件だった。被害者は中高生が多く、同級生などが容疑者の例が目立つとされる。この数字は一次資料を確認できておらず、報道ベースである。

日本のインターネット・ホットラインセンターへの通報件数は、今回は確認できなかった。

今すぐやること

  1. 子どもの顔写真や制服姿の写真を、公開の SNS に載せていないか家庭や職場で確認する。
  2. 子どもの偽画像を見つけたら、保存や転送をしない。画面の URL だけ控え、警察かインターネット・ホットラインセンターに知らせる。
  3. 子どもが偽画像で脅されたり、からかわれたりしていたら、責めずに話を聞く。学校や警察に相談する。
  4. 画像を預かるサービスを運営しているなら、通報の窓口と、画像を見つけたときの流れを決めておく。OpenAI も、報告先への登録と記録の保存を勧めている。
  5. このツールを使いたい団体は、OpenAI の開発者向けガイドで申請条件を確かめる。

背景

AI の画像生成が手軽になり、実在の子どもの写真を加工した偽画像も作れるようになった。実在の子どもが関わると、画像が偽物でも被害は本物になりうる。

通報窓口側の問題は量である。偽画像が大量に届くと、審査員は本当に子どもが今危険な案件を探しにくくなる。ハッシュ照合は新しい画像に弱く、人手の審査は数に追いつかない。今回のツールは、その順番付けを助ける狙いである。

英国の IWF も、AI 生成の虐待画像と動画が 2025 年に増えたと報告している。

ただし、点数は誤ることがある。見逃しも、誤検出もありうる。審査する人への負担と、判定の透明性という課題は残る。

技術者向けの詳細
  • 提供形態: OpenAI API 経由の画像分類。無償、承認制(申請フォーム、Persona による本人確認、導入手続き、規約同意)。
  • 対象は画像。動画・テキストへの言及は、確認した範囲ではない。
  • 出力は審査の優先度付けに使う点数。ハッシュ照合(既知の画像)とは役割が違い、併用する形になる。
  • OpenAI 自己評価: 既存ツール比で審査対象 48% 減、検出量はほぼ同じ。印付き画像の虐待含有率は約 2 倍。
  • 提携先評価: fal は高確信度の印の 72% が未確認 CSAM と確認。SafetyKit は絵・アニメ調の 90% を検出。いずれも自己申告。
  • OpenAI は、Tech Coalition の Lantern プログラムへの参加を始めたと発表した。
  • 精度の指標や利用上限は、開発者ガイドに記載がない。
  • 一次情報の OpenAI 発表ページは、こちらの環境では取得できなかった。内容は開発者ガイドと、複数の報道・検索結果で突き合わせた。

出典

一次情報

報道

参考

記事は、運営者が生成 AI を活用して作成し、内容を確かめたうえで公開しています。 誤りに気づいたら編集方針の連絡先へ。

次に読む

同じタグの記事