警戒被害が起きている。または、起きれば重く広い

AI の中継業者で入力が盗まれた Dragos の実験

Dragos が約200万件のおとり入力を AI 経路に流し、3つのホスティング事業者での盗難、再販業者のログ保存、プライバシー設定の無視を確認。入力前の確認点を整理。

要点

  • セキュリティ企業 Dragos の実験で、AI に送った入力が、利用者の知らない中継先で盗まれたり保存されたりしていた。
  • 3つの AI ホスティング事業者で、攻撃者が入力を盗んでいた。盗まれたおとりの AWS の鍵は、実際に不正利用されようとした。
  • 「データを保存しない」といった設定が、中継の途中では守られない例もあった。

何が起きたか

Dragos の最高研究責任者 HD Moore が、2026年7月から11月にかけて実験を行った。結果は11月19日に同社のブログで公表された。

方法はこうだ。約200万件の入力(プロンプト)に、おとりの秘密を混ぜて AI に送る。おとりは、固有の URL やホスト名、中身が空の AWS アカウントの鍵などだ。正規の人が使うはずがないので、あとでアクセスがあれば、入力の中身を見た者がいると分かる。どの入力、どのモデル、どの中継、どのプライバシー設定で送ったかも、一件ずつ紐づけてある。

Dragos の報告によると、見つかった漏れの経路は主に3つある。

  1. 事業者への侵入。 3つの AI ホスティング事業者で、攻撃者が入力を盗んでいた。Dragos が知らせるまで、3社とも自社の被害に気づいていなかったという。最も早い件は7月中旬にさかのぼる。最大の件では、10月下旬に200個前後の AWS の鍵が盗まれた。しかも、モデルが動く前に事業者が拒否した要求の分まで含まれていた。盗まれた鍵は、生きているかの確認や、S3(ファイル置き場)の探索などに使われた。
  2. 再販業者。 AI の推論の売り場(マーケットプレイス)で、安く売る業者が、ふつうのログ機能で客の入力を保存できた。攻撃は不要だった。保存された入力のおとりに、後からアクセスがあった。
  3. 設定の無視。 「保存しない」設定が付いた入力でも、中の URL があとから取得される例があった。Dragos によると、ある中国の AI 研究機関のシステムは、7〜10月に同機関のモデルへ送った入力の半数超で、おとり URL を取りに来た。「保存しない」と印を付けた要求でも、およそ3分の2で同じことが起きたという。また、ある入力の秘密リンクは、送信の24日後に中国の職場チャット(Feishu)へ投稿された。

Dragos は、中継を何段も通ると各段で入力と返答の全文が見えうると指摘する。プライバシー設定が効くのは最初の1段だけ、という注意も書いている。約2,000の経路をたどったところ、数百の経路に正体不明のシステムが含まれていた。

これらは Dragos 自身の調査結果だ。盗まれた3事業者の名前は、報告では伏せられている。

日本の利用者への影響

Dragos の報告に、日本の組織や利用者への言及はない。事業者名が伏せられているので、日本の人が使うサービスが含まれるかも分からない。

ただ、中継サービスや安価な再販を通して AI を使っているなら、自分の入力がどこを通るかを把握していない人が、当たりうる。

今すぐやること

  1. AI に送る入力に、パスワード・API キー・社外秘のコード・個人情報を入れない。まずこれが最も効く。
  2. 使っている AI が、どの会社に直接つながっているかを確かめる。中継サービスや安価な再販を通しているなら、通る先を自分で選べるか調べる。
  3. 機密を扱うなら、大手の事業者と直接契約する。Dragos は、費用が許すなら自前の環境で動かすことも勧めている。
  4. 過去に入力へ貼った鍵やパスワードがあれば、作り直す。AWS などの利用ログに、見覚えのない操作がないかも見る。
  5. 「保存しない」設定は、中継を通ると効かない場合がある。設定を信じすぎず、入力できる内容そのものを絞る。

背景

AI の利用は、複数の会社を重ねる形に広がっている。中継サービスは、安さや使えるモデルの多さで選ばれる。そのぶん、入力が通る会社が増え、誰が見られるかが利用者に見えにくい。

今回の実験が示したのは、入力そのものが利用者の知らない先へ流れうる点だ。事業者への侵入、ログの保存、設定の無視という3つの別々の経路で、それが確かめられた。Dragos は、自分でおとりの鍵を仕込み、使われたら事故として扱う方法も勧めている。

技術者向けの詳細
  • 一次情報: Dragos「Three breaches, endless leaks: Your AI supply chain needs canaries」(HD Moore、2026-11-19)。
  • 手法: Thinkst Canarytokens から始め、専用の種まきサービスを作った。入力ごとに固有の URL・DNS 名・鍵を作り、DNS・Web・git・SSH・DB・メールなどの受け口で監視した。
  • AWS の鍵は、鍵ごとに1回、1事業者への1件の要求で送られた。10月21日に送った鍵が、翌日に使われ、3週間後も使われていた。
  • 盗んだ側の動き: 鍵の生死確認、S3 と Secrets Manager / Parameter Store の探索、Bedrock の有効化と API キー作成、IAM ユーザーの追加。
  • 11月1日からは、LLM 駆動の試験用ツール ARTEX(user agent は artex-agent、artex-judge-r121)が鍵の生死確認に使われた。
  • 確認用: CloudTrail で Kali Linux や ARTEX の user agent を見る。ただし該当は通信のごく一部とされる。
  • Dragos の勧め: 送る文脈におとりの鍵を仕込み、使われたら事故として扱う。事業者が秘密のフィルタを提供するなら有効にする。ただし鍵の形をしていない機密は防げない。
  • 中継の追跡: 画像 URL の呼び戻しと、少し壊した要求のエラー包みで、段数と運営者を推定した。
  • Dragos は約12の事業者と、開示の調整を進めているとしている。

出典

一次情報

報道

記事は、運営者が生成 AI を活用して作成し、内容を確かめたうえで公開しています。 誤りに気づいたら編集方針の連絡先へ。

次に読む

同じタグの記事