注意まだ起きていない

LLM の APIルーター428件を調査、9件がコード改ざん

UCSB の研究者らが AIエージェントとモデルを中継する第三者の LLM APIルーター428件を調査。コード注入9件、おとりの AWS 認証情報に触れたもの17件。使う側の確認点を整理。

要点

  • AI エージェントと AI モデルの間に入る第三者の中継サービス(APIルーター)は、通信の中身がすべて見える位置にある。研究者が調べた428件のうち、9件が悪意あるコードを紛れ込ませていた。
  • 調査用に置いたおとりの AWS 認証情報に触れた例が17件あり、おとりの暗号資産の鍵から資金が抜かれた例も1件あった。
  • 中継サービスを使う側が、鍵の渡し方と通信経路を見直さないと、気づかないまま鍵や開発環境を奪われうる。

何が起きたか

UC Santa Barbara などの研究者(Hanzhi Liu 氏ら)が、2026年4月9日に論文「Your Agent Is Mine」を arXiv に公開した。論文には、ACM CCS 2026(10月開催)向けの原稿と記されている。対象は、AI エージェント(Claude Code や Codex のようなコード作成ツール)とモデル提供元の間で通信を中継する、第三者の「APIルーター」だ。安い、あるいは無料でモデルを使える窓口として出回っている。

ルーターは、利用者の指示も、API キーも、AI の返答も、暗号化されていない形で受け取る。論文は、モデル提供元がこの区間で返答の改ざんを防ぐ署名を付けていない点も問題にしている。つまり、ルーターが返答を書き換えても、受け取る側は確かめられない。

研究者は有料28件(Taobao、Xianyu、Shopify の店など)と無料400件、合計428件を調べた。論文によると、結果は次のとおり。

  • 悪意あるコードを紛れ込ませたのは9件。有料1件、無料8件。
  • そのうち2件は、見つかりにくくする工夫をしていた。50回やり取りしてから動き出す、全自動モード(人の確認なしにコマンドを実行する設定)のときだけ動く、特定の言語のプロジェクトだけ狙う、といった条件である。
  • 研究者が置いたおとりの AWS 認証情報に、無料の17件が触れた。
  • 無料の1件が、あらかじめ入金してあった研究者管理の暗号資産の鍵から資金を抜いた。本文に正確な金額はないが、付録には、移された時点の価値が50ドル未満だったと書かれている。

加えて、2つの実験がある。1つは、わざと漏らした OpenAI の鍵が他人に使われた実験だ。その1つの鍵で、約1億トークン分の処理が行われ、Codex の利用セッションが7件を超えて見えてしまった。もう1つは、守りの弱い中継サーバに見せかけたおとりを置いた実験で、440件の Codex の作業セッションが流れ込み、99件の認証情報が漏れた状態になった。440件すべてで、コマンドを差し込める状態だった。401件は全自動モードだった。

論文は、善意のルーターでも、鍵が漏れたり、弱い別のサーバを経由したりすれば同じ危険があるとしている。なお、被害が確認されたのは研究者が用意したおとりであり、実在の利用者の被害額ではない。また、この調査は倫理審査(IRB など)を受けていないと、論文の倫理の節に書かれている。

日本の利用者への影響

日本の利用者や組織での被害の有無について、論文には記述がない。ただ、調査対象には中国の通販サイト経由で売られる中継サービスが含まれる。安く AI を使いたい日本の開発者が同種のサービスを使っている可能性はある。数は分からない。

今すぐやること

  1. 自分の AI ツールの接続先を確認する。出どころの分からない中継サービスや、無料の窓口を指定していないか見る。
  2. 重要な作業には、モデル提供元の公式の接続先を直接使う。仕事のコードや本番の鍵を扱う環境では特に守る。
  3. 怪しい中継サービスに一度でも鍵を渡したなら、その鍵を失効させて作り直す。AWS や GitHub の鍵も、同じ環境で使ったものは対象にする。
  4. 全自動モードを、信頼できない経路では使わない。AI が出したコマンドや、入れようとするパッケージの名前を、人が見てから実行する。
  5. 自社で中継サービスを立てるなら、鍵は最小の権限で短い期間だけ有効にし、通信の記録を残す。論文は、危険なコマンドの実行を既定で止める仕組み、返答の異常検知、追記だけできる記録の3つを、利用者側で入れられる対策として試している。

背景

通信の途中に入り込んで中身を改ざんする手口自体は、新しくないと論文も述べている。この論文は、同じ構図が AI エージェントとモデルの間にもあることを、実測で示した。

論文は、利用者側の対策で今日の危険は減らせるとしながら、最終的にはモデル提供元による返答の完全性の保証が必要だと述べている。具体的には、モデル提供元が署名した返答の形式を提案している。

防御策の結果は、自動で作った合成データによる実験で、実際の攻撃のデータではないと論文は書いている。また、簡単な適応型の試験では、止める仕組みは全標本で回避された。

技術者向けの詳細
  • 論文: arXiv:2604.08407 v1(2026-04-09)。著者は Hanzhi Liu、Chaofan Shou、Hongbo Wen、Yanju Chen、Ryan Jingyang Fang、Yu Feng。
  • 攻撃の2類: AC-1(ペイロード注入)、AC-2(秘密情報の持ち出し)。回避の派生が AC-1.a、AC-1.b。
  • 428件の内訳: 有料28(注入1、適応型の回避・認証情報の悪用は観測なし)、無料400(注入8、回避2、AWS カナリア接触17、ETH 流出1)。
  • 鍵漏えい実験: OpenAI の鍵1つ、約1億 GPT-5.4 トークン、Codex セッション7件超。
  • 弱いルーターのおとり: 20ドメイン・20 IP、4万件超の不正アクセス試行(147 IP)、約20億トークン、約13GB の通信、440セッション・398プロジェクトまたはホスト、認証情報99件。
  • 防御の評価(研究用プロキシ Mine): ポリシーゲートは AC-1 と AC-1.a の全標本を遮断、誤検知1.0%。ただし簡単な適応型の試験では100%回避された。異常検知は誤検知6.7%で AC-1 の89.0%を検出(AC-1.a は50.0%、AC-1.b は50.9%)。透明性ログは1,000セッションあたり約12.0MB。
  • 限界: ポリシーゲートは、許可リスト内のドメインや事前に置かれた手元の仕込みを使う攻撃では回避されうる。返答の出どころの保証には、論文が提案するプロバイダ署名付きの返答形式が要る。
  • 自分の環境の確認: エージェントの設定にある API の接続先(base URL の指定や環境変数)が公式のドメインかを見る。

出典

一次情報

報道

参考

記事は、運営者が生成 AI を活用して作成し、内容を確かめたうえで公開しています。 誤りに気づいたら編集方針の連絡先へ。

次に読む

同じタグの記事