警戒被害が起きている。または、起きれば重く広い

LiteLLM・Dify 狙う AI エージェント、API キーを標的に

Amazon が、おとりに届いた ARTEX 系 AI エージェントの記録を分析。LiteLLM、Dify、Langflow、RAGFlow などの AI の API キーが狙われていた。対策と確認点。

要点

  • 攻撃側の AI エージェントが、ネットに出ている AI 基盤から、AI 会社の API キー(AI を使うための合鍵)を探していた。Amazon は、おとりに届いた記録から狙いを読み取った。ただし、成果は検証できないという。
  • 狙われたのは LiteLLM、Dify、Langflow、RAGFlow、Open WebUI などだ。認証なしの公開や、初期設定のままの管理用の鍵が入り口になる。
  • 鍵が盗まれると、他人の費用で AI を使うために悪用されるおそれがある。気づかないと、請求だけが膨らむ。

何が起きたか

Amazon Threat Intelligence は 2026 年 11 月 13 日、ブログで調査結果を公開した。Amazon は、AI の推論用サーバーに見せかけた「おとり」を世界中に置いている。10 月 3 日から 11 月 5 日までの間、このおとりに、AI エージェントから要求が届いた。要求には、エージェントが自分の作戦について持つ記録が含まれていた。

Amazon が見たのは、この記録だ。攻撃そのものは、その場では見ていない。エージェントが報告した成果も、確かめられないとしている。それでも、記録からは攻撃側の狙いが読み取れるという。顧客の環境の監視もしていない。

使われた道具について、Amazon は ARTEX だと中程度の確信で見立てている。ARTEX は、オープンソースの AI 侵入テスト用の枠組みだ。

運用者の側も、Amazon は中程度の確信で見立てている。中国につながる、複数の別々の集団だという。根拠は、簡体字中国語の指示文、中国の時間帯の設定、狙う相手や道具の傾向などだ。

記録の中の狙いの一つは、AI の鍵やクラウドの認証情報の入手だった。盗んだ鍵が、エージェント自身の検索や分析を動かす AI の側に流し込まれた形跡もある。Amazon は、他人に支払わせて AI を使うことが目的だった可能性が高いとみている。記録に自分の環境が出てきた AWS の利用者には、通知したという。

標的の製品は、二つの型に分かれる。

  • AI の利用を束ねる中継サービス:One API、New API、Veloera、Sub2API、LiteLLM
  • AI アプリの作成基盤:Dify、FastGPT、Langflow、RAGFlow、Open WebUI、LobeChat、Ollama

入り口になった弱点について、Amazon は次の例を挙げている。

  • 初期設定を終えていない導入環境を、先に乗っ取れる状態だった
  • 管理や提供元設定の画面が、ログインなしで開けた
  • 管理者の初期の鍵(LiteLLM の既定値など)が、そのままだった
  • 公開済みの欠陥が直っていなかった(Langflow の CVE-2025-3248、RAGFlow の CVE-2026-28797 など)
  • 画面側のコードや環境ファイルなどに、秘密の鍵が残っていた

同じ記録には、暗号資産の取引所2社の本人確認を、偽の顔動画で破ろうとする動きもあった。Amazon によると、確認会社の1社のサーバー側は、記録された試みをすべて拒否した。

日本の利用者への影響

日本の組織や利用者への被害は、Amazon の公開部分では確認できなかった。日本での利用の広さも、資料では確かめられない。ただし、ネットに公開したまま、または初期設定のまま運用していれば、同じ条件に当たりうる。Amazon も、他の組織への攻撃は確認できなかったと述べている。そのうえで、自分の環境を調べられるよう、痕跡の情報を公開した。

今すぐやること

  1. 自社や自分の AI 基盤(LiteLLM、Dify など)が、ネットから直接見えていないか確かめる。見える必要がなければ閉じる。
  2. 管理用の鍵やパスワードが、初期値のままになっていないか確かめる。導入が途中のものは完成させるか、消す。
  3. AI 会社の API キーを入れ替える。特に、コード、設定ファイル、画像、共有の場に書き込んだ覚えがあるものを優先する。
  4. 各 AI 会社の画面で、鍵ごとの利用上限と通知を設定する。使っていない鍵は消す。
  5. 請求や利用量に、身に覚えのない増加がないか毎日見る。Amazon も、予想外の支出や変わった使い方の監視を勧めている。

背景

これまでは人間が鍵を探していた。今回の記録では、AI エージェントが探す・試す・確かめる作業を、自動で回していた。

記録によると、エージェントは盗んだ鍵を、実際に使えたか、何に届いたかで等級分けしていた。公開から 30 日を超えた鍵は、価値の低い在庫扱いにする、という指示もあった。この点から、公開されて間もない鍵ほど先に狙われる、という見方もできる。これは、こちらの推測だ。鍵を漏らしたと分かったら、早く入れ替えたほうがよい。

FBI や Cloudflare、Cisco Talos も、ARTEX の関連の活動を公表している。ARTEX の開発者は 10 月 8 日に公開場所を使えなくしたが、複製や商用版は残っているとされる。

技術者向けの詳細
  • 観測期間:2026-10-03〜11-05(Amazon の MadPot)。確信度は中程度。
  • 欠陥:Langflow CVE-2025-3248(1.3.0 で修正、CISA KEV 掲載は 2025-05-05)。RAGFlow CVE-2026-28797(0.24.0 以前が対象、0.25.0 で対策)。
  • One API 系に認証回避があるとされる。クラウドのメタデータへの SSRF(サーバーを踏み台にした内部への要求)も使われた。
  • 確認の例:環境変数、CI/CD、データベース、リポジトリ、コンテナ画像に鍵が残っていないか、秘密情報の検出ツールで調べる。
  • Cloudflare:トークンに有効期限と IP 制限を付ける。新しいトークンの接頭辞は cfut_。
  • Cloudflare Workers に artex- で始まる名前がないか確かめる(Cloudflare の事例)。
  • 痕跡(IP 一覧)は Amazon と Cisco Talos が公開している。Talos の Snort 3 規則は 7:76、7:77、7:78。
  • 詳しい手順と痕跡の一覧は、下の出典を参照。

出典

一次情報

報道

記事は、運営者が生成 AI を活用して作成し、内容を確かめたうえで公開しています。 誤りに気づいたら編集方針の連絡先へ。

次に読む

同じタグの記事