CyberpediaBrain

財布の拒否:AIサービスを破綻させる

非常に長い、または繰り返されるリクエストで、従量課金のAIサービスの請求額が膨らむことがあります。その仕組みと、従業員にできること。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4攻撃者の視点
  5. 5画面に見えるもの
  6. 6内部の仕組み
  7. 7事例の検証
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

発生する場所
クラウドのAIサービスのうち、トークンや操作ごとに課金されるもの[2]、およびツールを呼び出すエージェントです[3]。
攻撃者の狙い
被害者の予算を使い果たすこと[1]、または、費用のかかる自分の計算を被害者に支払わせることです[2]。
とっさの行動
エージェントの持ち主、挙動を監視する人、停止できる人を把握しておくことです[4]。この記事は、エージェントが際限なく動き続けているように見えるときは、担当チームに知らせることも勧めています。
企業が備えるべきこと
Microsoftは、クォータ、支出の上限、コストのアラートを勧めています[2]。
記事の構成

概要

従量課金のAIサービスは、操作のたびに費用がかかります。財布の拒否(英語でDenial of Wallet、DoW)は、この仕組みを突く攻撃です。攻撃者が大量の操作を起こし、サービスの提供者に耐えがたい金銭的負担を負わせ、財務的な破綻のリスクにまで至ることがあります[1]。OWASPは、この事例をLLM10:2025 Unbounded Consumption(際限のない消費)の分類に入れています[1]。

攻撃が成功するのに、サービスが止まる必要はありません。Microsoftは、攻撃者はシステムを停止させなくても被害を与えられると指摘しています。過剰な利用だけで予算を使い果たせるため、これは金銭面のサービス拒否です[2]。この記事では、その仕組み、2026年9月に実験室で示された事例、そして従業員にできることを説明します。

よくある質問

財布の拒否とは何ですか

OWASPは、クラウドのAIサービスの従量課金モデルを突くために、大量の操作を起こすことと説明しています[1]。OWASPのエージェント向けベストプラクティス集も、これを、上限のないエージェントのループによってAPIや計算の費用が過大になる攻撃として説明しています[5]。

サービスは止まりますか

必ずしも止まるとは限りません。Microsoftは、攻撃者が被害を与えるのに、システムを完全に停止させる必要はないと説明しています[2]。一方で、サービスが飽和すると、正規の利用者に遅延や利用不能が生じることがあります[2]。

この種の攻撃は多く見られますか

Microsoftは、LLMに対する悪意あるサービス拒否の完全なインシデントは広く公表されていないものの、リスクを明確に示すデモは存在すると述べています[2]。後述の日付つきの事例は実験室での研究です。要旨は、テストベッドでの評価を説明しており、観測された攻撃には触れていません[3]。

企業は何をして守りますか

Microsoftは、利用者、IPアドレス、APIキー、エージェントのID、サービスアカウントごとのレート制限とクォータを勧めています。これはエージェントが起動するツール呼び出しにも適用します[2]。また、ダッシュボードとアラートで利用状況を追跡すること、請求の予想外の増加を避けるためにクラウドのAIサービスに支出の上限を設けることも勧めています[2]。OWASPは、入力サイズの制限、タイムアウト、リソース消費の監視を加えています[1]。

従業員には何ができますか

NCSC(英国)は、組織が、エージェントのシステムの持ち主、そのアクセスを承認する人、挙動を監視する人、停止できる人を把握し、これらの責任をエージェントが実際のシステムにつながれる前に定めておくよう勧めています[4]。従業員にとっては、この記事から次のとっさの行動が導かれます。使っているエージェントの担当チームを知っておき、エージェントの挙動がおかしいときはそのチームに知らせることです。

攻撃者の視点

攻撃者は、被害者の負担で、サービスをできるだけ多く働かせようとします。Microsoftは具体的な方法を挙げています。社内のアシスタントボットに大量のリクエストを送ること、非常に長い、または複雑な回答を生む指示を作り込むことです[2]。Microsoftが挙げる例の1つは、聖書の全文をJSON形式で出力するよう求め、それを自動的に繰り返すものです[2]。

抜粋
イラスト(指示を言い換えたもの、実在の標的はありません):
[巨大なテキストの出力を求める依頼を、スクリプトで
数千回繰り返し、トークン課金のAIアシスタントに送る]

Microsoftは、攻撃者が費用のかかる自分の計算を被害者のモデルに肩代わりさせる場合も説明しています。これは、従来のサービス拒否のほかに、隠れた支出を生みます[2]。さらに、悪意ある利用と、通常だが複雑な利用を見分けるのは難しいとも指摘しています。特に、攻撃者が通常のリクエストと重いリクエストを混ぜて、監視をすり抜ける場合です[2]。

エージェントが相手なら、攻撃者にはもう1つの手段があります。1つの指示で、エージェントがAPIを呼び出し、タスクを作り、ほかのエージェントと機械の速度でやり取りするようにできます[2]。

画面に見えるもの

従業員が主に気づくのは、サービスへの影響です。回答の遅さや、利用できないことです[2]。Microsoftは、2023年にChatGPTへの需要が高まり、利用者が非常に長い会話を送ったことで、目立つ遅延や障害が起きたと報告しています[2]。この事例は攻撃ではありませんが、重い消費が可用性を損なうことを示しています[2]。

エージェントでは、ループに気づくのが遅れます。NCSCは、行動が人間による確認より速く進むと、問題を見つけにくくなると指摘しています[4]。Microsoftは、自律型GPT-4エージェントの初期版が、自ら生成したタスクのループに陥ったまま、法外な額のAPIクレジットを消費した例を挙げています[2]。支出は主に、企業が設けるダッシュボードとコストのアラートで確認できます[2]。

内部の仕組みIT部門

Microsoftによると、負荷を上げる仕組みは3つあります。非常に長い入力は、モデルにより多くの時間とメモリを使わせます。病的な指示は、たとえば100万個の素数を列挙するよう求めます。スクリプトやボットが起こす並列リクエストは、モデルの処理能力を超えます[2]。OWASPは、モデルのコンテキストウィンドウを超える入力を送り続ける手口も挙げています[1]。

エージェントには、arXivで公開された研究が説明する仕組みが加わります。ツールを呼び出すエージェントは、会話の状態をターンごとに保持します。ツールの結果が後続の入力に引き継がれると、提供者はそれをもう一度課金します[3]。著者らは、この保持された内容を永続的な課金対象状態と呼んでいます[3]。そのため、悪意ある、または侵害されたツールは、いったん受け入れられると、被害者の認証情報もローカルの権限も持たないまま、信頼できないデータを、被害者に課金される反復的な処理に変えることができます[3]。

防御の面では、OWASPのベストプラクティス集は、セッションごと、利用者ごとのトークン使用量とコストを追跡し、トークン、コスト、再試行、ツール連鎖の上限を設けるよう求めています[5]。また、連鎖の深さ、再試行、トークン、コストの上限が制御不能なループを止めることを確かめるテストも求めています[5]。Microsoftは、同時に動くエージェントの数を制限し、再帰の深さに上限を設け、ツール呼び出しに上限を設けるよう勧めています[2]。

事例の検証実際の事例

2026年9月:悪意あるツールがエージェントの請求額を膨らませる(実験室での研究)

2026年9月23日、中国科学院情報工学研究所などの研究者が、このリスクについての研究をarXivに投稿しました[3]。財布の拒否の攻撃経路を6つ説明し、6つのモデルファミリーで評価したテストベッドDOW-BENCHを示しています[3]。

243回の実行で、1つのセッションの入力の累積消費量は、最初の呼び出しの最大14,293倍に達しました[3]。生の履歴を保持すると、セッションの実効コストの平均は21.2%から35.9%増えます[3]。著者らは、ホスト側の4つの安全策を提案しています。再注入の前に、リクエストの規模、コンテキストの増加、再帰の可能性、累積支出に上限を設けるもので、再生した123件の評価コーパスにある反復攻撃をすべて封じ込めます[3]。分析したMCPサーバーおよびトランスポートの3,830のリポジトリのうち、コード上で保護が確認できるのは71件だけで、4つの系統すべてに対応するものはありません[3]。

これは実験室で示された脆弱性です。要旨はテストベッドでの評価を説明しており、観測された攻撃には触れていません[3]。

出典

  1. OWASP, 「LLM10:2025 Unbounded Consumption」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (2026年11月14日閲覧)
  2. Microsoft, 「5. Unbounded AI Consumption and Agentic DoS (DoS / Wallet Attack)」. https://learn.microsoft.com/en-us/security/zero-trust/catalog-ai-attack-techniques/unbounded-ai-consumption-and-agentic-dos (2026年11月14日閲覧)
  3. arXiv, 「Persistent Billable State: Denial-of-Wallet Attacks and Defenses in Tool-Calling LLM Agents」, 2026年9月23日. https://arxiv.org/abs/2609.28585 (2026年11月14日閲覧)
  4. NCSC (Royaume-Uni), 「Thinking carefully before adopting agentic AI」, 2026年5月15日. https://www.ncsc.gov.uk/blogs/thinking-carefully-before-adopting-agentic-ai (2026年11月14日閲覧)
  5. OWASP, 「AI Agent Security Cheat Sheet」. https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html (2026年11月14日閲覧)