CyberpediaBrain

APIへの問い合わせによるAIモデルの窃取

競合他社がAPIへの問い合わせでAIモデルをコピーする手口と、モデルを公開する企業の従業員が押さえておくべきこと。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4攻撃者の視点
  5. 5画面に見えるもの
  6. 6内部の仕組み
  7. 7事例の検証
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

発生する場所
サービスとして提供されるモデルのAPIです。Googleが説明している攻撃は、同社のGeminiモデルを狙ったものでした[1]。
攻撃者の狙い
成熟したモデルが学んだ内容を取り込み、自分のモデルの開発を速く、しかも大幅に低いコストで進めることです[1]。
影響を受ける人
モデルの提供元とAIサービスの提供事業者です。一般の利用者は、通常はリスクにさらされません[1]。
とっさの行動
自社がAIモデルをサービスとして提供しているなら、APIへのアクセスを監視して抽出や蒸留のパターンを見つけ[1]、同じ発信元が送れるリクエスト数を制限することです[4]。
記事の構成

概要

サービスとして提供されるAIモデルは、サーバーに侵入されなくてもコピーされることがあります。Google Threat Intelligence Group(GTIG)によると、行為者は正規のAPIアクセスを使って、モデルの一部の能力をクローンしようとしています。かつて産業上の秘密を盗むには、従来型のコンピューター侵入が必要でした[1]。原理は2段階です。モデルに体系的に問い合わせ、その回答で別のモデルを訓練します[1]。

この記事は、まずモデルの提供元に向けたものです。Googleは、AIモデルを持つほかの企業も近い将来これに直面する可能性が高いと書いています[2]。また、ほかの組織が顧客や一般向けにモデルを公開するにつれて、こうした攻撃がほかでも現れると見込んでいます[3]。したがって、顧客にモデルを提供する企業の従業員は、APIの監視とアクセスの保護に関わります。

よくある質問

モデル抽出攻撃とは何ですか

敵対者が正規のアクセスを使い、成熟した機械学習モデルを体系的に探って、新しいモデルの訓練に役立つ情報を引き出す攻撃です[1]。攻撃者はそのために知識蒸留を使うので、「蒸留攻撃」とも呼ばれます[1]。

蒸留は常に攻撃ですか

いいえ。既存の「教師」モデルから「生徒」モデルを訓練する、一般的な手法です[1]。教師に特定の分野の問題を問い合わせ、その回答で生徒モデルを微調整する(教師ありファインチューニング)ことが多くあります[1]。正当な用途もあり、Google Cloudは蒸留のサービスを提供しています[1]。一方、許可なくGeminiモデルを蒸留することは、Googleの利用規約に違反します[1]。

一般の利用者は脅威にさらされますか

Googleは、こうした攻撃はAIサービスの機密性にも可用性にも完全性にも脅威を与えないため、一般の利用者にとっては通常リスクにならないと述べています[1]。リスクは、モデルの開発者とサービスの提供事業者に集中します[1]。

誰がこうした攻撃を行っていますか

Googleは、世界中の民間部門の組織や、独自のロジックをクローンしようとする研究者による頻繁な抽出攻撃を観測し、軽減したと述べています[1]。2025年、同グループは、追跡している国家支援の行為者や影響工作から、最先端モデルへの直接の攻撃を観測しませんでした[1]。

モデルを顧客に公開している企業は何をすべきですか

Googleは、AIモデルをサービスとして提供する組織に、APIへのアクセスを監視して抽出や蒸留のパターンを見つけるよう勧めています[1]。OWASPは、ほかの対策も加えています。レート制限と発信元ごとのクオータの設定、利用の記録と異常の検知、アクセスの厳格な管理です[4]。詳細は後述します。

攻撃者の視点

攻撃者は、時間と金を節約しようとします。抽出に続けて蒸留を行えば、モデルの開発を速く、しかも大幅に低いコストで進められます。Googleはこれを知的財産の窃取と呼んでいます[1]。

標的は、モデルの独自のロジックと専門的な訓練です[1]。Googleは2つの例を挙げています。派生製品を作りたい商業上の競合相手が狙う、金融データ分析用のカスタマイズモデルと、ガードレールのない環境でその能力を再現したい敵対者が狙う、プログラミング用のモデルです[1]。

攻撃者は、Geminiの推論能力も手に入れようとしており、これは頻繁に狙われる標的です[1]。OWASPは、変種として機能的複製を説明しています。攻撃者は標的のモデルを使って合成の訓練データを作り、別のモデルを微調整して機能的に同等のものを得ます[4]。

画面に見えるもの

一般の利用者にとって、こうした攻撃は通常、サービスの機密性にも可用性にも完全性にも影響しません[1]。攻撃者は正規のAPIアクセスを使います[1]。このためGoogleは、提供事業者にそのアクセスを監視して抽出のパターンを見つけるよう勧めており[1]、OWASPはリソースの使用状況を継続的に監視し、記録を取って普段と異なるパターンを検知するよう勧めています[4]。

内部の仕組みIT部門

仕組みは、正当な蒸留と同じです。攻撃者は教師モデルにある分野の質問を送り、回答を受け取り、それを使って生徒モデルを訓練します[1]。

Geminiの内部の推論の痕跡は、通常、利用者に届けられる前に要約されます。一部の攻撃者は、モデルに完全な推論の過程を出力させようとしました[1]。

OWASPは、APIによるモデル抽出を、無制限の消費の一形態に分類しています。攻撃者は、慎重に作った入力とプロンプトインジェクションの技法でAPIに問い合わせ、部分的なモデルを複製したり、シャドウモデル(「shadow model」)を作ったりするのに十分な回答を集めます[4]。コピーのほかにも、抽出は元のモデルの完全性を損なうとOWASPは指摘しています[4]。

OWASPがこのリスクに対して挙げている防御策は、次のとおりです[4]。

  • 入力のサイズを制限する。
  • APIの応答で、logit_biasとlogprobsのパラメーターを制限または非表示にする。
  • 発信元ごとにレート制限と利用クオータを適用する。
  • 異常な消費を検知するために、記録と監視を行う。
  • 無許可の使用を検知するために、モデルの出力に透かしを組み込む。
  • 敵対的なリクエストや抽出の試みを検知できるよう、モデルを訓練する。
  • モデルのリポジトリや訓練環境への不正なアクセスを制限するために、強力なアクセス制御(RBAC、最小権限の原則)を導入する。

Google自身は、生徒モデルの性能を低下させることがあるリアルタイムの積極的な防御を使っていると述べ、こうした攻撃は排除や訴追につながることがあると指摘しています[1]。

アクセスそのものも標的です。AIサービスを大規模に悪用するには、悪意ある行為者にAPIキーが必要です。このため、クラウドとAIのリソースを数多く持つ組織には、乗っ取りのリスクが生じます[1]。脆弱なオープンソースのAIツールは、APIキーを盗むために一般的に悪用されており、アクセスを転売する闇市場を支え、被害を受けた利用者にコストを負わせています[1]。OWASPは、独自モデルの訓練方法やソースコードは機密と見なされることがあると指摘しています[5]。また、誤って設定されたモデルの出力が、独自のアルゴリズムやデータを明らかにすることもあります[5]。「Proof Pudding」攻撃(CVE-2019-20634)がその例で、漏えいした訓練データがモデルの抽出と反転を助け、メールのフィルターの回避を可能にしました[5]。

事例の検証実際の事例

2026年2月12日:Geminiに対する10万件を超えるリクエストのキャンペーン

2026年2月12日、GTIGは、Google DeepMindとGTIGが特定して阻止した、Geminiモデルに対する抽出攻撃を説明する報告書を公開しました[1]。攻撃は、世界中の研究者や民間企業によるものでした[1]。

詳しく取り上げられた1件は、Geminiの推論を狙っていました。攻撃者はモデルに完全な推論を出力させ、思考内容の言語が入力の主要な言語と一致し続けるよう求めました[1]。分析では、10万件を超えるリクエスト(プロンプト)が確認されました[1]。GTIGによると、質問の幅広さは、さまざまなタスクにわたって、英語以外の言語でGeminiの推論能力を再現しようとした試みであることを示唆しています[1]。

Googleのシステムは攻撃をリアルタイムで認識してリスクを下げ、内部の推論の痕跡を守りました[1]。

出典

  1. Google, 「GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use」, 2026年2月12日. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (2026年11月14日閲覧)
  2. Google, 「Our new report details the latest ways threat actors are misusing AI.」, 2026年2月12日. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (2026年11月14日閲覧)
  3. Google, 「Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration」, 2026年2月19日. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (2026年11月14日閲覧)
  4. OWASP, 「LLM10:2025 Unbounded Consumption」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (2026年11月14日閲覧)
  5. OWASP, 「LLM02:2025 Sensitive Information Disclosure」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (2026年11月14日閲覧)