AIエージェント、ツール、MCPプロトコル
AIエージェントはメール、ファイル、APIなどのツールを利用者に代わって呼び出します。誤動作の例と、権限を絞って被害を抑える方法を解説します。
30秒でわかる要点
- 起こる場所
- メール、文書、Webページを読み込み、そのたびにクリックしなくても送信や削除といった操作ができるあらゆるアシスタントです[3]。
- 攻撃者の狙い
- エージェントが読むコンテンツに指示を紛れ込ませ、エージェントに代わりに動かせることです。たとえば機密性の高いメールを転送させます[3]。
- とっさの行動
- エージェントには必要最小限の権限だけを与え、送信、削除、公開など影響の出る操作の前には必ず自分の承認を求め、エージェントが用意した内容を読み返します[3]。
- 被害を受けた後の対応
- セキュリティ担当チームに連絡してください。日付と、その時点でエージェントにつながっていたツールを伝えます。ツールの動作ログは、不審な操作を見つけるのに役立ちます[3]。
概要
AIエージェントとは、言語モデルにツールを持たせたものです。メールを読む、ファイルを開く、サイトを閲覧する、APIを呼び出すといったことができます。2022年と2023年の研究には、どのAPIを、いつ、どの引数で呼び出すかを判断するよう訓練されたモデル[1] や、少数の例を示すだけで推論と行動を交互に行い、外部の情報源を参照するようにしたモデル[2] が紹介されています。
大規模言語モデルを使ったアプリケーションの主要なリスクの一覧を管理しているOWASPは、「agency」という言葉を使います。これは、拡張機能を通じて関数を呼び出したり、他のシステムとやり取りしたりする能力のことで、提供元によってはツール、スキル、プラグインとも呼ばれます。どの拡張機能を実行するかをエージェント自身に任せることもでき、その場合エージェントは、依頼の内容や直前の呼び出しの結果から判断します[3]。従業員にとって問いはシンプルです。このエージェントは自分の名義で何ができるのか、実行される前に誰が確認するのか、ということです。
よくある質問
エージェントと、ふつうの会話型アシスタントは何が違いますか。
会話型アシスタントは答えます。エージェントは行動します。モデルを繰り返し呼び出し、前の呼び出しの結果をもとに次の呼び出しを進めます[3]。ツールが一つ増えるたびに、誤りや操作によって起こりうることの範囲も広がります。
MCPプロトコルとは何ですか。
この記事のためにまとめた情報源はMCPを説明していません。扱っているのはツール、拡張機能、コネクタ全般で、以下に述べるリスクは、エージェントをツールにつなぐあらゆる手段に当てはまります。そのため、プロトコル自体の詳細はここでは取り上げません。
間接プロンプトインジェクションとは何ですか。
モデルが、サイトやファイルといった外部コンテンツに隠された指示を受け取り、その影響で動作が変わってしまうケースです[4]。2023年に研究者らは、取得されうるデータの中に指示を置くことで、モデルを組み込んだアプリケーションを、直接のインターフェースなしに遠隔から攻撃できることを示しました[5]。攻撃者はAIにアクセスする必要がありません。いずれAIに読まれる何かを書いておけばよいのです[6]。モデルが解釈できるなら、そのテキストは人間には見えなくてもかまいません[4]。
フィルターでこうした攻撃を防げますか。
完全には防げません。OWASPは、確実な防止策が存在するかどうかは不確かだとしています[4]。英国のNCSCは、現在のモデルは指示とデータを区別せず、次の単語を予測しているだけだと説明しています。そして、SQLインジェクションとは違い、プロンプトインジェクションは完全に解消されることがないかもしれないとみており、リスクと影響を減らすことを勧めています[6]。プロンプトインジェクションを「止める」とうたう製品にも注意を促しています[6]。
エージェントに実行させる前に、何を読み返すべきですか。
自分の管理範囲の外に出るものすべてです。送信されるメールや、共有されるファイルが該当します。OWASPは、エージェントが作成したメールを利用者が1通ずつ読み、承認してから送信する例を挙げています[3]。
仕組み
あなたがすること
OWASPは、エージェントの権限過剰を減らすための対策を挙げています。設定を自分で決められないことも多いですが、ツールを導入するチームに依頼することはできます。
- ツールを減らす: エージェントにWebアドレスを読む必要がなければ、その機能は与えません[3]。
- 機能を絞る: メールを要約する拡張機能に必要なのは読む機能だけで、削除や送信は要りません[3]。
- 「コマンドを実行する」のような何でもできるツールより、用途の決まったツールを選びます。前者では、ほかのどんなコマンドも実行できてしまいます[3]。
- 権限を絞る: データベースを読むツールが、変更や削除もできるIDで接続してはいけません[3]。
- 強い権限を持つ共用アカウントではなく、自分自身の権限で動かします。コードのリポジトリについて、OWASPは最小限のスコープでのOAuth接続を例に挙げています[3]。
- 影響の大きい操作には、人間による承認を求めます[3]。
- ツールの動作を記録して不審な操作を見つけ、一定時間内に起こりうる望ましくない操作の数を減らすために、処理速度に上限を設けます[3]。
NCSCは簡単なルールを示しています。モデルが第三者からの情報を処理するときは、その権限を第三者の権限まで引き下げるというものです。社外の人からのメールを読むエージェントには、特権的なツールへのアクセスを与えてはなりません[6]。
プラットフォーム側については、MicrosoftがCopilot Studioの管理者向けの制御を説明しています。コネクタ、アクション、HTTPリクエストに対するデータポリシー、デプロイ前のコネクタ依存関係の分析、監査ログ、そして生成AIを使うエージェントの公開を無効にできる設定です。エージェントの作成者は、利用者の認証情報でツールが実行されるように設定することもできます[8]。
落とし穴
- 権限が過剰なエージェント。OWASPは原因を三つに分けています。機能が多すぎること、権限が大きすぎること、自律性が高すぎることです[3]。開発中に試して使わなくなった拡張機能が、エージェントから使える状態のまま残ることがあります[3]。文書を読むために選んだサードパーティの拡張機能が、文書の変更や削除までできる場合もあります[3]。
- メールに隠された指示。OWASPの例では、細工された受信メールによって、メールアシスタントが受信トレイを探し回り、機密情報を攻撃者に転送します[3]。
- 会話を流出させる画像。利用者がAIに、隠された指示を含むページの要約を頼みます。その指示でAIがあるアドレスを指す画像を挿入し、非公開の会話がそこから外に出てしまいます[4]。
- ナレッジベースで書き換えられた文書。検索拡張型のアプリケーションが使う文書を攻撃者が改ざんすると、AIの回答が誤解を招くものになることがあります[4]。
- ツール間の連鎖。インジェクションは、侵害された拡張機能への以前の呼び出しや、マルチエージェントシステムの中で侵害された別のエージェントから入り込むことがあります[3]。
- 一度のテストで安心する誤り。NISTは、モデルが既知の攻撃には耐えても、そのモデル向けに作られた攻撃には屈することがあると指摘しています[7]。
実際の事例
2023年2月: Bing Chatとコードアシスタントでの実証
Kai GreshakeやSahar Abdelnabiらの研究者は、2023年2月23日に論文を投稿し、GPT-4を基盤とするBingのチャットやコード補完エンジンなど、実在するシステムに対する間接インジェクション攻撃を示しました。研究者らによれば、取得したプロンプトを処理することは任意のコードの実行に等しくなりえ、ほかのAPIを呼び出すかどうか、どのように呼び出すかを制御することもできます。当時は有効な対策が不足していたとも述べています[5]。
2025年1月: NISTによるエージェント乗っ取りの評価
2025年1月17日、NISTのCenter for AI Standards and Innovationは、AgentDojoの枠組みで行ったエージェント乗っ取りの試験結果を公表しました。試験対象のモデルに合わせて作られた攻撃の成功率は、基準となる最良の攻撃の11%から81%に上がりました[7]。認証コードの第三者への送信や悪意あるスクリプトの実行を含む5つのインジェクションのタスクでは、平均成功率は1回の試行で57%、攻撃ごとに25回試行すると80%でした[7]。いずれも模擬環境での試験で、企業で起きたインシデントではありません[7]。
出典
- arXiv, 「Toolformer: Language Models Can Teach Themselves to Use Tools」, 2023年2月9日. https://arxiv.org/abs/2302.04761 (2026年11月3日閲覧)
- arXiv, 「ReAct: Synergizing Reasoning and Acting in Language Models」, 2022年10月6日. https://arxiv.org/abs/2210.03629 (2026年11月3日閲覧)
- OWASP, 「LLM06:2025 Excessive Agency」. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (2026年11月3日閲覧)
- OWASP, 「LLM01:2025 Prompt Injection」. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (2026年11月3日閲覧)
- arXiv, 「Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection」, 2023年2月23日. https://arxiv.org/abs/2302.12173 (2026年11月3日閲覧)
- NCSC (Royaume-Uni), 「Prompt injection is not SQL injection (it may be worse)」, 2025年12月8日. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (2026年11月3日閲覧)
- NIST, 「Technical Blog: Strengthening AI Agent Hijacking Evaluations」, 2025年1月17日. https://www.nist.gov/news-events/news/2025/01/technical-blog-strengthening-ai-agent-hijacking-evaluations (2026年11月3日閲覧)
- Microsoft, 「Security and governance - Microsoft Copilot Studio」. https://learn.microsoft.com/en-us/microsoft-copilot-studio/security-and-governance (2026年11月3日閲覧)
この記事を引用する
Brain, 「AIエージェント、ツール、MCPプロトコル」, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp264_ja_2026,
author = {Brain},
title = {AIエージェント、ツール、MCPプロトコル},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/ja/articles/ai-agento-tsuru-mcp/},
note = {CC BY 4.0}
}