CyberpediaBrain

MCPコネクタを安全に使う

AIアシスタントをメールやファイル、データベースにつなぐと、あなたの権限で動きます。リスクと従業員の対処を説明します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5あなたが行うこと
  6. 6落とし穴
  7. 7出典
  8. 8この記事を引用する

30秒でわかる要点

起きる場所
メール、ファイル保管場所、データベースにつながったAIアシスタントで起きます。モデルは、依頼を受けて行動するために、拡張機能を呼び出せます[1]。
攻撃者の狙い
アシスタントが読み込む細工されたコンテンツや、侵害された拡張機能を使い、アシスタントに自分の代わりの行動をさせることです[1]。
とっさの行動
情報システム部門が承認したコネクタだけを有効にし、承認する前に各許可の要求を読み、必要な権限だけを与え、予想外の挙動はすべて報告します。
すでにやってしまった場合
コネクタか与えた権限を外し、すぐにDSIに連絡します。

概要

AIアシスタントは、メール、ファイル、データベースといった仕事の道具につなぐと、より役に立ちます。ただし、つなぐたびに、アシスタントには行動する力も与えられます。コネクタを通じて、アシスタントは実際の権限で動きます。

この記事では、道具につながったアシスタントについてOWASPと英国のNCSCが説明しているリスクと、そのうえで従業員自身が行うことを説明します。

よくある質問

コネクタは何が危険なのですか?

大規模言語モデルを基にしたシステムは、開発者から、関数を呼び出したり、拡張機能を通じてほかのシステムとやり取りしたりする能力を与えられていることが多く、依頼を受けて行動できます[1]。OWASPは、モデルの予想外の出力、あいまいな出力、操作された出力に応じて有害な行動が起こせてしまう欠陥を「Excessive Agency」と呼んでいます。不具合の原因は問いません[1]。根本原因は通常、機能が多すぎる、権限が多すぎる、自律性が高すぎるという3点のうち1つ以上にあります[1]。

ただの文章でアシスタントをだませるのですか?

だませます。プロンプトインジェクションとは、あるコンテンツが、意図しない形でモデルの挙動を変えてしまうケースです[2]。間接型では、モデルがウェブサイトやファイルなどの外部の情報源を読み、そのコンテンツが挙動を変えます[2]。NCSCは、前の指示を無視して応募書類を承認するよう求める隠しテキストを含んだ履歴書の例を挙げています[3]。モデルが解析するかぎり、指示は人間に読めるものである必要はありません[2]。

技術的な対策だけで足りますか?

足りません。NCSCは、現在の大規模モデルは「simply do not enforce a security boundary between instructions and data inside a prompt」と書いています[3]。また、プロンプトインジェクション攻撃は、SQLインジェクションのようには完全に緩和されることが決してない可能性があるとみています[3]。OWASPは、検索拡張生成(RAG)やファインチューニングでも、この欠陥は完全にはなくならないと述べています[2]。残るリスクは、設計と運用で管理します[3]。

従業員は具体的に何をするのですか?

下で詳しく説明する4つの行動を取ります。承認されたコネクタを選ぶこと、許可を読むこと、権限を限ること、報告することです。OWASPは、根本的な対策(道具の権限、システム側の制御)は、拡張機能とその先のシステムに置くべきだとしています[1]。

仕組み

アシスタントは、依頼と自分が読んだ内容をもとに、どの拡張機能を呼び出すかを決めます。エージェント型のシステムは、モデルを繰り返し呼び出し、前の呼び出しの出力を、次の呼び出しの手がかりにします[1]。このため、一連の処理の最初に読み込んだ細工済みのコンテンツが、その後の行動に影響を与えることがあります。OWASPは、よくある引き金として、悪意のあるユーザーによるインジェクション、悪意のある、あるいは侵害された拡張機能の過去の呼び出し、マルチエージェントシステムでは侵害されたピアエージェントを挙げています[1]。

NCSCは、ここから道具についての結論を導いています。システムがモデルの出力に応じて道具やAPIを呼び出す場合、攻撃者はそれらを使うようモデルに強いることができます。影響は「whatever the worse case scenario would be of giving an attacker direct access to those tools/APIs」になります[3]。NCSCはもう1つ単純な規則を挙げています。モデルがある当事者の情報を処理するとき、モデルの権限はその当事者の権限まで下がる、というものです[3]。外部の任意の送信者のメールを読むアシスタントには、特権的な道具へのアクセスを与えるべきではありません[3]。

第三者の事前学習済みモデルやデータは外部の要素であり、改ざんや汚染によって操作されるおそれがあります[5]。攻撃者は、モデルのリポジトリにある提供元のアカウントを侵害したり、似たアカウントを作ったりしたうえで、ソーシャルエンジニアリングを加えることもあります[5]。

あなたが行うこと

  • DSIが承認したコネクタだけをインストールします。組織側の推奨策は、提供元を慎重に確認すること、信頼できる提供元だけを使うこと、出所を確認できるモデルだけを使うことです[5]。ウェブサイトで見つけたコネクタや、メッセージで届いたコネクタは、使う前にDSIに確認してもらってください。
  • 承認する前に許可の要求を読みます。OWASPは、利用者に代わってコンテンツを公開するなど、影響の大きい行動は、実行前に人間が承認することを推奨しています[1]。この承認に意味があるのは、承認する人が内容を読んでいるときだけです。宛先と、求められている行動を確認してください。
  • 必要以上の権限は決して与えません。OWASPは、メールを読む拡張機能にはメッセージの削除や送信ができる必要はない、という例を挙げています[1]。コネクタが接続を求めてきたときは、読み取り専用など、最も制限されたアクセスレベルを選んでください[1]。
  • 予想外の挙動はすべて報告します。OWASPは、望ましくない行動を見つけて対処するために、拡張機能の活動を記録して監視することを推奨しています[1]。NCSCは、失敗した道具やAPIの呼び出しが、攻撃の初期段階を示すことがあると付け加えています[3]。不審なメッセージ、頼んでいない送信、普段と違うアクセスの要求は、DSIに伝えてください。

落とし穴

1つ目の落とし穴は、禁止語句によるブロックを信じることです。NCSCは「deny-listing」に注意を促しています。攻撃は、フィルターをすり抜けるために言い換える方法が無限にあるからです[3]。同様に、プロンプトインジェクションを「止める」とうたう製品も疑うよう促しています[3]。

2つ目の落とし穴は、便利なコネクタと、権限が見合ったコネクタを混同することです。OWASPは、文書を読むだけのつもりなのに、第三者の拡張機能では変更や削除までできてしまう開発者の例を挙げています[1]。また、読み取り用の拡張機能が、読み取り、書き込み、削除の権限を持つ身元でデータベースに接続する例も挙げています[1]。さらに、現在の利用者のためだけに動くべきなのに、特権アカウントですべての利用者のファイルにアクセスする拡張機能の例も挙げています[1]。

3つ目の落とし穴は、使っていない拡張機能を放置することです。OWASPは、開発段階で試した後に放置されたのに、エージェントが引き続き使える状態になっている拡張機能を挙げています[1]。

4つ目の落とし穴は、反射的に承認することです。OWASPは、受信したメッセージを要約するために、メールボックスにつながれたアシスタントの例を挙げています。細工されたメールによって、アシスタントはボックス内の機密情報を探し、攻撃者に転送します[1]。対策の1つは、拡張機能が作成した各メールを、送信前に利用者が自分で読み、承認することです[1]。

5つ目の落とし穴は、社内ネットワークが守ってくれると思い込むことです。Microsoftによると、「Zero Trust」の原則は「never trust, always verify」にあります。アクセスは検証のうえで継続的に許可され、利用者もワークロードも、必要なアクセスだけを、最短の期間で得ます[4]。これらの原則はAIのワークロードにも当てはまります[4]。

NCSCが2023年11月27日に公開したAIシステムの安全な開発のためのガイドラインは、設計、開発、導入、さらに運用と保守を扱い、記録と監視も含みます[6]。対象は、AIシステムの提供者とリスクの責任者です[6]。

出典

  1. OWASP, 「LLM06:2025 Excessive Agency」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (2026年11月10日閲覧)
  2. OWASP, 「LLM01:2025 Prompt Injection」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (2026年11月10日閲覧)
  3. NCSC (Royaume-Uni), 「Prompt injection is not SQL injection (it may be worse)」, 2025年12月8日. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (2026年11月10日閲覧)
  4. Microsoft, 「Zero Trust as a security foundation」. https://learn.microsoft.com/en-us/security/zero-trust/zero-trust-overview (2026年11月10日閲覧)
  5. OWASP, 「LLM03:2025 Supply Chain」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (2026年11月10日閲覧)
  6. NCSC (Royaume-Uni), 「Guidelines for secure AI system development」, 2023年11月27日. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (2026年11月10日閲覧)