CyberpediaBrain

エンベディングとベクトルデータベース

テキストが座標になる仕組みと、ベクトルデータベースがそれを保管する方法、文書を入れる前に知っておくことを説明します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5あなたの行動
  6. 6落とし穴
  7. 7実際の事例
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

発生する場面
索引化された文書に基づいて回答するアシスタントです。Microsoftは、検索拡張生成(RAG)をベクトルデータベースの用途の一つに挙げています[2]。
起こること
構成によっては、文書が分割され、ベクトルに変換され、意味で問い合わせるインデックスに保管されます[2]。
とっさの行動
文書を入れる前に、アシスタントを通じて誰がその内容を入手できるかを尋ね、索引化された版を文書本体と同じように扱ってください。
すでにやってしまった場合
アシスタントの責任者またはセキュリティ担当に知らせ、文書をインデックスから削除してもらってください。

概要

エンベディングとは、内容を表す数値の並び、つまり座標です。意味の近い二つの内容には、近い座標が割り当てられます。単語については、Tomas Mikolovらの研究が土台になっています。2013年1月16日に提出されたこの研究は、非常に大きなデータセットから単語の連続的なベクトル表現を計算する二つのアーキテクチャを提案しています[1]。

ベクトルデータベースは、これらの座標を保管し、クエリに最も近い内容を見つけ出します。Microsoftはベクトル検索を、クエリのベクトルに最も近いベクトルに基づくマッチングと説明しています。これにより、「dog」と「canine」のように、概念は近いが形は異なる二つの単語を結び付けられます[2]。

従業員にとって身近なのは、会社の文書につながれたアシスタントです。この記事では、仕組みを説明したうえで、文書を入れる前に知っておくことを述べます。

よくある質問

エンベディングとは何ですか。

内容の数値表現です。Mikolovらが示したSkip-gramモデルは、構文と意味の細かな関係を数多く捉える単語ベクトルを学習します[3]。著者らは限界も指摘しています。これらの表現は語順を考慮せず、慣用表現も表せません。「Canada」と「Air」の意味を組み合わせても、「Air Canada」にはなりにくいのです[3]。

2018年10月に発表されたBERTは、単語の左側と右側の両方の文脈を考慮して、テキストの表現を学習します[4]。2019年8月に公開されたSentence-BERTは、そこから文のエンベディングを導き、コサイン類似度で比較します[5]。

ベクトルデータベースとは何ですか。

ベクトルを保管し、クエリのベクトルに最も近いものを見つけるシステムです。Azure AI Searchでは、最近傍アルゴリズムが類似のベクトルをインデックス内で互いに近くに配置し、クエリはk個の最近傍を返します[2]。このサービスは、純粋なベクトルインデックスとして、長期記憶として、ナレッジベースとして、またRAGアーキテクチャの根拠データとして使えます[2]。

エンベディングから元のテキストを復元できますか。

念のため、文書の索引化された版は、文書と同じように扱います。

言語モデルでは、近いリスクが知られています。2020年12月、Nicholas Carliniらは、攻撃者が言語モデルに問い合わせて学習データの例を取り出せることを示しています[6]。著者らは、大きなモデルのほうが小さなモデルより脆弱であることを確認しています[6]。

アクセス権は文書に付いてきますか。

Microsoftは、Foundry IQを、企業のコンテンツをエージェント向けの「permission-aware knowledge bases」に変える知識レイヤーとして紹介しています[2]。同じページはフィルター付きクエリも説明しています。フィルターはテキストまたは数値のフィールドに適用され、メタデータフィルターに使われ、結果を含めることも除外することもできます[2]。元の文書の権限が、索引化された断片にも引き継がれるかどうかは、まだ確認が必要です。この問いは、入れる前にアシスタントの責任者に向けるものです。

罠入りのコンテンツは、索引化されると回答に影響しますか。

RAGアーキテクチャでは、モデルは自身の記憶と外部の記憶を組み合わせます[7]。元のRAGの著者らは、Wikipediaの密ベクトルインデックスを使い、ニューラル検索エンジンで問い合わせています[7]。彼らの定式化の一つは、回答全体を、取得された同じ文章に条件付けています[7]。したがって、索引化されたものは、モデルが回答のために読むものに入ります。

LLMを使ったアプリケーションのリスクについては、OWASPプロジェクトが「most critical security vulnerabilities in LLM applications」の一覧を維持しており、2025年版があることが示されています[8]。

仕組み

流れは三段階です。ベクトルを作る、保管する、問い合わせる。

ベクトルを作る

エンベディングモデルが、テキストをベクトルに変換します。BERTの名前はアーキテクチャのTransformerに由来します。Bidirectional Encoder Representations from Transformersです[4]。2017年6月に提案されたこのアーキテクチャは、注意機構だけに基づいています[9]。

Sentence-BERTの利点は速度です。BERTだけでは、1万文の中で最も類似した組を見つけるのに約5000万回の推論計算が必要で、約65時間かかります。Sentence-BERTでは約5秒に縮まり、精度は保たれます[5]。

ベクトルを保管する

Azure AI Searchは二つの方法を説明しています。内部処理では、サービスが文書を断片に分割し、インデクサーのパイプラインでベクトル化します。顧客は、Azure OpenAIのエンドポイントや接続情報などのリソースを用意します[2]。外部処理では、エンベディングをサービスの外で作り、インデックスのベクトルフィールドに送り込みます[2]。

問い合わせる

エンコードの段階で、ユーザーのクエリをベクトルに変換してからインデックスに送ることがあります[2]。ハイブリッド検索は、ベクトル検索とキーワード検索を並行して実行し、結果を一つの回答にまとめます。Microsoftは、どちらか一方だけよりも良い結果になることが多いと書いています[2]。

あなたの行動

文書をアシスタントやインデックスに入れる前に、次のことをしてください。

  • アシスタントに問い合わせられる人は誰か、元の文書の権限が回答に適用されるかを尋ねてください。
  • テキストの送信先を確認してください。統合された構成では、サービスがエンベディングモデル、たとえばAzure OpenAIのモデルを呼び出します[2]。
  • 反対の事実が確認されるまでは、索引化されたコピーを原本と同じ機密度のものとして扱ってください。
  • 出所のわからない文書は入れないでください。RAGアーキテクチャでは、取得された文章が回答を条件付けます[7]。
  • 誤って入れてしまった場合は、すぐにアシスタントの管理者に知らせてください。

落とし穴

  • 意味による検索は、同じ単語を含む内容だけでなく、意味の近い内容を結び付けます。Microsoftは、「dog」と「canine」の対応、二つの言語間の対応、テキストと画像の対応を挙げています[2]。
  • エンベディングはマルチモーダルにできます。テキストと画像が同じ検索空間を共有できます[2]。
  • ベクトルデータベースは検索エンジンです。Azure AI Searchはメタデータフィルターを備え、Foundry IQの基盤になっています[2]。誰が問い合わせられるかを確認してください。
  • 参照フレームワークは変わっていきます。NISTはAI RMFを、任意での利用を想定し、2023年1月26日に公開され、改訂中であると説明しています。生成AI向けのプロファイルNIST-AI-600-1は、2024年7月26日に公開されました[10]。

実際の事例

2020年12月: GPT-2の学習データの抽出

Carliniらは、インターネット上の公開ページで学習したモデルGPT-2を攻撃します。そこから、数百のテキスト列を一字一句そのまま取り出しています。公開されている個人データ(氏名、電話番号、メールアドレス)、IRCの会話、コード、128ビットのUUIDです[6]。攻撃は、各列が学習文書の一つにしか現れない場合でも成立します[6]。この事例が扱うのは言語モデルであり、ベクトルデータベースではありません。

出典

  1. arXiv, 「Efficient Estimation of Word Representations in Vector Space」, 2013年1月16日. https://arxiv.org/abs/1301.3781 (2026年11月10日閲覧)
  2. Microsoft, 「Vector Search Overview - Azure AI Search」. https://learn.microsoft.com/en-us/azure/search/vector-search-overview (2026年11月10日閲覧)
  3. arXiv, 「Distributed Representations of Words and Phrases and their Compositionality」, 2013年10月16日. https://arxiv.org/abs/1310.4546 (2026年11月10日閲覧)
  4. arXiv, 「BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding」, 2018年10月11日. https://arxiv.org/abs/1810.04805 (2026年11月10日閲覧)
  5. arXiv, 「Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks」, 2019年8月27日. https://arxiv.org/abs/1908.10084 (2026年11月10日閲覧)
  6. arXiv, 「Extracting Training Data from Large Language Models」, 2020年12月14日. https://arxiv.org/abs/2012.07805 (2026年11月10日閲覧)
  7. arXiv, 「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」, 2020年5月22日. https://arxiv.org/abs/2005.11401 (2026年11月10日閲覧)
  8. OWASP, 「OWASP Top 10 for Large Language Model Applications | OWASP Foundation」. https://owasp.org/projects/top-10-for-large-language-model-applications (2026年11月10日閲覧)
  9. arXiv, 「Attention Is All You Need」, 2017年6月12日. https://arxiv.org/abs/1706.03762 (2026年11月10日閲覧)
  10. NIST, 「AI Risk Management Framework」. https://www.nist.gov/itl/ai-risk-management-framework (2026年11月10日閲覧)