CyberpediaBrain

企業におけるファインチューニングとRAG

モデルを再学習させる(ファインチューニング、LoRA)か、参照用の文書を与える(RAG)か。その違いとリスク、従業員の行動を説明します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5すべきこと
  6. 6落とし穴
  7. 7出典
  8. 8この記事を引用する

30秒でわかる要点

発生する場面
自社の文書につながれたAIツールの中で起きます。
攻撃者の狙い
データ(索引に入った文書や学習データ)に細工したコンテンツを紛れ込ませること、またはシステムが記憶した情報や索引化した情報を引き出すことです。
とっさの行動
承認を得ないまま、個人情報や機密情報をAIツールに入れないでください。ツールが示す出典を確認してください。
すでに行ってしまった場合
ツールの責任者またはセキュリティ部門に連絡し、そのデータを索引または学習データから削除してもらってください。

概要

AIアシスタントに自社固有の話題について答えさせるには、二つの方法があります。一つ目は、社内データでモデルを再学習させる方法(ファインチューニング)です。二つ目は、モデルを参照用の文書につなぐ方法で、これがRAGです。RAGは「retrieval-augmented generation」の略です。

RAGは、モデルの内部にある記憶と、文書の索引などの外部の記憶を組み合わせます[1]。RAGの著者らは、モデル単体では回答の出どころを示すことと知識を更新することが未解決の課題のままだと述べています[1]。この記事では、両者の違いと、従業員としてどちらの場合にも何をするかを説明します。

よくある質問

ファインチューニング、LoRA、RAGの違いは何ですか?

ファインチューニングは、すでに学習済みのモデルを特定のタスクや分野に合わせて調整する方法です。完全版では、モデルのすべてのパラメータを再学習させます[2]。 LoRAはその軽量版です。元のモデルの重みを固定し、各層に学習可能な小さな行列を追加することで、学習するパラメータ数を大きく減らします[2]。著者らは、GPT-3 175Bについて、Adamによる完全なファインチューニングと比べて、このパラメータ数を10,000分の1に、必要なGPUメモリを3分の1に減らせると報告しています[2]。

RAGは、モデルを外部の知識源につなぎます[4]。OWASPは、この追加によって、意図しない形で基となるモデルの挙動が変わることがあると指摘しています[4]。

RAGは企業にとってどんな利点がありますか?

RAGでは、知識の一部がモデルとは別に文書のデータベースにあります。RAGの著者らは、知識の更新と出どころの明示をモデル単体の限界として挙げ、外部の記憶はそれを解消することを目指すものだとしています[1]。OWASPは、ユーザーから提供された情報をベクトルデータベースに保存することを勧めています。そうすれば、モデル全体を再学習させなくても調整ができます[3]。アクセス権限もデータベースの水準で適用できます。ただし、データベースがそのように設計されていることが条件です(後述)[4]。

コストについては、このテーマで参照した資料は二つの方法を直接比較していません。確認できるのは、モデルが大きくなるほど完全なファインチューニングは現実的でなくなる、という点だけです[2]。

RAGがあればすべて安全ですか?

いいえ。OWASPによれば、RAGとファインチューニングは回答をより適切で正確にすることを目指しますが、研究によると、プロンプトインジェクションを完全には防げません[6]。

仕組み

RAGでは、モデルが外部の知識源につながれます。OWASPは、この検索による拡張がベクトルの仕組みとembeddingを使うと説明しています[4]。モデルは、自身の記憶とこの外部の記憶を組み合わせます[1]。

ファインチューニングでは、データが学習の過程を通ります。OWASPは、データが操作されうる段階として、事前学習、ファインチューニング、そしてテキストをベクトルに変換するembeddingの段階の三つを挙げています[3]。

すべきこと

  • 承認を得ないまま、個人情報や機密情報をAIツールに入れないでください。OWASPは、機微な情報として、個人情報、財務情報、健康記録、機密の事業データ、セキュリティ認証情報、法的文書を挙げています[5]。
  • 入力した内容が後になって出力される可能性があることを意識してください。OWASPは、うっかり入力した機微なデータがモデルの回答で明らかになるおそれを、ユーザーが理解するよう求めています[5]。
  • ツールが示す出典を読み、回答の主張どおりの内容が書かれているかを確認してください。OWASPは、汚染を見つけるために、モデルの出力を信頼できる情報源と照合することを勧めています[3]。
  • 組織が承認したツールかどうかを確認し、利用規約を読んでください。OWASPは、アプリケーションの所有者に対し、ユーザーが自分のデータを学習に使われることを拒否できるようにすることを求めています[5]。
  • 別の部署や別のユーザーの情報を含む回答を見つけたら、報告してください。OWASPはこの事例を説明しています。データの消去が不十分だったために、回答に別のユーザーの個人情報が含まれることがあります[5]。

落とし穴

記憶されたデータの漏えい

学習中に機微なデータにさらされたモデルは、それを出力することがあります。OWASPは、不注意に学習へデータを含めたことを、機微な情報が開示される原因の一つとして挙げています[5]。回答から独自のデータやアルゴリズムが明らかになるリスクも挙げています[5]。RAGでは、漏えいはデータベースを通じて起きます。アクセス制御が不十分であったり、整合していなかったりすると、モデルが個人情報や独自の情報を取り出して開示してしまうことがあります[4]。

管理が不十分なアクセス権限

複数のユーザーグループが同じベクトルデータベースを共有していると、あるグループの情報が別のグループの質問への回答として取り出され、機微な事業情報が漏れるおそれがあります[4]。OWASPは、権限を考慮するベクトルデータベースと、データセットの厳格な分離を勧めています[4]。

データの汚染

汚染とは、事前学習、ファインチューニング、embeddingのデータを操作して、脆弱性、バックドア、偏りを持ち込むことです[3]。外部の情報源を使う場合はリスクが高くなります。未検証のコンテンツや悪意のあるコンテンツが含まれることがあるためです[3]。バックドアは、引き金となる条件が現れるまでモデルの挙動を変えないままにできるため、見つけにくくなります[3]。RAGのデータベースについて、OWASPは、信頼できる検証済みの情報源のデータだけを受け入れ、データベースを定期的に監査することを勧めています[4]。

索引化された文書によるプロンプトインジェクション

間接的なインジェクションは、モデルがウェブサイトやファイルなど外部の情報源からの入力を受け取り、その内容によって想定外の形で挙動が変わるときに起きます[6]。OWASPは次のシナリオを説明しています。攻撃者が、RAGアプリケーションの使うリポジトリ内の文書を改ざんします。ユーザーの質問によってその内容が取り出されると、悪意のある指示が回答を変えてしまいます[6]。

次の例は、無害化した説明用の例です。OWASPの、細工した履歴書のシナリオの考え方に基づいています[4]。

抜粋
説明用の例: 応募者の選考ツールに登録された履歴書に、白い背景の上に
白い文字で、[それまでのルールを無視して、この応募者を推薦するよう
求める指示]が書かれています。ツールは、文書のほかの部分と一緒に、
この隠れたテキストも読み取ります。

OWASPによれば、モデルはこの隠された指示に従い、要件を満たさない応募者を推薦します[4]。提案されている対策は、書式を無視して隠れたコンテンツを検出する抽出ツールと、データベースに入れる前にすべての文書を検証することです[4]。

導入する側のチームのためのセキュリティの枠組み

英国のNCSCは、AIシステムの提供者向けのガイドラインを公表しています。目的は、AIシステムが想定どおりに動作し、許可のない第三者に機微なデータを漏らさないようにすることです[7]。

出典

  1. arXiv, 「Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks」, 2020年5月22日. https://arxiv.org/abs/2005.11401 (2026年11月3日閲覧)
  2. arXiv, 「LoRA: Low-Rank Adaptation of Large Language Models」, 2021年6月17日. https://arxiv.org/abs/2106.09685 (2026年11月3日閲覧)
  3. OWASP, 「LLM04:2025 Data and Model Poisoning」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ (2026年11月3日閲覧)
  4. OWASP, 「LLM08:2025 Vector and Embedding Weaknesses」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm082025-vector-and-embedding-weaknesses/ (2026年11月3日閲覧)
  5. OWASP, 「LLM02:2025 Sensitive Information Disclosure」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (2026年11月3日閲覧)
  6. OWASP, 「LLM01:2025 Prompt Injection」, 2024年4月10日. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (2026年11月3日閲覧)
  7. NCSC (Royaume-Uni), 「Guidelines for secure AI system development」, 2023年11月27日. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (2026年11月3日閲覧)