CyberpediaBrain

オープンなAIモデルとプロプライエタリなAIモデル

重みが公開されたモデルか、オンラインサービスか。会社のデータにとって何が変わるのか、従業員がすべきこと・避けるべきことをまとめます。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5あなたがすること
  6. 6落とし穴
  7. 7実際の事例
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

どこで起きるか
あらゆるAIツールで起きます。オンラインサービスでも、ダウンロードしてパソコンに入れたモデルでも同じです。
何が変わるか
オンラインサービスでは、データはホスティング事業者に送られます。オープンなモデルでは、どこで動かすか、誰が導入して更新するかによって変わります。
リスク
「オープン」なモデルにもライセンスとリスクがあります。第三者のサービス経由で使えば、データは守られません。
とっさの行動
Brainが認めたAIツールだけを使い、検証を受けていないダウンロード済みモデルはインストールせず、承認されていないサービスに機密データを入力しないでください。
すでにやってしまったら
すぐにBrainのセキュリティチームに連絡し、どのデータを入力したか、どのモデルをインストールしたかを伝えてください。

概要

AIアシスタントは、言語モデルの上に成り立っています。この言語モデルは、誰でもダウンロードして自分のマシンで動かせるファイルの形で配布されることがあります。これを、重みが公開されたモデル、つまり「オープン」なモデルと呼びます。一方、モデルが提供元の手元にとどまり、オンラインサービスを通じてしか使えない場合もあります。これがプロプライエタリなモデルです。

従業員にとって両者の違いは、回答の質よりも、入力したデータはどこへ行き、誰が責任を負うのかという単純な問いにあります。この記事では、2つのケースと、Brainがそれぞれに求めることを説明します。

よくある質問

オープンなモデルとプロプライエタリなモデルは何が違いますか。

オープンなモデルは、サービスの裏にとどまらず公開されています。ここで引用した情報源に記されている例が2つあります。1つは、2023年2月に研究者のチームが発表したLLaMAで、「We release all our models to the research community」と記されています[1]。もう1つは、Apache 2.0ライセンスで公開されたMistral 7Bです[2]。プロプライエタリなモデルは、オンラインサービスを通じてしか利用できません。利用者はテキストを送り、回答を受け取りますが、モデルそのものは見えません。

入力したデータはどこへ行きますか。

オンラインサービスでは、入力したテキストは会社の外に出て、提供元によって処理されます。英国のNCSCのガイドラインは、組織がホストするモデルや外部のインターフェース(API)を使うシステムも対象としており、許可されていない第三者に機密データを明かさずに動作するAIシステムを求めています[4]。社内のパソコンやサーバーにインストールしたオープンなモデルであれば、処理をその場にとどめることができます。ただし、これはモデル自体が保証することではありません。どこで動かすかによって決まります。

オープンなモデルならデータは守られますか。

自動的には守られません。オープンなモデルを第三者のサービス経由で使う場合、入力はそのサービスを通ることになり、プロプライエタリなモデルと同じです。重要なのは処理が行われる場所であり、モデルがオープンかどうかではありません。

モデルの更新は誰が行い、誰が責任を負いますか。

オンラインサービスでは、モデルは提供元にあります。ダウンロードしたモデルは、それをインストールした人の手元にあり、ほかの誰も面倒を見ません。NCSCのガイドラインは、更新の管理をAIシステムの「運用と保守」の段階に、サプライチェーンのセキュリティを開発の段階に位置づけています[4]。個人データについては、AIシステムが提供事業者から供給され、第三者が使う場合に、責任がどう分担されるのかという問いをCNILが提起しています[5]。

提供元は、入力した内容を再利用できますか。

CNILによれば、AIシステムの提供事業者は、いくつかの条件を満たせば、データ管理者から預かったデータを適法に再利用できます。条件は、データ管理者の許可、両立性の検証、本人への通知と権利の尊重、新たな処理の適合性です[5]。だからこそ、Brainが利用条件を確認したツールを通すことに意味があります。

仕組み

言語モデルは大量のテキストで訓練され、指示に応じてテキストの続きを予測するために使われます[7]。LLaMAの研究者たちは、公開データだけで最先端のモデルを訓練できること、そしてLLaMA-13BがほとんどのテストでGPT-3(175B)を上回ることを示しました[1]。パラメータ数70億のMistral 7Bは、評価されたすべてのテストでLlama 2 13Bを上回っています[2]。 Llama 3の最大のモデルのパラメータ数は4,050億で、開発者たちは多くのタスクでGPT-4に匹敵する品質だとしています[3]。開発者たちはこのモデルを公開し、あわせて入力と出力を検査するモデルであるLlama Guard 3も公開しました[3]。

したがって、会社の側で決めるべきことは3点あります。モデルをどこでホストするか、誰が更新するか、インシデントの際に誰が責任を負うかです。答えはツールごとに異なります。そのため、許可されたツールの一覧がそのままルールになります。

あなたがすること

  • Brainが認めたAIツールだけを使ってください。オープンなモデルが基盤でも、プロプライエタリなモデルが基盤でも同じです。
  • ダウンロードしたモデルを、セキュリティチームの承認なしに作業用パソコンにインストールしないでください。
  • 承認されていないサービスに機密データを入力しないでください。顧客や同僚のデータ、健康に関するデータ、会社の機密が該当します。
  • 試すときは、架空のデータを使ってください。実際のデータと同じ構造でありながら、特定の個人とは結びつかないデータのことです。CNILは、AIシステムに必要なデータを見極めるために、架空のデータによるテストを挙げています[5]。
  • ツールについて迷ったら、使う前に確認してください。
  • 承認されていないサービスにすでにデータを入力した、またはモデルをインストールしてしまった場合は、すぐに報告してください。

落とし穴

「オープン」はライセンスがないという意味ではありません

Mistral 7BはApache 2.0ライセンスで公開されています[2]。つまり、オープンなモデルにもライセンスが付いており、そこに利用条件が定められています。ここで引用した情報源は、ほかのモデルのライセンスの詳細には触れていません。どんな使い方でも許されると考えないでください。

ダウンロードしたモデルには、細工や偏りがある場合があります

OWASPは、生成AIアプリケーションの2025年の10大リスクの中に、さまざまな脆弱性にさらされるモデルのサプライチェーンと、データとモデルの汚染(ポイズニング)を挙げています[6]。また、モデルを利用するアプリケーションの中心的な弱点として、誤情報も挙げています[6]。出所のわからないサイトから取得したモデルファイルは、Brainが検査したものではありません。NCSCも、サプライチェーンのセキュリティを、AIシステムの開発の段階から取り組むべき項目に挙げています[4]。

モデルが個人データを記憶していることがあります

CNILは、多数の研究によって、大規模言語モデルが訓練データの要素を「記憶」する傾向があることが示されていると指摘しています。氏名、住所、電話番号、クレジットカード番号などです[5]。モデルの機密性に対する攻撃が成功すれば、データ侵害にあたる場合があります[5]。これはオープンなモデルにもプロプライエタリなモデルにも当てはまります。

学習を続けるモデル

一部のシステムは、入力されたデータを再利用して自らを改善します。NCSCはこれを継続学習と呼んでいます[7]。CNILは、この動作方式ではデータが2つの異なる目的に使われるため、データ保護上の問題が生じると指摘しています[5]。サービスが入力内容をどう扱うかは、利用を認める前に知っておくべき条件の一部です。

変わり続ける指針

NISTのAIリスクマネジメントフレームワークは任意で使うもので、2023年1月26日に公開され、2024年7月26日に生成AI向けのプロファイルが追加されました[8]。NISTのページには、バージョン1.0が改訂中であると記されています[8]。推奨事項は変わっていきますが、Brainのルールは引き続き会社のルールです。

実際の事例

2023年2月27日: LLaMA

研究者のチームがLLaMAを発表しました。パラメータ数が70億から650億までのモデル群で、訓練には公開データセットだけが使われ、すべてのモデルが研究コミュニティ向けに公開されました[1]。

2023年10月10日: Mistral 7B

パラメータ数70億のモデルであるMistral 7B v0.1が、Apache 2.0ライセンスで公開されました。指示に従うよう調整された版も併せて公開されています[2]。

2024年7月31日: Llama 3

Llama 3ファミリーが発表されました。パラメータ数4,050億のモデルがあり、コンテキストウィンドウは最大12万8,000トークンです。最大モデルの事前学習版と事後学習版が公開されました。画像、動画、音声を加えた版は、開発者によれば開発中のため、広くは公開されていません[3]。

出典

  1. arXiv, 「LLaMA: Open and Efficient Foundation Language Models」, 2023年2月27日. https://arxiv.org/abs/2302.13971 (2026年11月3日閲覧)
  2. arXiv, 「Mistral 7B」, 2023年10月10日. https://arxiv.org/abs/2310.06825 (2026年11月3日閲覧)
  3. arXiv, 「The Llama 3 Herd of Models」, 2024年7月31日. https://arxiv.org/abs/2407.21783 (2026年11月3日閲覧)
  4. NCSC (Royaume-Uni), 「Guidelines for secure AI system development」, 2023年11月27日. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (2026年11月3日閲覧)
  5. CNIL, 「IA : comment être en conformité avec le RGPD ?」, 2022年4月5日. https://www.cnil.fr/fr/intelligence-artificielle/ia-comment-etre-en-conformite-avec-le-rgpd (2026年11月3日閲覧)
  6. OWASP, 「LLMRisks Archive」. https://genai.owasp.org/llm-top-10/ (2026年11月3日閲覧)
  7. NCSC (Royaume-Uni), 「Principles for security of Machine learning ML」, 2024年5月22日. https://www.ncsc.gov.uk/collection/machine-learning-principles (2026年11月3日閲覧)
  8. NIST, 「AI Risk Management Framework」. https://www.nist.gov/itl/ai-risk-management-framework (2026年11月3日閲覧)