CyberpediaBrain

拡散モデル

AIがランダムなノイズから画像を作る仕組みと、社員が画像を共有したりファイルを投稿したりする前に確認できること。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4仕組み
  5. 5実際の行動
  6. 6落とし穴
  7. 7実際の事例
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

発生する場面
メッセージで届く画像や動画、SNS、文書の中。ファイルを投稿できる公開の画像生成ツールでも起こります。
問題となること
NISTは、リスクとして情報の完全性への損害、詐欺(なりすましを含む)、合成された音声・画像・動画で人をだますことを挙げています[3]。
とっさの行動
画像や動画を共有する前に、出どころを確認します。機密の画像や同僚の顔写真は、公開ツールに決して投稿しないでください。
すでにやってしまった場合
待たずに社内のセキュリティ担当チームに連絡し、使ったツールと投稿した内容を伝えます。

概要

拡散モデルは、ランダムなノイズから出発し、指示に合った画像になるまで段階的に整えて画像を作ります[3]。これを学ぶため、モデルは逆の道をたどります。画像にノイズを加えて傷め、それを元に戻せるように学習します。出発点となった考えは2015年に発表されたもので、拡散の過程でデータの構造を系統的にゆっくり壊し、その構造を取り戻す逆の過程を学習するというものです[1]。2020年には、研究者がこの種のモデルで高品質な画像合成の結果を示しました[2]。

社員にとっての問題は実務的です。これらのモデルは写実的な合成画像を作るために使われ、そうした画像はメッセージで届くこともあれば、公開ツールで作ることもできます。米国の標準を扱う機関であるNISTは、生成AIが写実的な画像、文章、音声、動画を作れることを挙げ、それがデジタル情報への信頼に新たなリスクをもたらすと指摘しています[3]。

よくある質問

拡散モデルとは何ですか?

段階的なかく乱を逆にたどることで、データ(ここでは画像)を作る生成モデルです。原理は非平衡の統計物理に着想を得ています。拡散を繰り返してデータの構造を壊し、それを元に戻すことを学習します[1]。DALL-E 2、Imagen、Stable Diffusionは画像の拡散モデルです[9]。

モデルはどのようにノイズを取り除くことを学ぶのですか?

あとで行うことの逆をして学びます。学習用の画像に少しずつノイズを加え、ノイズだけが残るまで続けます。モデルは構造を復元する逆の過程を学びます[1]。2020年の論文の著者らは、この考えを次のようにまとめています。「Creating noise from data is easy; creating data from noise is generative modeling.」[4]学習を終えたモデルは、ランダムなノイズから出発し、少しずつ整えていきます[3]。

このノイズ除去には多くの段階が必要です。DDIMという変種は、同じ学習手順のまま、実際の計算時間で2020年の方法より10倍から50倍速く、高品質なサンプルを作ります[5]。

文章はどのように画像を導くのですか?

文章は、ノイズ除去の途中で指示として働きます。潜在拡散モデルは、交差注意層と呼ばれる層をモデルに加え、文章のような入力で導けるようにします。事前学習済みオートエンコーダーの潜在空間で処理するため、ピクセルを直接扱うモデルより計算の必要量が減ります[6]。分類器なしガイダンスと呼ばれる方法は、条件付きモデルと条件なしモデルを一緒に学習し、両者の推定を組み合わせて、サンプルの品質と多様性のあいだで調整します[7]。Imagenは汎用の大規模言語モデルで文章を符号化します。著者らは、その言語モデルを大きくするほうが、画像モデルを大きくするよりも、画像の忠実度と文章との一致が高まることを確認しています[8]。

生成された画像は目で見分けられますか?

確実にはできません。知覚できる手がかり(照明と合わない反射や影、背景との合成の痕跡)は、主に検出器の役に立ちます[3]。NISTは、音声、視覚、音声と視覚の組み合わせを対象にした2024年の研究で、性能が偶然に近いという結果が出たことも伝えています[3]。Imagenの著者らは「unprecedented degree of photorealism」と述べています[8]。さらにNISTは、コンテンツの透明性に関する多くの手法の有効性は、まだ十分に検討されていないと書いています[3]。見た目だけに頼る行動は脆く、出どころの確認はそれより脆くありません。

画像に出どころの印が入っていることはありますか?

ときにはあります。NISTは、コンテンツの出所を記録する二つの方法を示しています。コンテンツ自体に情報を埋め込む電子透かしと、署名付きまたは署名なしのメタデータの記録です[3]。目立たない透かしは機械には読めますが、人間には見つけにくく、検出器が必要です。検出器には、偽陽性と偽陰性が生じる可能性がゼロではありません[3]。したがって、印がないことは何の証明にもなりません。

モデルは学習に使った画像をそのまま出すことがありますか?

あります。研究者らは、拡散モデルが学習データの画像を記憶し、生成のときにそれを再現することを示しました[9]。

仕組み

流れは二段階です。学習では、モデルは傷めた画像を元に戻すことを学びます[1]。使うときは、ランダムなノイズから出発して段階的に整え[3]、与えられた文章が結果を方向づけます[6][7]。

より一般的な数式での説明では、データの複雑な分布にノイズを注ぎ込んで、ゆっくりと既知の分布に変える方程式で、ぼかしの過程を表します。そして、そのノイズを取り除く逆の方程式があります[4]。この枠組みは、スコアに基づく生成や確率的拡散という、それ以前の手法を包含しています[4]。専門外の読者に方程式は必要ありません。画像はノイズを段階的に取り除いて生まれる、と覚えれば十分です。

NISTは、合成コンテンツの道のりを三つの段階で説明しています。作成、公開、そして利用です。利用とは、人がコンテンツを受け取り、解釈し、それに基づいて行動する時点を指します[3]。社員は両端に関わります。ツールを使って作る側にも、画像を受け取る側にもなりえます。

実際の行動

  • 意外な画像や動画を共有する前に、出どころを調べます。最初に公開したのは誰か、どんな文脈か、発信者が別の経路で確認できるかを見ます。
  • コンテンツに出所の印やメタデータがあれば確認しますが、完全な証拠とは考えないでください。NISTは、これらの技術のどれも単独では完全な解決策にならないと書いています[3]。
  • 音声や動画を添えた緊急の依頼(送金やアクセス権)を受けたときは、依頼とは別の手段で確認します。NISTは、不正な取引を手助けさせる手段の一つとして、音声のクローンを挙げています[3]。
  • 機密の画像(図面、撮影した書類、画面)は、公開の画像生成ツールに決して投稿しないでください。
  • 同僚の顔写真も決して投稿しないでください。研究者らは、拡散モデルの学習データに含まれていた人物の写真を、モデルから取り出しています[9]。
  • 受け取ったコンテンツに疑いがあるときは、拡散させずにセキュリティ担当チームに転送します。

落とし穴

  • 超写実性。Imagenの著者らは、前例のない水準の写実性を示したと述べ、人間の評価者は画像と文章の一致について、そのサンプルをCOCOのデータと同等と判断しています[8]。説得力のある画像が、本物の画像とは限りません。
  • 誤った安心感。NISTは、透明性が誤った安心感を生むことがあると警告しています。たとえば、技術的な指標では正当に見えても、文脈から切り離されたコンテンツがその例です[3]。
  • 検出ツール。まだどこにでもあるわけではありません。NISTは、これらの手法の大半は、モバイル機器で広く使えるようになるまでに何年もかかる可能性があると書いています[3]。
  • 偽造コンテンツ。NISTは、合成された画像、音声、動画が、生体認証システムや人をだますために使われうると書いています[3]。
  • 記憶。研究者らは、拡散モデルはGANのような以前の生成モデルよりも、プライバシーの保護がはるかに弱いと結論づけています[9]。学習用データベースの中身が、出力に現れることがあります。

実際の事例

2023年1月、最先端のモデルから学習画像が抽出された

2023年1月30日、9人の研究者が、拡散モデルから学習データを抽出する研究を発表しました。画像を生成し、学習データに一致するものを選別する方法で、最先端のモデルから1,000枚を超える画像を取り出しています。人物の写真も、登録商標のロゴも含まれていました[9]。著者らは、こうした脆弱性を減らすには、プライバシーを守る学習の新たな進歩が必要になるかもしれないと付け加えています[9]。

出典

  1. arXiv, 「Deep Unsupervised Learning using Nonequilibrium Thermodynamics」, 2015年3月12日. https://arxiv.org/abs/1503.03585 (2026年11月10日閲覧)
  2. arXiv, 「Denoising Diffusion Probabilistic Models」, 2020年6月19日. https://arxiv.org/abs/2006.11239 (2026年11月10日閲覧)
  3. NIST, 「Reducing Risks Posed by Synthetic Content: An Overview of Technical Approaches to Digital Content Transparency」, 2024年11月18日. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-4.pdf (2026年11月10日閲覧)
  4. arXiv, 「Score-Based Generative Modeling through Stochastic Differential Equations」, 2020年11月26日. https://arxiv.org/abs/2011.13456 (2026年11月10日閲覧)
  5. arXiv, 「Denoising Diffusion Implicit Models」, 2020年10月6日. https://arxiv.org/abs/2010.02502 (2026年11月10日閲覧)
  6. arXiv, 「High-Resolution Image Synthesis with Latent Diffusion Models」, 2021年12月20日. https://arxiv.org/abs/2112.10752 (2026年11月10日閲覧)
  7. arXiv, 「Classifier-Free Diffusion Guidance」, 2022年7月26日. https://arxiv.org/abs/2207.12598 (2026年11月10日閲覧)
  8. arXiv, 「Photorealistic Text-to-Image Diffusion Models with Deep Language Understanding」, 2022年5月23日. https://arxiv.org/abs/2205.11487 (2026年11月10日閲覧)
  9. arXiv, 「Extracting Training Data from Diffusion Models」, 2023年1月30日. https://arxiv.org/abs/2301.13188 (2026年11月10日閲覧)