画像と音声でディープフェイクを見分ける
AIで合成した顔や声は、経営層や同僚になりすますために使われることがあります。確かめられている事実と、別の経路で本人確認をすべき理由を示します。
30秒でわかる要点
概要
ディープフェイクとは、実在の人物に似せるために人工知能のモデルが作り出した画像、動画、音声のことです。従業員にとっての危険は、見慣れた顔や聞き慣れた声が依頼を通すために使われる点にあります。緊急の送金を求める「経営幹部」や、アクセス権を求める「同僚」がその例です。
この記事では、被害者に何が見え、何が聞こえるのか、こうしたコンテンツがどのように作られるのか、そして目と耳だけでは判断できない理由を説明します。
よくある質問
ディープフェイクは肉眼で見分けられますか
生成技術は、条件によっては「非常に写実的な」顔の画像や動画を作り出します[2]。NIST は、AIが生成した画像のディープフェイクに対して分析システムを評価する研究にも取り組んでいます[3]。
目に見える欠陥はなぜ消えていくのですか
生成モデルは進歩を続けています。ある総説は、敵対的生成ネットワーク(GAN)が目覚ましい成果を上げ、その後、拡散モデルが研究を再び活気づけたと述べています[2]。同じ総説は、検出技術も絶えず進化していると指摘しています[2]。
当局はこの脅威をどう見ていますか
2023年9月12日、NSA、FBI、CISA は「Contextualizing Deepfake Threats to Organizations」という情報シートを公開しました。ディープフェイクを含む合成メディアの脅威、技術、動向を示し、備え、特定し、防御し、対応するための対策をそこから探すよう組織に勧めています[4]。各機関は、これらの脅威が「exponentially increased」と書いています[4]。
上司からの依頼だった場合はどうすればよいですか
別の経路で確認してください。MITRE は、利用者に電話の相手を警戒し、本人かどうかを確かめるよう教育することを勧めています[1]。実際には、電話をいったん切り、すでに知っている番号でかけ直すか、社内のメッセージツールで本人に連絡します。
攻撃者の視点
攻撃者は、誰かを動かすことを狙います。MITRE は「spearphishing voice」を、標的型フィッシングの一種で、電話などの音声による連絡を通じて、利用者にシステムへのアクセスを許させる手口と説明しています[1]。この手口はしばしばソーシャルエンジニアリングを使い、信頼できる情報源になりすまして、相手に緊急性や不安を感じさせます[1]。
合成された声や顔は、このシナリオにもう一層を加えます。相手はもはや、経営幹部だと名乗るだけの人物ではなく、その外見や声色を備えています。
攻撃者は、信頼を築く段階を挟むこともあります。MITRE は、攻撃者がソーシャルメディアに偽のアカウントを作り、従業員と会話を始め、その後、会社の管理が及ばないサービスを通じてリンクや添付ファイルを送る例を挙げています。業務用パソコンで開く個人用メールなどがそれにあたります[5]。こうしたサービスは、企業よりもセキュリティポリシーが緩い可能性が高いとされています[5]。
画面に見えるもの
被害者の目に映り、耳に届くのは、知っていると思い込んでいる人物です。この依頼には、ほかのフィッシングと共通して、信頼できる人物の名義と緊急性があります[1]。
以下は、この種の電話に含まれうる内容を無害化して示した例です。説明のために作ったもので、実際の事例を再現したものではありません。
例示(架空の事例、アドレスは無害化済み)
[経営幹部の声を真似た音声]からの電話:
[緊急かつ内密の支払いを処理するよう求め、
誰にも知らせないよう求めたうえで、確認のために
hxxps://kinkyu-access[.]rei[.]invalid にログインするよう求める]MITRE は、音声によるフィッシングが多要素認証の要求の生成と組み合わされることもあると指摘しています。被害者に MFA の認証情報を明かさせたり、認証要求を承認させたりするためです[1]。
内部の仕組みIT部門
繰り返し登場するモデルは二つの系統です。
敵対的生成ネットワーク(GAN)は、2014年6月10日に投稿された論文で提案されました。考え方は、二つのモデルを同時に学習させるというものです。一方は学習データの分布を捉える生成器、もう一方は、サンプルが学習データから来たのか生成器から来たのかを判定する識別器です[6]。生成器の学習は、識別器が間違える確率を最大にすることを目指します[6]。 続いて拡散モデルが現れました。2020年6月19日に投稿された論文は、拡散確率モデルによる高品質な画像合成の結果を示し、256x256 の LSUN データセットでは ProgressiveGAN と同程度のサンプル品質だったと述べています[7]。
ディープフェイクに関する総説は、顔の入れ替え、表情の再現(face reenactment)、話す顔の生成、顔の属性の編集の四つの領域に分け、これに改ざんの検出を加えています[2]。
防御の面では、MITRE は不正な通話について、業務用端末の通話ログを監視して不審な番号や許可されていない番号を探し、その後に起きるシステム上のイベントと突き合わせることを提案しています。たとえば、リモート管理ツールの実行がそれにあたります[1]。
事例の検証実際の事例
以下の二つの事例は、IT サポートを装った人物からの電話で、合成音声が使われたという記述はありません。ディープフェイクが強めうるシナリオを示しています。
Scattered Spider: 電話をかけてくる偽の IT 担当者
MITRE によると、キャンペーン C0027 の間、Scattered Spider は電話で正規の IT 担当者になりすましました。被害者に遠隔監視・管理(RMM)ツールをダウンロードさせ、その端末を乗っ取るためです[1]。
Storm-1811: 「テクニカルサポート」を名乗る電話
MITRE によると、Storm-1811 は IT サポートを装った音声通話を行い、最初の侵入口となるスクリプトやツールを利用者にダウンロードして実行させようとしました[1]。Microsoft Threat Intelligence は2024年5月15日に、ランサムウェアにつながるソーシャルエンジニアリング攻撃での Quick Assist の悪用に関する記事を公開しました[1]。
出典
- MITRE ATT&CK, 「Phishing: Spearphishing Voice, Sub-technique T1566.004 - Enterprise」. https://attack.mitre.org/techniques/T1566/004/ (2026年11月10日閲覧)
- arXiv, 「Deepfake Generation and Detection: A Benchmark and Survey」, 2024年3月26日. https://arxiv.org/abs/2403.17881 (2026年11月10日閲覧)
- NIST, 「Guardians of Forensic Evidence: Evaluating Analytic Systems Against AI-Generated Deepfakes」, 2025年1月27日. https://www.nist.gov/publications/guardians-forensic-evidence-evaluating-analytic-systems-against-ai-generated-deepfakes (2026年11月10日閲覧)
- CISA, 「NSA, FBI, and CISA Release Cybersecurity Information Sheet on Deepfake Threats」, 2023年9月12日. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats (2026年11月10日閲覧)
- MITRE ATT&CK, 「Phishing: Spearphishing via Service, Sub-technique T1566.003 - Enterprise」. https://attack.mitre.org/techniques/T1566/003/ (2026年11月10日閲覧)
- arXiv, 「Generative Adversarial Networks」, 2014年6月10日. https://arxiv.org/abs/1406.2661 (2026年11月10日閲覧)
- arXiv, 「Denoising Diffusion Probabilistic Models」, 2020年6月19日. https://arxiv.org/abs/2006.11239 (2026年11月10日閲覧)
この記事を引用する
Brain, 「画像と音声でディープフェイクを見分ける」, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp298_ja_2026,
author = {Brain},
title = {画像と音声でディープフェイクを見分ける},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/ja/articles/gazo-onsei-deepfake-tegakari/},
note = {CC BY 4.0}
}