CyberpediaBrain

ビデオ会議でのリアルタイムのディープフェイク

詐欺師がビデオ会議で経営幹部の顔と声を使うことがあります。出典が述べていることと、身を守る確認方法を解説します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4攻撃者の視点
  5. 5画面に見えるもの
  6. 6内部の仕組み
  7. 7事例の検証
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

発生する場面
相手が信頼できる人物だと名乗る電子的なやり取りです。MITREは、フィッシングを電子的に送られるソーシャルエンジニアリングと説明し、信頼できる送信元のなりすましをその手法の一つに挙げています[1]。
攻撃者の狙い
情報、とりわけ認証情報を手に入れることです[2]。写実的に改ざんされた顔は、FaceForensics++の研究が対象にしています[3]。NCSCはこれに、許可されていない支払いを加えています[4]。
とっさの行動
重要な依頼は、別の種類の連絡手段で確認します。NCSCはこの規則をメールでの依頼について示しています[4]。
すでに応じてしまった場合
すぐにセキュリティ担当部署へ知らせます。NCSCは、明確な報告手順を設け、応じてしまった人を責めないことを勧めています[4]。
記事の構成

概要

ビデオ会議では、顔が見えて声も聞こえるため、知っている人と話しているように感じます。詐欺師はこの印象を利用し、経営幹部や同僚の姿で現れて、送金や情報、アクセス権を引き出そうとします。

この記事には前提があります。ここで集めた出典が扱っているのは、フィッシング全般と顔画像の改ざんです。ビデオ会議でのディープフェイクによる詐欺の事例を記した出典は、一つもありません。そのため、以下は出典が裏づける範囲にとどめ、出典が扱っていない点はそのつど明記します。

よくある質問

ディープフェイクは肉眼で見分けられますか。

FaceForensics++の研究(2019年)は、顔の改ざんの写実性と、自動でも人間でも見破りにくいことを調べています[3]。著者らは、自分たちの検出手法が人間の観察者を上回ると結論づけています[3]。ただし、この研究は現在のライブ配信型のディープフェイクを対象にしていません。この記事の出典には、画面上で確認できる兆候の一覧もありません。したがって、従業員は、欠陥を「見た」「見なかった」という印象で判断してはいけません。

誰が狙われますか。

NCSCは、一般からの問い合わせを受けるため不審なメッセージを大量に受け取る部署と、機密情報へのアクセス、資金の管理、システムの管理を許可されている人を区別しています。後者は攻撃者にとってより価値が高く、巧妙なスピアフィッシングの標的になり得ます[4]。

ビデオ会議で送金を頼まれたら、どうすればよいですか。

NCSCの規則を適用します。重要な依頼は、SMS、電話、アカウントへのログイン、対面での確認など、別の種類の連絡手段で確かめます[4]。NCSCがこの規則を示しているのはメールでの依頼についてです。最初の連絡とは独立した手段を使うという原則はビデオ通話にも同じように当てはまりますが、この適用は規則の読み方であって、出典の文言ではありません。

相手が伝えてきた番号に電話をかけ直すべきですか。

出典が述べているのは、その逆の罠です。MITREは、被害者が番号に電話するよう求めるメッセージを受け取り、その電話で攻撃者が機密情報を聞き出そうとすることがあると記しています[2]。以下はこの記事での推論で、出典には書かれていません。依頼してきた本人が示した番号は、独立した二つ目の連絡手段にはなりません。会社がすでに把握している番号のほうが望ましいです。

だまされた従業員は処分を受けますか。

NCSCは、困っている人を叱責しないよう助言しています。報復を恐れる人は、ミスの報告が遅れるか、報告しなくなるからです。NCSCは、人事部門や経営陣を含むすべての部署がこの方針を支えるよう求めています[4]。

攻撃者の視点

MITREは、フィッシングを被害者のシステムへの最初のアクセスを得る手段として位置づけています。個人、企業、業界を狙う場合(この場合はスピアフィッシングと呼びます)と、特定の標的を絞らない場合があります[1]。記されている手法には、信頼できる送信元のふりをすること、送信者になりすますこと、既存のやり取りに割り込むことなどがあります[1]。

悪意のあるコードの実行ではなく、情報を狙う変種もあります。MITREによれば、攻撃者は認証情報やその他の利用可能なデータを相手に明かさせようとし、そのためにインスタントメッセージなどの電子的な会話手段を使うことがあります[2]。サブ手法の一つは「Spearphishing Voice」、つまり音声によるスピアフィッシングと呼ばれています[1]。

NCSCは、攻撃者が仕事の進め方を突いてくると付け加えています。パスワードを含む情報を渡させたり、許可されていない支払いをさせたりすることがあります[4]。ビデオ会議に現れる偽の経営幹部はこの考え方に当てはまりますが、この記事の出典には記録がありません。

画面に見えるもの

出典は、信頼できる視覚的な兆候を何も示していません。述べているのは、DeepFakes、Face2Face、FaceSwap、NeuralTexturesなどの顔の改ざんが、検出のためのベンチマークが作られるほど写実的だということだけです[3]。著者らによれば、このデータで訓練した検出器は、動画が強く圧縮されていても人間の観察者を上回ります[3]。

従業員にとっての実際的な結論は、見た目の印象に頼らないことです。依頼が普段と違う、急いでいる、お金に関わるといった場合は、映像が完璧に見えても見えなくても、別の手段での確認が欠かせません。

内部の仕組みIT部門

この記事の出典は、ライブでの顔の入れ替えや声のクローンの仕組みを説明していません。そのため、仮想カメラや遅延についてここで書くことはできません。裏づけのある事項は二つです。

一つ目です。FaceForensics++は、顔の改ざん検出のための公開ベンチマークを提供しています。非公開のテストセットと、改ざんされた180万枚を超える画像のデータベースを含みます[3]。

二つ目です。NISTは2024年7月26日に、生成AIに関するプロファイルNIST-AI-600-1を公開しました。この種のAI特有のリスクを組織が特定するのに役立ち、それを管理するための対策を示しています[5]。NISTの全体的なフレームワークは任意で利用するものです[5]。

事例の検証実際の事例

2019年1月: 改ざんされた顔の検出を調べた研究

FaceForensics++の研究者らは、2019年1月25日に論文を提出しました[3]。彼らは、画像合成の進歩が社会に懸念を生じさせていると指摘しています。最良の場合でも、デジタルコンテンツへの信頼の喪失につながると書いています[3]。この研究は詐欺を記述していません。自動検出が人間の目を上回ることを示した研究です[3]。

金融機関でのフィッシングの事例(日付の記載なし)

NCSCは実際の事例を紹介していますが、日付は示していません。従業員約4,000人の金融業の会社に、緊急の請求書を装ったマルウェアDridexの変種を含むメールが1,800通届きました[4]。フィルターが1,750通を止め、50通が受信トレイに届きました[4]。その50通のうち36通は無視されたか報告され(報告は合計25通)、14通が開かれました[4]。感染した端末は1台だけで、そのマルウェアから運営者への通信は検出、報告され、遮断されました[4]。その端末は押収され、調査と除去が数時間で行われました[4]。この事例は、従業員による報告を含む複数の防御層の効果を示しています。ビデオ会議に関する事例ではありません。

出典

  1. MITRE ATT&CK, 「Phishing, Technique T1566 - Enterprise | MITRE ATT&CK®」. https://attack.mitre.org/techniques/T1566/ (2026年11月3日閲覧)
  2. MITRE ATT&CK, 「Phishing for Information, Technique T1598 - Enterprise | MITRE ATT&CK®」. https://attack.mitre.org/techniques/T1598/ (2026年11月3日閲覧)
  3. arXiv, 「FaceForensics++: Learning to Detect Manipulated Facial Images」, 2019年1月25日. https://arxiv.org/abs/1901.08971 (2026年11月3日閲覧)
  4. NCSC (Royaume-Uni), 「Phishing attacks: defending your organisation」, 2018年2月5日. https://www.ncsc.gov.uk/guidance/phishing (2026年11月3日閲覧)
  5. NIST, 「AI Risk Management Framework」. https://www.nist.gov/itl/ai-risk-management-framework (2026年11月3日閲覧)