CyberpediaBrain

ビデオ会議のディープフェイク

AIを使って役員や上司になりすます電話・メッセージ・オンライン会議について、情報源の記述から、画面で見えるもの、仕組み、確認手順を整理します。

このページの内容
  1. 130秒でわかる要点
  2. 2概要
  3. 3よくある質問
  4. 4攻撃者の視点
  5. 5画面に見えるもの
  6. 6内部の仕組み
  7. 7事例の検証
  8. 8出典
  9. 9この記事を引用する

30秒でわかる要点

起こる場所
メッセージ、電話、オンライン会議で、相手が役員や信頼できる同僚を名乗る場面。
攻撃者の狙い
被害者からアクセス[3]や情報[4]を引き出すこと。そのために信頼できる情報源になりすまし、緊急だという印象を作る[3]。
とっさの行動
ビデオ会議で何かを求められたら、実行する前に、自分が以前から知っている番号で本人に折り返し電話し、別の担当者にも承認してもらう。
すでに実行した場合
自分で確認しようとして待たず、すぐにセキュリティ部門と経理部門に知らせる。
記事の構成

概要

ビデオ会議は、しばしば証拠のように受け取られます。顔が見え、声が聞こえるのだから、本人がそこにいるはずだ、という考え方です。この記事は、信頼できる相手へのなりすましと、文章・画像・動画を生成する生成AIについて、情報源が述べていることをまとめています[1]。そこから導かれる原則は、支払いの指示をオンライン会議だけに基づいて行ってはならない、というものです。

この記事のために集めた情報源は、特定の事件の事実を記録していません。ディープフェイクのビデオ会議の事件、被害企業、金額に触れたページは一つもありません。そのため、この記事は手口の仕組みについて情報源が裏づける範囲にとどめ、個別の事件の数字は載せていません。

よくある質問

ビデオ会議の顔や声は信用できますか

英国のNCSCは、生成AIを、文章・画像・動画を作れるAIと定義しています[1]。NCSCは、2025年までは、これらのツールによって、サイバーセキュリティの知識の程度にかかわらず誰にとっても、メールやパスワード再設定の依頼が本物かどうかを判断すること、またフィッシング、なりすまし、ソーシャルエンジニアリングの試みを見分けることが難しくなる、と見ています[1]。ビデオ会議の顔や声がどこまで信頼できるかについては、この記事の情報源は何も述べていません。

フィッシングのメッセージは、なぜ見分けにくくなっているのですか

NCSCによれば、生成AIはすでに、被害者との説得力のあるやり取りを可能にしています。フィッシングの手がかりになりがちな、翻訳、綴り、文法の誤りがありません[1]。

こうした手口を使えるのは誰ですか

NCSCは、国家が背後にいるかどうか、経験が豊富かどうかを問わず、あらゆる種類の脅威アクターがすでにさまざまな程度でAIを使っていると述べています[1]。さらに、一般に公開されているモデルのおかげで、自前の技術を作る必要はほとんどなくなっており、スピアフィッシングのような高度でない攻撃ではとくにそうだ、としています[1]。

通話中に「役員」から何かを頼まれたら、どうすればよいですか

通話中には動かないでください。MITREは、ソーシャルエンジニアリングの手口を見分けて報告できるようにユーザーを訓練すること、そして相手の身元を確認して、電話をかけてきた人を疑ってかかることを勧めています[3]。

攻撃者の視点

MITREは、フィッシングを、電子的な手段で送られるソーシャルエンジニアリングと説明しています。特定の個人、企業、業界を狙う場合は、スピアフィッシングと呼ばれます[2]。音声を使う型では、電話などの口頭の通信を使って、ユーザーにシステムへのアクセスを与えさせます[3]。

スピアフィッシングは多くの場合、二つの手段を使います。信頼できる情報源になりすますことと、狙った相手に緊急感や不安を生じさせることです[3]。情報収集を目的とする場合について、MITREは、緊急に見えるメッセージを複数送ることにも触れています[4]。

NCSCは、攻撃者にとってのAIの主な利点はソーシャルエンジニアリングにあるとしています[1]。また、AIは偵察、つまり侵入経路を探すために標的の情報を調べる作業も改善し、この段階とソーシャルエンジニアリングをより効果的で、検知しにくいものにすると判断しています[1]。

画面に見えるもの

ここで述べるのは、情報源のない想定場面です。上司の署名が入ったメッセージが届き、オンライン会議への参加を求めています。画面の参加者は、見知った同僚のように見え、同僚のように話します。依頼は急で、内密です。今すぐ支払いを進めるように、というものです。

MITREは、緊急性を攻撃者の手段の一つに挙げています[3]。NCSCは、偽物を見抜く手がかりとして長く使われてきた言葉の誤りが、もはや十分ではないと警告しています[1]。

抜粋
例示(架空のメッセージ、無害化済み):
[「部長」を名乗る人物が、hxxps://reunion-exemple[.]invalid/salle-12
の内密の会議に至急参加するよう求め、
その日のうちに処理すべき支払いがあると告げる。]

内部の仕組みIT部門

情報源から、次の要素を挙げることができます。

  • 最初の接触はフィッシングのメッセージです。MITREによれば、経路はメール、ソーシャルネットワークなどの第三者サービス、カレンダーの招待のいずれもあり得ます[2]。
  • なりすましは、送信者を信用させるために使われます。MITREは送信者アドレスの偽装を挙げており、人間にも自動のセキュリティ機器にも見破られないことがあります[2]。
  • 偵察の段階で、標的の下調べをします。MITREは、情報を得るためのフィッシングを偵察の戦術に分類しており、目的は悪意のあるコードの実行ではなくデータの収集です[4]。
  • 生成AIは、文章、画像、動画を作ることができます[1]。
  • MITREは、スピアフィッシングの手段として、信頼できる情報源を装うことと緊急性を挙げています[3]。

NCSCは、AIのもっとも高度な使い方は、質の高い学習データ、専門知識、資金を持つ攻撃者に限られるだろうと見ています[1]。そのうえで、こうした能力が犯罪市場に広がれば、対価を払う気のある者なら誰でも手が届くようになる、と付け加えています[1]。

防御の側では、NISTが任意利用のAIリスク管理フレームワークを2023年1月26日に公開し、2024年7月26日には、生成AI特有のリスクを組織が把握するための生成AI向けプロファイルを公開しました[5]。

事例の検証実際の事例

Scattered Spider: 電話での偽のIT担当者

MITREによれば、キャンペーンC0027で、Scattered Spiderは電話で正規のIT担当者になりすましました。そうして被害者に遠隔管理ツールをダウンロードさせ、端末を操作できるようにしました[3]。このページは、このキャンペーンの日付を示していません。それでも、偽のビデオ会議と共通する型が見えます。信頼できる声が、ある行動を求めるという型です。

Storm-1811: 偽のサポート窓口

MITREによれば、Storm-1811はITサポートを名乗って電話をかけ、ユーザーにスクリプトやその他のツールをダウンロードして実行させようとしました[3]。このページの参考文献には、2024年5月15日付のMicrosoft Threat Intelligenceの報告書が含まれています[3]。

効果のある確認

MITREは、この手口への対策として、電話をかけてきた人の身元を確認することを勧めています[3]。支払いの場合、それは、すでに知っている連絡手段で本人に折り返し、オンライン会議の話だけを根拠に何も実行しない、ということです。振込の二重承認は、経営層が整える組織上の措置です。この記事の情報源は、それを説明していません。

出典

  1. NCSC (Royaume-Uni), 「The near-term impact of AI on the cyber threat」, 2024年1月24日. https://www.ncsc.gov.uk/report/impact-of-ai-on-cyber-threat (2026年11月3日閲覧)
  2. MITRE ATT&CK, 「Phishing, Technique T1566 - Enterprise | MITRE ATT&CK®」. https://attack.mitre.org/techniques/T1566/ (2026年11月3日閲覧)
  3. MITRE ATT&CK, 「Phishing: Spearphishing Voice, Sub-technique T1566.004 - Enterprise | MITRE ATT&CK®」. https://attack.mitre.org/techniques/T1566/004/ (2026年11月3日閲覧)
  4. MITRE ATT&CK, 「Phishing for Information, Technique T1598 - Enterprise | MITRE ATT&CK®」. https://attack.mitre.org/techniques/T1598/ (2026年11月3日閲覧)
  5. NIST, 「AI Risk Management Framework」. https://www.nist.gov/itl/ai-risk-management-framework (2026年11月3日閲覧)