Cyberpediaod Brain

Rozpoznawanie deepfake po obrazie i dźwięku

Syntetyczna twarz lub głos mogą naśladować członka kierownictwa albo współpracownika. Co jest ustalone i dlaczego weryfikować innym kanałem.

Na tej stronie
  1. 1W 30 sekund
  2. 2O co chodzi
  3. 3Pytania wprost
  4. 4W skórze atakującego
  5. 5Co widać na ekranie
  6. 6Pod maską
  7. 7Analizy incydentów
  8. 8Źródła
  9. 9Zacytuj ten artykuł

W 30 sekund

Gdzie to się zdarza
Rozmowa telefoniczna lub inna komunikacja głosowa[1], albo wiadomość wysłana przez usługę komunikacyjną[5], z tożsamością pożyczoną od zaufanej osoby.
Czego chce atakujący
Uzyskać dostęp do systemów przez telefon[1].
Odruch
Zachować nieufność wobec dzwoniących i weryfikować ich tożsamość[1]. W tym artykule oznacza to potwierdzenie prośby innym kanałem niż ten, którym przyszła, bez polegania na twarzy ani na głosie.
Jeśli już się stało
Bez zwłoki powiadomić dział bezpieczeństwa firmy, podając godzinę rozmowy i użyty kanał.
Plan artykułu

O co chodzi

Deepfake to obraz, wideo lub głos wytworzony przez model sztucznej inteligencji tak, aby przypominał prawdziwą osobę. Dla pracownika niebezpieczeństwo polega na tym, że znajoma twarz lub znajomy głos służą do uwiarygodnienia prośby: „członek kierownictwa”, który pilnie żąda przelewu, „współpracownik”, który prosi o dostęp.

Ten artykuł opisuje, co postrzega ofiara, jak takie treści są wytwarzane i dlaczego oko i ucho nie wystarczą, by rozstrzygnąć.

Pytania wprost

Czy deepfake można rozpoznać gołym okiem?

Techniki generowania wytwarzają w pewnych warunkach „bardzo realistyczne” obrazy i filmy twarzy[2]. NIST poświęca ze swojej strony prace ocenie systemów analizy wobec deepfake'ów obrazów generowanych przez AI[3].

Dlaczego widoczne wady znikają?

Modele generatywne się rozwijają. Przegląd badań zauważa, że generatywne sieci przeciwstawne (GAN) dały imponujące wyniki, a potem modele dyfuzyjne ponownie ożywiły badania[2]. Ten sam przegląd wskazuje, że techniki wykrywania również stale się rozwijają[2].

Co o zagrożeniu mówią władze?

12 września 2023 r. NSA, FBI i CISA opublikowały kartę informacyjną „Contextualizing Deepfake Threats to Organizations”. Przedstawia ona zagrożenia, techniki i trendy dotyczące mediów syntetycznych, w tym deepfake'ów, i zaleca organizacjom, by szukały w niej środków pozwalających się przygotować, rozpoznawać, bronić i reagować[4]. Agencje piszą, że te zagrożenia „exponentially increased”[4].

Co robić, jeśli prośba pochodzi od przełożonego?

Zweryfikować innym kanałem. MITRE zaleca szkolić użytkowników, by zachowywali nieufność wobec dzwoniących i weryfikowali ich tożsamość[1]. W praktyce: przerwać rozmowę, a następnie oddzwonić do tej osoby na znany już numer albo skontaktować się z nią przez wewnętrzny komunikator.

W skórze atakującego

Atakujący dąży do tego, by ktoś podjął działanie. MITRE opisuje „spearphishing voice” jako wariant ukierunkowanego phishingu, który skłania użytkownika do udzielenia dostępu do systemów przez rozmowę telefoniczną lub inną komunikację głosową[1]. Metoda często opiera się na inżynierii społecznej: podszywaniu się pod zaufane źródło i wywoływaniu u osoby poczucia pilności lub zagrożenia[1].

Syntetyczny głos lub syntetyczna twarz dodają do tego scenariusza kolejną warstwę: rozmówca nie jest już tylko kimś, kto twierdzi, że jest członkiem kierownictwa, ale ma jego wygląd lub barwę głosu.

Atakujący może też przejść przez etap budowania zaufania. MITRE opisuje atakujących, którzy zakładają fałszywe konta w mediach społecznościowych, nawiązują rozmowę z pracownikami, a następnie wysyłają linki lub załączniki przez usługę, której firma nie kontroluje, na przykład prywatną skrzynkę pocztową otwieraną na komputerze służbowym[5]. Te usługi z większym prawdopodobieństwem mają mniej rygorystyczną politykę bezpieczeństwa niż firma[5].

Co widać na ekranie

Ofiara widzi lub słyszy osobę, którą uważa za znaną. Prośba ma wspólne z innymi atakami phishingowymi zaufaną tożsamość i pilność[1].

Poniżej ilustracja, zneutralizowana, tego, co może zawierać taka rozmowa. Została wymyślona na potrzeby przykładu i nie odtwarza żadnego prawdziwego przypadku.

Fragment
Ilustracja (przypadek fikcyjny, adres zneutralizowany)
Połączenie od [głos naśladujący członka kierownictwa]:
[prośba o realizację pilnej i poufnej płatności,
 prośba o nieinformowanie nikogo, a następnie o zalogowanie się pod
 adresem hxxps://acces-urgent[.]exemple[.]invalid w celu zatwierdzenia]

MITRE zauważa też, że phishing głosowy może być połączony z generowaniem żądań uwierzytelniania wieloskładnikowego, aby skłonić ofiarę do ujawnienia danych logowania MFA lub zaakceptowania żądań uwierzytelnienia[1].

Pod maskąZespoły IT

Wracają dwie rodziny modeli.

Generatywne sieci przeciwstawne, czyli GAN, zostały zaproponowane w artykule złożonym 10 czerwca 2014 r. Zasada: dwa modele są trenowane razem, generator, który uchwyca rozkład danych treningowych, oraz dyskryminator, który ocenia, czy próbka pochodzi z tych danych, czy z generatora[6]. Trenowanie generatora ma na celu maksymalizację prawdopodobieństwa pomyłki dyskryminatora[6]. Potem pojawiły się modele dyfuzyjne. Artykuł złożony 19 czerwca 2020 r. przedstawia wyniki syntezy obrazów wysokiej jakości za pomocą probabilistycznych modeli dyfuzyjnych i wskazuje dla zbioru LSUN w rozdzielczości 256x256 jakość próbek podobną do ProgressiveGAN[7].

Przegląd badań o deepfake'ach wyróżnia cztery dziedziny: zamianę twarzy, odtwarzanie mimiki (face reenactment), generowanie mówiącej twarzy i edycję atrybutów twarzy, do których dochodzi wykrywanie fałszerstw[2].

Po stronie obrony MITRE proponuje w przypadku oszukańczych rozmów monitorować rejestry połączeń urządzeń służbowych pod kątem nietypowych lub nieautoryzowanych numerów, a następnie korelować je z późniejszymi zdarzeniami systemowymi, takimi jak uruchomienie narzędzia do zdalnego zarządzania[1].

Analizy incydentówPrawdziwe przypadki

Dwa poniższe przypadki to rozmowy osób podszywających się pod wsparcie informatyczne, bez wskazania głosu syntetycznego. Pokazują scenariusz, który deepfake'i mogą wzmocnić.

Scattered Spider: fałszywi informatycy przez telefon

MITRE podaje, że podczas kampanii C0027 grupa Scattered Spider podawała się w rozmowach za legalny personel informatyczny, aby skłonić ofiary do pobrania narzędzia do nadzoru i zdalnego zarządzania (RMM), które pozwoliłoby jej przejąć kontrolę nad ich komputerem[1].

Storm-1811: rozmowy „wsparcie techniczne”

MITRE wskazuje, że Storm-1811 wykonywał rozmowy głosowe, podszywając się pod wsparcie informatyczne, aby nakłonić użytkowników do pobrania i uruchomienia skryptów i narzędzi służących jako wstępny dostęp[1]. Microsoft Threat Intelligence opublikował 15 maja 2024 r. artykuł o niewłaściwym użyciu Quick Assist w atakach socjotechnicznych prowadzących do oprogramowania wymuszającego okup[1].

Źródła

  1. MITRE ATT&CK, „Phishing: Spearphishing Voice, Sub-technique T1566.004 - Enterprise”. https://attack.mitre.org/techniques/T1566/004/ (dostęp 10 listopada 2026)
  2. arXiv, „Deepfake Generation and Detection: A Benchmark and Survey”, 26 marca 2024. https://arxiv.org/abs/2403.17881 (dostęp 10 listopada 2026)
  3. NIST, „Guardians of Forensic Evidence: Evaluating Analytic Systems Against AI-Generated Deepfakes”, 27 stycznia 2025. https://www.nist.gov/publications/guardians-forensic-evidence-evaluating-analytic-systems-against-ai-generated-deepfakes (dostęp 10 listopada 2026)
  4. CISA, „NSA, FBI, and CISA Release Cybersecurity Information Sheet on Deepfake Threats”, 12 września 2023. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats (dostęp 10 listopada 2026)
  5. MITRE ATT&CK, „Phishing: Spearphishing via Service, Sub-technique T1566.003 - Enterprise”. https://attack.mitre.org/techniques/T1566/003/ (dostęp 10 listopada 2026)
  6. arXiv, „Generative Adversarial Networks”, 10 czerwca 2014. https://arxiv.org/abs/1406.2661 (dostęp 10 listopada 2026)
  7. arXiv, „Denoising Diffusion Probabilistic Models”, 19 czerwca 2020. https://arxiv.org/abs/2006.11239 (dostęp 10 listopada 2026)