Deepfakes an Bild und Ton erkennen
Ein synthetisches Gesicht oder eine Stimme kann Führungskräfte und Kollegen imitieren. Was belegt ist und warum ein anderer Kanal nötig ist.
Auf dieser Seite
In 30 Sekunden
- Wo es vorkommt
- Telefonanruf oder andere Sprachkommunikation[1] oder Nachricht über einen Messaging-Dienst[5], mit einer Identität, die einer vertrauten Person entlehnt ist.
- Was der Angreifer will
- Sich per Telefon Zugang zu Systemen verschaffen[1].
- Der Reflex
- Anrufern misstrauen und ihre Identität überprüfen[1]. Für diesen Artikel heißt das: die Anfrage über einen anderen Kanal bestätigen als den, über den sie kam, ohne sich auf Gesicht oder Stimme zu verlassen.
- Wenn es schon passiert ist
- Sofort die Sicherheitsabteilung des Unternehmens informieren, mit der Uhrzeit des Anrufs und dem genutzten Kanal.
Worum es geht
Ein Deepfake ist ein Bild, ein Video oder eine Stimme, die von einem KI-Modell erzeugt wird, um einer realen Person zu ähneln. Für Beschäftigte liegt die Gefahr darin, dass ein vertrautes Gesicht oder eine vertraute Stimme dazu dienen, eine Forderung durchzubringen: eine „Führungskraft“, die dringend eine Überweisung verlangt, ein „Kollege“, der um einen Zugang bittet.
Dieser Artikel beschreibt, was das Opfer wahrnimmt, wie diese Inhalte hergestellt werden und warum Auge und Ohr nicht genügen, um es zu entscheiden.
Direkte Fragen
Kann man ein Deepfake mit bloßem Auge erkennen?
Die Erzeugungstechniken liefern unter bestimmten Bedingungen „sehr realistische“ Gesichtsbilder und Videos[2]. Das NIST widmet sich seinerseits der Bewertung von Analysesystemen gegenüber KI-erzeugten Bild-Deepfakes[3].
Warum verschwinden sichtbare Fehler?
Die generativen Modelle werden besser. Eine Übersichtsstudie stellt fest, dass generative adversariale Netze (GAN) beeindruckende Ergebnisse geliefert haben und dass dann Diffusionsmodelle die Forschung neu belebt haben[2]. Dieselbe Studie gibt an, dass sich auch die Erkennungstechniken laufend weiterentwickeln[2].
Was sagen die Behörden zur Bedrohung?
Am 12. September 2023 haben die NSA, das FBI und die CISA ein Informationsblatt mit dem Titel „Contextualizing Deepfake Threats to Organizations“ veröffentlicht. Es stellt die Bedrohungen, Techniken und Trends synthetischer Medien dar, darunter Deepfakes, und empfiehlt Organisationen, darin Maßnahmen zu suchen, um sich vorzubereiten, zu identifizieren, sich zu verteidigen und zu reagieren[4]. Nach Angaben der Behörden haben diese Bedrohungen „exponentially increased“[4].
Was tun, wenn die Anfrage von einem Vorgesetzten kommt?
Über einen anderen Kanal überprüfen. MITRE empfiehlt, Benutzer darin zu schulen, Anrufern zu misstrauen und deren Identität zu überprüfen[1]. In der Praxis: auflegen und die Person dann unter einer bereits bekannten Nummer zurückrufen oder über den internen Messenger erreichen.
In der Haut des Angreifers
Der Angreifer will jemanden zum Handeln bringen. MITRE beschreibt „Spearphishing Voice“ als Variante des gezielten Phishings, die einen Benutzer per Telefonanruf oder andere Sprachkommunikation dazu bringt, Zugang zu Systemen zu geben[1]. Das Verfahren läuft oft über Social Engineering: sich als vertrauenswürdige Quelle ausgeben und bei der Person ein Gefühl von Dringlichkeit oder Alarm erzeugen[1].
Eine synthetische Stimme oder ein synthetisches Gesicht fügt diesem Szenario eine Schicht hinzu: Das Gegenüber ist nicht mehr nur jemand, der vorgibt, die Führungskraft zu sein, es hat deren Aussehen oder Stimmklang.
Der Angreifer kann auch eine Phase des Vertrauensaufbaus einschieben. MITRE beschreibt Angreifer, die falsche Konten in sozialen Netzwerken anlegen, mit Beschäftigten ins Gespräch kommen und dann Links oder Anhänge über einen Dienst schicken, den das Unternehmen nicht kontrolliert, etwa einen privaten Messaging-Dienst, der am Arbeitsrechner abgerufen wird[5]. Diese Dienste haben mit größerer Wahrscheinlichkeit eine weniger strenge Sicherheitsrichtlinie als ein Unternehmen[5].
Was Sie auf dem Bildschirm sehen
Das Opfer sieht oder hört eine Person, die es zu kennen glaubt. Die Anfrage hat mit anderem Phishing eine vertrauenswürdige Identität und Dringlichkeit gemeinsam[1].
Hier eine neutralisierte Illustration dessen, was ein solcher Anruf enthalten kann. Sie ist für das Beispiel erfunden und gibt keinen realen Fall wieder.
Illustration (fiktiver Fall, Adresse neutralisiert)
Anruf von [Stimme, die eine Führungskraft imitiert]:
[Aufforderung, eine dringende und vertrauliche Zahlung zu veranlassen,
Aufforderung, niemanden zu informieren und sich dann unter
hxxps://dringender-zugang[.]beispiel[.]invalid anzumelden, um sie zu bestätigen]MITRE vermerkt außerdem, dass Sprach-Phishing mit der Erzeugung von Anfragen zur Multifaktor-Authentifizierung kombiniert werden kann, um das Opfer dazu zu bringen, seine MFA-Zugangsdaten preiszugeben oder Authentifizierungsanfragen zu akzeptieren[1].
Unter der HaubeIT-Teams
Zwei Modellfamilien kehren wieder.
Generative adversariale Netze, kurz GAN, wurden in einem am 10. Juni 2014 eingereichten Artikel vorgeschlagen. Das Prinzip: Zwei Modelle werden gemeinsam trainiert, ein Generator, der die Verteilung der Trainingsdaten erfasst, und ein Diskriminator, der schätzt, ob eine Probe aus diesen Daten oder vom Generator stammt[6]. Das Training des Generators zielt darauf ab, die Wahrscheinlichkeit zu maximieren, dass sich der Diskriminator irrt[6]. Diffusionsmodelle folgten. Ein am 19. Juni 2020 eingereichter Artikel stellt Ergebnisse der Bildsynthese in hoher Qualität mit probabilistischen Diffusionsmodellen vor und gibt auf dem Datensatz LSUN in 256x256 eine Qualität der Proben an, die der von ProgressiveGAN ähnlich ist[7].
Die Übersichtsstudie zu Deepfakes unterscheidet vier Bereiche: den Gesichtstausch, die Nachstellung von Gesichtsausdrücken (Face Reenactment), die Erzeugung sprechender Gesichter und die Bearbeitung von Gesichtsmerkmalen, hinzu kommt die Erkennung von Fälschungen[2].
Auf der Verteidigungsseite schlägt MITRE bei betrügerischen Anrufen vor, die Anruflisten dienstlicher Geräte auf ungewöhnliche oder nicht autorisierte Nummern zu überwachen und sie dann mit nachfolgenden Systemereignissen zu korrelieren, etwa der Ausführung eines Fernwartungswerkzeugs[1].
FallanalysenReale Fälle
Die beiden folgenden Fälle sind Anrufe von Personen, die sich als IT-Support ausgeben, ohne Hinweis auf eine synthetische Stimme. Sie zeigen das Szenario, das Deepfakes verstärken können.
Scattered Spider: falsche IT-Mitarbeiter am Telefon
MITRE berichtet, dass sich die Gruppe Scattered Spider während der Kampagne C0027 bei Anrufen als legitimes IT-Personal ausgab, um die Opfer dazu zu bringen, ein Werkzeug zur Überwachung und Fernwartung (RMM) herunterzuladen, das ihr die Kontrolle über ihren Arbeitsplatzrechner ermöglichen würde[1].
Storm-1811: Anrufe vom „technischen Support“
MITRE gibt an, dass Storm-1811 Sprachanrufe startete und sich dabei als IT-Support ausgab, um Benutzer zum Herunterladen und Ausführen von Skripten und Werkzeugen zu bewegen, die als Erstzugang dienten[1]. Microsoft Threat Intelligence hat am 15. Mai 2024 einen Beitrag über die zweckentfremdete Nutzung von Quick Assist in Social-Engineering-Angriffen veröffentlicht, die zu Ransomware führen[1].
Quellen
- MITRE ATT&CK, „Phishing: Spearphishing Voice, Sub-technique T1566.004 - Enterprise“. https://attack.mitre.org/techniques/T1566/004/ (abgerufen am 10. November 2026)
- arXiv, „Deepfake Generation and Detection: A Benchmark and Survey“, 26. März 2024. https://arxiv.org/abs/2403.17881 (abgerufen am 10. November 2026)
- NIST, „Guardians of Forensic Evidence: Evaluating Analytic Systems Against AI-Generated Deepfakes“, 27. Januar 2025. https://www.nist.gov/publications/guardians-forensic-evidence-evaluating-analytic-systems-against-ai-generated-deepfakes (abgerufen am 10. November 2026)
- CISA, „NSA, FBI, and CISA Release Cybersecurity Information Sheet on Deepfake Threats“, 12. September 2023. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats (abgerufen am 10. November 2026)
- MITRE ATT&CK, „Phishing: Spearphishing via Service, Sub-technique T1566.003 - Enterprise“. https://attack.mitre.org/techniques/T1566/003/ (abgerufen am 10. November 2026)
- arXiv, „Generative Adversarial Networks“, 10. Juni 2014. https://arxiv.org/abs/1406.2661 (abgerufen am 10. November 2026)
- arXiv, „Denoising Diffusion Probabilistic Models“, 19. Juni 2020. https://arxiv.org/abs/2006.11239 (abgerufen am 10. November 2026)
Diesen Artikel zitieren
Brain, „Deepfakes an Bild und Ton erkennen“, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp298_de_2026,
author = {Brain},
title = {Deepfakes an Bild und Ton erkennen},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/de/articles/visuelle-akustische-hinweise-deepfake/},
note = {CC BY 4.0}
}