Cyberpediadi Brain

Riconoscere un deepfake dall'immagine e dal suono

Un volto o una voce sintetica possono imitare un dirigente o un collega. Cosa è accertato e perché verificare tramite un altro canale.

In questa pagina
  1. 1In 30 secondi
  2. 2Di cosa si tratta
  3. 3Domande dirette
  4. 4Nei panni dell'attaccante
  5. 5Cosa si vede sullo schermo
  6. 6Sotto il cofano
  7. 7Autopsie
  8. 8Fonti
  9. 9Cita questo articolo

In 30 secondi

Dove accade
Chiamata telefonica o altra comunicazione vocale[1], o messaggio inviato tramite un servizio di messaggistica[5], con un'identità presa in prestito da qualcuno di cui ci si fida.
Cosa vuole l'attaccante
Ottenere un accesso ai sistemi per telefono[1].
Il riflesso
Diffidare di chi chiama e verificarne l'identità[1]. Per l'articolo, significa confermare la richiesta tramite un canale diverso da quello della richiesta, senza fidarsi del volto o della voce.
Se è già successo
Avvisare senza attendere il servizio di sicurezza dell'azienda, con l'ora della chiamata e il canale utilizzato.
Mappa dell'articolo

Di cosa si tratta

Un deepfake è un'immagine, un video o una voce fabbricata da un modello di intelligenza artificiale per somigliare a una persona reale. Per un dipendente, il pericolo sta nel fatto che un volto o una voce familiari servono a far passare una richiesta: un «dirigente» che reclama un bonifico urgente, un «collega» che chiede un accesso.

Questo articolo descrive ciò che la vittima percepisce, il modo in cui questi contenuti vengono fabbricati e il motivo per cui l'occhio e l'orecchio non bastano a decidere.

Domande dirette

Si può riconoscere un deepfake a occhio nudo?

Le tecniche di generazione producono, in certe condizioni, immagini e video facciali «molto realistici»[2]. Il NIST dedica dal canto suo dei lavori alla valutazione di sistemi di analisi contro i deepfake di immagini generati da IA[3].

Perché i difetti visibili scompaiono?

I modelli generativi progrediscono. Uno studio di sintesi osserva che le reti antagoniste generative (GAN) hanno dato risultati impressionanti, poi che i modelli di diffusione hanno rilanciato la ricerca[2]. Lo stesso studio indica che anche le tecniche di rilevamento evolvono in continuazione[2].

Cosa si dice della minaccia da parte delle autorità?

Il 12 settembre 2023, la NSA, l'FBI e la CISA hanno pubblicato una scheda informativa, «Contextualizing Deepfake Threats to Organizations». Presenta le minacce, le tecniche e le tendenze dei media sintetici, tra cui i deepfake, e raccomanda alle organizzazioni di cercarvi misure per prepararsi, identificare, difendersi e rispondere[4]. Le agenzie scrivono che queste minacce hanno «exponentially increased»[4].

Cosa fare se la richiesta arriva da un capo?

Verificare tramite un altro canale. MITRE raccomanda di formare gli utenti a diffidare di chi chiama e a verificarne l'identità[1]. In pratica: riagganciare, poi richiamare la persona a un numero già noto, oppure contattarla tramite la messaggistica interna.

Nei panni dell'attaccante

L'attaccante cerca di far agire qualcuno. MITRE descrive lo «spearphishing voice» come una variante del phishing mirato che spinge un utente a dare accesso a dei sistemi tramite una chiamata telefonica o un'altra comunicazione vocale[1]. Il procedimento passa spesso per l'ingegneria sociale: spacciarsi per una fonte attendibile e creare nella persona un senso di urgenza o di allarme[1].

Una voce o un volto sintetico aggiunge uno strato a questo scenario: l'interlocutore non è più soltanto qualcuno che pretende di essere il dirigente, ne ha l'aspetto o il timbro.

L'attaccante può anche passare per una fase di costruzione della fiducia. MITRE descrive attaccanti che creano falsi account su dei social network, avviano la conversazione con dei dipendenti, poi inviano link o allegati tramite un servizio non controllato dall'azienda, come una messaggistica personale consultata sul computer di lavoro[5]. È più probabile che questi servizi abbiano una politica di sicurezza meno rigorosa di quella di un'azienda[5].

Cosa si vede sullo schermo

La vittima vede o sente una persona che crede di conoscere. La richiesta ha in comune con gli altri phishing un'identità attendibile e un'urgenza[1].

Ecco un'illustrazione, neutralizzata, di ciò che può contenere una chiamata di questo tipo. È inventata per l'esempio e non riproduce alcun caso reale.

Estratto
Illustrazione (caso fittizio, indirizzo neutralizzato)
Chiamata da [voce che imita un dirigente]:
[richiesta di eseguire un pagamento urgente e riservato,
 richiesta di non avvisare nessuno, poi di collegarsi a
 hxxps://accesso-urgente[.]esempio[.]invalid per convalidare]

MITRE nota anche che il phishing vocale può essere combinato con la generazione di richieste di autenticazione a più fattori, per indurre la vittima a divulgare le proprie credenziali MFA o ad accettare richieste di autenticazione[1].

Sotto il cofanoTeam IT

Ricorrono due famiglie di modelli.

Le reti antagoniste generative, o GAN, sono state proposte in un articolo inviato il 10 giugno 2014. Il principio: due modelli vengono addestrati insieme, un generatore che coglie la distribuzione dei dati di addestramento e un discriminatore che stima se un campione proviene da questi dati o dal generatore[6]. L'addestramento del generatore mira a massimizzare la probabilità che il discriminatore si sbagli[6]. I modelli di diffusione sono seguiti. Un articolo inviato il 19 giugno 2020 presenta risultati di sintesi di immagini di alta qualità con modelli di diffusione probabilistici, e indica sul set LSUN in 256x256 una qualità dei campioni simile a quella di ProgressiveGAN[7].

Lo studio di sintesi sui deepfake distingue quattro ambiti: lo scambio di volto, la ricostruzione delle espressioni (face reenactment), la generazione di volto parlante e la modifica degli attributi del volto, a cui si aggiunge il rilevamento della falsificazione[2].

Sul fronte della difesa, MITRE propone per le chiamate fraudolente di sorvegliare i registri delle chiamate dei dispositivi aziendali alla ricerca di numeri insoliti o non autorizzati, poi di correlarli con eventi di sistema che seguono, come l'esecuzione di uno strumento di gestione remota[1].

AutopsieCasi reali

I due casi qui sotto sono chiamate di persone che si fingono assistenza informatica, senza indicazione di una voce sintetica. Mostrano lo scenario che i deepfake possono rafforzare.

Scattered Spider: falsi informatici al telefono

MITRE riferisce che, durante la campagna C0027, il gruppo Scattered Spider si è finto personale informatico legittimo nel corso di chiamate, per indurre le vittime a scaricare uno strumento di supervisione e gestione remota (RMM) che gli permetterebbe di prendere il controllo della loro postazione[1].

Storm-1811: chiamate di «supporto tecnico»

MITRE indica che Storm-1811 ha avviato chiamate vocali fingendosi assistenza informatica, per indurre gli utenti a scaricare ed eseguire script e strumenti che servono da accesso iniziale[1]. Microsoft Threat Intelligence ha pubblicato il 15 maggio 2024 un articolo sull'uso improprio di Quick Assist in attacchi di ingegneria sociale che portano a ransomware[1].

Fonti

  1. MITRE ATT&CK, «Phishing: Spearphishing Voice, Sub-technique T1566.004 - Enterprise». https://attack.mitre.org/techniques/T1566/004/ (consultato il 10 novembre 2026)
  2. arXiv, «Deepfake Generation and Detection: A Benchmark and Survey», 26 marzo 2024. https://arxiv.org/abs/2403.17881 (consultato il 10 novembre 2026)
  3. NIST, «Guardians of Forensic Evidence: Evaluating Analytic Systems Against AI-Generated Deepfakes», 27 gennaio 2025. https://www.nist.gov/publications/guardians-forensic-evidence-evaluating-analytic-systems-against-ai-generated-deepfakes (consultato il 10 novembre 2026)
  4. CISA, «NSA, FBI, and CISA Release Cybersecurity Information Sheet on Deepfake Threats», 12 settembre 2023. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats (consultato il 10 novembre 2026)
  5. MITRE ATT&CK, «Phishing: Spearphishing via Service, Sub-technique T1566.003 - Enterprise». https://attack.mitre.org/techniques/T1566/003/ (consultato il 10 novembre 2026)
  6. arXiv, «Generative Adversarial Networks», 10 giugno 2014. https://arxiv.org/abs/1406.2661 (consultato il 10 novembre 2026)
  7. arXiv, «Denoising Diffusion Probabilistic Models», 19 giugno 2020. https://arxiv.org/abs/2006.11239 (consultato il 10 novembre 2026)