Cyberpediapor Brain

Detetar um deepfake pela imagem e pelo som

Um rosto ou uma voz sintética pode imitar um dirigente ou um colega. O que está estabelecido e porque convém verificar por outro canal.

Nesta página
  1. 1Em 30 segundos
  2. 2Do que se trata
  3. 3Perguntas diretas
  4. 4Na pele do atacante
  5. 5O que vê no ecrã
  6. 6Por baixo do capô
  7. 7Autópsias
  8. 8Fontes
  9. 9Citar este artigo

Em 30 segundos

Onde acontece
Chamada telefónica ou outra comunicação por voz[1], ou mensagem enviada por um serviço de mensagens[5], com uma identidade emprestada de alguém de confiança.
O que quer o atacante
Obter acesso aos sistemas por telefone[1].
O reflexo
Desconfiar de quem telefona e verificar a sua identidade[1]. Para esta ficha, isso significa confirmar o pedido por um canal diferente daquele em que foi feito, sem confiar no rosto nem na voz.
Se já aconteceu
Avisar sem demora o serviço de segurança da empresa, indicando a hora da chamada e o canal utilizado.
Mapa do artigo

Do que se trata

Um deepfake é uma imagem, um vídeo ou uma voz fabricada por um modelo de inteligência artificial para se parecer com uma pessoa real. Para um colaborador, o perigo está em que um rosto ou uma voz familiares sirvam para fazer passar um pedido: um «dirigente» que exige uma transferência urgente, um «colega» que pede um acesso.

Esta ficha descreve o que a vítima perceciona, a forma como estes conteúdos são fabricados e a razão pela qual o olho e o ouvido não bastam para decidir.

Perguntas diretas

É possível reconhecer um deepfake a olho nu?

As técnicas de geração produzem, em certas condições, imagens e vídeos faciais «muito realistas»[2]. O NIST dedica, por seu lado, trabalhos à avaliação de sistemas de análise face a deepfakes de imagens geradas por IA[3].

Porque desaparecem os defeitos visíveis?

Os modelos generativos progridem. Um estudo de síntese observa que as redes generativas antagónicas (GAN) deram resultados impressionantes e que, depois, os modelos de difusão relançaram a investigação[2]. O mesmo estudo indica que as técnicas de deteção também evoluem continuamente[2].

O que dizem as autoridades sobre a ameaça?

A 12 de setembro de 2023, a NSA, o FBI e a CISA publicaram uma ficha de informação, «Contextualizing Deepfake Threats to Organizations». Apresenta as ameaças, as técnicas e as tendências dos meios de comunicação sintéticos, incluindo os deepfakes, e recomenda às organizações que procurem nela medidas para se prepararem, identificarem, se defenderem e responderem[4]. As agências escrevem que estas ameaças «exponentially increased»[4].

E se o pedido vier de um superior hierárquico?

Verificar por outro canal. O MITRE recomenda formar os utilizadores para desconfiarem de quem telefona e para verificarem a sua identidade[1]. Na prática: desligar e depois voltar a ligar à pessoa para um número já conhecido, ou contactá-la pela mensagem interna da empresa.

Na pele do atacante

O atacante procura fazer alguém agir. O MITRE descreve o «spearphishing voice» como uma variante do phishing dirigido que leva um utilizador a dar acesso a sistemas através de uma chamada telefónica ou de outra comunicação por voz[1]. O procedimento recorre muitas vezes à engenharia social: fazer-se passar por uma fonte de confiança e criar na pessoa um sentimento de urgência ou de alarme[1].

Uma voz ou um rosto sintético acrescenta uma camada a este cenário: o interlocutor já não é apenas alguém que afirma ser o dirigente, tem a sua aparência ou o seu timbre.

O atacante pode também passar por uma etapa de criação de confiança. O MITRE descreve atacantes que criam contas falsas em redes sociais, iniciam conversa com colaboradores e depois enviam ligações ou anexos através de um serviço que a empresa não controla, como um correio pessoal consultado no computador de trabalho[5]. É mais provável que esses serviços tenham uma política de segurança menos rigorosa do que a de uma empresa[5].

O que vê no ecrã

A vítima vê ou ouve uma pessoa que julga conhecer. O pedido tem em comum com os outros phishings uma identidade de confiança e uma urgência[1].

Segue-se uma ilustração, neutralizada, do que pode conter uma chamada deste tipo. É inventada para o exemplo e não reproduz nenhum caso real.

Excerto
Ilustração (caso fictício, endereço neutralizado)
Chamada de [voz a imitar um dirigente]:
[pedido para executar um pagamento urgente e confidencial,
 pedido para não avisar ninguém e, depois, para iniciar sessão em
 hxxps://acesso-urgente[.]exemplo[.]invalid para validar]

O MITRE observa também que o phishing por voz pode ser combinado com a geração de pedidos de autenticação multifator, para levar a vítima a divulgar as suas credenciais MFA ou a aceitar pedidos de autenticação[1].

Por baixo do capôEquipas de TI

Voltam duas famílias de modelos.

As redes generativas antagónicas, ou GAN, foram propostas num artigo submetido a 10 de junho de 2014. O princípio: dois modelos são treinados em conjunto, um gerador que capta a distribuição dos dados de treino e um discriminador que estima se uma amostra vem desses dados ou do gerador[6]. O treino do gerador visa maximizar a probabilidade de o discriminador se enganar[6]. Os modelos de difusão vieram a seguir. Um artigo submetido a 19 de junho de 2020 apresenta resultados de síntese de imagens de alta qualidade com modelos de difusão probabilísticos e indica, no conjunto LSUN em 256x256, uma qualidade de amostras semelhante à do ProgressiveGAN[7].

O estudo de síntese sobre os deepfakes distingue quatro domínios: a troca de rosto, a reconstituição de expressões (face reenactment), a geração de rosto falante e a edição de atributos do rosto, a que se junta a deteção de falsificação[2].

Do lado da defesa, o MITRE propõe, para as chamadas fraudulentas, vigiar os registos de chamadas dos dispositivos profissionais à procura de números invulgares ou não autorizados e depois correlacioná-los com os eventos de sistema que se seguem, como a execução de uma ferramenta de gestão remota[1].

AutópsiasCasos reais

Os dois casos abaixo são chamadas de pessoas que se fazem passar pelo suporte informático, sem indicação de uma voz sintética. Mostram o cenário que os deepfakes podem reforçar.

Scattered Spider: falsos informáticos ao telefone

O MITRE refere que, durante a campanha C0027, o grupo Scattered Spider se fez passar por pessoal informático legítimo em chamadas, para levar as vítimas a descarregar uma ferramenta de supervisão e gestão remota (RMM) que lhe permitiria tomar o controlo do seu posto[1].

Storm-1811: chamadas de «suporte técnico»

O MITRE indica que o Storm-1811 lançou chamadas de voz fazendo-se passar pelo suporte informático, para incitar os utilizadores a descarregar e executar scripts e ferramentas que servem de acesso inicial[1]. A Microsoft Threat Intelligence publicou a 15 de maio de 2024 um artigo sobre a utilização abusiva do Quick Assist em ataques de engenharia social que conduzem a ransomware[1].

Fontes

  1. MITRE ATT&CK, «Phishing: Spearphishing Voice, Sub-technique T1566.004 - Enterprise». https://attack.mitre.org/techniques/T1566/004/ (consultado em 10 de novembro de 2026)
  2. arXiv, «Deepfake Generation and Detection: A Benchmark and Survey», 26 de março de 2024. https://arxiv.org/abs/2403.17881 (consultado em 10 de novembro de 2026)
  3. NIST, «Guardians of Forensic Evidence: Evaluating Analytic Systems Against AI-Generated Deepfakes», 27 de janeiro de 2025. https://www.nist.gov/publications/guardians-forensic-evidence-evaluating-analytic-systems-against-ai-generated-deepfakes (consultado em 10 de novembro de 2026)
  4. CISA, «NSA, FBI, and CISA Release Cybersecurity Information Sheet on Deepfake Threats», 12 de setembro de 2023. https://www.cisa.gov/news-events/alerts/2023/09/12/nsa-fbi-and-cisa-release-cybersecurity-information-sheet-deepfake-threats (consultado em 10 de novembro de 2026)
  5. MITRE ATT&CK, «Phishing: Spearphishing via Service, Sub-technique T1566.003 - Enterprise». https://attack.mitre.org/techniques/T1566/003/ (consultado em 10 de novembro de 2026)
  6. arXiv, «Generative Adversarial Networks», 10 de junho de 2014. https://arxiv.org/abs/1406.2661 (consultado em 10 de novembro de 2026)
  7. arXiv, «Denoising Diffusion Probabilistic Models», 19 de junho de 2020. https://arxiv.org/abs/2006.11239 (consultado em 10 de novembro de 2026)