La visioconférence deepfake

Le MITRE décrit l'hameçonnage comme de l'ingénierie sociale transmise par voie électronique. Quand il vise une personne, une entreprise ou un secteur précis, on parle de harponnage². La variante vocale passe par un appel ou une autre forme de communication orale pour amener l'utilisateur à donner accès à des systèmes³.

Le harponnage recourt souvent à deux leviers : se faire passer pour une source de confiance et créer un sentiment d'urgence ou d'alarme chez la personne visée³. Pour la collecte d'informations, le MITRE note aussi l'envoi de plusieurs messages d'apparence urgente⁴.

Le NCSC place le gain principal de l'IA pour les attaquants dans l'ingénierie sociale¹. Il juge aussi que l'IA améliore la reconnaissance, c'est-à-dire la recherche d'informations sur une cible pour trouver une voie d'accès, et rend cette étape et l'ingénierie sociale plus efficaces et plus difficiles à détecter¹.

Le cas décrit ici est un scénario sans source. Un message arrive, signé d'un supérieur, et propose une réunion en ligne. À l'écran, les participants ont l'air de collègues connus et parlent comme eux. La demande est pressante et confidentielle : un paiement à lancer sans attendre.

Le MITRE cite l'urgence parmi les leviers de l'attaquant³. Le NCSC prévient que les fautes de langue, longtemps utilisées pour reconnaître un faux, ne suffisent plus¹.

Illustration (message fictif, neutralisé) :
[Un « directeur » demande de rejoindre d'urgence une réunion
confidentielle via hxxps://reunion-exemple[.]invalid/salle-12
et annonce qu'un paiement est à traiter dans la journée.]

Les sources permettent de nommer les éléments suivants.

• Le premier contact est un message d'hameçonnage. Le MITRE précise qu'il peut passer par la messagerie, par des services tiers comme les réseaux sociaux, ou par des invitations de calendrier².
• L'usurpation d'identité sert à rendre l'émetteur crédible : le MITRE cite l'usurpation de l'adresse de l'expéditeur, qui peut tromper la personne comme les outils de sécurité automatiques².
• La phase de reconnaissance prépare la cible. Le MITRE classe l'hameçonnage pour obtenir des informations dans la tactique de reconnaissance, avec pour but de collecter des données plutôt que d'exécuter du code malveillant⁴.
• L'IA générative peut produire du texte, des images ou de la vidéo¹.
• Le MITRE cite, parmi les leviers du harponnage, la source de confiance simulée et l'urgence³.

Le NCSC estime que les usages les plus sophistiqués de l'IA resteront limités aux acteurs disposant de données d'entraînement de qualité, d'expertise et de moyens¹. Il ajoute que la généralisation de ces capacités sur les marchés criminels les mettra à la portée de tous ceux qui acceptent de payer¹.

Côté défense, le NIST a publié un cadre de gestion des risques de l'IA d'usage volontaire, sorti le 26 janvier 2023, puis, le 26 juillet 2024, un profil consacré à l'IA générative qui aide les organisations à identifier les risques propres à l'IA générative⁵.

Scattered Spider : de faux informaticiens au téléphone

Le MITRE indique que, lors de la campagne C0027, le groupe Scattered Spider s'est fait passer pour du personnel informatique légitime au téléphone. Il a ainsi dirigé ses victimes vers le téléchargement d'un outil d'administration à distance qui lui permettait de contrôler leur machine³. La page ne donne pas de date pour cette campagne. Elle montre toutefois le schéma commun avec une visioconférence truquée : une voix de confiance qui demande un geste.

Storm-1811 : faux support technique

Selon le MITRE, Storm-1811 a lancé des appels en se présentant comme le support informatique, pour inciter les utilisateurs à télécharger et exécuter des scripts et d'autres outils³. Les références de la page citent notamment un rapport de Microsoft Threat Intelligence daté du 15 mai 2024³.

Le contrôle qui compte

Le MITRE recommande, pour cette technique, de vérifier l'identité de l'appelant³. Pour un paiement, cela revient à rappeler la personne sur un canal que vous connaissez déjà et à ne rien exécuter sur la seule foi d'une réunion en ligne. La double validation des virements est une mesure d'organisation que la direction met en place. Les sources du dossier ne la décrivent pas.