Datenabfluss durch ein Bild in einem KI-Assistenten
Ein versteckter Text in einer E-Mail kann einen KI-Assistenten ein Bild anzeigen lassen, das Ihre Daten trägt. Fälle EchoLeak, GrafanaGhost, Abwehr.
Auf dieser Seite
In 30 Sekunden
- Wo es vorkommt
- Wenn ein KI-Assistent einen Inhalt liest, den er nicht selbst geschrieben hat, etwa eine E-Mail, eine Webseite oder ein Dokument[3].
- Was der Angreifer will
- Daten des Unternehmens auf einen Server schleusen, den er kontrolliert[2].
- Der Reflex
- Geben Sie dem Assistenten nur die Daten, die für die Aufgabe nötig sind, denn eine versehentlich übergebene Information kann später in seinen Antworten wieder auftauchen[4].
Worum es geht
Im Fall von EchoLeak hat ein KI-Assistent Daten des Unternehmens abfließen lassen, ohne dass jemand auf irgendetwas geklickt hat[1]. Ein versteckter Text in einer E-Mail oder in einem Dokument gibt dem Assistenten Anweisungen[3]. Dieser zeigt daraufhin ein Bild an, dessen Adresse die Daten enthält[3], und das Bild wird automatisch abgerufen[1].
Zwei Fälle beschreiben diesen Mechanismus. Zu EchoLeak in Microsoft 365 Copilot beschreibt ein Artikel von Forschern eine Exfiltration von Daten aus der Ferne und ohne Authentifizierung durch eine einzige präparierte E-Mail, die automatisch abgerufene Bilder ausnutzt[1]. Bei GrafanaGhost haben Forscher eine Schwachstelle offengelegt, durch die der Assistent von Grafana ein externes Bild anzeigen konnte, das Daten des Unternehmens in einem Adressparameter an den Angreifer sendete[2].
Direkte Fragen
Muss man klicken, damit die Daten abfließen?
Nicht bei EchoLeak: Der beschriebene Angriff funktioniert ohne Zutun des Benutzers[1]. Bei GrafanaGhost hat Grafana erklärt, die Ausnutzung hätte eine erhebliche Interaktion des Benutzers erfordert[2].
Was ist eine indirekte Prompt-Injection?
Laut dem britischen NCSC ist das der Fall, in dem ein Angreifer ohne direkten Zugang zum KI-System etwas schreibt, das am Ende vom System verarbeitet und für eine Anweisung gehalten wird[5]. OWASP zählt zu dieser Kategorie den Inhalt von E-Mails und Anhängen, die von KI-Assistenten verarbeitet werden, sowie versteckten Text in Webseiten, Dokumenten oder E-Mails[3].
Warum gehorcht der Assistent einem Text, den man nicht sieht?
Laut dem britischen NCSC setzen die heutigen großen Sprachmodelle innerhalb eines Prompts keine Sicherheitsgrenze zwischen Anweisungen und Daten durch[5]. OWASP ergänzt, dass Verarbeitungsketten für Dokumente dem Modell häufig den extrahierten Text übergeben, ohne Rücksicht auf die Darstellung, sodass ein für den Leser unsichtbarer Text das Modell trotzdem erreicht[3].
Welche Daten können abfließen?
OWASP nennt personenbezogene Daten, Finanzinformationen, Gesundheitsakten, vertrauliche Daten des Unternehmens, Sicherheitszugangsdaten sowie Rechtsdokumente[4].
Genügt ein Filter für verdächtige Sätze?
Nein. Laut OWASP ist das Filtern von Eingaben keine Sicherheitsgrenze: Ein Angreifer kann eine Anweisung auf viele Arten umformulieren, die eine Sperrliste nicht erkennt[3]. Auch das britische NCSC warnt davor, bekannte schädliche Inhalte zu blockieren, denn es gibt unendlich viele Umformulierungen eines Angriffs[5].
Kann dieses Risiko verschwinden?
Das britische NCSC hält es für möglich, dass die Prompt-Injection nie vollständig gemindert wird. Sicherheitsteams müssten wissen, dass sie ein Restrisiko bleibt, das durch Konzeption, Aufbau und Betrieb gesteuert wird[5].
In der Haut des Angreifers
Der Angreifer hat keinen Zugang zum Assistenten. Er schreibt einen Inhalt, den dieser am Ende lesen wird: eine E-Mail, ein Dokument, eine Seite[5]. Darin versteckt er Anweisungen, zum Beispiel mit Text in der Farbe des Hintergrunds, winzigem Text, überdecktem Text oder Text außerhalb der Seite[3].
Sein Ziel ist es, Daten des Unternehmens auf einen Server zu bekommen, den er kontrolliert[2]. OWASP beschreibt ein typisches Szenario: Ein persönlicher Assistent hat Zugriff auf den Posteingang, um eingehende E-Mails zusammenzufassen. Eine präparierte E-Mail bringt ihn dazu, den Posteingang nach sensiblen Informationen zu durchsuchen und sie an die Adresse des Angreifers weiterzuleiten[6]. In diesem Szenario enthält die vom Entwickler gewählte Erweiterung auch Funktionen zum Senden von Nachrichten, obwohl zum Zusammenfassen das Lesen genügt[6].
Zu EchoLeak beschreiben die Forscher eine Kette von Umgehungen: den Klassifikator XPIA (Cross Prompt Injection Attempt) von Microsoft, die Linkmaskierung (umgangen mit der Markdown-Syntax namens reference-style), automatisch geladene Bilder und einen Microsoft-Teams-Proxy, der von der Inhaltssicherheitsrichtlinie zugelassen war[1].
Was Sie auf dem Bildschirm sehen
Der präparierte Text ist nicht zu sehen: Das ist sein Prinzip[3]. OWASP weist darauf hin, dass in seinen Risikokarten die Benutzer einer vertrauenswürdigen KI für Observabilität den Datenabfluss unwissentlich auslösen konnten[2].
Der Datenabfluss läuft über ein Bild. Das Beispiel von OWASP ist ein verborgenes Bild-Tag, dessen Adresse die zu stehlende Information enthält[3]. Hier eine neutralisierte Illustration dieses Prinzips, die nicht funktioniert:
Neutralisierte, nicht funktionsfähige Illustration.
[Versteckter Text in einer E-Mail: Anweisung, die den Assistenten auffordert, ein Bild anzuzeigen]
Im Fall GrafanaGhost konnte der schädliche Kontext den Assistenten dazu bringen, seine Leitplanken zu ignorieren und ein externes Bild anzuzeigen, das die Daten als Adressparameter an den Angreifer sendete[2].
Unter der HaubeIT-Teams
Der Mechanismus besteht aus drei Elementen.
- Das Bild wird ohne Zutun des Benutzers abgerufen: EchoLeak nutzte automatisch geladene Bilder aus[1].
- Die Daten reisen in der Adresse des Bildes, als Adressparameter[2].
- Die Darstellung der Antwort des Assistenten wird zum Ausgabekanal: OWASP ordnet GrafanaGhost insbesondere der unsachgemäßen Behandlung der Modellausgaben (LLM05:2025) zu[2].
Die vom Unternehmen erwarteten Abwehrmaßnahmen betreffen diese drei Punkte.
- Filtern, was der Assistent anzeigt. Zu GrafanaGhost empfiehlt OWASP, externen Kontext zu bereinigen, die ausgehende Darstellung einzuschränken und die Prüfung von Adressen zu verstärken[2]. Die Checkliste von OWASP verlangt außerdem eine Bereinigung von HTML und Markdown bei der Anzeige[3]. Ein Leitplanken-Modell kann die Antwort prüfen, bevor sie dargestellt wird, auch um Markup für den Datenabfluss zu erkennen, ist aber selbst ein Modell und kann einer Prompt-Injection unterliegen[3].
- Die Rechte des Assistenten begrenzen. Die Autoren der EchoLeak-Studie ziehen als Lehre das Prinzip der geringsten Rechte, die gestaffelte Verteidigung und fortlaufende Tests aus Angreifersicht[1]. OWASP gibt Beispiele: dem Agenten keine Erweiterung anbieten, die den Inhalt einer Webadresse abruft, wenn das System sie nicht braucht, und eine Nachrichtenerweiterung auf das Lesen beschränken[6]. OWASP empfiehlt die Genehmigung durch einen Menschen für Aktionen mit großer Wirkung[6].
- Nach Herkunft trennen. Das britische NCSC nennt eine einfache Regel: Verarbeitet ein Modell Informationen einer Partei, sinken seine Privilegien auf die dieser Partei. Ein Assistent, der E-Mails externer Personen verarbeitet, darf daher keinen Zugriff auf privilegierte Werkzeuge haben[5].
Das britische NCSC hält fest, dass kein Produkt genügt, um die Prompt-Injection zu beseitigen, und dass man bestenfalls hoffen kann, ihre Wahrscheinlichkeit oder ihre Auswirkung zu verringern[5]. Für das britische NCSC sollten die Schutzmaßnahmen in der Konzeption eher auf deterministische Leitplanken außerhalb des Modells zielen, die die Aktionen des Systems begrenzen[5]. OWASP empfiehlt, diese Grenzen mit Scheindaten und instrumentierten Ersatzwerkzeugen zu testen[3].
Für Beschäftigte gilt laut OWASP: Die Benutzer sollten das Risiko verstehen, unbeabsichtigt sensible Daten zu übergeben, die dann in der Ausgabe des Modells erscheinen können[4]. OWASP empfiehlt, Hinweise bereitzustellen, um die Eingabe sensibler Informationen zu vermeiden[4], und nur Zugriff auf die Daten zu gewähren, die der betreffende Benutzer oder Prozess braucht[4].
FallanalysenReale Fälle
EchoLeak in Microsoft 365 Copilot, Studie vom September 2025
EchoLeak trägt die Kennung CVE-2025-32711. Die Forscher beschreiben es als Prompt-Injection ohne Klick in Microsoft 365 Copilot, die eine Exfiltration von Daten aus der Ferne und ohne Authentifizierung durch eine einzige präparierte E-Mail ermöglichte[1]. Der Artikel wurde am 6. September 2025 auf arXiv hinterlegt und erschien in der AAAI Fall Symposium Series 2025[1].
Die beschriebene Kette kombiniert die Umgehung des Klassifikators XPIA, die Markdown-Syntax reference-style, automatisch geladene Bilder und einen Teams-Proxy, der von der Inhaltssicherheitsrichtlinie zugelassen war[1]. Als Maßnahmen schlagen die Autoren die Aufteilung der Prompts, ein verstärktes Filtern der Eingaben und Ausgaben, eine herkunftsbasierte Zugriffskontrolle und strenge Inhaltssicherheitsrichtlinien vor[1].
GrafanaGhost, April 2026
OWASP datiert die Offenlegung auf den 7. April 2026 und die Bestätigung eines Patches auf den 8. April[2]. Noma Security fand eine Schwäche in den KI-Komponenten von Grafana, durch die sich das System auf externe Ressourcen mit versteckten Anweisungen lenken ließ[2]. Der Assistent konnte dann ein externes Bild anzeigen, das Daten des Unternehmens als Adressparameter an den Angreifer sendete[2].
Grafana gab anschließend an, ein Problem bei der Darstellung von Markdown-Bildern sei schnell behoben worden und die Ausnutzung hätte eine erhebliche Interaktion des Benutzers erfordert[2]. OWASP präzisiert, dass keine öffentliche CVE vergeben wurde und ein teilweiser Patch auf die Darstellungskomponente angewendet wurde[2]. Es handelt sich um eine Offenlegung aus der Forschung[2].
ChatGPT und personenbezogene Daten, Mai 2024
In einem am 31. Mai 2024 hinterlegten Artikel berichtet der Autor, ChatGPT 4 und 4o seien anfällig für eine Prompt-Injection gewesen, die es einem Angreifer erlaubte, personenbezogene Daten der Benutzer zu exfiltrieren[7]. Nach seinen Angaben ließ sich der Angriff ohne Werkzeug eines Dritten anwenden, und alle Benutzer waren damals betroffen[7]. Die Speicherfunktion von ChatGPT verschlimmerte die Schwachstelle, denn sie erlaubte es dem Angreifer, den Benutzer überwachen zu lassen, um die gewünschten Daten zu erhalten[7].
Quellen
- arXiv, „EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System“, 6. September 2025. https://arxiv.org/abs/2509.10540 (abgerufen am 14. November 2026)
- OWASP, „OWASP GenAI Exploit Round-up Report Q1 2026“, 14. April 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (abgerufen am 14. November 2026)
- OWASP, „LLM Prompt Injection Prevention Cheat Sheet“. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (abgerufen am 14. November 2026)
- OWASP, „LLM02:2025 Sensitive Information Disclosure“, 10. April 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (abgerufen am 14. November 2026)
- NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)“, 8. Dezember 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (abgerufen am 14. November 2026)
- OWASP, „LLM06:2025 Excessive Agency“, 10. April 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (abgerufen am 14. November 2026)
- arXiv, „Exfiltration of personal information from ChatGPT via prompt injection“, 31. Mai 2024. https://arxiv.org/abs/2406.00199 (abgerufen am 14. November 2026)
Diesen Artikel zitieren
Brain, „Datenabfluss durch ein Bild in einem KI-Assistenten“, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp284_de_2026,
author = {Brain},
title = {Datenabfluss durch ein Bild in einem KI-Assistenten},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/de/articles/exfiltration-daten-markdown-ki-assistent/},
note = {CC BY 4.0}
}