Wyciek danych przez obraz w asystencie AI
Ukryty tekst w e-mailu może skłonić asystenta AI do wyświetlenia obrazu przenoszącego Pana/Pani dane. Przypadki EchoLeak i GrafanaGhost, obrona.
Na tej stronie
W 30 sekund
- Gdzie to się zdarza
- Gdy asystent AI czyta treść, której nie napisał, na przykład e-mail, stronę internetową lub dokument[3].
- Czego chce atakujący
- Wyprowadzić dane firmy na serwer, który kontroluje[2].
- Odruch
- Podawać asystentowi tylko dane potrzebne do zadania, ponieważ informacja przekazana nieumyślnie może później pojawić się w jego odpowiedziach[4].
O co chodzi
W przypadku EchoLeak asystent AI wypuścił dane firmy bez kliknięcia przez kogokolwiek[1]. Ukryty tekst w e-mailu lub dokumencie przekazuje asystentowi instrukcje[3]. Asystent wyświetla wtedy obraz, którego adres zawiera dane[3], a obraz jest pobierany automatycznie[1].
Ten mechanizm opisują dwa przypadki. W EchoLeak, w Microsoft 365 Copilot, artykuł badaczy opisuje zdalną eksfiltrację danych, bez uwierzytelniania, za pomocą jednego spreparowanego e-maila, z wykorzystaniem automatycznie pobieranych obrazów[1]. W GrafanaGhost badacze ujawnili lukę, która mogła sprawić, że asystent Grafany wyświetlał obraz zewnętrzny, a ten przesyłał dane firmy atakującemu w parametrze adresu[2].
Pytania wprost
Czy trzeba kliknąć, żeby dane wyszły?
Nie w EchoLeak: opisany atak działa bez interakcji użytkownika[1]. W przypadku GrafanaGhost Grafana oświadczyła, że wykorzystanie luki wymagałoby istotnej interakcji użytkownika[2].
Czym jest pośrednie wstrzyknięcie promptu?
Według NCSC (Wielka Brytania) jest to sytuacja, w której atakujący bez bezpośredniego dostępu do systemu AI pisze coś, co ostatecznie zostaje przetworzone przez system i wzięte za instrukcję[5]. OWASP zalicza do tej kategorii treść e-maili i załączników przetwarzanych przez asystentów AI, a także tekst ukryty na stronach internetowych, w dokumentach lub e-mailach[3].
Dlaczego asystent słucha tekstu, którego nie widać?
Według NCSC (Wielka Brytania) obecne duże modele językowe nie stosują żadnej granicy bezpieczeństwa między instrukcjami a danymi wewnątrz promptu[5]. OWASP dodaje, że łańcuchy przetwarzania dokumentów często przekazują modelowi wyodrębniony tekst, nie uwzględniając sposobu wyświetlania, przez co tekst niewidoczny dla czytelnika i tak do niego dociera[3].
Jakie dane mogą wyciec?
OWASP wymienia dane osobowe, informacje finansowe, dokumentację medyczną, poufne dane firmy, dane logowania i dokumenty prawne[4].
Czy wystarczy filtr podejrzanych zdań?
Nie. Według OWASP filtrowanie danych wejściowych nie jest granicą bezpieczeństwa: atakujący może przeformułować instrukcję na wiele sposobów, których lista blokad nie rozpoznaje[3]. NCSC (Wielka Brytania) również przestrzega przed blokowaniem treści znanych jako złośliwe, ponieważ istnieje nieskończona liczba przeformułowań ataku[5].
Czy to ryzyko może zniknąć?
NCSC (Wielka Brytania) uważa, że wstrzyknięcie promptu może nigdy nie zostać całkowicie złagodzone i że zespoły bezpieczeństwa muszą wiedzieć, że pozostanie ono ryzykiem szczątkowym, zarządzanym przez projektowanie, budowę i eksploatację[5].
W skórze atakującego
Atakujący nie ma dostępu do asystenta. Pisze treść, którą asystent w końcu przeczyta: e-mail, dokument, stronę[5]. Ukrywa w niej instrukcje, na przykład tekstem w kolorze tła, malutkim, zasłoniętym lub umieszczonym poza stroną[3].
Jego celem jest uzyskanie danych firmy na serwerze, który kontroluje[2]. OWASP opisuje typowy scenariusz: osobisty asystent ma dostęp do skrzynki odbiorczej, by streszczać przychodzące e-maile. Spreparowany e-mail skłania go do przeszukania skrzynki w poszukiwaniu informacji wrażliwych i przekazania ich na adres atakującego[6]. W tym scenariuszu rozszerzenie wybrane przez programistę zawiera też funkcje wysyłania wiadomości, choć do streszczania wystarcza odczyt[6].
W EchoLeak badacze opisują łańcuch obejść: klasyfikator XPIA (Cross Prompt Injection Attempt) Microsoftu, maskowanie linków (obejście za pomocą składni Markdown zwanej reference-style), automatycznie ładowane obrazy oraz proxy Microsoft Teams dopuszczone przez politykę bezpieczeństwa treści[1].
Co widać na ekranie
Spreparowanego tekstu nie widać: na tym polega jego zasada[3]. OWASP zwraca uwagę, że w jego mapach ryzyka użytkownicy zaufanej AI do obserwowalności mogli uruchomić wyciek nieświadomie[2].
Eksfiltracja odbywa się przez obraz. Przykładem OWASP jest ukryty znacznik obrazu, którego adres zawiera dane do kradzieży[3]. Oto zneutralizowana ilustracja tej zasady, która nie działa:
Zneutralizowana ilustracja, niedziałająca.
[Tekst ukryty w e-mailu: polecenie nakazujace asystentowi wyswietlic obraz]
W przypadku GrafanaGhost złośliwy kontekst mógł skłonić asystenta do zignorowania jego barier ochronnych i wyświetlenia obrazu zewnętrznego, co przesyłało dane atakującemu jako parametr adresu[2].
Pod maskąZespoły IT
Mechanizm opiera się na trzech elementach.
- Obraz jest pobierany bez działania użytkownika: EchoLeak wykorzystywał automatycznie ładowane obrazy[1].
- Dane podróżują w adresie obrazu, jako parametr adresu[2].
- Wyświetlenie odpowiedzi asystenta staje się kanałem wyjścia: OWASP klasyfikuje GrafanaGhost między innymi w kategorii niewłaściwej obsługi danych wyjściowych modelu (LLM05:2025)[2].
Obrona oczekiwana od firmy dotyczy tych trzech punktów.
- Filtrować to, co asystent wyświetla. W przypadku GrafanaGhost OWASP zaleca oczyszczanie kontekstu zewnętrznego, ograniczenie renderowania wychodzącego i wzmocnienie walidacji adresów[2]. Lista kontrolna OWASP wymaga też oczyszczania HTML i Markdown przy wyświetlaniu[3]. Model pełniący rolę bariery ochronnej może zbadać odpowiedź przed jej wyświetleniem, także po to, by wykryć znaczniki eksfiltracji, ale sam jest modelem i może podlegać wstrzyknięciu promptu[3].
- Ograniczać uprawnienia asystenta. Autorzy badania EchoLeak wyciągają jako wniosek zasadę najmniejszych uprawnień, obronę wielowarstwową i ciągłe testy adwersarialne[1]. OWASP podaje przykłady: nie dawać agentowi rozszerzenia pobierającego zawartość adresu internetowego, jeśli system tego nie potrzebuje, i ograniczyć rozszerzenie poczty do odczytu[6]. OWASP zaleca zatwierdzanie przez człowieka działań o dużym wpływie[6].
- Rozdzielać według pochodzenia. NCSC (Wielka Brytania) przywołuje prostą regułę: gdy model przetwarza informacje pochodzące od jednej strony, jego uprawnienia spadają do uprawnień tej strony. Asystent przetwarzający e-maile od osób z zewnątrz nie może więc mieć dostępu do uprzywilejowanych narzędzi[5].
NCSC (Wielka Brytania) zauważa, że żaden produkt nie wystarcza do wyeliminowania wstrzyknięcia promptu i że najlepsze, na co można liczyć, to zmniejszenie jego prawdopodobieństwa lub skutków[5]. Według NCSC (Wielka Brytania) zabezpieczenia na poziomie projektu powinny w większym stopniu zmierzać ku deterministycznym barierom ochronnym, działającym poza modelem, które ograniczają działania systemu[5]. OWASP zaleca testowanie tych granic z użyciem danych fikcyjnych i zastępczych narzędzi z instrumentacją[3].
Dla pracownika OWASP wskazuje, że użytkownicy powinni rozumieć ryzyko nieumyślnego podawania danych wrażliwych, które mogą potem pojawić się w danych wyjściowych modelu[4]. Zaleca przekazywanie wskazówek, jak unikać wpisywania informacji wrażliwych[4], oraz przyznawanie dostępu tylko do danych potrzebnych danemu użytkownikowi lub procesowi[4].
Analizy incydentówPrawdziwe przypadki
EchoLeak w Microsoft 365 Copilot, badanie z września 2025
EchoLeak nosi identyfikator CVE-2025-32711. Badacze opisują go jako wstrzyknięcie promptu bez kliknięcia w Microsoft 365 Copilot, które umożliwiało zdalną eksfiltrację danych bez uwierzytelniania za pomocą jednego spreparowanego e-maila[1]. Artykuł, zamieszczony w arXiv 6 września 2025, został opublikowany w AAAI Fall Symposium Series 2025[1].
Opisany łańcuch łączy obejście klasyfikatora XPIA, składnię Markdown reference-style, automatycznie ładowane obrazy i proxy Teams dopuszczone przez politykę bezpieczeństwa treści[1]. Autorzy proponują jako środki podział promptów na partycje, wzmocnione filtrowanie danych wejściowych i wyjściowych, kontrolę dostępu opartą na pochodzeniu oraz ścisłe polityki bezpieczeństwa treści[1].
GrafanaGhost, kwiecień 2026
OWASP datuje ujawnienie na 7 kwietnia 2026, a potwierdzenie poprawki na 8 kwietnia[2]. Noma Security znalazła słabość w komponentach AI Grafany, która pozwalała wskazać systemowi zasoby zewnętrzne zawierające ukryte instrukcje[2]. Asystent mógł wtedy wyświetlić obraz zewnętrzny, co przesyłało dane firmy atakującemu jako parametr adresu[2].
Grafana wskazała następnie, że problem z renderowaniem obrazów Markdown został szybko naprawiony i że wykorzystanie luki wymagałoby istotnej interakcji użytkownika[2]. OWASP precyzuje, że nie przyznano publicznego CVE i że zastosowano częściową poprawkę w komponencie renderowania[2]. Jest to ujawnienie badawcze[2].
ChatGPT i dane osobowe, maj 2024
W artykule zamieszczonym 31 maja 2024 jego autor podaje, że ChatGPT 4 i 4o były podatne na wstrzyknięcie promptu, które pozwalało atakującemu dokonać eksfiltracji danych osobowych użytkowników[7]. Według niego atak działał bez narzędzi firm trzecich, a dotyczył wtedy wszystkich użytkowników[7]. Funkcja pamięci ChatGPT pogłębiała lukę, ponieważ pozwalała atakującemu doprowadzić do monitorowania użytkownika, aby uzyskać pożądane dane[7].
Źródła
- arXiv, „EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System”, 6 września 2025. https://arxiv.org/abs/2509.10540 (dostęp 14 listopada 2026)
- OWASP, „OWASP GenAI Exploit Round-up Report Q1 2026”, 14 kwietnia 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (dostęp 14 listopada 2026)
- OWASP, „LLM Prompt Injection Prevention Cheat Sheet”. https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (dostęp 14 listopada 2026)
- OWASP, „LLM02:2025 Sensitive Information Disclosure”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (dostęp 14 listopada 2026)
- NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)”, 8 grudnia 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (dostęp 14 listopada 2026)
- OWASP, „LLM06:2025 Excessive Agency”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (dostęp 14 listopada 2026)
- arXiv, „Exfiltration of personal information from ChatGPT via prompt injection”, 31 maja 2024. https://arxiv.org/abs/2406.00199 (dostęp 14 listopada 2026)
Zacytuj ten artykuł
Brain, „Wyciek danych przez obraz w asystencie AI”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp284_pl_2026,
author = {Brain},
title = {Wyciek danych przez obraz w asystencie AI},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pl/articles/eksfiltracja-danych-markdown-asystent-ai/},
note = {CC BY 4.0}
}