Cyberpediaod Brain

Kradzież modelu AI przez zapytania do API

Jak konkurent kopiuje model AI, odpytując go przez API, i co z tego wynika dla pracownika firmy, która taki model udostępnia.

Na tej stronie
  1. 1W 30 sekund
  2. 2O co chodzi
  3. 3Pytania wprost
  4. 4W skórze atakującego
  5. 5Co widać na ekranie
  6. 6Pod maską
  7. 7Analizy incydentów
  8. 8Źródła
  9. 9Zacytuj ten artykuł

W 30 sekund

Gdzie to się zdarza
W API modelu oferowanego jako usługa. Opisane przez Google ataki były wymierzone w jego modele Gemini[1].
Czego chce atakujący
Przyspieszyć rozwój własnego modelu, szybko i przy wyraźnie niższych kosztach, przejmując to, czego nauczył się dojrzały model[1].
Kogo to dotyczy
Producentów modeli i dostawców usług AI. Zwykły użytkownik na ogół nie jest narażony na ryzyko[1].
Odruch
Jeśli Pana/Pani firma udostępnia model AI jako usługę, należy monitorować dostęp do API, aby wychwytywać wzorce ekstrakcji lub destylacji[1], oraz ograniczyć liczbę zapytań, które może wysyłać to samo źródło[4].
Plan artykułu

O co chodzi

Model AI oferowany jako usługa może zostać skopiowany bez włamania na jakikolwiek serwer. Według Google Threat Intelligence Group (GTIG) podmioty wykorzystują legalny dostęp do API, aby próbować sklonować pewne możliwości modelu, tam gdzie dawniej do kradzieży tajemnic przemysłowych potrzebne było klasyczne włamanie informatyczne[1]. Zasada składa się z dwóch kroków: metodycznie odpytywać model, a następnie wytrenować inny model na jego odpowiedziach[1].

Ten artykuł jest przeznaczony przede wszystkim dla producentów modeli. Google pisze, że inne firmy dysponujące modelami AI prawdopodobnie wkrótce się z tym zetkną[2], i spodziewa się, że takie ataki pojawią się gdzie indziej w miarę tego, jak kolejne organizacje będą udostępniać swoje modele klientom i publiczności[3]. Pracownika firmy, która oferuje klientom model, dotyczy więc monitorowanie API i ochrona dostępu.

Pytania wprost

Czym jest atak polegający na ekstrakcji modelu?

Ma miejsce wtedy, gdy przeciwnik wykorzystuje legalny dostęp, aby metodycznie badać dojrzały model uczenia maszynowego i uzyskiwać informacje służące do wytrenowania nowego modelu[1]. W tym celu atakujący sięga po destylację wiedzy, stąd nazwa „ataki przez destylację”[1].

Czy destylacja zawsze jest atakiem?

Nie. To powszechna technika trenowania modelu „ucznia” na podstawie istniejącego modelu „nauczyciela”[1]. Często polega na odpytywaniu nauczyciela o zadania z określonej dziedziny, a następnie dopracowaniu modelu ucznia na podstawie odpowiedzi (nadzorowany fine-tuning)[1]. Istnieją uzasadnione zastosowania, a Google Cloud oferuje usługi destylacji[1]. Natomiast destylowanie modeli Gemini bez zezwolenia narusza warunki korzystania z usług Google[1].

Czy zwykły użytkownik jest zagrożony?

Google wskazuje, że takie ataki nie stanowią na ogół ryzyka dla zwykłych użytkowników, ponieważ nie zagrażają ani poufności, ani dostępności, ani integralności usług AI[1]. Ryzyko koncentruje się u twórców modeli i dostawców usług[1].

Kto przeprowadza te ataki?

Google twierdzi, że obserwował i łagodził częste ataki ekstrakcji pochodzące od podmiotów z sektora prywatnego na całym świecie oraz od badaczy chcących sklonować zastrzeżoną logikę[1]. W 2025 roku grupa nie zaobserwowała żadnego bezpośredniego ataku na modele z czołówki ze strony podmiotów państwowych ani operacji wpływu, które śledzi[1].

Co powinna zrobić firma, która udostępnia model swoim klientom?

Google zaleca organizacjom, które oferują modele AI jako usługę, monitorowanie dostępu do API w celu wychwytywania wzorców ekstrakcji lub destylacji[1]. OWASP dodaje inne środki: ograniczanie częstotliwości zapytań i ustalanie limitów dla każdego źródła, rejestrowanie użycia i wykrywanie anomalii oraz ścisłą kontrolę dostępu[4]. Są one opisane niżej.

W skórze atakującego

Atakujący chce zyskać czas i pieniądze. Ekstrakcja, po której następuje destylacja, pozwala mu przyspieszyć rozwój modelu, szybko i przy wyraźnie niższych kosztach, co Google określa jako kradzież własności intelektualnej[1].

Jego celem jest zastrzeżona logika i specjalistyczne wytrenowanie modelu[1]. Google podaje dwa przykłady: model dostosowany do analizy danych finansowych, będący celem konkurenta handlowego, który chce stworzyć produkt pochodny, oraz model do programowania, będący celem przeciwnika, który chce odtworzyć jego możliwości w środowisku bez zabezpieczeń[1].

Atakujący starają się też uzyskać zdolność rozumowania Gemini, która jest częstym celem[1]. OWASP opisuje wariant, replikację funkcjonalną: atakujący używa modelu będącego celem do wytworzenia syntetycznych danych treningowych, a następnie dopracowuje inny model, aby uzyskać odpowiednik funkcjonalny[4].

Co widać na ekranie

Dla zwykłego użytkownika takie ataki na ogół nie naruszają ani poufności, ani dostępności, ani integralności usługi[1]. Atakujący korzysta z legalnego dostępu do API[1]. Dlatego Google zaleca dostawcom monitorowanie tego dostępu w celu wychwytywania wzorców ekstrakcji[1], a OWASP zaleca ciągłe monitorowanie wykorzystania zasobów i rejestrowanie zdarzeń, aby wykrywać nietypowe wzorce[4].

Pod maskąZespoły IT

Mechanizm przebiega tak samo jak legalna destylacja. Atakujący wysyła modelowi nauczycielowi pytania z danej dziedziny, zbiera odpowiedzi, a następnie wykorzystuje je do wytrenowania swojego modelu ucznia[1].

Wewnętrzne ślady rozumowania Gemini są zwykle streszczane, zanim trafią do użytkownika. Atakujący próbowali zmusić model do podania pełnych procesów rozumowania[1].

OWASP zalicza ekstrakcję modelu przez API do form nieograniczonego zużycia: atakujący odpytuje API starannie przygotowanymi danymi wejściowymi i technikami wstrzykiwania promptów, aby zebrać dość odpowiedzi do odtworzenia modelu częściowego lub stworzenia modelu-cienia („shadow model”)[4]. OWASP zauważa, że poza kopiowaniem ekstrakcja narusza integralność modelu pierwotnego[4].

Środki obrony wymienione przez OWASP dla tego ryzyka są następujące[4]:

  • ograniczać rozmiar danych wejściowych;
  • ograniczać lub ukrywać parametry logit_bias i logprobs w odpowiedziach API;
  • stosować ograniczanie częstotliwości zapytań i limity użycia dla każdego źródła;
  • rejestrować zdarzenia i monitorować, aby wykrywać nietypowe zużycie;
  • umieszczać znak wodny w wynikach modelu, aby wykrywać ich nieuprawnione użycie;
  • trenować modele do wykrywania zapytań wrogich i prób ekstrakcji;
  • wprowadzić silne kontrole dostępu (RBAC, zasada najmniejszych uprawnień), aby ograniczyć nieuprawniony dostęp do repozytoriów modeli i środowisk treningowych.

Ze swojej strony Google wskazuje, że stosuje proaktywną obronę w czasie rzeczywistym, która może pogorszyć wydajność modelu ucznia, i przypomina, że takie ataki mogą prowadzić do wycofań i postępowań sądowych[1].

Same dostępy są celem. Aby nadużywać usług AI na dużą skalę, złośliwi aktorzy potrzebują kluczy API, co stwarza ryzyko przejęcia dla organizacji dysponujących licznymi zasobami chmurowymi i AI[1]. Podatne narzędzia AI open source są powszechnie wykorzystywane do kradzieży kluczy API, co zasila czarny rynek odsprzedaży dostępu i obciąża kosztami dotkniętych użytkowników[1]. OWASP zwraca uwagę, że metody trenowania i kod źródłowy zastrzeżonych modeli mogą być uznane za wrażliwe[5]. Ponadto źle skonfigurowane wyniki modelu mogą ujawniać zastrzeżone algorytmy lub dane[5]. Przykładem jest atak „Proof Pudding” (CVE-2019-20634): ujawnione dane treningowe ułatwiły ekstrakcję i inwersję modelu oraz umożliwiły obejście filtrów poczty[5].

Analizy incydentówPrawdziwe przypadki

12 lutego 2026: kampania obejmująca ponad 100 000 zapytań przeciwko Gemini

12 lutego 2026 GTIG publikuje raport opisujący ataki ekstrakcji na modele Gemini, zidentyfikowane i zakłócone przez Google DeepMind i GTIG[1]. Pochodziły od badaczy i firm prywatnych z całego świata[1].

Jeden szczegółowo opisany przypadek był wymierzony w rozumowanie Gemini. Atakujący prosili model o podanie pełnego rozumowania, wymagając, aby język treści myślowej pozostawał spójny z głównym językiem danych wejściowych[1]. Analiza wykazała ponad 100 000 zapytań (prompts)[1]. Według GTIG zakres pytań sugeruje próbę odtworzenia zdolności rozumowania Gemini w językach innych niż angielski, w szerokiej gamie zadań[1].

Systemy Google rozpoznały atak w czasie rzeczywistym i ograniczyły jego ryzyko, co ochroniło wewnętrzne ślady rozumowania[1].

Źródła

  1. Google, „GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use”, 12 lutego 2026. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (dostęp 14 listopada 2026)
  2. Google, „Our new report details the latest ways threat actors are misusing AI.”, 12 lutego 2026. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (dostęp 14 listopada 2026)
  3. Google, „Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration”, 19 lutego 2026. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (dostęp 14 listopada 2026)
  4. OWASP, „LLM10:2025 Unbounded Consumption”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (dostęp 14 listopada 2026)
  5. OWASP, „LLM02:2025 Sensitive Information Disclosure”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (dostęp 14 listopada 2026)