Cyberpediadoor Brain

Diefstal van een AI-model via verzoeken aan de API

Hoe een concurrent een AI-model kopieert door de API te bevragen, en wat een medewerker van een bedrijf dat dit model aanbiedt eruit meeneemt.

Op deze pagina
  1. 1In 30 seconden
  2. 2Waar gaat het over
  3. 3Directe vragen
  4. 4In de huid van de aanvaller
  5. 5Wat u op het scherm ziet
  6. 6Onder de motorkap
  7. 7Incidentanalyses
  8. 8Bronnen
  9. 9Dit artikel citeren

In 30 seconden

Waar het gebeurt
Op de API van een model dat als dienst wordt aangeboden. De aanvallen die Google beschrijft, hadden de Gemini-modellen van Google als doelwit[1].
Wat de aanvaller wil
De ontwikkeling van zijn eigen model versnellen, snel en tegen veel lagere kosten, door over te nemen wat een volwassen model heeft geleerd[1].
Wie getroffen wordt
De leveranciers van modellen en de aanbieders van AI-diensten. De gewone gebruiker loopt in het algemeen geen risico[1].
De reflex
Als uw bedrijf een AI-model als dienst aanbiedt, de toegang tot de API bewaken om patronen van extractie of distillatie op te sporen[1], en het aantal verzoeken beperken dat dezelfde bron kan sturen[4].
Plattegrond van het artikel

Waar gaat het over

Een AI-model dat als dienst wordt aangeboden, kan worden gekopieerd zonder dat er een server wordt gehackt. Volgens de Google Threat Intelligence Group (GTIG) gebruiken actoren legitieme toegang tot de API om te proberen bepaalde mogelijkheden van een model te klonen, terwijl daarvoor vroeger een klassieke computerinbraak nodig was om bedrijfsgeheimen te stelen[1]. Het principe verloopt in twee stappen: het model methodisch bevragen en vervolgens een ander model trainen op zijn antwoorden[1].

Dit artikel richt zich eerst tot de leveranciers van modellen. Google schrijft dat andere bedrijven met AI-modellen er waarschijnlijk in de nabije toekomst mee te maken krijgen[2], en verwacht dat deze aanvallen elders zullen opduiken naarmate meer organisaties hun modellen aan hun klanten en aan het publiek aanbieden[3]. Een medewerker van een bedrijf dat een model aan zijn klanten aanbiedt, is dus betrokken bij het bewaken van de API en bij de bescherming van de toegang.

Directe vragen

Wat is een aanval met modelextractie?

Hij vindt plaats wanneer een tegenstander legitieme toegang gebruikt om een volwassen machinelearningmodel methodisch te onderzoeken, om informatie te halen waarmee een nieuw model wordt getraind[1]. De aanvaller gebruikt daarvoor kennisdistillatie, vandaar de naam "distillatieaanvallen"[1].

Is distillatie altijd een aanval?

Nee. Het is een gangbare techniek om een "leerlingmodel" te trainen op basis van een bestaand "docentmodel"[1]. Vaak wordt het docentmodel bevraagd over problemen uit een bepaald domein, waarna het leerlingmodel wordt verfijnd met de antwoorden (gesuperviseerde fine-tuning)[1]. Er bestaan legitieme toepassingen, en Google Cloud biedt distillatieaanbiedingen[1]. Gemini-modellen distilleren zonder toestemming schendt daarentegen de gebruiksvoorwaarden van Google[1].

Wordt een gewone gebruiker bedreigd?

Google geeft aan dat deze aanvallen in het algemeen geen risico vormen voor gewone gebruikers, omdat ze noch de vertrouwelijkheid, noch de beschikbaarheid, noch de integriteit van AI-diensten bedreigen[1]. Het risico concentreert zich bij de ontwikkelaars van modellen en de aanbieders van diensten[1].

Wie voert deze aanvallen uit?

Google zegt veelvuldige extractieaanvallen te hebben waargenomen en ingedamd, afkomstig van entiteiten uit de private sector over de hele wereld en van onderzoekers die een bedrijfseigen logica willen klonen[1]. In 2025 zag de groep geen directe aanval op toonaangevende modellen door de statelijke actoren of beïnvloedingsoperaties die zij volgt[1].

Wat moet een bedrijf doen dat een model aan zijn klanten aanbiedt?

Google raadt organisaties die AI-modellen als dienst aanbieden aan de toegang tot de API te bewaken om patronen van extractie of distillatie op te sporen[1]. OWASP voegt andere maatregelen toe: de snelheid beperken en quota per bron instellen, het gebruik vastleggen in logboeken en afwijkingen opsporen, de toegang streng controleren[4]. Ze worden hieronder uitgewerkt.

In de huid van de aanvaller

De aanvaller wil tijd en geld winnen. Dankzij extractie gevolgd door distillatie kan hij de ontwikkeling van een model snel en tegen veel lagere kosten versnellen, wat Google diefstal van intellectueel eigendom noemt[1].

Zijn doelwit is de bedrijfseigen logica en de gespecialiseerde training van een model[1]. Google geeft twee voorbeelden: een model dat is aangepast voor de analyse van financiële gegevens, waarop een commerciële concurrent mikt die een afgeleid product wil maken, en een programmeermodel, waarop een tegenstander mikt die de mogelijkheden ervan wil nabootsen in een omgeving zonder waarborgen[1].

De aanvallers proberen ook het redeneervermogen van Gemini te bemachtigen, een veelvoorkomend doelwit[1]. OWASP beschrijft een variant, functionele replicatie: de aanvaller gebruikt het aangevallen model om synthetische trainingsdata te produceren en verfijnt vervolgens een ander model om een functioneel equivalent te krijgen[4].

Wat u op het scherm ziet

Voor een gewone gebruiker raken deze aanvallen in het algemeen noch de vertrouwelijkheid, noch de beschikbaarheid, noch de integriteit van de dienst[1]. De aanvaller gebruikt legitieme toegang tot de API[1]. Daarom raadt Google aanbieders aan deze toegang te bewaken om er patronen van extractie in op te sporen[1], en raadt OWASP aan het gebruik van middelen voortdurend te bewaken en vast te leggen in logboeken om ongebruikelijke patronen op te sporen[4].

Onder de motorkapIT-teams

Het mechanisme volgt dat van legitieme distillatie. De aanvaller stuurt het docentmodel vragen over een domein, haalt de antwoorden op en gebruikt ze om zijn leerlingmodel te trainen[1].

De interne redeneersporen van Gemini worden normaal samengevat voordat ze aan de gebruiker worden geleverd. Aanvallers hebben geprobeerd het model te dwingen de volledige redeneerprocessen te produceren[1].

OWASP rekent modelextractie via de API tot de vormen van onbegrensd verbruik: de aanvaller bevraagt de API met zorgvuldig ontworpen invoer en promptinjectietechnieken, om genoeg antwoorden te verzamelen om een gedeeltelijk model na te bouwen of een schaduwmodel ("shadow model") te maken[4]. Naast het kopiëren merkt OWASP op dat extractie de integriteit van het oorspronkelijke model aantast[4].

De verdedigingsmaatregelen die OWASP voor dit risico noemt, zijn de volgende[4]:

  • de omvang van de invoer beperken;
  • de parameters logit_bias en logprobs in de antwoorden van de API beperken of verbergen;
  • een snelheidsbeperking en gebruiksquota per bron toepassen;
  • vastleggen in logboeken en bewaken om ongebruikelijk verbruik op te sporen;
  • een watermerk in de uitvoer van het model aanbrengen om ongeoorloofd gebruik ervan op te sporen;
  • modellen trainen om vijandige verzoeken en pogingen tot extractie te herkennen;
  • sterke toegangscontroles invoeren (RBAC, principe van de minste rechten) om ongeoorloofde toegang tot modelopslagplaatsen en trainingsomgevingen te beperken.

Google zegt van zijn kant proactieve realtimeverdedigingen te gebruiken, die de prestaties van het leerlingmodel kunnen verslechteren, en herinnert eraan dat deze aanvallen kunnen leiden tot intrekkingen en vervolging[1].

De toegang zelf is een doelwit. Om AI-diensten op grote schaal te misbruiken hebben kwaadwillende actoren API-sleutels nodig, wat een risico op oneigenlijk gebruik schept voor organisaties met veel cloud- en AI-middelen[1]. Kwetsbare opensource-AI-tools worden vaak misbruikt om API-sleutels te stelen, wat een zwarte markt voor de wederverkoop van toegang voedt en kosten legt op de getroffen gebruikers[1]. OWASP meldt dat de trainingsmethoden en de broncode van bedrijfseigen modellen als gevoelig kunnen worden beschouwd[5]. Bovendien kunnen verkeerd geconfigureerde uitvoer van modellen bedrijfseigen algoritmen of gegevens onthullen[5]. De aanval "Proof Pudding" (CVE-2019-20634) is daarvan een voorbeeld: gelekte trainingsdata hebben de extractie en inversie van een model vergemakkelijkt en het mogelijk gemaakt e-mailfilters te omzeilen[5].

IncidentanalysesEchte gevallen

12 februari 2026: een campagne van meer dan 100.000 verzoeken tegen Gemini

Op 12 februari 2026 publiceert de GTIG een rapport dat extractieaanvallen op de Gemini-modellen beschrijft, die door Google DeepMind en de GTIG zijn geïdentificeerd en verstoord[1]. Ze kwamen van onderzoekers en private bedrijven over de hele wereld[1].

Een gedetailleerd geval had het redeneren van Gemini als doelwit. De aanvallers vroegen het model zijn volledige redenering te produceren, en eisten daarbij dat de taal van de denkinhoud consistent bleef met de hoofdtaal van de invoer[1]. De analyse telde meer dan 100.000 verzoeken (prompts)[1]. Volgens de GTIG suggereert de breedte van de vragen een poging om het redeneervermogen van Gemini te reproduceren in andere talen dan het Engels, over een grote verscheidenheid aan taken[1].

De systemen van Google herkenden de aanval in realtime en verminderden het risico ervan, waardoor de interne redeneersporen beschermd bleven[1].

Bronnen

  1. Google, “GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use”, 12 februari 2026. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (geraadpleegd op 14 november 2026)
  2. Google, “Our new report details the latest ways threat actors are misusing AI.”, 12 februari 2026. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (geraadpleegd op 14 november 2026)
  3. Google, “Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration”, 19 februari 2026. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (geraadpleegd op 14 november 2026)
  4. OWASP, “LLM10:2025 Unbounded Consumption”, 10 april 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (geraadpleegd op 14 november 2026)
  5. OWASP, “LLM02:2025 Sensitive Information Disclosure”, 10 april 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (geraadpleegd op 14 november 2026)