Cyberpediavon Brain

Diebstahl von KI-Modellen durch API-Abfragen

Wie ein Konkurrent ein KI-Modell kopiert, indem er es über seine API abfragt, und was Beschäftigte eines Unternehmens, das es anbietet, daraus mitnehmen.

Auf dieser Seite
  1. 1In 30 Sekunden
  2. 2Worum es geht
  3. 3Direkte Fragen
  4. 4In der Haut des Angreifers
  5. 5Was Sie auf dem Bildschirm sehen
  6. 6Unter der Haube
  7. 7Fallanalysen
  8. 8Quellen
  9. 9Diesen Artikel zitieren

In 30 Sekunden

Wo es vorkommt
An der API eines Modells, das als Dienst angeboten wird. Die von Google beschriebenen Angriffe zielten auf seine Gemini-Modelle[1].
Was der Angreifer will
Die Entwicklung seines eigenen Modells beschleunigen, schnell und zu deutlich geringeren Kosten, indem er übernimmt, was ein ausgereiftes Modell gelernt hat[1].
Wer betroffen ist
Die Anbieter von Modellen und die Anbieter von KI-Diensten. Gewöhnliche Nutzer sind in der Regel keinem Risiko ausgesetzt[1].
Der Reflex
Wenn Ihr Unternehmen ein KI-Modell als Dienst bereitstellt, den API-Zugang überwachen, um Muster der Extraktion oder Destillation zu erkennen[1], und die Zahl der Anfragen begrenzen, die dieselbe Quelle senden darf[4].
Artikelübersicht

Worum es geht

Ein KI-Modell, das als Dienst angeboten wird, lässt sich kopieren, ohne dass ein Server gehackt wird. Laut der Google Threat Intelligence Group (GTIG) nutzen Akteure einen legitimen API-Zugang und versuchen so, bestimmte Fähigkeiten eines Modells zu klonen, wo früher ein klassischer Einbruch in IT-Systeme nötig war, um Industriegeheimnisse zu stehlen[1]. Das Prinzip hat zwei Schritte: das Modell methodisch abfragen und dann ein anderes Modell mit seinen Antworten trainieren[1].

Dieser Artikel richtet sich zunächst an die Anbieter von Modellen. Google schreibt, dass andere Unternehmen mit KI-Modellen in naher Zukunft wahrscheinlich damit konfrontiert sein werden[2], und erwartet, dass diese Angriffe auch anderswo auftreten, je mehr Organisationen ihre Modelle ihren Kunden und der Öffentlichkeit zugänglich machen[3]. Wer in einem Unternehmen arbeitet, das seinen Kunden ein Modell anbietet, ist deshalb von der Überwachung der API und dem Schutz der Zugänge betroffen.

Direkte Fragen

Was ist ein Angriff zur Modellextraktion?

Er findet statt, wenn ein Gegner einen legitimen Zugang nutzt, um ein ausgereiftes Modell des maschinellen Lernens methodisch zu sondieren und daraus Informationen zu gewinnen, mit denen ein neues Modell trainiert wird[1]. Der Angreifer setzt dafür die Wissensdestillation ein, daher der Name „Destillationsangriffe“[1].

Ist Destillation immer ein Angriff?

Nein. Sie ist ein gängiges Verfahren, um ein „Schülermodell“ anhand eines bestehenden „Lehrermodells“ zu trainieren[1]. Oft wird das Lehrermodell zu Problemen eines bestimmten Fachgebiets befragt, und das Schülermodell wird anschließend mit den Antworten verfeinert (überwachtes Fine-Tuning)[1]. Es gibt legitime Verwendungen, und Google Cloud bietet Destillationsangebote an[1]. Dagegen verstößt es gegen die Nutzungsbedingungen von Google, die Gemini-Modelle ohne Erlaubnis zu destillieren[1].

Sind gewöhnliche Nutzer bedroht?

Google gibt an, dass diese Angriffe für gewöhnliche Nutzer in der Regel kein Risiko darstellen, weil sie weder die Vertraulichkeit noch die Verfügbarkeit noch die Integrität der KI-Dienste bedrohen[1]. Das Risiko konzentriert sich bei den Entwicklern von Modellen und den Anbietern von Diensten[1].

Wer führt diese Angriffe durch?

Google sagt, häufige Extraktionsangriffe beobachtet und abgeschwächt zu haben, die von Einrichtungen des Privatsektors weltweit und von Forschenden ausgingen, die eine proprietäre Logik klonen wollten[1]. Im Jahr 2025 hat die Gruppe keinen direkten Angriff auf Spitzenmodelle durch die staatlichen Akteure oder Einflussoperationen beobachtet, die sie verfolgt[1].

Was sollte ein Unternehmen tun, das seinen Kunden ein Modell bereitstellt?

Google empfiehlt Organisationen, die KI-Modelle als Dienst anbieten, den API-Zugang zu überwachen, um dort Muster der Extraktion oder Destillation zu erkennen[1]. OWASP nennt weitere Maßnahmen: die Rate begrenzen und Kontingente pro Quelle festlegen, die Nutzung protokollieren und Anomalien erkennen, die Zugänge streng kontrollieren[4]. Sie werden weiter unten ausgeführt.

In der Haut des Angreifers

Der Angreifer will Zeit und Geld sparen. Mit Extraktion und anschließender Destillation kann er die Entwicklung eines Modells schnell und zu deutlich geringeren Kosten beschleunigen, was Google als Diebstahl geistigen Eigentums bezeichnet[1].

Sein Ziel ist die proprietäre Logik und das spezialisierte Training eines Modells[1]. Google nennt zwei Beispiele: ein für die Analyse von Finanzdaten angepasstes Modell, das ein Wettbewerber im Visier hat, der ein abgeleitetes Produkt schaffen will, und ein Programmiermodell, das ein Gegner im Visier hat, der dessen Fähigkeiten in einer Umgebung ohne Schutzvorkehrungen nachbilden will[1].

Die Angreifer versuchen auch, die Fähigkeit von Gemini zum Schlussfolgern zu erlangen, ein häufiges Ziel[1]. OWASP beschreibt eine Variante, die funktionale Replikation: Der Angreifer nutzt das anvisierte Modell, um synthetische Trainingsdaten zu erzeugen, und verfeinert dann ein anderes Modell, um ein funktionales Äquivalent zu erhalten[4].

Was Sie auf dem Bildschirm sehen

Für gewöhnliche Nutzer berühren diese Angriffe in der Regel weder die Vertraulichkeit noch die Verfügbarkeit noch die Integrität des Dienstes[1]. Der Angreifer nutzt einen legitimen API-Zugang[1]. Deshalb empfiehlt Google den Anbietern, diesen Zugang zu überwachen, um dort Muster der Extraktion zu erkennen[1], und OWASP empfiehlt, die Ressourcennutzung fortlaufend zu überwachen und zu protokollieren, um ungewöhnliche Muster zu erkennen[4].

Unter der HaubeIT-Teams

Der Mechanismus folgt dem der legitimen Destillation. Der Angreifer sendet dem Lehrermodell Fragen zu einem Fachgebiet, sammelt die Antworten und trainiert damit sein Schülermodell[1].

Die internen Denkspuren von Gemini werden normalerweise zusammengefasst, bevor sie an den Nutzer ausgeliefert werden. Angreifer haben versucht, das Modell dazu zu zwingen, die vollständigen Denkprozesse auszugeben[1].

OWASP ordnet die Modellextraktion über die API den Formen des unbegrenzten Verbrauchs zu: Der Angreifer fragt die API mit sorgfältig gestalteten Eingaben und Techniken der Prompt-Injection ab, um genügend Antworten zu sammeln, mit denen sich ein Teilmodell nachbilden oder ein Schattenmodell („Shadow Model“) erstellen lässt[4]. Über das Kopieren hinaus vermerkt OWASP, dass die Extraktion die Integrität des ursprünglichen Modells beeinträchtigt[4].

Die von OWASP für dieses Risiko genannten Abwehrmaßnahmen sind die folgenden[4]:

  • die Größe der Eingaben begrenzen;
  • die Parameter logit_bias und logprobs in den Antworten der API einschränken oder ausblenden;
  • eine Ratenbegrenzung und Nutzungskontingente pro Quelle anwenden;
  • protokollieren und überwachen, um ungewöhnlichen Verbrauch zu erkennen;
  • den Ausgaben des Modells ein Wasserzeichen hinzufügen, um ihre unerlaubte Verwendung zu erkennen;
  • Modelle darauf trainieren, gegnerische Anfragen und Extraktionsversuche zu erkennen;
  • starke Zugriffskontrollen einführen (RBAC, Prinzip der minimalen Rechte), um den unbefugten Zugriff auf Modell-Repositories und Trainingsumgebungen zu begrenzen.

Google gibt seinerseits an, proaktive Abwehrmaßnahmen in Echtzeit einzusetzen, die die Leistung des Schülermodells verschlechtern können, und erinnert daran, dass diese Angriffe Sperrungen und rechtliche Schritte nach sich ziehen können[1].

Die Zugänge selbst sind ein Ziel. Um KI-Dienste in großem Maßstab zu missbrauchen, brauchen böswillige Akteure API-Schlüssel, was für Organisationen mit vielen Cloud- und KI-Ressourcen ein Risiko der Entwendung schafft[1]. Verwundbare Open-Source-KI-Werkzeuge werden häufig ausgenutzt, um API-Schlüssel zu stehlen, was einen Schwarzmarkt für den Weiterverkauf von Zugängen speist und die betroffenen Nutzer mit Kosten belastet[1]. OWASP weist darauf hin, dass die Trainingsmethoden und der Quellcode proprietärer Modelle als sensibel gelten können[5]. Außerdem können falsch konfigurierte Modellausgaben proprietäre Algorithmen oder Daten preisgeben[5]. Der Angriff „Proof Pudding“ (CVE-2019-20634) ist dafür ein Beispiel: Offengelegte Trainingsdaten erleichterten die Extraktion und die Inversion eines Modells und ermöglichten es, E-Mail-Filter zu umgehen[5].

FallanalysenReale Fälle

12. Februar 2026: eine Kampagne mit mehr als 100.000 Anfragen gegen Gemini

Am 12. Februar 2026 veröffentlicht die GTIG einen Bericht, der Extraktionsangriffe auf die Gemini-Modelle beschreibt, die von Google DeepMind und der GTIG erkannt und gestört wurden[1]. Sie gingen von Forschenden und Privatunternehmen weltweit aus[1].

Ein ausführlich beschriebener Fall zielte auf das Schlussfolgern von Gemini. Die Angreifer forderten das Modell auf, sein vollständiges Schlussfolgern auszugeben, und verlangten, dass die Sprache des Denkinhalts mit der Hauptsprache der Eingabe übereinstimmt[1]. Die Analyse erfasste mehr als 100.000 Anfragen (Prompts)[1]. Laut GTIG deutet der Umfang der Fragen auf einen Versuch hin, die Fähigkeit von Gemini zum Schlussfolgern in anderen Sprachen als Englisch über eine große Vielfalt von Aufgaben nachzubilden[1].

Die Systeme von Google haben den Angriff in Echtzeit erkannt und sein Risiko verringert, wodurch die internen Denkspuren geschützt wurden[1].

Quellen

  1. Google, „GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use“, 12. Februar 2026. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (abgerufen am 14. November 2026)
  2. Google, „Our new report details the latest ways threat actors are misusing AI.“, 12. Februar 2026. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (abgerufen am 14. November 2026)
  3. Google, „Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration“, 19. Februar 2026. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (abgerufen am 14. November 2026)
  4. OWASP, „LLM10:2025 Unbounded Consumption“, 10. April 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (abgerufen am 14. November 2026)
  5. OWASP, „LLM02:2025 Sensitive Information Disclosure“, 10. April 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (abgerufen am 14. November 2026)