Cyberpediavon Brain

Slopsquatting: das von der KI erfundene Paket

Ein Code-Assistent kann ein Paket empfehlen, das es nicht gibt, und das ein Angreifer anlegen kann. Was Studien zeigen und welcher Reflex hilft.

Auf dieser Seite
  1. 1In 30 Sekunden
  2. 2Worum es geht
  3. 3Direkte Fragen
  4. 4In der Haut des Angreifers
  5. 5Was Sie auf dem Bildschirm sehen
  6. 6Unter der Haube
  7. 7Quellen
  8. 8Diesen Artikel zitieren

In 30 Sekunden

Wo es vorkommt
Wenn ein Code-Assistent ein Paket für Python oder JavaScript empfiehlt[1].
Was der Angreifer will
Den Namen registrieren, den das Modell erfindet, damit sein präpariertes Paket installiert wird[2].
Der Reflex
Ein Paket nie allein auf das Wort einer KI hin installieren. OWASP empfiehlt, die Antworten eines Modells mit vertrauenswürdigen externen Quellen abzugleichen[3].

Worum es geht

Ein Code-Assistent kann vorschlagen, ein Softwarepaket zu installieren, das nicht existiert. Die Forscher sprechen von Paket-Halluzination: ein Fehler, bei dem das Modell beim Schreiben von Code den Tatsachen widerspricht[1]. Sie sehen darin eine neue Form des Angriffs durch Paketverwechslung[1]. Registriert ein Angreifer den erfundenen Namen, kann er dort Schadcode ablegen[3]. Dieser Angriff heißt Slopsquatting[2].

Die Zahlen in diesem Artikel stammen aus Studien von Forschern. Es handelt sich um Schwachstellen, die Forscher nachgewiesen und gemessen haben, nicht um einen Angriff, der bei Opfern beobachtet wurde.

Direkte Fragen

Was ist Slopsquatting?

Pakete sind Code-Bausteine, die Entwickler aus zentralen Repositories herunterladen, etwa PyPI für Python und npm für JavaScript[1][2]. Nennt ein Modell ein Paket, das nicht existiert, kann ein Angreifer diesen Namen registrieren[2]. Ein Entwickler, der dem Vorschlag des Assistenten vertraut, bindet dann das Paket des Angreifers ein[3].

Irrt sich ein Assistent oft?

Das hängt vom Modell und vom Jahr ab. Eine im Juni 2024 veröffentlichte Studie (angenommen bei USENIX Security 2025) erzeugte 576.000 Codebeispiele mit 16 Modellen. Der durchschnittliche Anteil erfundener Pakete erreicht dort mindestens 5,2 % bei kommerziellen Modellen und 21,7 % bei offenen Modellen, mit 205.474 verschiedenen erfundenen Namen[1].

Eine Replikation von 2026 betrifft fünf neuere Modelle und 199.840 Generierungen von Python- und JavaScript-Code. Sie misst 3,6 bis 5,0 % erfundene Namen unter den genannten Paketen (2,2 bis 3,4 % der Generierungen). Laut ihrem Autor liegen die neueren Modelle auf dem Niveau der kommerziellen Modelle von 2024, und der Abstand zu den offenen Modellen ist verschwunden. Python liegt bei jedem Modell über JavaScript[2].

Ist das Risiko mit den neueren Modellen verschwunden?

Der Titel der Replikation von 2026 sagt es: Die Spanne schrumpft, die Bedrohung bleibt[2]. Ihr Autor stellt fest, dass mindestens 23 von den Modellen vorgeschlagene Namen früher Schadsoftware beherbergt hatten, die die Repositories anschließend entfernten. Ein erfundener Name wurde außerdem nach seinen Tests mit Schadsoftware registriert[2].

Werden die erfundenen Namen schnell von Angreifern übernommen?

In dieser Studie wurden etwa 1 % der erfundenen Namen innerhalb von sechs Monaten registriert. Die Liste des Autors war in diesem Zeitraum versehentlich öffentlich einsehbar. Er findet keinen feststellbaren Effekt dieser Veröffentlichung: Die Rate ist für veröffentlichte und nicht veröffentlichte Namen dieselbe[2].

Ändert die Art, wie ich die Frage stelle, etwas?

Ja. Eine Studie von 2025 hat sieben Modelle getestet. Ein Tippfehler von nur einem Zeichen löst bei bis zu 26 % der Aufgaben Halluzinationen aus. Ein frei erfundener Bibliotheksname wird bis zu 99 % der Zeit akzeptiert, und zeitbezogene Anfragen lösen bis zu 85 % Halluzinationen aus[4].

Was tun, bevor man ein von einer KI vorgeschlagenes Paket installiert?

Zwei Kontrollen. Die erste ist zu prüfen, ob das Paket existiert. Sie genügt nicht: In einer Studie von 2026 waren die Hälfte der als erfunden gemeldeten Namen bereits auf PyPI registrierte Pakete, minderwertige Nachahmungen bekannter Projekte[5]. Die zweite ist zu prüfen, ob das Paket bekannt ist, indem man die Antwort der KI mit einer vertrauenswürdigen externen Quelle abgleicht, wie OWASP es für die Antworten eines Modells empfiehlt[3]. Ein Paket, das sich nicht bestätigen lässt, wird nicht allein auf den Vorschlag des Assistenten hin installiert.

In der Haut des Angreifers

Das von OWASP beschriebene Szenario kommt mit wenigen Schritten aus. Der Angreifer probiert beliebte Code-Assistenten aus, um die Bibliotheksnamen zu finden, die sie am häufigsten erfinden. Danach veröffentlicht er unter diesen Namen schädliche Pakete auf viel genutzten Repositories. Entwickler, die dem Vorschlag des Assistenten folgen, binden sie ahnungslos ein. Der Angreifer kann dann unbefugten Zugriff erlangen, Schadcode einschleusen oder Hintertüren installieren[3].

Manche Namen kehren von einem Modell zum anderen wieder: In der Replikation von 2026 werden 104 Namen von allen fünf Modellen zugleich erfunden[2].

Auch die Formulierung der Anfrage spielt eine Rolle. In der Studie zu den lokalen Assistenten steigt die Halluzinationsrate von 0 bis 10 % bei gewöhnlichen Programmieraufgaben auf 40 bis 73 % bei Anfragen, die als Slopsquatting-Köder angelegt sind[5].

Was Sie auf dem Bildschirm sehen

OWASP beschreibt diese Fehler als Inhalt, der zutreffend wirkt, obwohl er erfunden ist: Die Antworten klingen richtig, beruhen aber auf nichts[3]. Im Code zeigen sich die untersuchten Fehler als ungültige Importe[4].

Auszug
Illustration, kein realer Fall:
pip install [vom Assistenten vorgeschlagener Paketname, nicht auffindbar oder unbekannt]

Die Kontrolle ist nicht immer einfach: Ein Importname kann vom Paketnamen abweichen. Die Autoren der Studie von 2026 zu den lokalen Assistenten nennen als Beispiel „import cv2“ gegenüber „pip install opencv-python“[5]. In der Replikation von 2026 waren 26 Einträge einer früheren Liste erfundener Namen in Wirklichkeit korrekte Importe, deren Modulname vom Paketnamen abweicht[2].

Unter der HaubeIT-Teams

OWASP erklärt die Halluzination mit der Funktionsweise des Modells: Es füllt die Lücken seiner Trainingsdaten mit statistischen Mustern, ohne den Inhalt zu verstehen[3]. Zu den Risiken zählt OWASP den Vorschlag unsicherer oder nicht existierender Code-Bibliotheken, der Schwachstellen einführt, wenn man sich ungeprüft darauf verlässt[3]. Hinzu kommt das übermäßige Vertrauen der Benutzer, die die Richtigkeit dessen, was das Modell liefert, nicht überprüfen[3].

Die Forscher von 2024 haben auch Gegenmaßnahmen getestet. Sie geben an, dass mehrere Strategien die Zahl der Halluzinationen deutlich senken und dabei die Qualität des Codes erhalten[1].

Ein im August 2026 vorgeschlagener Detektor kombiniert zwei Kontrollen. Die erste prüft deterministisch, ob das Paket auf PyPI existiert. Die zweite ist ein Klassifikator, der auf zehn Merkmalen aus dem Namen und den Metadaten des Pakets trainiert wurde[5]. Bei 300 Anfragen erzeugt die Verarbeitungskette in 76 % der Versuche Code ohne erfundenes Paket[5]. Das schwächste Hauptmodell der Studie lehnte ohne Hilfe 6 von 10 direkten Ködern ab, was nach Ansicht der Autoren darauf hindeutet, dass die neuere Abstimmung auf Anweisungen eine Grundverteidigung bietet[5].

Auf Organisationsseite empfiehlt OWASP, Datenquellen und Anbieter sorgfältig zu prüfen und nur vertrauenswürdige Anbieter zu nutzen[6]. Außerdem empfiehlt OWASP, das Inventar der Komponenten mit einer Software-Stückliste (SBOM) aktuell zu halten[6].

Quellen

  1. arXiv, „We Have a Package for You! A Comprehensive Analysis of Package Hallucinations by Code Generating LLMs“, 12. Juni 2024. https://arxiv.org/abs/2406.10279 (abgerufen am 14. November 2026)
  2. arXiv, „The Range Shrinks, the Threat Remains: Re-evaluating LLM Package Hallucinations on the 2026 Frontier-Model Cohort“, 16. Mai 2026. https://arxiv.org/abs/2605.17062 (abgerufen am 14. November 2026)
  3. OWASP, „LLM09:2025 Misinformation“, 10. April 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (abgerufen am 14. November 2026)
  4. arXiv, „Library Hallucinations in LLM-Generated Code: A Risk Analysis Grounded in Developer Queries“, 26. September 2025. https://arxiv.org/abs/2509.22202 (abgerufen am 14. November 2026)
  5. arXiv, „Names Can Hurt: Spotting Slopsquatting Risks Caused by Package Name Hallucinations in Local Coding LLMs“, 24. August 2026. https://arxiv.org/abs/2608.23897 (abgerufen am 14. November 2026)
  6. OWASP, „LLM03:2025 Supply Chain“, 10. April 2024. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (abgerufen am 14. November 2026)