---
id: CP-292
slug: ai-modellen-met-valstrik-pickle-bestanden
lang: nl
title: "AI-modellen met een valstrik: het risico van Pickle-bestanden"
description: "Een AI-model downloaden van een deelplatform is niet onschuldig: het pickle-formaat stelt bloot aan kwaadaardige modellen. Houvast en handelingen."
canonical_url: https://startbrain.io/cyberpedia/nl/articles/ai-modellen-met-valstrik-pickle-bestanden/
markdown_url: https://startbrain.io/cyberpedia/nl/articles/ai-modellen-met-valstrik-pickle-bestanden.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: "Brain, “AI-modellen met een valstrik: het risico van Pickle-bestanden”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/nl/articles/ai-modellen-met-valstrik-pickle-bestanden/ (CC BY 4.0)"
wing: 4
theme: authorized_tools
reflex: air-018
schema: G1
updated: "2026-11-14"
translations:
  nl: https://startbrain.io/cyberpedia/nl/articles/ai-modellen-met-valstrik-pickle-bestanden/
  fr: https://startbrain.io/cyberpedia/fr/articles/modeles-ia-pieges-fichiers-pickle/
  en: https://startbrain.io/cyberpedia/en/articles/poisoned-ai-models-pickle-files/
  de: https://startbrain.io/cyberpedia/de/articles/praeparierte-ki-modelle-pickle-dateien/
  es: https://startbrain.io/cyberpedia/es/articles/modelos-ia-con-trampa-archivos-pickle/
  it: https://startbrain.io/cyberpedia/it/articles/modelli-ia-con-trappola-file-pickle/
  pl: https://startbrain.io/cyberpedia/pl/articles/modele-ai-z-pulapka-pliki-pickle/
  pt: https://startbrain.io/cyberpedia/pt/articles/modelos-ia-armadilhados-ficheiros-pickle/
  ja: https://startbrain.io/cyberpedia/ja/articles/poisoned-ai-models-pickle-files/
sources:
  - "n": 1
    title: LLM03:2025 Supply Chain
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm032025-supply-chain/
    published: "2024-04-10"
    accessed: "2026-11-14"
  - "n": 2
    title: "Models Are Codes: Towards Measuring Malicious Code Poisoning Attacks on Pre-trained Model Hubs"
    publisher: arXiv
    url: https://arxiv.org/abs/2409.09368
    published: "2024-09-14"
    accessed: "2026-11-14"
  - "n": 3
    title: "The Art of Hide and Seek: Making Pickle-Based Model Supply Chain Poisoning Stealthy Again"
    publisher: arXiv
    url: https://arxiv.org/abs/2508.19774
    published: "2025-08-27"
    accessed: "2026-11-14"
  - "n": 4
    title: "PickleBall: Secure Deserialization of Pickle-based Machine Learning Models (Extended Report)"
    publisher: arXiv
    url: https://arxiv.org/abs/2508.15987
    published: "2025-08-21"
    accessed: "2026-11-14"
  - "n": 5
    title: An Empirical Study on Remote Code Execution in Machine Learning Model Hosting Ecosystems
    publisher: arXiv
    url: https://arxiv.org/abs/2601.14163
    published: "2026-01-20"
    accessed: "2026-11-14"
  - "n": 6
    title: AI Risk Management Framework
    publisher: NIST
    url: https://www.nist.gov/itl/ai-risk-management-framework
    published: "2021-07-12"
    accessed: "2026-11-14"
---

# AI-modellen met een valstrik: het risico van Pickle-bestanden

Een voorgetraind AI-model wordt van een deelplatform gedownload zoals elk ander bestand. Volgens OWASP maken voorgetrainde modellen van derden deel uit van de toeleveringsketen van AI-toepassingen, en die externe onderdelen kunnen worden gemanipuleerd door wijziging of vergiftiging [1].

Bij sommige bestandsformaten is het risico concreter. In 2024 meldden onderzoekers 91 kwaadaardige modellen op een spiegel van Hugging Face [2]. In 2025 toonden andere onderzoekers aan dat scanners van modellen in het pickle-formaat konden worden omzeild [3]. Voor een kwaadaardig pickle-model is de dreiging die onderzoekers beschrijven het aanroepen van willekeurige functies bij het laden [4].

## In 30 seconden

- Waar het gebeurt: op platforms waar modellen worden gedeeld, zoals Hugging Face, waar kwaadwillende actoren malware kunnen leveren via gecompromitteerde modellen [4].
- Wat de aanvaller wil: handelen op de machine die het model laadt. De 91 kwaadaardige modellen en de 9 kwaadaardige scripts voor het laden van datasets die in 2024 werden opgespoord, wijzen op dreigingen zoals de reverse shell, de diefstal van inloggegevens van de browser en de verkenning van het systeem [2].
- De reflex: laad geen model waarvan u de bron niet kunt controleren. OWASP raadt aan alleen modellen uit controleerbare bronnen te gebruiken [1].

## Directe vragen

### Waarom kan een modelbestand gevaarlijk zijn?

Het pickle-formaat slaat complexe objecten op en herstelt ze in de vorm van een bytestroom. Volgens de auteurs van een studie uit 2025 blijven veel AI-frameworks het voor modellen gebruiken, ondanks de eigen risico's ervan [3]. De deserialisatiekwetsbaarheden van pickle zijn in Python al lang bekend zonder dat ze zijn opgelost [3]. De auteurs van PickleBall merken op dat 44,9 % van de populaire modellen op Hugging Face nog steeds dit formaat gebruikt, dat zij onveilig achten [4].

### Wat hebben de onderzoekers in 2024 gevonden?

Een team zette zijn tool MalHug in op een spiegel van Hugging Face die bij Ant Group wordt gehost. Het hield daar toezicht op meer dan 705.000 modellen en 176.000 datasets, en spoorde er 91 kwaadaardige modellen en 9 kwaadaardige scripts voor het laden van datasets op [2].

### Volstaan analysetools?

Bestaande tools zoals Fickling en ModelScan bieden enige bescherming, maar volgens de auteurs van MalHug hebben ze beperkingen bij de semantische analyse en de volledige detectie van dreigingen [2]. In 2025 identificeerden onderzoekers 22 laadpaden voor pickle-modellen in vijf AI-frameworks, waarvan er 19 volledig aan de bestaande scanners ontsnappen [3]. Andere auteurs merken op dat scanners van modellen valse positieven en valse negatieven opleveren [4].

### Is het formaat het enige probleem?

Een studie van januari 2026 gaat over het uitvoeren van onbetrouwbare code tijdens het laden van een model, wanneer dat vergezeld gaat van aangepaste code. De auteurs stellen vast dat onveilige standaardinstellingen veel worden gebruikt, dat de beveiliging per platform ongelijk wordt toegepast en dat ontwikkelaars nog steeds in verwarring zijn over de gevolgen van het uitvoeren van code op afstand [5].

### Welke handelingen beperken het risico?

Voor modellen van derden raadt OWASP de volgende maatregelen aan [1]:

- de gegevensbronnen en de aanbieders zorgvuldig onderzoeken, inclusief hun gebruiksvoorwaarden en privacybeleid, en alleen vertrouwde aanbieders gebruiken;
- alleen modellen uit controleerbare bronnen gebruiken, en integriteitscontroles door een derde gebruiken met handtekening en bestandsvingerafdrukken (hashes), om het ontbreken van sterke garanties over de herkomst te compenseren;
- bij de keuze van een model van een derde uitgebreide red teaming en evaluaties toepassen;
- anomaliedetectie en robuustheidstests gebruiken, die kunnen helpen een wijziging op te sporen, ook al zijn deze technieken nog in opkomst.

## In de huid van de aanvaller

Volgens OWASP bestaan er vandaag geen sterke garanties over de herkomst van gepubliceerde modellen. Een aanvaller kan het account van een aanbieder op een modeldepot compromitteren, of er een aanmaken dat erop lijkt, en daar social engineering aan toevoegen om een AI-toepassing te bereiken [1].

OWASP geeft twee scenario's. In het eerste maakt een aanvaller, nadat het model WizardLM is ingetrokken, gebruik van de belangstelling die het wekte en publiceert hij een valse versie onder dezelfde naam, met malware en achterdeuren [1]. In het tweede richt een aanvaller zich op een dienst voor het samenvoegen of omzetten van modellen om malware in een openbaar toegankelijk model te injecteren. OWASP preciseert dat het gaat om een echte aanval, gepubliceerd door de leverancier HiddenLayer [1].

Wat de onderzoekers betreft: de auteurs van de studie uit 2025 schrijven dat de vergiftiging van pickle-modellen discreet kan blijven [3].

## Wat u op het scherm ziet

OWASP merkt op dat modelkaarten en de bijbehorende documentatie informatie geven over het model, maar geen enkele garantie bieden over de oorsprong ervan [1]. De valse versie van WizardLM droeg dezelfde naam als het origineel [1].

Ook openbare beoordelingen garanderen niets. OWASP geeft aan dat modellen kunnen worden verfijnd om gepubliceerde benchmarks te omzeilen, en beschrijft een scenario waarin een aanvaller op Hugging Face een model plaatst dat is afgesteld om goede veiligheidsscores te halen, door misbruik te maken van het vertrouwen dat slachtoffers in die garanties hebben [1].

Daaruit volgen drie aanknopingspunten: een bron die men niet kan controleren, een niet vastgestelde herkomst [1], en een bestandsformaat waarvoor onderzoekers de dreiging van het aanroepen van willekeurige functies bij het laden beschrijven [4].

## Onder de motorkap

Volgens de auteurs van een studie uit 2025 maakt pickle het mogelijk complexe objecten in bytes op te slaan en te herstellen, wat verklaart waarom veel AI-frameworks het hebben overgenomen [3]. Diezelfde auteurs beschrijven ook het vergiftigingsoppervlak dat daaruit voortvloeit, zowel bij het laden van de modellen als bij de riskante functies [3].

Aan de kant van de verdediging combineert het team van MalHug het extraheren van de scripts voor het laden van datasets, de deserialisatie van het model, een propagatieanalyse (taint analysis) en een zoektocht naar heuristische patronen om de aanvallen te detecteren en te classificeren [2]. Het team van PickleBall analyseert de broncode van een AI-bibliotheek om een beleid voor veilig laden te berekenen, en past dat tijdens het laden toe als directe vervanger van de pickle-module [4]. In hun dataset laadt dit beleid 79,8 % van de goedaardige pickle-modellen correct en weigert het 100 % van de kwaadaardige voorbeelden [4]. Dezelfde auteurs preciseren dat 15 % van de populaire pickle-modellen niet kan worden geladen met restrictieve laadbeleidsregels [4].

Het NIST stelt van zijn kant het kader AI RMF voor, bedoeld voor vrijwillig gebruik, om betrouwbaarheid beter te verankeren in het ontwerp, de ontwikkeling, het gebruik en de evaluatie van AI-producten [6]. Het profiel voor generatieve AI, gepubliceerd op 26 juli 2024, kan organisaties helpen de risico's te identificeren die specifiek zijn voor generatieve AI [6].

## Incidentanalyses

### 2024: 91 kwaadaardige modellen op een spiegel van Hugging Face

In een artikel dat op 14 september 2024 is ingediend, melden onderzoekers dat zij MalHug, in samenwerking met Ant Group, hebben ingezet op een spiegel van Hugging Face binnen de infrastructuur van het bedrijf. De tool bleef er meer dan drie maanden operationeel, hield toezicht op meer dan 705.000 modellen en 176.000 datasets, en spoorde 91 kwaadaardige modellen en 9 kwaadaardige scripts voor het laden van datasets op [2]. De vastgestelde dreigingen omvatten de reverse shell, de diefstal van inloggegevens van de browser en de verkenning van het systeem [2].

### 2025: omzeilde scanners van modellen

In een artikel dat op 27 augustus 2025 is ingediend, tonen onderzoekers aan dat scanners die zijn ontworpen om vergiftigde pickle-modellen te detecteren een fragiele detectielogica hebben, omdat hun begrip van het vergiftigingsoppervlak onvolledig is [3]. Van de 22 geïdentificeerde laadpaden ontsnappen er 19 volledig aan de bestaande scanners [3]. De onderzoekers ontdekten ook 9 gevallen van een omzeilingstechniek die zij Exception-Oriented Programming noemen, waarvan er 7 alle scanners omzeilen [3]. Zij vonden 133 te misbruiken gadgets, met een omzeilingspercentage van bijna 100 %, en van 89 % tegenover de beste scanner [3]. Het gaat om een kwetsbaarheid die door onderzoekers is aangetoond. Zij hebben hun resultaten op verantwoorde wijze openbaar gemaakt aan de betrokken leveranciers en kregen er dank voor, evenals een premie van 6.000 dollar [3].

### 2026: code uitvoeren bij het laden, studie op grote schaal

In een artikel dat op 20 januari 2026 is ingediend, bestuderen onderzoekers de praktijk van het laden van modellen met aangepaste code op vijf deelplatforms, waaronder Hugging Face, ModelScope en OpenCSG [5]. Zij analyseren ook meer dan 600 discussies van ontwikkelaars op GitHub, de forums van Hugging Face en PyTorch Hub, en Stack Overflow [5].

## Bronnen

1. OWASP, “LLM03:2025 Supply Chain”, 10 april 2024. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (geraadpleegd op 14 november 2026)
2. arXiv, “Models Are Codes: Towards Measuring Malicious Code Poisoning Attacks on Pre-trained Model Hubs”, 14 september 2024. https://arxiv.org/abs/2409.09368 (geraadpleegd op 14 november 2026)
3. arXiv, “The Art of Hide and Seek: Making Pickle-Based Model Supply Chain Poisoning Stealthy Again”, 27 augustus 2025. https://arxiv.org/abs/2508.19774 (geraadpleegd op 14 november 2026)
4. arXiv, “PickleBall: Secure Deserialization of Pickle-based Machine Learning Models (Extended Report)”, 21 augustus 2025. https://arxiv.org/abs/2508.15987 (geraadpleegd op 14 november 2026)
5. arXiv, “An Empirical Study on Remote Code Execution in Machine Learning Model Hosting Ecosystems”, 20 januari 2026. https://arxiv.org/abs/2601.14163 (geraadpleegd op 14 november 2026)
6. NIST, “AI Risk Management Framework”, 12 juli 2021. https://www.nist.gov/itl/ai-risk-management-framework (geraadpleegd op 14 november 2026)

---

Oorspronkelijke bron: Cyberpedia, de openbare encyclopedie over cyberveiligheid en AI van Brain. Canonieke versie: https://startbrain.io/cyberpedia/nl/articles/ai-modellen-met-valstrik-pickle-bestanden/
U mag deze tekst vrij hergebruiken onder de licentie CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), mits u “Brain, Cyberpedia” vermeldt met een link naar bovenstaand adres.
