Modelli di IA con trappola: il rischio dei file Pickle
Scaricare un modello di IA da un sito di condivisione non è banale: il formato pickle espone a modelli malevoli. Punti di riferimento e gesti.
In questa pagina
In 30 secondi
- Dove accade
- Sulle piattaforme di condivisione di modelli come Hugging Face, dove attori malevoli possono consegnare software malevoli tramite modelli compromessi[4].
- Cosa vuole l'attaccante
- Agire sulla macchina che carica il modello. I 91 modelli malevoli e i 9 script malevoli di caricamento di set di dati individuati nel 2024 rivelano minacce come la reverse shell, il furto di credenziali del browser e la ricognizione del sistema[2].
- Il riflesso
- Non carichi un modello di cui non può verificare la fonte. L'OWASP raccomanda di usare solo modelli provenienti da fonti verificabili[1].
Di cosa si tratta
Un modello di IA preaddestrato si scarica da una piattaforma di condivisione come un file qualsiasi. Secondo l'OWASP, i modelli preaddestrati di terzi fanno parte della catena di approvvigionamento delle applicazioni di IA, e questi elementi esterni possono essere manipolati tramite alterazione o avvelenamento[1].
Per alcuni formati di file, il rischio è più concreto. Nel 2024 dei ricercatori hanno segnalato 91 modelli malevoli su una copia speculare di Hugging Face[2]. Nel 2025 altri hanno mostrato che gli scanner di modelli in formato pickle potevano essere aggirati[3]. Per un modello pickle malevolo, la minaccia descritta dai ricercatori è la chiamata di funzioni arbitrarie al momento del caricamento[4].
Domande dirette
Perché un file di modello può essere pericoloso?
Il formato pickle registra e ripristina oggetti complessi sotto forma di flusso di byte. Molti framework di IA continuano ad adottarlo per i modelli nonostante i suoi rischi specifici, secondo gli autori di uno studio del 2025[3]. Le falle di deserializzazione di pickle sono note da tempo in Python senza essere risolte[3]. Gli autori di PickleBall rilevano che il 44,9 % dei modelli popolari di Hugging Face usa ancora questo formato, che giudicano non sicuro[4].
Cosa hanno trovato i ricercatori nel 2024?
Una squadra ha distribuito il suo strumento MalHug su una copia speculare di Hugging Face ospitata presso Ant Group. Vi ha monitorato più di 705.000 modelli e 176.000 set di dati, e vi ha individuato 91 modelli malevoli e 9 script malevoli di caricamento di set di dati[2].
Gli strumenti di analisi bastano?
Degli strumenti esistenti come Fickling e ModelScan offrono una certa protezione, ma hanno limiti nell'analisi semantica e nel rilevamento completo delle minacce, secondo gli autori di MalHug[2]. Nel 2025 dei ricercatori hanno identificato 22 percorsi di caricamento di modelli pickle in cinque framework di IA, di cui 19 sfuggono del tutto agli scanner esistenti[3]. Altri autori osservano che gli scanner di modelli producono falsi positivi e falsi negativi[4].
Il formato è l'unico problema?
Uno studio di gennaio 2026 riguarda l'esecuzione di codice non affidabile durante il caricamento di un modello, quando questo è accompagnato da codice personalizzato. I suoi autori constatano un ricorso diffuso a impostazioni predefinite non sicure, un'applicazione disomogenea della sicurezza a seconda delle piattaforme e una confusione persistente tra gli sviluppatori sulle conseguenze dell'esecuzione di codice remoto[5].
Quali gesti per limitare il rischio?
Per i modelli forniti da terzi, l'OWASP raccomanda le seguenti misure[1]:
- esaminare con attenzione le fonti di dati e i fornitori, comprese le loro condizioni d'uso e le loro politiche sulla riservatezza, e impiegare solo fornitori di fiducia;
- usare solo modelli provenienti da fonti verificabili, e ricorrere a controlli di integrità da parte di un terzo con firma e impronte dei file (hash), per compensare l'assenza di garanzie solide sulla provenienza;
- applicare un red teaming e valutazioni complete al momento di scegliere un modello di terzi;
- usare il rilevamento delle anomalie e test di robustezza, che possono aiutare a individuare un'alterazione, anche se queste tecniche sono ancora emergenti.
Nei panni dell'attaccante
Secondo l'OWASP, oggi non esistono garanzie solide sulla provenienza dei modelli pubblicati. Un attaccante può compromettere l'account di un fornitore su un archivio di modelli, o crearne uno che gli somigli, e poi aggiungervi ingegneria sociale per raggiungere un'applicazione di IA[1].
L'OWASP fornisce due scenari. Nel primo, dopo il ritiro del modello WizardLM, un attaccante sfrutta l'interesse che suscitava e pubblica una falsa versione con lo stesso nome, con software malevoli e porte secondarie[1]. Nel secondo, un attaccante prende di mira un servizio di fusione o di conversione di modelli per iniettare un software malevolo in un modello accessibile al pubblico. L'OWASP precisa che si tratta di un attacco reale pubblicato dal fornitore HiddenLayer[1].
Dal lato dei ricercatori, gli autori dello studio del 2025 scrivono che l'avvelenamento di modelli pickle può restare discreto[3].
Cosa si vede sullo schermo
L'OWASP nota che le schede del modello e la documentazione associata informano sul modello, ma non offrono alcuna garanzia sulla sua origine[1]. La falsa versione di WizardLM portava lo stesso nome dell'originale[1].
Nemmeno i punteggi pubblici garantiscono nulla. L'OWASP indica che dei modelli possono essere affinati per aggirare i benchmark pubblicati, e descrive uno scenario in cui un attaccante deposita su Hugging Face un modello regolato per ottenere buoni punteggi di sicurezza, sfruttando la fiducia delle vittime verso queste garanzie[1].
Ne derivano tre punti di riferimento: una fonte che non si può verificare, una provenienza non stabilita[1], e un formato di file per il quale dei ricercatori descrivono la minaccia di chiamate di funzioni arbitrarie al caricamento[4].
Sotto il cofanoTeam IT
Secondo gli autori di uno studio del 2025, pickle permette di registrare e ripristinare oggetti complessi in byte, il che spiega la sua adozione da parte di molti framework di IA[3]. Questi stessi autori descrivono anche la superficie di avvelenamento che ne risulta, sia sul lato del caricamento dei modelli sia su quello delle funzioni a rischio[3].
Sul fronte delle difese, la squadra di MalHug combina l'estrazione degli script di caricamento di set di dati, la deserializzazione del modello, un'analisi di propagazione (taint analysis) e una ricerca di schemi euristici per rilevare e classificare gli attacchi[2]. La squadra di PickleBall analizza il codice sorgente di una libreria di IA per calcolare una politica di caricamento sicuro, poi la applica durante il caricamento come sostituto diretto del modulo pickle[4]. Nel loro set di dati, questa politica carica correttamente il 79,8 % dei modelli pickle benigni e rifiuta il 100 % degli esempi malevoli[4]. Gli stessi autori precisano che il 15 % dei modelli pickle popolari non può essere caricato con politiche di caricamento restrittive[4].
Il NIST, dal canto suo, propone il quadro AI RMF, destinato a un uso volontario, per integrare meglio l'affidabilità nella progettazione, nello sviluppo, nell'uso e nella valutazione dei prodotti di IA[6]. Il suo profilo per l'IA generativa, pubblicato il 26 luglio 2024, può aiutare le organizzazioni a identificare i rischi specifici dell'IA generativa[6].
AutopsieCasi reali
2024: 91 modelli malevoli su una copia speculare di Hugging Face
In un articolo inviato il 14 settembre 2024, dei ricercatori riferiscono di aver distribuito MalHug, in collaborazione con Ant Group, su una copia speculare di Hugging Face all'interno dell'infrastruttura dell'azienda. Lo strumento vi è rimasto operativo più di tre mesi, ha monitorato più di 705.000 modelli e 176.000 set di dati, e ha individuato 91 modelli malevoli e 9 script malevoli di caricamento di set di dati[2]. Le minacce rilevate comprendono la reverse shell, il furto di credenziali del browser e la ricognizione del sistema[2].
2025: scanner di modelli aggirati
In un articolo inviato il 27 agosto 2025, dei ricercatori mostrano che gli scanner concepiti per rilevare i modelli pickle avvelenati hanno una logica di rilevamento fragile, perché la loro comprensione della superficie di avvelenamento è incompleta[3]. Su 22 percorsi di caricamento identificati, 19 sfuggono del tutto agli scanner esistenti[3]. I ricercatori hanno anche scoperto 9 istanze di una tecnica di elusione che chiamano Exception-Oriented Programming, di cui 7 aggirano tutti gli scanner[3]. Hanno trovato 133 gadget sfruttabili, con un tasso di elusione prossimo al 100 %, e dell'89 % di fronte al miglior scanner[3]. Si tratta di una falla dimostrata da dei ricercatori. Hanno divulgato i loro risultati in modo responsabile ai fornitori interessati e hanno ricevuto dei ringraziamenti e un premio di 6.000 dollari[3].
2026: l'esecuzione di codice al caricamento, studio su larga scala
In un articolo inviato il 20 gennaio 2026, dei ricercatori studiano le pratiche di caricamento di modelli con codice personalizzato su cinque piattaforme di condivisione, tra cui Hugging Face, ModelScope e OpenCSG[5]. Analizzano anche più di 600 discussioni di sviluppatori su GitHub, sui forum di Hugging Face e di PyTorch Hub, e su Stack Overflow[5].
Fonti
- OWASP, «LLM03:2025 Supply Chain», 10 aprile 2024. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (consultato il 14 novembre 2026)
- arXiv, «Models Are Codes: Towards Measuring Malicious Code Poisoning Attacks on Pre-trained Model Hubs», 14 settembre 2024. https://arxiv.org/abs/2409.09368 (consultato il 14 novembre 2026)
- arXiv, «The Art of Hide and Seek: Making Pickle-Based Model Supply Chain Poisoning Stealthy Again», 27 agosto 2025. https://arxiv.org/abs/2508.19774 (consultato il 14 novembre 2026)
- arXiv, «PickleBall: Secure Deserialization of Pickle-based Machine Learning Models (Extended Report)», 21 agosto 2025. https://arxiv.org/abs/2508.15987 (consultato il 14 novembre 2026)
- arXiv, «An Empirical Study on Remote Code Execution in Machine Learning Model Hosting Ecosystems», 20 gennaio 2026. https://arxiv.org/abs/2601.14163 (consultato il 14 novembre 2026)
- NIST, «AI Risk Management Framework», 12 luglio 2021. https://www.nist.gov/itl/ai-risk-management-framework (consultato il 14 novembre 2026)
Cita questo articolo
Brain, «Modelli di IA con trappola: il rischio dei file Pickle», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp292_it_2026,
author = {Brain},
title = {Modelli di IA con trappola: il rischio dei file Pickle},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/it/articles/modelli-ia-con-trappola-file-pickle/},
note = {CC BY 4.0}
}