--- id: CP-279 slug: deriva-modelli-inquinamento-web-contenuti-sintetici lang: it title: Deriva dei modelli e inquinamento del Web da parte dell'IA description: Come le IA addestrate su testi generati da IA perdono diversità e come verificare un contenuto generato prima di usarlo al lavoro. canonical_url: https://startbrain.io/cyberpedia/it/articles/deriva-modelli-inquinamento-web-contenuti-sintetici/ markdown_url: https://startbrain.io/cyberpedia/it/articles/deriva-modelli-inquinamento-web-contenuti-sintetici.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Deriva dei modelli e inquinamento del Web da parte dell'IA», Cyberpedia, 2026. https://startbrain.io/cyberpedia/it/articles/deriva-modelli-inquinamento-web-contenuti-sintetici/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-003 schema: G2 updated: "2026-11-03" translations: it: https://startbrain.io/cyberpedia/it/articles/deriva-modelli-inquinamento-web-contenuti-sintetici/ fr: https://startbrain.io/cyberpedia/fr/articles/derive-modele-pollution-web-contenu-synthetique/ en: https://startbrain.io/cyberpedia/en/articles/model-collapse-ai-slop-web-pollution/ de: https://startbrain.io/cyberpedia/de/articles/modellkollaps-ki-inhalte-web-verschmutzung/ es: https://startbrain.io/cyberpedia/es/articles/deriva-modelos-contaminacion-web-contenido-sintetico/ nl: https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud/ sources: - "n": 1 title: "The Curse of Recursion: Training on Generated Data Makes Models Forget" publisher: arXiv url: https://arxiv.org/abs/2305.17493 published: "2023-05-27" accessed: "2026-11-03" - "n": 2 title: "The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text" publisher: arXiv url: https://arxiv.org/abs/2311.09807 published: "2023-11-16" accessed: "2026-11-03" - "n": 3 title: Self-Consuming Generative Models Go MAD publisher: arXiv url: https://arxiv.org/abs/2307.01850 published: "2023-07-04" accessed: "2026-11-03" - "n": 4 title: LLM04:2025 Data and Model Poisoning publisher: OWASP url: https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ accessed: "2026-11-03" - "n": 5 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 6 title: LLM03:2025 Supply Chain publisher: OWASP url: https://genai.owasp.org/llmrisk/llm032025-supply-chain/ accessed: "2026-11-03" - "n": 7 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 8 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # Deriva dei modelli e inquinamento del Web da parte dell'IA Gli assistenti di scrittura producono testi che altri modelli, o altri dipendenti, riutilizzano poi a loro volta. Quando questi testi generati servono ad addestrare nuovi modelli, i ricercatori hanno riscontrato difetti irreversibili. Questo effetto si chiama «Model Collapse», qui tradotto con deriva del modello [1]. Questa scheda spiega il meccanismo senza entrare nelle equazioni, poi indica gesti semplici: verificare un'informazione, incrociare le fonti, riconoscere un contenuto dubbio e non riutilizzare mai così com'è un testo generato. ## In 30 secondi - Dove succede: negli strumenti di generazione di testo e di immagini e nei contenuti online che servono ad addestrarli. - Cosa cambia per Lei: una risposta può sembrare credibile ed essere falsa, oppure essere solo una versione impoverita di un contenuto esistente. - Il riflesso: non riutilizzi alcun testo generato senza averlo confrontato con una fonte affidabile che Lei stesso ha aperto. - Se è già successo: rilegga il documento, ritrovi la fonte di ogni fatto, corregga e avvisi i destinatari se un errore è già stato inviato. ## Domande dirette ### Che cos'è la deriva del modello? È il degrado di un modello addestrato su contenuti prodotti da altri modelli. I ricercatori hanno constatato che l'uso di contenuti generati durante l'addestramento causa difetti irreversibili: le «code» della distribuzione originale, cioè i casi rari, scompaiono. Hanno chiamato questo effetto «Model Collapse» e lo hanno osservato in autoencoder variazionali, modelli a miscela gaussiana e grandi modelli linguistici [1]. ### Il fenomeno riguarda solo il testo? No. Un altro gruppo ha studiato modelli generativi di immagini in cicli in cui ogni generazione si addestra sulle uscite della precedente. Senza abbastanza dati reali freschi a ogni generazione, la qualità (precisione) o la diversità (richiamo) dei modelli futuri diminuisce progressivamente. Gli autori chiamano questo stato «Model Autophagy Disorder» (MAD), per analogia con la malattia della mucca pazza [3]. ### E per i modelli linguistici? Uno studio accettato a NAACL 2024 (Findings) ha misurato la diversità lessicale, sintattica e semantica dopo successivi affinamenti su testo sintetico, in inglese. Rileva un calo costante della diversità delle uscite nel corso delle iterazioni, particolarmente marcato nei compiti che richiedono creatività [2]. ### Un testo generato può essere falso senza che lo strumento «menta»? Sì. OWASP descrive l'allucinazione: il modello colma le lacune con regolarità statistiche, senza comprendere il contenuto, e produce risposte che sembrano giuste ma non hanno alcun fondamento. Anche i pregiudizi presenti nei dati di addestramento e le informazioni incomplete vi contribuiscono [5]. ### I dati di addestramento possono essere manomessi di proposito? Sì. OWASP chiama avvelenamento dei dati la manipolazione dei dati di pre-addestramento, di affinamento o di rappresentazione per introdurre vulnerabilità, backdoor o pregiudizi. Il rischio è elevato con le fonti esterne, che possono contenere contenuti non verificati o dannosi [4]. ## Come funziona Un modello linguistico impara da grandi quantità di testo raccolte sul Web. Se una quota crescente di quel testo proviene da modelli, il successivo impara in parte da copie. Gli autori del primo studio sostengono che questo rischio vada preso sul serio per continuare a beneficiare dell'addestramento su dati raccolti su larga scala dal Web. Aggiungono che i dati derivanti da interazioni umane reali con i sistemi acquisteranno valore man mano che i contenuti generati si diffonderanno nei dati raccolti da Internet [1]. L'altro lavoro stabilisce che, senza abbastanza dati reali freschi a ogni generazione, la qualità o la diversità diminuisce [3]. Le pagine consultate non quantificano la quota di contenuti sintetici attualmente presente sul Web, e questa scheda non avanza alcuna cifra. ## Cosa fare - Tratti una risposta generata come una bozza. OWASP parla di eccessiva fiducia (overreliance): gli utenti inseriscono dati errati in decisioni importanti senza un esame sufficiente [5]. - Incroci le informazioni con fonti esterne affidabili. OWASP raccomanda di confrontare le uscite del modello con tali fonti e di prevedere una revisione umana e una verifica dei fatti per le informazioni sensibili [5]. - Ritrovi l'origine di ogni fatto, cifra o citazione prima di scriverla in un documento. Se non trova alcuna fonte, tolga il fatto. - Verifichi che un riferimento esista prima di usarlo. OWASP cita un caso in cui ChatGPT ha inventato false cause giudiziarie, con gravi conseguenze davanti a un tribunale [5]. - Per il codice, non adotti senza controllo una libreria suggerita. Alcuni assistenti propongono librerie di terze parti non sicure o inesistenti [5]. - Riconosca i contenuti dubbi: testo senza autore né fonte, affermazioni prive di sostegno, contraddizioni con una fonte che Lei conosce. Questi criteri sono indicazioni di buon senso di questa scheda, non un metodo tratto dalle fonti. - Segnali il contenuto generato quando lo diffonde. OWASP raccomanda di etichettare chiaramente i contenuti generati dall'IA e di informare sui limiti di affidabilità [5]. ## Le insidie - Una risposta fluida non è una risposta verificata: la disinformazione di un modello appare credibile [5]. - Una fonte che riprende un testo generato non è un secondo parere. Due pagine che dicono la stessa cosa possono provenire dallo stesso modello. - Anche i modelli stessi possono venire dall'esterno. OWASP osserva che attualmente non esiste una garanzia forte sulla provenienza dei modelli pubblicati: le schede descrittive non ne forniscono alcuna sulla loro origine [6]. - Un modello avvelenato può comportarsi normalmente finché un innesco non ne cambia il comportamento, il che rende il difetto difficile da individuare [4]. - Le condizioni d'uso di uno strumento possono consentire l'impiego dei Suoi dati per l'addestramento. OWASP segnala questo rischio quando le condizioni e l'informativa sulla privacy sono poco chiare [6]. Non inserisca informazioni sensibili in uno strumento non approvato dalla Sua azienda. - Un errore dell'IA impegna l'organizzazione anche senza un attaccante. OWASP cita il chatbot di Air Canada, le cui informazioni errate ai viaggiatori hanno causato disagi e complicazioni legali, e la compagnia è stata citata in giudizio con successo [5]. Sul piano organizzativo, il NIST propone un profilo trasversale per l'IA generativa, complemento dell'AI RMF 1.0, di uso volontario [8]. Le linee guida dell'NCSC britannico, pubblicate il 27 novembre 2023, coprono la progettazione, lo sviluppo, la distribuzione e l'esercizio dei sistemi di IA, compresa la sicurezza della catena di fornitura [7]. ## Casi reali ### 27 maggio 2023: la «maledizione della ricorsione» Ilia Shumailov e cinque coautori inviano ad arXiv un articolo che si chiede che cosa accadrà ai futuri modelli GPT quando i grandi modelli linguistici produrranno gran parte del testo online. La loro risposta: i contenuti generati usati nell'addestramento provocano difetti irreversibili. Mostrano che l'effetto può verificarsi in più famiglie di modelli [1]. ### 4 luglio 2023: il disturbo di autofagia dei modelli Sina Alemohammad, Richard G. Baraniuk e sei coautori inviano ad arXiv un'analisi di tre famiglie di cicli autofagici su modelli di immagini. La loro conclusione: senza abbastanza dati reali freschi, la precisione o la diversità diminuisce di generazione in generazione [3]. ### 16 novembre 2023: il calo della diversità linguistica Yanzhu Guo e i coautori inviano ad arXiv esperimenti di affinamento ricorsivo in inglese. La diversità delle uscite cala a ogni iterazione, soprattutto nei compiti creativi [2]. ## Fonti 1. arXiv, «The Curse of Recursion: Training on Generated Data Makes Models Forget», 27 maggio 2023. https://arxiv.org/abs/2305.17493 (consultato il 3 novembre 2026) 2. arXiv, «The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text», 16 novembre 2023. https://arxiv.org/abs/2311.09807 (consultato il 3 novembre 2026) 3. arXiv, «Self-Consuming Generative Models Go MAD», 4 luglio 2023. https://arxiv.org/abs/2307.01850 (consultato il 3 novembre 2026) 4. OWASP, «LLM04:2025 Data and Model Poisoning». https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ (consultato il 3 novembre 2026) 5. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultato il 3 novembre 2026) 6. OWASP, «LLM03:2025 Supply Chain». https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (consultato il 3 novembre 2026) 7. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 novembre 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultato il 3 novembre 2026) 8. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 26 luglio 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (consultato il 3 novembre 2026) --- Fonte originale: Cyberpedia, l'enciclopedia pubblica di cybersicurezza e IA pubblicata da Brain. Versione canonica: https://startbrain.io/cyberpedia/it/articles/deriva-modelli-inquinamento-web-contenuti-sintetici/ Puoi riutilizzare liberamente questo testo con licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), a condizione di citare «Brain, Cyberpedia» con un link all'indirizzo qui sopra.