--- id: CP-279 slug: modeldrift-ai-vervuiling-web-synthetische-inhoud lang: nl title: Modeldrift en vervuiling van het web door AI description: Hoe AI getraind op door AI geschreven teksten diversiteit verliest, en hoe u gegenereerde inhoud op het werk controleert voordat u haar gebruikt. canonical_url: https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud/ markdown_url: https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, “Modeldrift en vervuiling van het web door AI”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-003 schema: G2 updated: "2026-11-03" translations: nl: https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud/ fr: https://startbrain.io/cyberpedia/fr/articles/derive-modele-pollution-web-contenu-synthetique/ en: https://startbrain.io/cyberpedia/en/articles/model-collapse-ai-slop-web-pollution/ de: https://startbrain.io/cyberpedia/de/articles/modellkollaps-ki-inhalte-web-verschmutzung/ es: https://startbrain.io/cyberpedia/es/articles/deriva-modelos-contaminacion-web-contenido-sintetico/ it: https://startbrain.io/cyberpedia/it/articles/deriva-modelli-inquinamento-web-contenuti-sintetici/ sources: - "n": 1 title: "The Curse of Recursion: Training on Generated Data Makes Models Forget" publisher: arXiv url: https://arxiv.org/abs/2305.17493 published: "2023-05-27" accessed: "2026-11-03" - "n": 2 title: "The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text" publisher: arXiv url: https://arxiv.org/abs/2311.09807 published: "2023-11-16" accessed: "2026-11-03" - "n": 3 title: Self-Consuming Generative Models Go MAD publisher: arXiv url: https://arxiv.org/abs/2307.01850 published: "2023-07-04" accessed: "2026-11-03" - "n": 4 title: LLM04:2025 Data and Model Poisoning publisher: OWASP url: https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ accessed: "2026-11-03" - "n": 5 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 6 title: LLM03:2025 Supply Chain publisher: OWASP url: https://genai.owasp.org/llmrisk/llm032025-supply-chain/ accessed: "2026-11-03" - "n": 7 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 8 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # Modeldrift en vervuiling van het web door AI Schrijfassistenten maken teksten die andere modellen of andere medewerkers vervolgens hergebruiken. Wanneer die gegenereerde teksten dienen om nieuwe modellen te trainen, hebben onderzoekers onomkeerbare gebreken vastgesteld. Dit effect heet „Model Collapse", hier vertaald als modeldrift [1]. Deze pagina legt het mechanisme uit zonder vergelijkingen en geeft daarna eenvoudige handelingen: een bewering controleren, ze natrekken, twijfelachtige inhoud herkennen en een gegenereerde tekst nooit ongewijzigd overnemen. ## In 30 seconden - Waar het gebeurt: in tools die tekst en beeld genereren, en in de online inhoud waarmee ze worden getraind. - Wat het voor u betekent: een antwoord kan geloofwaardig lijken en toch onjuist zijn, of slechts een verarmde versie van bestaande inhoud. - De reflex: neem geen gegenereerde tekst over zonder haar na te trekken bij een betrouwbare bron die u zelf hebt geopend. - Als het al gebeurd is: lees het document opnieuw, zoek de bron van elk feit op, corrigeer en waarschuw de ontvangers als er een fout is verstuurd. ## Directe vragen ### Wat is modeldrift? Het is de achteruitgang van een model dat is getraind op inhoud van andere modellen. Onderzoekers stelden vast dat het gebruik van gegenereerde inhoud bij de training onomkeerbare gebreken veroorzaakt: de „staarten" van de oorspronkelijke verdeling, dat wil zeggen de zeldzame gevallen, verdwijnen. Zij noemden dit effect „Model Collapse" en zagen het bij variational autoencoders, Gaussian mixture models en grote taalmodellen [1]. ### Blijft het verschijnsel beperkt tot tekst? Nee. Een ander team bestudeerde generatieve beeldmodellen in lussen waarin elke generatie wordt getraind op de uitvoer van de vorige. Zonder genoeg verse echte data in elke generatie nemen de kwaliteit (precisie) of de diversiteit (recall) van latere modellen geleidelijk af. De auteurs noemen die toestand „Model Autophagy Disorder" (MAD), naar analogie met de gekkekoeienziekte [3]. ### En bij taalmodellen? Een studie die is geaccepteerd voor NAACL 2024 (Findings) mat de lexicale, syntactische en semantische diversiteit na opeenvolgende afstemmingen op synthetische tekst, in het Engels. Ze meldt dat de diversiteit van de uitvoer gestaag afneemt naarmate de iteraties vorderen, vooral bij taken die creativiteit vragen [2]. ### Kan een gegenereerde tekst onjuist zijn zonder dat de tool „liegt"? Ja. OWASP beschrijft hallucinatie: het model vult hiaten op met statistische regelmatigheden, zonder de inhoud te begrijpen, en geeft antwoorden die juist lijken maar nergens op berusten. Vooroordelen in de trainingsdata en onvolledige informatie dragen daar ook aan bij [5]. ### Kunnen trainingsdata opzettelijk worden vergiftigd? Ja. OWASP noemt datavergiftiging het manipuleren van data voor de voortraining, de afstemming of de embeddings om kwetsbaarheden, achterdeuren of vooroordelen in te brengen. Het risico is verhoogd bij externe bronnen, die ongecontroleerde of kwaadaardige inhoud kunnen bevatten [4]. ## Hoe het werkt Een taalmodel leert van grote hoeveelheden tekst die op het web zijn verzameld. Als een groeiend deel van die tekst van modellen komt, leert het volgende model deels van kopieën. De auteurs van de eerste studie stellen dat dit risico serieus moet worden genomen om te kunnen blijven profiteren van training op data die op grote schaal van het web zijn verzameld. Zij voegen eraan toe dat data uit echte menselijke interacties met de systemen waardevoller worden naarmate gegenereerde inhoud zich verspreidt in de data die van internet worden verzameld [1]. Het andere onderzoek stelt vast dat kwaliteit of diversiteit afneemt zonder genoeg verse echte data in elke generatie [3]. De geraadpleegde pagina's geven geen cijfer voor het aandeel synthetische inhoud dat nu op het web staat, en deze pagina noemt dan ook geen cijfer. ## Wat u doet - Behandel een gegenereerd antwoord als een concept. OWASP noemt overmatig vertrouwen (overreliance): gebruikers verwerken onjuiste gegevens in belangrijke beslissingen zonder voldoende controle [5]. - Trek na bij betrouwbare externe bronnen. OWASP raadt aan de uitvoer van het model met die bronnen te vergelijken en voor gevoelige informatie te zorgen voor menselijke nalezing en feitencontrole [5]. - Zoek de herkomst van elk feit, cijfer of citaat op voordat u het in een document zet. Vindt u geen bron, haal het feit dan weg. - Controleer of een verwijzing bestaat voordat u haar gebruikt. OWASP noemt een geval waarin ChatGPT valse rechtszaken verzon, met ernstige gevolgen voor de rechtbank [5]. - Neem bij code geen voorgestelde bibliotheek over zonder controle. Assistenten stellen onveilige of niet bestaande bibliotheken van derden voor [5]. - Herken twijfelachtige inhoud: tekst zonder auteur of bron, beweringen zonder onderbouwing, tegenspraak met een bron die u kent. Deze criteria zijn vuistregels van deze pagina, geen methode uit de bronnen. - Meld dat inhoud gegenereerd is wanneer u haar deelt. OWASP raadt aan door AI gegenereerde inhoud duidelijk te labelen en te informeren over de grenzen van de betrouwbaarheid [5]. ## De valkuilen - Een vloeiend antwoord is geen gecontroleerd antwoord: de desinformatie van een model oogt geloofwaardig [5]. - Een bron die een gegenereerde tekst overneemt, is geen tweede mening. Twee pagina's die hetzelfde zeggen, kunnen van hetzelfde model komen. - De modellen zelf kunnen van buiten komen. OWASP merkt op dat er momenteel geen sterke garantie bestaat over de herkomst van gepubliceerde modellen: de beschrijvende fiches geven er geen over hun oorsprong [6]. - Een vergiftigd model kan zich normaal gedragen totdat een trigger zijn gedrag verandert, waardoor het gebrek moeilijk te ontdekken is [4]. - De gebruiksvoorwaarden van een tool kunnen toestaan dat uw gegevens voor training worden gebruikt. OWASP wijst op dit risico wanneer de voorwaarden en het privacybeleid vaag zijn [6]. Voer geen gevoelige informatie in een tool die uw bedrijf niet heeft goedgekeurd. - Een AI-fout maakt de organisatie aansprakelijk, ook zonder aanvaller. OWASP noemt de chatbot van Air Canada, wiens onjuiste informatie aan reizigers tot verstoringen en juridische complicaties leidde, waarbij de maatschappij met succes is aangeklaagd [5]. Aan de kant van de organisatie biedt NIST een sectoroverstijgend profiel voor generatieve AI, een aanvulling op AI RMF 1.0, voor vrijwillig gebruik [8]. De richtlijnen van de Britse NCSC, gepubliceerd op 27 november 2023, bestrijken het ontwerp, de ontwikkeling, de inzet en de exploitatie van AI-systemen, waaronder de beveiliging van de toeleveringsketen [7]. ## Echte gevallen ### 27 mei 2023: de „vloek van de recursie" Ilia Shumailov en vijf coauteurs dienen bij arXiv een artikel in waarin ze zich afvragen wat er met toekomstige GPT-modellen zal gebeuren wanneer grote taalmodellen een groot deel van de online tekst produceren. Hun antwoord: gegenereerde inhoud die bij de training wordt gebruikt, veroorzaakt onomkeerbare gebreken. Ze tonen aan dat het effect bij meerdere modelfamilies kan optreden [1]. ### 4 juli 2023: de autofagiestoornis van modellen Sina Alemohammad, Richard G. Baraniuk en zes coauteurs dienen bij arXiv een analyse in van drie families van zelfverslindende lussen bij beeldmodellen. Hun conclusie: zonder genoeg verse echte data nemen precisie of diversiteit af van generatie op generatie [3]. ### 16 november 2023: de achteruitgang van de taaldiversiteit Yanzhu Guo en coauteurs dienen bij arXiv experimenten in met recursieve afstemming in het Engels. De diversiteit van de uitvoer daalt bij elke iteratie, vooral bij creatieve taken [2]. ## Bronnen 1. arXiv, “The Curse of Recursion: Training on Generated Data Makes Models Forget”, 27 mei 2023. https://arxiv.org/abs/2305.17493 (geraadpleegd op 3 november 2026) 2. arXiv, “The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text”, 16 november 2023. https://arxiv.org/abs/2311.09807 (geraadpleegd op 3 november 2026) 3. arXiv, “Self-Consuming Generative Models Go MAD”, 4 juli 2023. https://arxiv.org/abs/2307.01850 (geraadpleegd op 3 november 2026) 4. OWASP, “LLM04:2025 Data and Model Poisoning”. https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ (geraadpleegd op 3 november 2026) 5. OWASP, “LLM09:2025 Misinformation”. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (geraadpleegd op 3 november 2026) 6. OWASP, “LLM03:2025 Supply Chain”. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (geraadpleegd op 3 november 2026) 7. NCSC (Royaume-Uni), “Guidelines for secure AI system development”, 27 november 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (geraadpleegd op 3 november 2026) 8. NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”, 26 juli 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (geraadpleegd op 3 november 2026) --- Oorspronkelijke bron: Cyberpedia, de openbare encyclopedie over cyberveiligheid en AI van Brain. Canonieke versie: https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud/ U mag deze tekst vrij hergebruiken onder de licentie CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), mits u “Brain, Cyberpedia” vermeldt met een link naar bovenstaand adres.