Modeldrift en vervuiling van het web door AI
Hoe AI getraind op door AI geschreven teksten diversiteit verliest, en hoe u gegenereerde inhoud op het werk controleert voordat u haar gebruikt.
In 30 seconden
- Waar het gebeurt
- In tools die tekst en beeld genereren, en in de online inhoud waarmee ze worden getraind.
- Wat het voor u betekent
- Een antwoord kan geloofwaardig lijken en toch onjuist zijn, of slechts een verarmde versie van bestaande inhoud.
- De reflex
- Neem geen gegenereerde tekst over zonder haar na te trekken bij een betrouwbare bron die u zelf hebt geopend.
- Als het al gebeurd is
- Lees het document opnieuw, zoek de bron van elk feit op, corrigeer en waarschuw de ontvangers als er een fout is verstuurd.
Waar gaat het over
Schrijfassistenten maken teksten die andere modellen of andere medewerkers vervolgens hergebruiken. Wanneer die gegenereerde teksten dienen om nieuwe modellen te trainen, hebben onderzoekers onomkeerbare gebreken vastgesteld. Dit effect heet „Model Collapse", hier vertaald als modeldrift1.
Deze pagina legt het mechanisme uit zonder vergelijkingen en geeft daarna eenvoudige handelingen: een bewering controleren, ze natrekken, twijfelachtige inhoud herkennen en een gegenereerde tekst nooit ongewijzigd overnemen.
Directe vragen
Wat is modeldrift?
Het is de achteruitgang van een model dat is getraind op inhoud van andere modellen. Onderzoekers stelden vast dat het gebruik van gegenereerde inhoud bij de training onomkeerbare gebreken veroorzaakt: de „staarten" van de oorspronkelijke verdeling, dat wil zeggen de zeldzame gevallen, verdwijnen. Zij noemden dit effect „Model Collapse" en zagen het bij variational autoencoders, Gaussian mixture models en grote taalmodellen1.
Blijft het verschijnsel beperkt tot tekst?
Nee. Een ander team bestudeerde generatieve beeldmodellen in lussen waarin elke generatie wordt getraind op de uitvoer van de vorige. Zonder genoeg verse echte data in elke generatie nemen de kwaliteit (precisie) of de diversiteit (recall) van latere modellen geleidelijk af. De auteurs noemen die toestand „Model Autophagy Disorder" (MAD), naar analogie met de gekkekoeienziekte3.
En bij taalmodellen?
Een studie die is geaccepteerd voor NAACL 2024 (Findings) mat de lexicale, syntactische en semantische diversiteit na opeenvolgende afstemmingen op synthetische tekst, in het Engels. Ze meldt dat de diversiteit van de uitvoer gestaag afneemt naarmate de iteraties vorderen, vooral bij taken die creativiteit vragen2.
Kan een gegenereerde tekst onjuist zijn zonder dat de tool „liegt"?
Ja. OWASP beschrijft hallucinatie: het model vult hiaten op met statistische regelmatigheden, zonder de inhoud te begrijpen, en geeft antwoorden die juist lijken maar nergens op berusten. Vooroordelen in de trainingsdata en onvolledige informatie dragen daar ook aan bij5.
Kunnen trainingsdata opzettelijk worden vergiftigd?
Ja. OWASP noemt datavergiftiging het manipuleren van data voor de voortraining, de afstemming of de embeddings om kwetsbaarheden, achterdeuren of vooroordelen in te brengen. Het risico is verhoogd bij externe bronnen, die ongecontroleerde of kwaadaardige inhoud kunnen bevatten4.
1Hoe het werkt1 min
Een taalmodel leert van grote hoeveelheden tekst die op het web zijn verzameld. Als een groeiend deel van die tekst van modellen komt, leert het volgende model deels van kopieën. De auteurs van de eerste studie stellen dat dit risico serieus moet worden genomen om te kunnen blijven profiteren van training op data die op grote schaal van het web zijn verzameld. Zij voegen eraan toe dat data uit echte menselijke interacties met de systemen waardevoller worden naarmate gegenereerde inhoud zich verspreidt in de data die van internet worden verzameld1.
Het andere onderzoek stelt vast dat kwaliteit of diversiteit afneemt zonder genoeg verse echte data in elke generatie3. De geraadpleegde pagina's geven geen cijfer voor het aandeel synthetische inhoud dat nu op het web staat, en deze pagina noemt dan ook geen cijfer.
2Wat u doet1 min
- Behandel een gegenereerd antwoord als een concept. OWASP noemt overmatig vertrouwen (overreliance): gebruikers verwerken onjuiste gegevens in belangrijke beslissingen zonder voldoende controle5.
- Trek na bij betrouwbare externe bronnen. OWASP raadt aan de uitvoer van het model met die bronnen te vergelijken en voor gevoelige informatie te zorgen voor menselijke nalezing en feitencontrole5.
- Zoek de herkomst van elk feit, cijfer of citaat op voordat u het in een document zet. Vindt u geen bron, haal het feit dan weg.
- Controleer of een verwijzing bestaat voordat u haar gebruikt. OWASP noemt een geval waarin ChatGPT valse rechtszaken verzon, met ernstige gevolgen voor de rechtbank5.
- Neem bij code geen voorgestelde bibliotheek over zonder controle. Assistenten stellen onveilige of niet bestaande bibliotheken van derden voor5.
- Herken twijfelachtige inhoud: tekst zonder auteur of bron, beweringen zonder onderbouwing, tegenspraak met een bron die u kent. Deze criteria zijn vuistregels van deze pagina, geen methode uit de bronnen.
- Meld dat inhoud gegenereerd is wanneer u haar deelt. OWASP raadt aan door AI gegenereerde inhoud duidelijk te labelen en te informeren over de grenzen van de betrouwbaarheid5.
3De valkuilen1 min
- Een vloeiend antwoord is geen gecontroleerd antwoord: de desinformatie van een model oogt geloofwaardig5.
- Een bron die een gegenereerde tekst overneemt, is geen tweede mening. Twee pagina's die hetzelfde zeggen, kunnen van hetzelfde model komen.
- De modellen zelf kunnen van buiten komen. OWASP merkt op dat er momenteel geen sterke garantie bestaat over de herkomst van gepubliceerde modellen: de beschrijvende fiches geven er geen over hun oorsprong6.
- Een vergiftigd model kan zich normaal gedragen totdat een trigger zijn gedrag verandert, waardoor het gebrek moeilijk te ontdekken is4.
- De gebruiksvoorwaarden van een tool kunnen toestaan dat uw gegevens voor training worden gebruikt. OWASP wijst op dit risico wanneer de voorwaarden en het privacybeleid vaag zijn6. Voer geen gevoelige informatie in een tool die uw bedrijf niet heeft goedgekeurd.
- Een AI-fout maakt de organisatie aansprakelijk, ook zonder aanvaller. OWASP noemt de chatbot van Air Canada, wiens onjuiste informatie aan reizigers tot verstoringen en juridische complicaties leidde, waarbij de maatschappij met succes is aangeklaagd5.
Aan de kant van de organisatie biedt NIST een sectoroverstijgend profiel voor generatieve AI, een aanvulling op AI RMF 1.0, voor vrijwillig gebruik8. De richtlijnen van de Britse NCSC, gepubliceerd op 27 november 2023, bestrijken het ontwerp, de ontwikkeling, de inzet en de exploitatie van AI-systemen, waaronder de beveiliging van de toeleveringsketen7.
4Echte gevallen1 min
27 mei 2023: de „vloek van de recursie"
Ilia Shumailov en vijf coauteurs dienen bij arXiv een artikel in waarin ze zich afvragen wat er met toekomstige GPT-modellen zal gebeuren wanneer grote taalmodellen een groot deel van de online tekst produceren. Hun antwoord: gegenereerde inhoud die bij de training wordt gebruikt, veroorzaakt onomkeerbare gebreken. Ze tonen aan dat het effect bij meerdere modelfamilies kan optreden1.
4 juli 2023: de autofagiestoornis van modellen
Sina Alemohammad, Richard G. Baraniuk en zes coauteurs dienen bij arXiv een analyse in van drie families van zelfverslindende lussen bij beeldmodellen. Hun conclusie: zonder genoeg verse echte data nemen precisie of diversiteit af van generatie op generatie3.
16 november 2023: de achteruitgang van de taaldiversiteit
Yanzhu Guo en coauteurs dienen bij arXiv experimenten in met recursieve afstemming in het Engels. De diversiteit van de uitvoer daalt bij elke iteratie, vooral bij creatieve taken2.
Fiche
- Identificatie
- CP-279
- Vleugel
- 4. Kunstmatige intelligentie
- Brain-competentie
- AI begrijpen (understand_ai)
- Brain-reflex
- air-003
- Schema
- G2 · Mythe versus realiteit
- Talen
- de, en, es, fr, it, nl
- Bronnen
- 8 bronnen gecontroleerd op 3 november 2026
Bronnen8 bronnen
- arXiv, “The Curse of Recursion: Training on Generated Data Makes Models Forget”, 27 mei 2023. https://arxiv.org/abs/2305.17493 (geraadpleegd op 3 november 2026)
- arXiv, “The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text”, 16 november 2023. https://arxiv.org/abs/2311.09807 (geraadpleegd op 3 november 2026)
- arXiv, “Self-Consuming Generative Models Go MAD”, 4 juli 2023. https://arxiv.org/abs/2307.01850 (geraadpleegd op 3 november 2026)
- OWASP, “LLM04:2025 Data and Model Poisoning”. https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ (geraadpleegd op 3 november 2026)
- OWASP, “LLM09:2025 Misinformation”. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (geraadpleegd op 3 november 2026)
- OWASP, “LLM03:2025 Supply Chain”. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (geraadpleegd op 3 november 2026)
- NCSC (Royaume-Uni), “Guidelines for secure AI system development”, 27 november 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (geraadpleegd op 3 november 2026)
- NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”, 26 juli 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (geraadpleegd op 3 november 2026)
Dit artikel citeren
Brain, “Modeldrift en vervuiling van het web door AI”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp279_nl_2026,
author = {Brain},
title = {Modeldrift en vervuiling van het web door AI},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/nl/articles/modeldrift-ai-vervuiling-web-synthetische-inhoud/},
note = {CC BY 4.0}
}