AI-hallucinatie: wanneer het model iets verzint
Een taalmodel voorspelt het waarschijnlijke woord zonder te controleren of het waar is: het kan feiten, bronnen en codepakketten verzinnen.
In 30 seconden
- Waar het voorkomt
- In elke tekst van een AI-assistent, vooral bij open vragen die een lang antwoord vragen en op terreinen die contextuele deskundigheid vereisen2.
- Wat er op het spel staat
- Het model kan een feit, een bron, een citaat of de naam van een codebibliotheek verzinnen en die zelfverzekerd presenteren12.
- De reflex
- Controleer elk belangrijk feit aan de hand van een betrouwbare externe bron en laat kritieke informatie door een mens nalezen voordat u haar gebruikt1.
- Als het al gebeurd is
- Waarschuw de ontvanger van het document, corrigeer met een betrouwbare bron en meld de fout bij de persoon die in het bedrijf de AI-hulpmiddelen beheert.
Waar gaat het over
Een AI-assistent die een samenvatting, een juridische notitie of een lijst met bronnen schrijft, raadpleegt geen database met feiten. Hij produceert een aannemelijke reeks woorden. Als hij zich vergist, klinkt hij net zo zelfverzekerd als wanneer hij gelijk heeft, en op het scherm wijst niets op het verschil.
Dit verschijnsel heet hallucinatie. Het Amerikaanse NIST gebruikt ook de term "confabulatie" en merkt op dat men in het dagelijks taalgebruik spreekt van hallucinaties of verzinsels2. Voor een medewerker is een AI-antwoord een concept dat gecontroleerd moet worden, nooit een bron.
Directe vragen
Waarom verzint een AI dingen?
Volgens OWASP vullen modellen hiaten in hun trainingsdata op met statistische patronen, zonder de inhoud te begrijpen. De antwoorden kunnen dan juist lijken terwijl ze nergens op berusten1. NIST beschrijft hetzelfde mechanisme: modellen produceren uitvoer die de statistische verdeling van hun trainingsdata benadert, en grote taalmodellen voorspellen het volgende woord in een zin2.
Is dit een zeldzame tekortkoming?
NIST noemt het een natuurlijk gevolg van de manier waarop generatieve modellen zijn ontworpen2. Twee overzichtsstudies, de ene over tekstgeneratie in het algemeen en de andere over grote taalmodellen, beschrijven een nauwkeurig onderzocht probleem. De eerste behandelt automatische samenvatting, dialoog, vraag-en-antwoord en machinevertaling4. De tweede spreekt over aannemelijke maar niet-feitelijke inhoud en over twijfels aan de betrouwbaarheid van deze modellen bij het zoeken naar informatie3.
Kan een AI ook zijn eigen verantwoording verzinnen?
Ja. NIST stelt dat de uitvoer verzonnen logica of citaten kan bevatten die beweren het antwoord te verklaren. Een model geeft soms redeneerstappen terwijl het antwoord onjuist is2. Een mooi weergegeven bron bewijst dus niets.
Komt het risico alleen van de machine?
Nee. OWASP noemt ook overmatig vertrouwen: gebruikers vertrouwen te veel op gegenereerde inhoud, controleren de juistheid niet en verwerken onjuiste gegevens in belangrijke beslissingen1. NIST merkt op dat het risico ontstaat wanneer gebruikers het onjuiste geloven, vaak door de zelfverzekerde toon van het antwoord2.
1Hoe het werkt1 min
Een taalmodel maakt geen onderscheid tussen wat het "weet" en wat het aanvult. NIST preciseert dat statistische voorspelling uitvoer kan opleveren die juist en samenhangend is, maar ook onjuist of onsamenhangend2. Het is vooral een probleem bij open opdrachten die een lang antwoord vragen, en op terreinen die contextuele deskundigheid vereisen2.
Verzinsels hebben verschillende vormen. OWASP noemt er vier. De eerste is feitelijke onjuistheid: de chatbot van Air Canada gaf reizigers onjuiste informatie en de maatschappij werd met succes aangeklaagd1. De tweede is ongefundeerde beweringen, met als voorbeeld ChatGPT die valse rechtszaken verzon, wat leidde tot ernstige problemen voor de rechter1. De derde is de schijn van deskundigheid, bijvoorbeeld chatbots die gezondheidsonderwerpen als onzeker voorstellen terwijl dat niet zo is1. De vierde is gevaarlijke code: het model stelt onveilige of niet-bestaande bibliotheken voor1.
Deze verzinsels kunnen worden uitgebuit. OWASP beschrijft een scenario waarin aanvallers programmeerassistenten testen om de pakketnamen te vinden die vaak worden verzonnen, en vervolgens echte kwaadaardige pakketten onder die namen publiceren in veelgebruikte repositories. Ontwikkelaars die de suggestie van de assistent volgen, nemen ze zonder het te weten op in hun software1.
2Wat u doet1 min
De onderstaande maatregelen zijn gebaseerd op de aanbevelingen van OWASP1.
- Controleer belangrijke feiten aan de hand van betrouwbare externe bronnen1.
- Open elke link en elke bron die de AI noemt. Als de pagina niet bestaat of niet zegt wat de AI eraan toeschrijft, beschouw de bron dan als verzonnen. NIST wijst erop dat verzonnen citaten misleidend kunnen zijn2.
- Plak een niet-gecontroleerd antwoord niet in een contract, een juridische notitie, een financieel document of een brief aan een klant. OWASP vraagt om menselijke controle, vooral bij kritieke of gevoelige informatie1.
- Controleer voordat u een door een assistent voorgesteld codepakket installeert of het bestaat en legitiem is. OWASP vraagt ook om veilige ontwikkelpraktijken, om te voorkomen dat kwetsbaarheden uit foutieve suggesties worden overgenomen1.
- Houd in een beslisketen een opgeleide mens aan het nalezen. OWASP benadrukt de opleiding van nalezers, zodat zij niet blind op door AI geproduceerde inhoud vertrouwen1.
3De valkuilen1 min
- Vloeiende taal misleidt. Een goed geschreven tekst is niet per se een juiste tekst, en NIST merkt op dat de zelfverzekerde toon ertoe aanzet het onjuiste te geloven2.
- Gespecialiseerde terreinen lopen het meeste risico. OWASP noemt recht en gezondheid als contexten waarin ongefundeerde beweringen bijzonder schadelijk zijn1. NIST geeft het voorbeeld van een verzonnen samenvatting van een medisch dossier die tot verkeerde diagnoses zou kunnen leiden2.
- De AI zichzelf laten nalezen vervangt geen externe bron. Ze kan een onjuist antwoord rechtvaardigen met een redenering die logisch lijkt2.
- Er is geen aanvaller nodig om schade te veroorzaken. OWASP beschrijft een bedrijf dat met succes werd aangeklaagd nadat het een chatbot voor medische diagnoses had aangeboden zonder zich van de betrouwbaarheid ervan te vergewissen. De fout kwam voort uit onvoldoende controle, niet uit een aanval1.
- Het risico is moeilijk te kwantificeren. NIST schrijft dat het lastig is de omvang en de gevolgen van confabulaties verderop in de keten in te schatten2. Het publiceerde zijn profiel voor generatieve AI, dat organisaties helpt de risico's van deze technologie te herkennen, op 26 juli 20245.
Fiche
- Identificatie
- CP-271
- Vleugel
- 4. Kunstmatige intelligentie
- Brain-competentie
- Antwoorden controleren (verify_output)
- Brain-reflex
- air-006
- Schema
- G2 · Mythe versus realiteit
- Talen
- de, en, es, fr, it, nl
- Bronnen
- 5 bronnen gecontroleerd op 3 november 2026
Bronnen5 bronnen
- OWASP, “LLM09:2025 Misinformation”. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (geraadpleegd op 3 november 2026)
- NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (geraadpleegd op 3 november 2026)
- arXiv, “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions”. https://arxiv.org/abs/2311.05232 (geraadpleegd op 3 november 2026)
- arXiv, “Survey of Hallucination in Natural Language Generation”. https://arxiv.org/abs/2202.03629 (geraadpleegd op 3 november 2026)
- NIST, “AI Risk Management Framework”. https://www.nist.gov/itl/ai-risk-management-framework (geraadpleegd op 3 november 2026)
Dit artikel citeren
Brain, “AI-hallucinatie: wanneer het model iets verzint”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp271_nl_2026,
author = {Brain},
title = {AI-hallucinatie: wanneer het model iets verzint},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/nl/articles/ai-hallucinatie-verzonnen-feiten/},
note = {CC BY 4.0}
}