--- id: CP-272 slug: advocaat-verzonnen-uitspraken-chatgpt-mata-avianca lang: nl title: De advocaat en de verzonnen uitspraken van ChatGPT description: Een AI-assistent kan geloofwaardige rechterlijke uitspraken verzinnen. Waarom dat gebeurt en hoe u een verwijzing op het werk controleert. canonical_url: https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/ markdown_url: https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, “De advocaat en de verzonnen uitspraken van ChatGPT”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-026 schema: G2 updated: "2026-11-03" translations: nl: https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/ fr: https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ en: https://startbrain.io/cyberpedia/en/articles/lawyer-fake-cases-chatgpt-mata-avianca/ de: https://startbrain.io/cyberpedia/de/articles/anwalt-erfundene-urteile-chatgpt-mata-avianca/ es: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ it: https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 published: "2023-11-09" accessed: "2026-11-03" - "n": 4 title: "Hallucination is Inevitable: An Innate Limitation of Large Language Models" publisher: arXiv url: https://arxiv.org/abs/2401.11817 published: "2024-01-22" accessed: "2026-11-03" - "n": 5 title: "Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation" publisher: arXiv url: https://arxiv.org/abs/2305.15852 published: "2023-05-25" accessed: "2026-11-03" --- # De advocaat en de verzonnen uitspraken van ChatGPT Een AI-assistent kan een rechterlijke uitspraak produceren die niet bestaat. OWASP vermeldt dat ChatGPT valse juridische zaken heeft verzonnen, met aanzienlijke gevolgen voor een rechtbank [1]. Dit risico geldt ook voor een medewerker die de tekst van een AI-assistent ongewijzigd overneemt. De hier aangehaalde bronnen noemen de zaak Mata v. Avianca niet en vertellen haar niet na. Dit artikel neemt daarom geen namen van personen, geen data en geen sanctie over: het houdt zich aan wat de bronnen vaststellen en legt uit wat een medewerker eruit kan meenemen voor het eigen werk. ## In 30 seconden - Waar het gebeurt: in elke tekst van een AI-assistent die een citaat, een cijfer of een rechterlijke uitspraak bevat. - Wat de aanvaller wil: niemand. Het risico komt van het model zelf, dat een onjuist antwoord kan geven zonder dat een aanvaller ingrijpt [1]. - De reflex: neem geen enkel citaat, cijfer of verwijzing van een AI over zonder het in de oorspronkelijke bron te hebben teruggevonden, en laat het daarna door een persoon nalezen vóór elk professioneel gebruik. - Als het al gebeurd is: zoek de bron op van elk element dat al is gebruikt, corrigeer of verwijder wat zich niet laat controleren en waarschuw de ontvangers van het document. ## Directe vragen ### Wat is er gebeurd in de zaak Mata v. Avianca? Van de hier aangehaalde bronnen noemt alleen de pagina van OWASP dit soort zaak, zonder de zaak bij naam te noemen: ChatGPT wordt daar beschreven als de maker van valse juridische zaken, wat voor een rechtbank tot aanzienlijke problemen heeft geleid [1]. De details van de procedure, de datum en de sanctie staan er niet in. ### Waarom verzint een AI verwijzingen? Een taalmodel raadpleegt geen database met feiten. OWASP legt uit dat het de lacunes in zijn trainingsdata opvult met statistische regelmatigheden, zonder de inhoud te begrijpen: het antwoord kan juist lijken terwijl het nergens op berust [1]. NIST beschrijft hetzelfde mechanisme: deze modellen leveren uitvoer die de statistische verdeling van hun trainingsdata benadert, en grote taalmodellen voorspellen het volgende woord in een zin [2]. ### Is dit een gebrek dat snel wordt verholpen? De bronnen beloven dat niet. Een overzichtsstudie stelt dat deze modellen aannemelijke maar niet feitelijke inhoud kunnen produceren, en dat dit serieuze vragen oproept over hun betrouwbaarheid in systemen voor het opzoeken van informatie [3]. Een theoretische studie stelt dat het onmogelijk is hallucinatie in grote taalmodellen uit te bannen, en dat zij onvermijdelijk zullen hallucineren als ze als algemene probleemoplossers worden gebruikt [4]. ### Welke woorden moet u kennen? NIST spreekt van "confabulation" voor het voortbrengen van onjuiste inhoud die met stelligheid wordt gepresenteerd, en preciseert dat men in de omgangstaal ook "hallucinations" of "fabrications" zegt [2]. De woorden duiden hetzelfde verschijnsel aan. ### Is een tekst met een zelfverzekerde toon betrouwbaarder? Nee. Volgens NIST ontstaat het risico wanneer gebruikers onjuiste inhoud geloven, vaak door de stellige toon van het antwoord, en daarna op die basis handelen [2]. ## Hoe het werkt Het model zoekt niet naar de waarheid, het produceert de meest waarschijnlijke reeks woorden. NIST merkt op dat deze statistische voorspelling nauwkeurige en samenhangende uitvoer kan opleveren, maar ook uitvoer die onnauwkeurig is of onderling tegenstrijdig. NIST vindt dit verschijnsel bijzonder duidelijk bij open vragen die lange antwoorden vragen, en op gebieden die contextuele deskundigheid vereisen [2]. OWASP onderscheidt twee samenhangende problemen. Het eerste is hallucinatie: het model genereert inhoud die juist lijkt maar verzonnen is. Het tweede is overmatig vertrouwen: gebruikers vertrouwen de gegenereerde tekst te veel en controleren de juistheid niet, zodat ze onjuiste gegevens opnemen in belangrijke beslissingen of processen [1]. ## Wat u doet De onderstaande werkwijzen volgen de maatregelen van OWASP en NIST, geformuleerd vanuit het standpunt van de medewerker. - Behandel elk citaat, elk cijfer en elke verwijzing van een AI als ongecontroleerd. OWASP beveelt aan dat gebruikers de uitvoer vergelijken met betrouwbare externe bronnen [1]. - Zoek het element op in de oorspronkelijke bron: de tekst van de uitspraak, het officiële document, de studie. Een verwijzing die u niet kunt terugvinden, gebruikt u niet. - Vergelijk meerdere betrouwbare externe bronnen in plaats van genoegen te nemen met één bevestiging [1]. - Houd een menselijke goedkeuring aan vóór elk professioneel gebruik. OWASP vraagt om menselijk toezicht en processen voor feitencontrole bij kritieke of gevoelige informatie, met nalezers die zijn opgeleid om niet te veel op gegenereerde inhoud te vertrouwen [1]. - Meld uw lezers wat met een AI is gemaakt. OWASP beveelt aan gegenereerde inhoud duidelijk te labelen en gebruikers te informeren over de grenzen van de betrouwbaarheid [1]. - Wees in gevoelige domeinen, zoals gezondheid of gerechtelijke procedures, extra voorzichtig: OWASP noemt deze contexten bij ongegronde beweringen [1]. ## De valkuilen ### De stellige toon Een vloeiend, stellig antwoord bewijst niets. NIST wijst erop dat confabulaties ook de vorm kunnen aannemen van verzonnen redeneringen of citaten die het antwoord zouden rechtvaardigen, wat ertoe kan leiden dat men het systeem ten onrechte vertrouwt [2]. Een zeer gedetailleerde verwijzing, met nummer, rechtsgebied en datum, is dus geen aanwijzing voor echtheid. ### Het vertrouwen dat groeit NIST beschrijft een automatiseringsbias: naarmate de technologie betrouwbaar lijkt, kunnen mensen te snel op de uitvoer vertrouwen of de inhoud beter vinden dan die van andere bronnen. Deze bias vergroot het risico op confabulatie [2]. Een hulpmiddel dat tien keer goed heeft geantwoord, heeft de elfde keer daarmee nog geen gelijk. ### De AI zichzelf laten controleren De hier aangehaalde bronnen onderzoeken niet rechtstreeks het geval waarin men het hulpmiddel zijn eigen antwoord laat bevestigen. Ze geven wel aanwijzingen over de betrouwbaarheid van de uitvoer. Een studie over ChatGPT stelt zelftegenspraken vast, dat wil zeggen twee tegenstrijdige zinnen in dezelfde context, in 17,7 % van de geproduceerde zinnen. De auteurs voegen eraan toe dat een groot deel van deze tegenstrijdigheden, 35,2 % voor ChatGPT, niet met teksten online kan worden gecontroleerd [5]. Hun detector, gebaseerd op instructies aan ChatGPT, haalt ongeveer 80 % F1-score [5]. Dat is nuttig voor onderzoek, maar er glippen fouten doorheen. NIST merkt ook op dat modellen soms redeneerstappen geven, zelfs wanneer het antwoord onjuist is [2]. ### Denken dat het probleem verdwijnt De theoretische studie acht hallucinatie onvermijdelijk [4], en de overzichtsstudie beschrijft de huidige beperkingen in detail [3]. Controle door een mens blijft dus nodig. ### Dezelfde fouten buiten de rechtszaal OWASP noemt andere gevallen: een chatbot van Air Canada gaf reizigers onjuiste informatie, en de maatschappij werd met succes aangeklaagd [1]. Het vermeldt ook programmeerassistenten die niet-bestaande of onveilige codebibliotheken voorstellen [1]. In een scenario dat OWASP beschrijft, ontdekken aanvallers de pakketnamen die assistenten vaak verzinnen, publiceren ze onder die namen echte kwaadaardige pakketten, en nemen ontwikkelaars die op [1]. ## Bronnen 1. OWASP, “LLM09:2025 Misinformation”. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (geraadpleegd op 3 november 2026) 2. NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (geraadpleegd op 3 november 2026) 3. arXiv, “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions”, 9 november 2023. https://arxiv.org/abs/2311.05232 (geraadpleegd op 3 november 2026) 4. arXiv, “Hallucination is Inevitable: An Innate Limitation of Large Language Models”, 22 januari 2024. https://arxiv.org/abs/2401.11817 (geraadpleegd op 3 november 2026) 5. arXiv, “Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation”, 25 mei 2023. https://arxiv.org/abs/2305.15852 (geraadpleegd op 3 november 2026) --- Oorspronkelijke bron: Cyberpedia, de openbare encyclopedie over cyberveiligheid en AI van Brain. Canonieke versie: https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/ U mag deze tekst vrij hergebruiken onder de licentie CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), mits u “Brain, Cyberpedia” vermeldt met een link naar bovenstaand adres.