Cyberpediadoor Brain
NLDEENESFRIT

De advocaat en de verzonnen uitspraken van ChatGPT

Een AI-assistent kan geloofwaardige rechterlijke uitspraken verzinnen. Waarom dat gebeurt en hoe u een verwijzing op het werk controleert.

In 30 seconden

Waar het gebeurt
In elke tekst van een AI-assistent die een citaat, een cijfer of een rechterlijke uitspraak bevat.
Wat de aanvaller wil
Niemand. Het risico komt van het model zelf, dat een onjuist antwoord kan geven zonder dat een aanvaller ingrijpt1.
De reflex
Neem geen enkel citaat, cijfer of verwijzing van een AI over zonder het in de oorspronkelijke bron te hebben teruggevonden, en laat het daarna door een persoon nalezen vóór elk professioneel gebruik.
Als het al gebeurd is
Zoek de bron op van elk element dat al is gebruikt, corrigeer of verwijder wat zich niet laat controleren en waarschuw de ontvangers van het document.

Waar gaat het over

Een AI-assistent kan een rechterlijke uitspraak produceren die niet bestaat. OWASP vermeldt dat ChatGPT valse juridische zaken heeft verzonnen, met aanzienlijke gevolgen voor een rechtbank1. Dit risico geldt ook voor een medewerker die de tekst van een AI-assistent ongewijzigd overneemt.

De hier aangehaalde bronnen noemen de zaak Mata v. Avianca niet en vertellen haar niet na. Dit artikel neemt daarom geen namen van personen, geen data en geen sanctie over: het houdt zich aan wat de bronnen vaststellen en legt uit wat een medewerker eruit kan meenemen voor het eigen werk.

Directe vragen

Wat is er gebeurd in de zaak Mata v. Avianca?

Van de hier aangehaalde bronnen noemt alleen de pagina van OWASP dit soort zaak, zonder de zaak bij naam te noemen: ChatGPT wordt daar beschreven als de maker van valse juridische zaken, wat voor een rechtbank tot aanzienlijke problemen heeft geleid1. De details van de procedure, de datum en de sanctie staan er niet in.

Waarom verzint een AI verwijzingen?

Een taalmodel raadpleegt geen database met feiten. OWASP legt uit dat het de lacunes in zijn trainingsdata opvult met statistische regelmatigheden, zonder de inhoud te begrijpen: het antwoord kan juist lijken terwijl het nergens op berust1. NIST beschrijft hetzelfde mechanisme: deze modellen leveren uitvoer die de statistische verdeling van hun trainingsdata benadert, en grote taalmodellen voorspellen het volgende woord in een zin2.

Is dit een gebrek dat snel wordt verholpen?

De bronnen beloven dat niet. Een overzichtsstudie stelt dat deze modellen aannemelijke maar niet feitelijke inhoud kunnen produceren, en dat dit serieuze vragen oproept over hun betrouwbaarheid in systemen voor het opzoeken van informatie3. Een theoretische studie stelt dat het onmogelijk is hallucinatie in grote taalmodellen uit te bannen, en dat zij onvermijdelijk zullen hallucineren als ze als algemene probleemoplossers worden gebruikt4.

Welke woorden moet u kennen?

NIST spreekt van "confabulation" voor het voortbrengen van onjuiste inhoud die met stelligheid wordt gepresenteerd, en preciseert dat men in de omgangstaal ook "hallucinations" of "fabrications" zegt2. De woorden duiden hetzelfde verschijnsel aan.

Is een tekst met een zelfverzekerde toon betrouwbaarder?

Nee. Volgens NIST ontstaat het risico wanneer gebruikers onjuiste inhoud geloven, vaak door de stellige toon van het antwoord, en daarna op die basis handelen2.

1Hoe het werkt1 min

Het model zoekt niet naar de waarheid, het produceert de meest waarschijnlijke reeks woorden. NIST merkt op dat deze statistische voorspelling nauwkeurige en samenhangende uitvoer kan opleveren, maar ook uitvoer die onnauwkeurig is of onderling tegenstrijdig. NIST vindt dit verschijnsel bijzonder duidelijk bij open vragen die lange antwoorden vragen, en op gebieden die contextuele deskundigheid vereisen2.

OWASP onderscheidt twee samenhangende problemen. Het eerste is hallucinatie: het model genereert inhoud die juist lijkt maar verzonnen is. Het tweede is overmatig vertrouwen: gebruikers vertrouwen de gegenereerde tekst te veel en controleren de juistheid niet, zodat ze onjuiste gegevens opnemen in belangrijke beslissingen of processen1.

2Wat u doet1 min

De onderstaande werkwijzen volgen de maatregelen van OWASP en NIST, geformuleerd vanuit het standpunt van de medewerker.

  • Behandel elk citaat, elk cijfer en elke verwijzing van een AI als ongecontroleerd. OWASP beveelt aan dat gebruikers de uitvoer vergelijken met betrouwbare externe bronnen1.
  • Zoek het element op in de oorspronkelijke bron: de tekst van de uitspraak, het officiële document, de studie. Een verwijzing die u niet kunt terugvinden, gebruikt u niet.
  • Vergelijk meerdere betrouwbare externe bronnen in plaats van genoegen te nemen met één bevestiging1.
  • Houd een menselijke goedkeuring aan vóór elk professioneel gebruik. OWASP vraagt om menselijk toezicht en processen voor feitencontrole bij kritieke of gevoelige informatie, met nalezers die zijn opgeleid om niet te veel op gegenereerde inhoud te vertrouwen1.
  • Meld uw lezers wat met een AI is gemaakt. OWASP beveelt aan gegenereerde inhoud duidelijk te labelen en gebruikers te informeren over de grenzen van de betrouwbaarheid1.
  • Wees in gevoelige domeinen, zoals gezondheid of gerechtelijke procedures, extra voorzichtig: OWASP noemt deze contexten bij ongegronde beweringen1.
3De valkuilen2 min

De stellige toon

Een vloeiend, stellig antwoord bewijst niets. NIST wijst erop dat confabulaties ook de vorm kunnen aannemen van verzonnen redeneringen of citaten die het antwoord zouden rechtvaardigen, wat ertoe kan leiden dat men het systeem ten onrechte vertrouwt2. Een zeer gedetailleerde verwijzing, met nummer, rechtsgebied en datum, is dus geen aanwijzing voor echtheid.

Het vertrouwen dat groeit

NIST beschrijft een automatiseringsbias: naarmate de technologie betrouwbaar lijkt, kunnen mensen te snel op de uitvoer vertrouwen of de inhoud beter vinden dan die van andere bronnen. Deze bias vergroot het risico op confabulatie2. Een hulpmiddel dat tien keer goed heeft geantwoord, heeft de elfde keer daarmee nog geen gelijk.

De AI zichzelf laten controleren

De hier aangehaalde bronnen onderzoeken niet rechtstreeks het geval waarin men het hulpmiddel zijn eigen antwoord laat bevestigen. Ze geven wel aanwijzingen over de betrouwbaarheid van de uitvoer. Een studie over ChatGPT stelt zelftegenspraken vast, dat wil zeggen twee tegenstrijdige zinnen in dezelfde context, in 17,7 % van de geproduceerde zinnen. De auteurs voegen eraan toe dat een groot deel van deze tegenstrijdigheden, 35,2 % voor ChatGPT, niet met teksten online kan worden gecontroleerd5. Hun detector, gebaseerd op instructies aan ChatGPT, haalt ongeveer 80 % F1-score5. Dat is nuttig voor onderzoek, maar er glippen fouten doorheen. NIST merkt ook op dat modellen soms redeneerstappen geven, zelfs wanneer het antwoord onjuist is2.

Denken dat het probleem verdwijnt

De theoretische studie acht hallucinatie onvermijdelijk4, en de overzichtsstudie beschrijft de huidige beperkingen in detail3. Controle door een mens blijft dus nodig.

Dezelfde fouten buiten de rechtszaal

OWASP noemt andere gevallen: een chatbot van Air Canada gaf reizigers onjuiste informatie, en de maatschappij werd met succes aangeklaagd1. Het vermeldt ook programmeerassistenten die niet-bestaande of onveilige codebibliotheken voorstellen1. In een scenario dat OWASP beschrijft, ontdekken aanvallers de pakketnamen die assistenten vaak verzinnen, publiceren ze onder die namen echte kwaadaardige pakketten, en nemen ontwikkelaars die op1.

Fiche

Identificatie
CP-272
Vleugel
4. Kunstmatige intelligentie
Brain-competentie
Antwoorden controleren (verify_output)
Brain-reflex
air-026
Schema
G2 · Mythe versus realiteit
Talen
de, en, es, fr, it, nl
Bronnen
5 bronnen gecontroleerd op 3 november 2026
Bronnen5 bronnen
  1. OWASP, “LLM09:2025 Misinformation”. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (geraadpleegd op 3 november 2026)
  2. NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (geraadpleegd op 3 november 2026)
  3. arXiv, “A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions”, 9 november 2023. https://arxiv.org/abs/2311.05232 (geraadpleegd op 3 november 2026)
  4. arXiv, “Hallucination is Inevitable: An Innate Limitation of Large Language Models”, 22 januari 2024. https://arxiv.org/abs/2401.11817 (geraadpleegd op 3 november 2026)
  5. arXiv, “Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation”, 25 mei 2023. https://arxiv.org/abs/2305.15852 (geraadpleegd op 3 november 2026)

Dit artikel citeren

Brain, “De advocaat en de verzonnen uitspraken van ChatGPT”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/

BibTeX 
@misc{brain_cp272_nl_2026,
  author = {Brain},
  title = {De advocaat en de verzonnen uitspraken van ChatGPT},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/},
  note = {CC BY 4.0}
}
Licentie CC BY 4.0