Een interne AI-assistent testen voordat u hem opent
Voordat een AI-assistent voor medewerkers opengaat, valt het team hem opzettelijk aan en meet het zijn antwoorden. Zo gaat dat, en dit kunt u doen.
Op deze pagina
In 30 seconden
- Waar het gebeurt
- Vóór de opening van een AI-assistent voor medewerkers. NIST preciseert dat red teaming kan plaatsvinden voor of na de beschikbaarstelling van een model of systeem aan het publiek, en dat zijn sectie zich richt op de context die aan de inzet voorafgaat[3].
- Geteste risico's
- NIST rekent tot de te testen risico's omzeilde instructies (jailbreaking), lekken van gevoelige informatie en onjuiste antwoorden die met stelligheid worden gegeven[3].
- De reflex
- Deelnemen aan de tests wanneer het team u dat voorstelt, elk vreemd gedrag noteren en melden, en geen andere personen toegang tot de assistent geven zonder goedkeuring van het verantwoordelijke team.
Waar gaat het over
Voordat een interne AI-assistent voor medewerkers wordt geopend, kan het team dat erachter staat hem opzettelijk aanvallen om zijn zwakke plekken te vinden. Deze oefening heet red teaming. De term duidde oorspronkelijk op systematische aanvallen om beveiligingskwetsbaarheden te testen. Bij grote taalmodellen is hij uitgebreid tot allerlei proeven, tests en aanvallen op AI-systemen[1].
Red teaming vervangt het systematische werk van meten en corrigeren niet[1]. De auteurs van het ervaringsverslag van Microsoft, gebaseerd op meer dan 100 geteste producten voor generatieve AI, rekenen tot hun lessen dat red teaming van AI geen safety benchmarking is[2].
Directe vragen
Wat is red teaming van een AI-assistent?
NIST beschrijft oefeningen die vaak in een gecontroleerde omgeving worden uitgevoerd, in samenwerking met de ontwikkelaars, om ongewenst gedrag of ongewenste resultaten op te sporen, te begrijpen hoe die zich zouden kunnen voordoen en de vangrails op de proef te stellen[3]. NIST noemt red teaming van AI een zich ontwikkelende praktijk[3]. Het AI Red Teaming-initiatief van OWASP geeft aan dat het een gestandaardiseerde methodologie zal bieden, met benchmarks, tools en werkkaders[7].
Vervangt red teaming de beoordeling door meting?
Nee. Volgens Microsoft vervangt red teaming de systematische meting niet. Het helpt schade te ontdekken en te identificeren, zodat men daarna maatregelen kan kiezen om de doeltreffendheid van de correcties te controleren[1]. Microsoft raadt als goede praktijk aan om te beginnen met een eerste handmatige ronde red teaming vóór de systematische metingen[1]. Die eerste ronde dient om de lijst op te stellen van de schade die gemeten en gecorrigeerd moet worden[1].
Wie test?
Microsoft adviseert een gevarieerde groep samen te stellen, naar ervaring, profielen en specialismen die voor het domein van het product nuttig zijn. Testers met een aanvallende instelling en ervaring in beveiliging helpen de beveiligingsrisico's te begrijpen. Gewone gebruikers, die niet aan de ontwikkeling hebben meegewerkt, brengen een andere blik op de schade die gebruikers zullen tegenkomen[1]. NIST beschrijft ook red teaming door het grote publiek, dat wil zeggen door gebruikers die niet per se experts in AI of techniek zijn, en merkt op dat deze vorm doeltreffender kan zijn met grote groepen testers[3].
Welke risico's test men vóór de opening?
Drie families van risico's springen eruit.
- De omzeilde instructies. NIST noemt jailbreaking het opzettelijk opstellen van instructies om de controles op de antwoorden te omzeilen[3]. OWASP zet de promptinjectie (Prompt Injection) bovenaan zijn lijst van 2025 met de risico's van toepassingen van taalmodellen[4]. Microsoft noemt ook het achterhalen van de systeeminstructie (meta prompt) onder de punten die beveiligingsspecialisten kunnen onderzoeken[1].
- De gegevenslekken. OWASP somt de openbaarmaking van gevoelige informatie en het lekken van de systeeminstructie op[4]. NIST meldt dat modellen bij aanvallen gevoelige informatie uit het publieke domein hebben onthuld die in hun trainingsdata zat[3].
- De onjuiste antwoorden. NIST noemt dit risico confabulatie: een systeem produceert en presenteert met stelligheid onjuiste of foutieve inhoud[3]. Het risico ontstaat wanneer de gebruiker die inhoud gelooft vanwege de stellige toon van het antwoord[3]. OWASP rekent desinformatie tot zijn tien risico's[4].
Hoe het werkt
De aanpak volgt een cyclus: afbakenen, testen, meten, corrigeren, opnieuw beginnen.
Afbakenen. Microsoft raadt aan vóór de tests te plannen wie wat test, hoe, en hoe de resultaten worden vastgelegd[1]. Het handboek van OWASP stelt een methode in acht fasen voor: planning, verkenning, in kaart brengen van het aanvalsoppervlak, misbruik, persistentie, beoordeling van de impact, rapport en herstel[6].
Testen. Volgens Microsoft kan men het basismodel met zijn veiligheidssysteem testen, de toepassing zelf, of beide vóór en na de correcties[1]. De toepassing test men bij voorkeur via haar interface, en zo veel mogelijk op de productie-interface, die het meest lijkt op het echte gebruik[1]. Microsoft stelt voor te beginnen met open tests en daarna een lijst van schade met definities en voorbeelden op te stellen, die de volgende rondes leidt[1].
Meten. Microsoft beveelt aan de versies van het product met en zonder beschermingsmaatregelen te testen, en na een eerste handmatige ronde systematische metingen toe te voegen[1]. Na elke ronde somt een kort rapport aan de belanghebbenden de belangrijkste problemen op, geeft het toegang tot de ruwe gegevens en presenteert het het plan voor de volgende rondes[1].
Corrigeren en opnieuw beginnen. Microsoft stelt voor na te gaan of het testplan de inhoudsfilters dekt, technieken voor het opstellen van instructies te gebruiken om het risico te verkleinen, en daarna opnieuw te testen om de verbeteringen te valideren[1]. De auteurs van het ervaringsverslag van Microsoft schrijven dat het werk om AI-systemen te beveiligen nooit af zal zijn[2].
De richtlijnen van het NCSC (Verenigd Koninkrijk), gepubliceerd op 27 november 2023, geven aan dat beveiliging "a core requirement, not just in the development phase, but throughout the life cycle of the system" moet zijn[5]. De Playbook van NIST, die op vrijwillige basis wordt gebruikt, ordent zijn suggesties rond vier functies: Govern, Map, Measure en Manage[8].
Wat u doet
Een medewerker zonder technische achtergrond kan op vier punten handelen.
Deelnemen aan de tests. Als het team u bij een testronde betrekt, geeft Microsoft aan dat het nuttig kan zijn de testers duidelijke instructies te geven: doel van de ronde, te testen functies en toegang, soorten problemen die de ronde beoogt, tijd die eraan moet worden besteed, opnamemethode en contactpersoon[1]. Uw status van gewone gebruiker heeft waarde in deze oefening[1].
Vastleggen wat u ziet. Microsoft stelt voor de datum van het voorbeeld te noteren, een identificatie van het paar invoer/uitvoer als die beschikbaar is, de ingevoerde tekst, en een beschrijving of een schermafbeelding van het antwoord[1]. Een gedeelde spreadsheet is vaak de eenvoudigste methode, en ieder kan er de voorbeelden van de anderen in nalezen[1].
Vreemd gedrag melden. NIST geeft aan dat directe feedback van gebruikers in productie, nadat een model beschikbaar is gesteld, kan worden verzameld[3]. De richtlijnen van het NCSC rekenen het ontwikkelen van processen voor incidentbeheer tot de onderwerpen van de veilige inzet[5]. Concreet: meld aan het team van de assistent wat u hebt gezien, met de datum en de ingevoerde tekst.
Het hulpmiddel niet openen zonder goedkeuring. Het NCSC noemt de verantwoorde ingebruikname onder de onderwerpen van de inzet[5]. Voor een medewerker betekent dat eenvoudig: geef geen andere personen toegang tot de assistent zonder akkoord van het team dat ervoor verantwoordelijk is.
De valkuilen
- Een voorbeeld voor een statistiek houden. Microsoft vraagt dat het rapport preciseert dat red teaming dient om het risicooppervlak bloot te leggen en te laten begrijpen, en dat niemand een afzonderlijk voorbeeld interpreteert als een maat voor de frequentie van een schade[1].
- Niet zeggen waar de test heeft plaatsgevonden. Microsoft adviseert aan te geven welke toegangspunten zijn gebruikt, en opnieuw te testen op de productie-interface wanneer een ander toegangspunt is gebruikt[1].
- Een antwoord geloven omdat het onderbouwd is. NIST wijst erop dat de uitvoer verzonnen redeneringen of citaten kan bevatten die het antwoord pretenderen te rechtvaardigen, wat ertoe kan leiden dat men het te veel vertrouwt[3].
- De resultaten toepassen zonder ze te analyseren. NIST schrijft dat de resultaten van red teaming nader geanalyseerd zouden moeten worden voordat ze worden opgenomen in de governance en de besluitvorming[3].
- Alleen op de machine of alleen op de mens rekenen. De auteurs van het ervaringsverslag van Microsoft merken op dat automatisering kan helpen een groter deel van het risicolandschap te dekken, en dat het menselijke element van red teaming van AI een kernpunt van hun lessen is[2].
Bronnen
- Microsoft, “Planning red teaming for large language models (LLMs) and their applications”. https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/red-teaming (geraadpleegd op 14 november 2026)
- arXiv, “Lessons From Red Teaming 100 Generative AI Products”, 13 januari 2025. https://arxiv.org/abs/2501.07238 (geraadpleegd op 14 november 2026)
- NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (geraadpleegd op 14 november 2026)
- OWASP, “LLMRisks Archive”. https://genai.owasp.org/llm-top-10/ (geraadpleegd op 14 november 2026)
- NCSC (Royaume-Uni), “Guidelines for secure AI system development”, 27 november 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (geraadpleegd op 14 november 2026)
- OWASP, “GenAI Red Teaming Manual Version 1.0”, 20 oktober 2026. https://genai.owasp.org/resource/genai-red-teaming-manual-version-1-0/ (geraadpleegd op 14 november 2026)
- OWASP, “AI Red Teaming Initiative”, 13 november 2025. https://genai.owasp.org/initiatives/ai-red-teaming-initiative/ (geraadpleegd op 14 november 2026)
- NIST, “NIST AI RMF Playbook”, 8 juli 2022. https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook (geraadpleegd op 14 november 2026)
Dit artikel citeren
Brain, “Een interne AI-assistent testen voordat u hem opent”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp511_nl_2026,
author = {Brain},
title = {Een interne AI-assistent testen voordat u hem opent},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/nl/articles/interne-ai-assistent-testen-red-teaming/},
note = {CC BY 4.0}
}