Shadow AI: bedrijfsgegevens plakken in een chatbot voor het grote publiek
Een werkdocument in een chatbot voor het grote publiek plakken is het aan een derde toevertrouwen. Wat NCSC, ANSSI en CNIL zeggen en de juiste handelingen.
Op deze pagina
In 30 seconden
- Waar het gebeurt
- In een chatbot die openstaat voor het publiek, gebruikt buiten de tools die het bedrijf heeft goedgekeurd, om samen te vatten, te vertalen, te corrigeren of code te schrijven.
- Het risico
- Wat men plakt, is zichtbaar voor de aanbieder, die het kan bewaren en gebruiken[1]. Het bedrijf verliest de controle over de gegevens.
- De reflex
- Niets vertrouwelijks plakken in een chatbot voor het grote publiek[2].
Waar gaat het over
Een chatbot voor het grote publiek antwoordt snel en vraagt niets terug. Het volstaat er een verslag, een stuk code of een klantenlijst in te plakken om een samenvatting, een correctie of een vertaling te krijgen. Dit onschuldige gebaar heeft een gevolg dat het scherm niet toont: de tekst verlaat het bedrijf en komt bij een derde terecht.
Men spreekt van shadow AI wanneer een medewerker zo een AI-tool gebruikt die zijn organisatie niet heeft goedgekeurd. Het NCSC (Verenigd Koninkrijk) herinnert eraan dat de aanvraag zichtbaar is voor de organisatie die het model aanbiedt[1]. De ANSSI[2] rekent deze diensten tot de diensten waarnaar gevoelige gegevens niet mogen worden gestuurd.
Directe vragen
Leert de chatbot wat ik typ en herhaalt hij het aan anderen?
Het NCSC (Verenigd Koninkrijk)[1] maakt onderscheid tussen twee zaken. Op de datum van zijn blogbericht (maart 2023) voegt een model aanvragen niet automatisch toe aan wat het weet: informatie invoeren brengt die dus niet in het model voor andere gebruikers[1]. De aanvraag is echter wel zichtbaar voor de organisatie die het model aanbiedt, wordt opgeslagen en zal vrijwel zeker op enig moment worden gebruikt om de dienst of het model te ontwikkelen[1]. De aanbieder, zijn partners of zijn onderaannemers zouden de aanvragen dus kunnen lezen[1].
ESET[3] voegt toe dat OpenAI eind april 2023 in ChatGPT de mogelijkheid heeft ingevoerd om de gespreksgeschiedenis uit te schakelen. Volgens OpenAI, door ESET aangehaald, worden gesprekken die zonder geschiedenis zijn gestart niet gebruikt om de modellen te trainen of te verbeteren[3].
Welke gegevens mogen nooit vertrekken?
De ANSSI[2] stelt dat gevoelige gegevens absoluut niet mogen worden gestuurd naar generatieve AI-diensten van derden zoals ChatGPT, Gemini, Copilot, DeepL (tekstvertaling) of Perplexity. Zij noemt gegevens met beperkte verspreiding of gerubriceerde gegevens, onderzoekswerk dat valt onder de bescherming van het wetenschappelijk en technisch potentieel van de natie, persoonsgegevens, contractuele, juridische en financiële gegevens van het bedrijf, en IT-geheimen zoals wachtwoorden of API-sleutels[2].
OWASP[6] stelt een verwante lijst van gevoelige informatie op: persoonsgegevens, financiële informatie, medische dossiers, vertrouwelijke bedrijfsgegevens, beveiligingsinloggegevens en juridische documenten[6].
Waarom vergelijkt de ANSSI dit met opslag bij een leverancier?
Omdat het versturen van tekst, afbeeldingen of documenten naar een generatieve AI-dienst die toegankelijk is voor het publiek volgens de ANSSI[2] neerkomt op het neerleggen ervan in een opslagruimte die aan de leverancier toebehoort. De scheiding tussen klanten en de bescherming van de vertrouwelijkheid van de verstuurde gegevens zijn niet altijd volgens de stand van de techniek en berusten uitsluitend op het vertrouwen in de aanbieder[2]. Bij de meeste diensten worden de verstuurde gegevens door de aanbieder verzameld en gebruikt om zijn modellen te optimaliseren[2].
Is er een gebruik van deze tools dat aanvaardbaar blijft?
De CNIL[4] antwoordt hierop onder voorwaarde. Voor niet-vertrouwelijk gebruik kan een dienst voor het grote publiek worden overwogen met passende waarborgen, op voorwaarde dat accounts die met persoonlijke adressen zijn aangemaakt worden vermeden en, in voorkomend geval, de mogelijkheid voor de aanbieder om gebruiksgegevens te hergebruiken wordt uitgeschakeld[4]. Zodra het gaat om persoonsgegevens van klanten of medewerkers, of om gevoelige of strategische documentatie, geeft de CNIL aan dat het over het algemeen passender en veiliger lijkt om te kiezen voor een implementatie op locatie[4].
Hoe het werkt
De weg van een gegeven dat in een chatbot is geplakt, is eenvoudig. De tekst gaat naar de organisatie die het model aanbiedt. Die slaat hem op en kan hem gebruiken om haar dienst te laten evolueren[1]. De medewerker houdt daarna geen enkele controle: voor de ANSSI[2] heeft het klantbedrijf geen controle over de dienst, en is het onmogelijk te garanderen dat de vertrouwelijkheid van de ingevoerde gegevens aan zijn beveiligingseisen voldoet[2].
Het NCSC (Verenigd Koninkrijk)[1] noemt andere risico's. Aanvragen die online zijn opgeslagen, kunnen worden gehackt, gelekt of, waarschijnlijker, per ongeluk openbaar worden gemaakt, soms met informatie waarmee de gebruiker kan worden geïdentificeerd[1]. De exploitant van het model kan ook later worden overgenomen door een organisatie waarvan het privacybeleid verschilt van het beleid dat gold toen de gegevens werden ingevoerd[1]. Ten slotte kan de gevoeligheid van een vraag voortkomen uit de persoon die haar stelt of uit het moment, en zegt het samenvoegen van meerdere aanvragen die met hetzelfde account zijn gedaan meer dan elke aanvraag afzonderlijk[1].
OWASP[6] beschrijft de andere kant van het risico: een gegeven dat zonder erbij na te denken aan een model is toevertrouwd, kan later in zijn antwoorden opduiken. Het vraagt gebruikers dit gevaar te begrijpen[6].
Wat u doet
- Niets vertrouwelijks plakken in een chatbot voor het grote publiek. De CNIL[4] geeft het voorbeeld van persoonsgegevens en gegevens van het bedrijf, vooral die welke onder het bedrijfsgeheim vallen of onder deontologische verplichtingen[4]. Het NCSC (Verenigd Koninkrijk)[1] raadt aan geen gevoelige informatie op te nemen in aanvragen aan openbare modellen en hun geen aanvraag voor te leggen die problematisch zou zijn als zij openbaar werd[1].
- Gebruik de tool die het bedrijf heeft goedgekeurd. De CNIL[5] raadt aan het gebruik te omkaderen met een lijst van toegestane en verboden toepassingen, bijvoorbeeld geen persoonsgegevens aan het systeem verstrekken[5]. Zij raadt organisaties ook aan dit gebruik vast te leggen in intern beleid of interne richtlijnen[4]. ESET[3] zegt hetzelfde: het beleid van het bedrijf moet bepalen in welke omstandigheden medewerkers deze tools mogen gebruiken[3].
- Lees na wat de tool voortbrengt voordat u het gebruikt. Gebruikers zouden een kritische blik op de uitvoer moeten werpen, en een goede praktijk is om die nooit ongewijzigd over te nemen[4].
- Als de toegang tot een tool via een account loopt, gebruik dan het voorziene zakelijke adres en geen persoonlijk adres, binnen het kader waarin de organisatie dit heeft toegestaan[4].
De valkuilen
De eerste valkuil is het gemak. De ANSSI[2] merkt op dat deze tools zo gemakkelijk te gebruiken zijn dat men in de verleiding komt er zakelijke gegevens aan toe te vertrouwen, bijvoorbeeld om een tekst te vertalen[2].
De tweede is geloven dat een instelling volstaat. Voor OWASP[6] kunnen beperkingen die zijn toegevoegd aan de interne instructies van een model over de soorten gegevens die mogen worden teruggegeven het risico verminderen, maar ze worden niet altijd nageleefd en kunnen worden omzeild door injectie van instructies of andere methoden[6]. De hierboven genoemde optie om de geschiedenis uit te schakelen betreft de training van de modellen[3]. Het NCSC (Verenigd Koninkrijk) herinnert er van zijn kant aan dat de aanvraag zichtbaar is voor de organisatie die het model aanbiedt[1].
De derde is denken dat de aanbieder de veiligheid garandeert. ESET[3] herinnert eraan dat OpenAI ChatGPT op 20 maart 2023 offline heeft moeten halen. OpenAI heeft op 24 maart aangegeven dat een bug in een open-sourcebibliotheek ertoe had geleid dat sommige gebruikers titels uit de geschiedenis van een andere actieve gebruiker konden zien, en dat de betaalgegevens van 1,2 % van de abonnees van ChatGPT Plus die actief waren gedurende een periode van negen uur per vergissing zichtbaar konden zijn geworden[3].
De vierde is geloven dat een algemeen advies een regel vervangt. De CNIL[4] preciseert dat, wanneer de aanbieder de gegevens volgens zijn gebruiksvoorwaarden mag hergebruiken, de organisatie per geval beslist of zij alle verstrekking van gegevens verbiedt of slechts bepaalde categorieën[4]. De regel die voor uw werkplek geldt, is die van uw organisatie.
Echte gevallen
Samsung, maart 2023: code en een opname van een vergadering in ChatGPT, volgens ESET
ESET[3] meldt dat het Zuid-Koreaanse medium The Economist Korea eind maart 2023 melding maakte van drie onafhankelijke incidenten bij Samsung Electronics[3]. Volgens dit relaas had het bedrijf zijn werknemers gevraagd op te letten bij de informatie die zij in hun aanvragen invoerden, maar zouden sommigen interne gegevens hebben laten ontsnappen door ChatGPT te gebruiken[3].
Een werknemer zou een gebrekkige broncode in verband met de meetdatabase van halfgeleiderapparatuur hebben ingevoerd om een oplossing te zoeken[3]. Een tweede zou hetzelfde hebben gedaan met een programma voor het identificeren van defecte apparatuur, om een optimalisatie van de code te krijgen[3]. Een derde zou de opnamen van een vergadering hebben geüpload om een verslag te krijgen[3]. ESET preciseert dat Samsung van plan is een eigen interne AI-dienst te ontwikkelen om zijn werknemers te helpen in hun werk[3].
OWASP[6] noemt onder zijn referenties een artikel met de titel "Lessons learned from ChatGPT's Samsung leak"[6].
Bronnen
- NCSC (Royaume-Uni), “ChatGPT and large language models: what's the risk?”, 14 maart 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (geraadpleegd op 14 november 2026)
- ANSSI, “Security recommendations for a generative AI system”, 29 april 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (geraadpleegd op 14 november 2026)
- ESET, “Meet “AI”, your new colleague: Could it expose your company's secrets?”, 17 mei 2023. https://www.welivesecurity.com/2023/05/17/meet-ai-new-colleague-work-company-data/ (geraadpleegd op 14 november 2026)
- CNIL, “Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative”, 18 juli 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (geraadpleegd op 14 november 2026)
- CNIL, “Comment déployer une IA générative ? La CNIL apporte de premières précisions”, 18 juli 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (geraadpleegd op 14 november 2026)
- OWASP, “LLM02:2025 Sensitive Information Disclosure”, 10 april 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (geraadpleegd op 14 november 2026)
Dit artikel citeren
Brain, “Shadow AI: bedrijfsgegevens plakken in een chatbot voor het grote publiek”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp306_nl_2026,
author = {Brain},
title = {Shadow AI: bedrijfsgegevens plakken in een chatbot voor het grote publiek},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/nl/articles/shadow-ai-chatbot-groot-publiek-datalek/},
note = {CC BY 4.0}
}