Cyberpediadoor Brain

AI-account voor consumenten of bedrijfslicentie: wat het contract verandert

Een zakelijke AI-assistent en een consumentenaccount kunnen op het scherm op elkaar lijken. Het contract bepaalt wat er met uw invoer gebeurt.

Op deze pagina
  1. 1In 30 seconden
  2. 2Waar gaat het over
  3. 3Directe vragen
  4. 4Hoe het werkt
  5. 5Wat u doet
  6. 6De valkuilen
  7. 7Bronnen
  8. 8Dit artikel citeren

In 30 seconden

Waar het gebeurt
Wanneer men een generatieve AI vraagt een tekst te corrigeren, te vertalen of samen te vatten, taken die de CNIL rekent tot de toepassingen van generatieve AI[2].
Het risico
Bij een publieke dienst is het verzoek zichtbaar voor de organisatie die het model levert, en die bewaart het[3].
De reflex
In een consumentendienst geen vertrouwelijke gegevens of persoonsgegevens invoeren, en zich houden aan de toepassingen die het reglement van het bedrijf toestaat[2].

Waar gaat het over

Twee AI-assistenten kunnen op het scherm op elkaar lijken en uw invoer toch heel verschillend verwerken. Het verschil zit in het contract, niet in de interface. Wanneer een organisatie Microsoft Copilot of Microsoft Copilot Chat gebruikt, valt dat gebruik onder het addendum voor gegevensbescherming (DPA) van Microsoft en onder de Microsoft Product Terms, waarbij Microsoft optreedt als verwerker (data processor)[1].

De CNIL beschrijft hetzelfde mechanisme vanuit de organisatie. Voor een systeem dat bij een derde wordt gehost, vraagt zij een verwerkersovereenkomst met de hostingaanbieder en, in voorkomend geval, met de aanbieder van het systeem. Deze overeenkomst moet de verantwoordelijkheidsgebieden en de toegestane toegang tot de verwerkte gegevens vastleggen[2]. Microsoft Copilot dient hier als voorbeeld, omdat de verplichtingen van Microsoft openbaar zijn.

Directe vragen

Wat onderscheidt een door het bedrijf verstrekt hulpmiddel van een consumentenaccount?

Het contractuele kader. Voor Copilot binnen een organisatie vallen de prompts en de antwoorden onder dezelfde contractuele verplichtingen als die welke volgens Microsoft gelden voor e-mails in Exchange en bestanden in SharePoint[1]. Microsoft schrijft dat het de gegevens van de organisatie niet anders zal gebruiken dan op instructie van de organisatie[1].

Voor een publieke dienst schrijft het NCSC (Verenigd Koninkrijk) in 2023, naar aanleiding van ChatGPT, dat het verzoek zichtbaar zal zijn voor de organisatie die het model levert, dat de verzoeken worden opgeslagen en vrijwel zeker op enig moment zullen worden gebruikt om de dienst of het model te ontwikkelen[3]. De ANSSI constateert van haar kant dat bij de meeste diensten de verzonden gegevens door de aanbieder worden verzameld en gebruikt om de modellen te optimaliseren[4].

Wordt mijn invoer gebruikt om het model te trainen?

Voor Copilot onder bedrijfsgegevensbescherming geeft Microsoft aan dat de prompts, de antwoorden en de gegevens die via Microsoft Graph worden geraadpleegd niet dienen om de basismodellen te trainen[1].

Voor een publieke dienst preciseerde het NCSC in 2023 dat een taalmodel op het moment van schrijven (maart 2023) de informatie uit een verzoek niet automatisch toevoegt aan zijn model voor andere gebruikers. Het voegde eraan toe dat de aanbieder, zijn partners of zijn verwerkers de verzoeken kunnen lezen en ze kunnen opnemen in toekomstige versies[3].

Worden mijn uitwisselingen met de tool geregistreerd?

Met bedrijfsgegevensbescherming geeft Microsoft aan dat de prompts en de antwoorden van Copilot Chat worden gelogd. Ze worden opgeslagen in Exchange, in de Microsoft 365-tenant van de organisatie, voor audit en eDiscovery[5]. Hetzelfde bewaarbeleid als voor Microsoft Copilot kan van toepassing zijn op Copilot Chat[5]. De precieze controles en beleidsregels verschillen naargelang het onderliggende abonnement[1].

Wat zeggen de CNIL en de ANSSI over het invoeren van gegevens?

De CNIL beveelt aan nooit vertrouwelijke informatie te delen, zoals persoonsgegevens of gegevens van het bedrijf, bij het gebruik van een consumentendienst[2]. Zij preciseert dat gebruikers alleen informatie zouden moeten indienen die zij mogen delen[2].

De ANSSI gaat in dezelfde richting: gevoelige gegevens mogen absoluut niet worden verzonden naar externe generatieve-AI-diensten die voor het publiek toegankelijk zijn. Zij noemt Diffusion Restreinte-gegevens of geclassificeerde gegevens, persoonsgegevens, contractuele, juridische en financiële gegevens van het bedrijf, en IT-geheimen zoals wachtwoorden of API-sleutels[4].

Hoe het werkt

Een verwerkersovereenkomst verandert niet wat het model doet. Ze verandert wie waarvoor verantwoordelijk is. Voor Copilot beschrijft Microsoft verplichtingen voor de versleuteling van gegevens in rust en tijdens het transport, voor de isolatie van gegevens tussen tenants en voor de naleving van de AVG[1]. Het voegt toe dat Copilot het identiteitsmodel en de machtigingen van de organisatie respecteert, haar gevoeligheidslabels overneemt, haar bewaarbeleid toepast en de audit van interacties ondersteunt[1].

In Copilot Chat geeft Microsoft aan dat bedrijfsgegevensbescherming beschikbaar is zonder extra kosten. Een groen schild, bovenaan de interface naast de knop Nieuwe chat, geeft aan dat deze bescherming van toepassing is[5]. De bestanden die in Copilot Chat worden geüpload, worden opgeslagen in de OneDrive for Business van de gebruiker[5].

Bij gebrek aan een lokaal, beveiligd en gespecialiseerd systeem beveelt de CNIL aan te bepalen in hoeverre de dienstverlener de verstrekte gegevens mag hergebruiken, en het gebruik daarop aan te passen[6]. Voor een systeem dat via een API wordt gebruikt, benadrukt zij dat de controle over het systeem nagenoeg uitsluitend in handen van de aanbieder ligt. Zij adviseert daarom daar zo veel mogelijk geen persoonsgegevens in te voeren en bijzondere aandacht te besteden aan de contractvoorwaarden[2].

De CNIL beveelt ook aan dat de organisatie het gebruik van generatieve AI omkadert met interne beleidsregels of reglementen die de toegestane en verboden toepassingen vastleggen[2]. Dit reglement zegt concreet welk hulpmiddel is gekozen en voor welke gegevens.

Wat u doet

  • U houdt zich aan de toepassingen die het reglement van uw bedrijf toestaat. De CNIL beveelt aan dat het reglement ze vastlegt en er, afhankelijk van de wijze van uitrol, het verstrekken van sommige vertrouwelijke gegevens of persoonsgegevens in verbiedt[2].
  • In een consumentendienst voert u geen gevoelige gegevens in, noch verzoeken die een probleem zouden vormen als ze openbaar werden. Dat is de aanbeveling van het NCSC (Verenigd Koninkrijk)[3].
  • U plakt geen wachtwoord en geen API-sleutel in een AI-hulpmiddel van een derde[4].
  • U leest de antwoorden na voordat u ze overneemt. De CNIL geeft aan dat gebruikers een kritische blik zouden moeten werpen op de uitvoer en de juistheid ervan zouden moeten controleren[2].

De valkuilen

  • Een zoekopdracht op het web heeft eigen regels. In Copilot vallen de verzoeken die naar de Bing-dienst worden gestuurd onder de Microsoft Services Agreement en de privacyverklaring van Microsoft. Microsoft treedt daarbij op als zelfstandige verwerkingsverantwoordelijke[1]. Volgens Microsoft vallen deze verzoeken niet onder de gegevensgrens van de Europese Unie (EU Data Boundary)[1].
  • Agents hebben eigen voorwaarden. Microsoft nodigt uit de privacyverklaring en de gebruiksvoorwaarden van de agent te raadplegen om te weten hoe die de gegevens van de organisatie verwerkt[1].
  • De beschermingen hangen af van het abonnement. Microsoft schrijft dat de precieze controles verschillen naargelang het abonnement van de organisatie[1].
  • Een consumentenaccount met een persoonlijk adres. Voor niet-vertrouwelijke toepassingen aanvaardt de CNIL een consumentendienst waartoe men toegang krijgt met specifieke zakelijke adressen, met passende waarborgen. Zij stelt twee voorwaarden: accounts vermijden die met persoonlijke adressen zijn aangemaakt en, in voorkomend geval, de mogelijkheid voor de aanbieder om gebruiksgegevens te hergebruiken uitschakelen[2].
  • Gebruiksvoorwaarden die men niet heeft gelezen. Het NCSC (Verenigd Koninkrijk) schrijft dat de gebruiksvoorwaarden en het privacybeleid goed begrepen moeten zijn voordat men gevoelige vragen stelt. Het noemt ook het risico dat online opgeslagen verzoeken worden gehackt, gelekt of per ongeluk openbaar gemaakt, en dat de operator wordt overgenomen door een organisatie met een andere benadering van privacy[3].
  • Ingevoerde informatie die later weer opduikt. OWASP merkt op dat gebruikers het risico moeten begrijpen dat zij onbedoeld gevoelige gegevens verstrekken, die vervolgens kunnen verschijnen in de antwoorden van het model[7]. Het beveelt leveranciers van applicaties aan duidelijke gebruiksvoorwaarden aan te bieden, met de mogelijkheid te weigeren dat de gegevens van gebruikers in het model terechtkomen[7].

Bronnen

  1. Microsoft, “Enterprise data protection in Microsoft Copilot and Microsoft Copilot Chat”. https://learn.microsoft.com/en-us/copilot/plan/enterprise-data-protection (geraadpleegd op 14 november 2026)
  2. CNIL, “Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative”, 18 juli 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (geraadpleegd op 14 november 2026)
  3. NCSC (Royaume-Uni), “ChatGPT and large language models: what's the risk?”, 14 maart 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (geraadpleegd op 14 november 2026)
  4. ANSSI, “Security recommendations for a generative AI system”, 29 april 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (geraadpleegd op 14 november 2026)
  5. Microsoft, “Privacy and protections”. https://learn.microsoft.com/en-us/copilot/plan/privacy-and-protections (geraadpleegd op 14 november 2026)
  6. CNIL, “Comment déployer une IA générative ? La CNIL apporte de premières précisions”, 18 juli 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (geraadpleegd op 14 november 2026)
  7. OWASP, “LLM02:2025 Sensitive Information Disclosure”, 10 april 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (geraadpleegd op 14 november 2026)