Cyberpediadoor Brain

MCP-connectoren beveiligen

Een AI-assistent die aan e-mail, bestanden of databases is gekoppeld, handelt met uw rechten. De risico's en wat u als medewerker doet.

Op deze pagina
  1. 1In 30 seconden
  2. 2Waar gaat het over
  3. 3Directe vragen
  4. 4Hoe het werkt
  5. 5Wat u doet
  6. 6De valkuilen
  7. 7Bronnen
  8. 8Dit artikel citeren

In 30 seconden

Waar het gebeurt
In een AI-assistent die is gekoppeld aan een e-mailsysteem, een bestandsruimte of een database, via extensies die het model kan aanroepen om te handelen naar aanleiding van een verzoek[1].
Wat de aanvaller wil
De assistent in zijn plaats laten handelen, via geprepareerde inhoud die de assistent leest, of via een gecompromitteerde extensie[1].
De reflex
Alleen de door de DSI gevalideerde connectoren activeren, elk toestemmingsverzoek lezen vóór het bevestigen, alleen de noodzakelijke rechten geven en elk onverwacht gedrag melden.
Als het al gebeurd is
De connector verwijderen of de verleende rechten intrekken en de DSI onmiddellijk waarschuwen.

Waar gaat het over

Een AI-assistent wordt nuttiger wanneer men hem koppelt aan uw werkhulpmiddelen: e-mail, bestanden, databases. Elke koppeling geeft hem ook de macht om te handelen. Met deze connectoren handelt de assistent met echte rechten.

Dit artikel legt de risico's uit die OWASP en het Britse NCSC beschrijven voor assistenten die aan hulpmiddelen zijn gekoppeld, en vervolgens wat de medewerker van zijn kant doet.

Directe vragen

Wat maakt een connector riskant?

Een systeem op basis van een taalmodel krijgt vaak van zijn ontwikkelaar de mogelijkheid om functies aan te roepen of te interageren met andere systemen, via extensies, om te handelen naar aanleiding van een verzoek[1]. OWASP noemt "Excessive Agency" de kwetsbaarheid die schadelijke acties mogelijk maakt als reactie op onverwachte, dubbelzinnige of gemanipuleerde uitvoer van het model, ongeacht de oorzaak van de storing[1]. De hoofdoorzaak ligt over het algemeen bij een of meer van deze drie dingen: te veel functionaliteiten, te veel rechten, te veel autonomie[1].

Kan een assistent worden misleid door een eenvoudige tekst?

Ja. Promptinjectie is het geval waarin inhoud het gedrag van het model op ongewilde wijze wijzigt[2]. In de indirecte vorm leest het model een externe bron, zoals een website of een bestand, en die inhoud verandert zijn gedrag[2]. Het NCSC geeft het voorbeeld van een cv met verborgen tekst die vraagt eerdere instructies te negeren en het dossier goed te keuren[3]. De instructies hoeven niet leesbaar te zijn voor een mens, zolang het model ze analyseert[2].

Volstaat een technische bescherming?

Nee. Het NCSC schrijft dat de huidige grote modellen "simply do not enforce a security boundary between instructions and data inside a prompt"[3]. Het is van mening dat aanvallen via promptinjectie mogelijk nooit volledig beperkt zullen worden, zoals SQL-injecties dat wel zijn geweest[3]. OWASP merkt op dat door opzoeking aangevulde generatie (RAG) en fijnafstemming de kwetsbaarheid niet volledig wegnemen[2]. Het resterende risico wordt beheerst door ontwerp en bedrijfsvoering[3].

Wat doet de medewerker concreet?

Hij past vier handelingen toe, hieronder uitgewerkt: gevalideerde connectoren kiezen, de toestemmingen lezen, de rechten beperken, melden. OWASP legt de inhoudelijke controles (rechten van de hulpmiddelen, controles aan de kant van de systemen) in de extensies en de nageschakelde systemen[1].

Hoe het werkt

De assistent beslist, op basis van het verzoek en van wat hij leest, welke extensie hij aanroept. Systemen met agents roepen het model herhaaldelijk aan en steunen op de uitvoer van eerdere aanroepen om de volgende te sturen[1]. Geprepareerde inhoud die aan het begin van een keten wordt gelezen, kan dus de volgende acties beïnvloeden. OWASP noemt als gangbare aanleidingen een injectie afkomstig van een kwaadwillende gebruiker, van een eerdere aanroep van een kwaadaardige of gecompromitteerde extensie, of, in multi-agentsystemen, van een gecompromitteerde gelijkwaardige agent[1].

Het NCSC trekt daaruit de conclusie voor de hulpmiddelen: wanneer het systeem hulpmiddelen of API's aanroept op basis van de uitvoer van het model, kan een aanvaller het dwingen ze te gebruiken, en wordt de impact "whatever the worse case scenario would be of giving an attacker direct access to those tools/APIs"[3]. Het NCSC noemt ook een eenvoudige regel: wanneer een model de informatie van een partij verwerkt, dalen zijn privileges tot die van die partij[3]. Een assistent die e-mails leest van elke externe afzender zou dus geen toegang moeten hebben tot bevoorrechte hulpmiddelen[3].

Voorgetrainde modellen en gegevens van derden zijn externe elementen die kunnen worden gemanipuleerd door aantasting of vergiftiging[5]. Een aanvaller kan ook het account van een leverancier op een opslagplaats voor modellen compromitteren, of een soortgelijk account aanmaken, en daar vervolgens social engineering aan toevoegen[5].

Wat u doet

  • Alleen de door de DSI gevalideerde connectoren installeren. De aanbevolen maatregelen aan de kant van de organisatie zijn leveranciers zorgvuldig te controleren, alleen vertrouwde leveranciers te gebruiken en alleen modellen uit verifieerbare bronnen te gebruiken[5]. Een connector die op een site is gevonden of per bericht is ontvangen, moet vóór elk gebruik aan de DSI worden voorgelegd.
  • Het toestemmingsverzoek lezen vóór het bevestigen. OWASP beveelt aan dat een mens acties met grote impact goedkeurt voordat ze worden uitgevoerd, bijvoorbeeld het publiceren van inhoud namens de gebruiker[1]. Deze goedkeuring heeft alleen waarde als de persoon leest wat hij goedkeurt: de ontvanger en de gevraagde actie.
  • Nooit meer rechten verlenen dan nodig is. OWASP geeft het voorbeeld van een extensie om e-mails te lezen, die geen berichten hoeft te kunnen verwijderen of verzenden[1]. Wanneer een connector om een verbinding vraagt, moet men het meest beperkte toegangsniveau verkiezen, bijvoorbeeld alleen-lezen[1].
  • Elk onverwacht gedrag melden. OWASP beveelt aan de activiteit van de extensies vast te leggen in logboeken en te bewaken om ongewenste acties op te sporen en te reageren[1]. Het NCSC voegt eraan toe dat mislukte aanroepen van hulpmiddelen of API's de eerste stappen van een aanval kunnen onthullen[3]. Een vreemd bericht, een niet gevraagde verzending of een ongebruikelijk toegangsverzoek zijn door te geven aan de DSI.

De valkuilen

Eerste valkuil: geloven in een blokkade op verboden woorden. Het NCSC waarschuwt voor "deny-listing", want er bestaan oneindig veel manieren om een aanval anders te formuleren om een filter te omzeilen[3]. Ook nodigt het ertoe uit wantrouwend te zijn tegenover producten die beweren promptinjectie te "stoppen"[3].

Tweede valkuil: een nuttige connector verwarren met een evenredige. OWASP beschrijft een ontwikkelaar die alleen documenten wil lezen, maar wiens extensie van derden ze ook kan wijzigen en verwijderen[1]. Het beschrijft ook een extensie om te lezen die verbinding maakt met een database met een identiteit die leesrechten, schrijfrechten en verwijderrechten heeft[1], en een extensie die met een bevoorrecht account toegang heeft tot de bestanden van alle gebruikers terwijl ze alleen voor de huidige gebruiker zou moeten handelen[1].

Derde valkuil: ongebruikte extensies laten staan. OWASP noemt een extensie die in de ontwikkelfase is uitgeprobeerd en daarna is opgegeven, maar toch beschikbaar blijft voor de agent[1].

Vierde valkuil: uit reflex bevestigen. OWASP beschrijft een assistent die aan een mailbox is gekoppeld om de ontvangen berichten samen te vatten. Een geprepareerde e-mail laat hem gevoelige informatie in de mailbox zoeken en doorsturen naar de aanvaller[1]. Een van de tegenmaatregelen is dat de gebruiker elke door de extensie opgestelde e-mail vóór verzending herleest en handmatig goedkeurt[1].

Vijfde valkuil: geloven dat het interne netwerk beschermt. Volgens Microsoft berust het principe "Zero Trust" op "never trust, always verify": toegang wordt na verificatie en voortdurend verleend, en zowel gebruikers als werklasten krijgen alleen de toegang die ze nodig hebben, voor de kortst mogelijke duur[4]. Deze principes gelden ook voor AI-werklasten[4].

De richtlijnen van het NCSC voor de veilige ontwikkeling van AI-systemen, gepubliceerd op 27 november 2023, bestrijken het ontwerp, de ontwikkeling, de implementatie, en vervolgens de bedrijfsvoering en het onderhoud, met logboekregistratie en bewaking[6]. Ze richten zich tot aanbieders van AI-systemen en tot de verantwoordelijken voor het risico[6].

Bronnen

  1. OWASP, “LLM06:2025 Excessive Agency”, 10 april 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (geraadpleegd op 10 november 2026)
  2. OWASP, “LLM01:2025 Prompt Injection”, 10 april 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (geraadpleegd op 10 november 2026)
  3. NCSC (Royaume-Uni), “Prompt injection is not SQL injection (it may be worse)”, 8 december 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (geraadpleegd op 10 november 2026)
  4. Microsoft, “Zero Trust as a security foundation”. https://learn.microsoft.com/en-us/security/zero-trust/zero-trust-overview (geraadpleegd op 10 november 2026)
  5. OWASP, “LLM03:2025 Supply Chain”, 10 april 2024. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (geraadpleegd op 10 november 2026)
  6. NCSC (Royaume-Uni), “Guidelines for secure AI system development”, 27 november 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (geraadpleegd op 10 november 2026)