--- id: CP-257 slug: transformer-architectuur-aandacht lang: nl title: De Transformer en het aandachtsmechanisme description: "De Transformer, beschreven in juni 2017: wat de op aandacht gebaseerde architectuur voor een medewerker verandert, de grenzen ervan en prompt injection." canonical_url: https://startbrain.io/cyberpedia/nl/articles/transformer-architectuur-aandacht/ markdown_url: https://startbrain.io/cyberpedia/nl/articles/transformer-architectuur-aandacht.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, “De Transformer en het aandachtsmechanisme”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/nl/articles/transformer-architectuur-aandacht/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-038 schema: G3 updated: "2026-11-03" translations: nl: https://startbrain.io/cyberpedia/nl/articles/transformer-architectuur-aandacht/ fr: https://startbrain.io/cyberpedia/fr/articles/architecture-transformer-attention/ en: https://startbrain.io/cyberpedia/en/articles/transformer-architecture-attention/ de: https://startbrain.io/cyberpedia/de/articles/transformer-architektur-attention/ es: https://startbrain.io/cyberpedia/es/articles/arquitectura-transformer-atencion/ it: https://startbrain.io/cyberpedia/it/articles/architettura-transformer-attenzione/ sources: - "n": 1 title: Attention Is All You Need publisher: arXiv url: https://arxiv.org/abs/1706.03762 published: "2017-06-12" accessed: "2026-11-03" - "n": 2 title: Prompt injection is not SQL injection (it may be worse) publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection published: "2025-12-08" accessed: "2026-11-03" - "n": 3 title: "Lost in the Middle: How Language Models Use Long Contexts" publisher: arXiv url: https://arxiv.org/abs/2307.03172 published: "2023-07-06" accessed: "2026-11-03" - "n": 4 title: Language Models are Few-Shot Learners publisher: arXiv url: https://arxiv.org/abs/2005.14165 published: "2020-05-28" accessed: "2026-11-03" - "n": 5 title: Thinking about the security of AI systems publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/blog-post/thinking-about-security-ai-systems published: "2023-08-30" accessed: "2026-11-03" - "n": 6 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # De Transformer en het aandachtsmechanisme De Transformer, een modelarchitectuur, werd voor het eerst beschreven in een onderzoeksartikel dat op 12 juni 2017 werd ingediend onder de titel « Attention Is All You Need » [1]. Wie de grote lijnen van deze architectuur kent, kan het gebruik ervan beter inschatten: wat de tool werkelijk met een tekst doet, waarom een goed geschreven antwoord onjuist kan zijn en wat u er beter niet aan toevertrouwt. ## In 30 seconden - Waar het gebeurt: bij elke vraag aan een AI-assistent, of het nu gaat om het samenvatten van een document, het schrijven van een e-mail of een vertaling. - Wat u moet weten: het model voorspelt het meest waarschijnlijke volgende woord [2]. De fiche leidt daar een advies uit af: controleer wat het schrijft. - De grenzen: bij een lange tekst gebruikt het model niet alle delen even betrouwbaar [3]. - De reflex: lees elk antwoord na en controleer het voordat u het gebruikt, en plak nooit vertrouwelijke gegevens in een tool die het bedrijf niet heeft goedgekeurd. - Als het al gebeurd is: licht uw leidinggevende of het securityteam in, zonder te wachten tot er een gevolg zichtbaar wordt. ## Directe vragen ### Waar komt de Transformer vandaan? Het oorspronkelijke artikel werd op 12 juni 2017 ingediend [1]. De auteurs stellen daarin een netwerkarchitectuur voor die zij omschrijven als « new simple network architecture, the Transformer, based solely on attention mechanisms, dispensing with recurrence and convolutions entirely » [1]. Daarvoor waren de overheersende modellen voor het verwerken van woordreeksen gebaseerd op zogeheten recurrente of convolutionele netwerken [1]. De gemelde resultaten betroffen machinevertaling. Het model haalde 28,4 BLEU op de taak Engels-Duits van WMT 2014 en 41,8 BLEU op de taak Engels-Frans, na 3,5 dagen training op acht GPU's [1]. De auteurs geven ook aan dat het model makkelijker te paralleliseren is en aanzienlijk minder trainingstijd vraagt [1]. ### Wat is aandacht? Aandacht is het mechanisme dat de auteurs centraal in de architectuur plaatsen: de beste modellen van die tijd koppelden de encoder en de decoder al via een aandachtsmechanisme, en de Transformer steunt uitsluitend op dat principe [1]. Voor een lezer zonder vakkennis is het nuttige beeld dat van een lezing waarbij elk woord in verband wordt gebracht met de andere woorden van de tekst, in plaats van een strikt woord-voor-woordlezing. Dit beeld is een vereenvoudiging: de fiche gaat niet in op de berekening, en de bronnen van het dossier beschrijven die niet in detail. ### Begrijpt dit model wat u schrijft? Het Britse nationale cyberveiligheidscentrum (NCSC) geeft hierop antwoord in een bericht van 8 december 2025. Bij een opdracht « doesn't understand the text it in the way a person does »: het model « is simply predicting the most likely next token from the text so far » [2]. Een vloeiend antwoord is dus een waarschijnlijke reeks woorden, geen bewijs dat er iets gecontroleerd is. ### Waarom zijn assistenten beter geworden? Een artikel uit 2020 over GPT-3 presenteert een taalmodel met 175 miljard parameters, tien keer meer dan elk eerder niet-sparse model [4]. De auteurs laten zien dat een groter model de prestaties op nieuwe taken, gegeven met slechts enkele voorbeelden, duidelijk verbetert [4]. Ze wijzen ook op datasets waarop het model moeite blijft houden [4]. ### Onthoudt het model het hele gesprek? Niet op een betrouwbare manier. Een studie uit 2023, getest op vragen over meerdere documenten, stelt vast dat de prestaties sterk kunnen afnemen wanneer de relevante informatie van plaats verandert in de aangeleverde tekst [3]. De prestaties zijn vaak beter wanneer die informatie aan het begin of aan het einde staat, en nemen af wanneer ze midden in een lange context staat, ook bij modellen die voor lange teksten zijn ontworpen [3]. ### Kunt u er gevoelige gegevens aan toevertrouwen? Nee, tenzij het gaat om een tool die het bedrijf heeft goedgekeurd. Het NCSC noemt onder de mogelijke gevolgen van prompt injection het « reveal confidential information » [5]. De fiche beschrijft de regels van elke tool niet: die hangen af van het beleid van het bedrijf, dat de bronnen van het dossier niet beschrijven. ## Hoe het werkt Een Transformer ontvangt een tekst en produceert een vervolg in tekst. Het NCSC vat het principe nuchter samen: het model voorspelt het « next token », dat wil zeggen het meest waarschijnlijke volgende element op basis van de tekst die er al staat [2]. Niets in deze werking scheidt wat een opdracht zou zijn van wat louter gegevens zijn [2]. Daaruit volgen twee praktische gevolgen. - De geproduceerde tekst is waarschijnlijk, niet gecontroleerd. Een model kan een overtuigende alinea schrijven zonder dat iemand ook maar één feit heeft nagegaan. - Binnen een prompt bestaat er geen beveiligingsgrens tussen instructies en gegevens [2]. Het artikel uit 2020 over GPT-3 merkt overigens op dat menselijke beoordelaars moeite hadden om door het model gegenereerde nieuwsartikelen te onderscheiden van door mensen geschreven artikelen [4]. De kwaliteit van de vorm zegt dus niets over de juistheid van de inhoud. ## Wat u doet - Lees elk antwoord na als een concept van iemand die niets heeft gecontroleerd: cijfers, namen, verwijzingen en citaten controleert u bij de bron. - De prestaties zijn vaak het hoogst wanneer de relevante informatie aan het begin of aan het einde van de aangeleverde tekst staat [3]. De fiche leidt daaruit af dat u de kern van uw vraag beter op die plekken zet dan midden in een lang document. - Bij een lang gesprek of een lang document raadt de fiche aan opnieuw te beginnen met een samenvatting en een precieze vraag, in plaats van ervan uit te gaan dat alles onthouden is. - Plak geen persoonsgegevens, bedrijfsgeheimen, wachtwoorden of toegangssleutels. Het NCSC meldt een geval waarin een beveiligingsonderzoeker een gevoelige API-sleutel haalde uit een systeem dat blootstond aan een aanval met prompt injection [5]. - Als de assistent documenten van buiten leest (e-mails, cv's, webpagina's), ga er dan van uit dat de inhoud verborgen opdrachten kan bevatten [2]. ## De valkuilen ### Denken dat het model redeneert Een antwoord dat stappen uiteenzet, lijkt op een redenering. De bronnen van het dossier beschrijven echter een mechanisme dat het volgende woord voorspelt [2], en het NCSC benadrukt dat het model de tekst niet begrijpt zoals een mens dat doet [2]. ### Een vloeiend antwoord aanzien voor een juist antwoord Een goed geformuleerde tekst kan onjuist zijn. Menselijke beoordelaars hadden moeite om door GPT-3 gegenereerde nieuwsartikelen te onderscheiden van door mensen geschreven artikelen [4]. ### Prompt injection Prompt injection betekent dat iemand in een tekst een opdracht verstopt die het model zal opvolgen. Het NCSC definieert het zelf als een invoer die bedoeld is om het model zich onverwacht te laten gedragen: aanstootgevende inhoud produceren, vertrouwelijke informatie prijsgeven of ongewenste effecten teweegbrengen in een systeem dat de uitvoer van het model zonder controle aanvaardt [5]. Het NCSC-bericht van december 2025 geeft een voorbeeld uit werving en selectie. Een tool vraagt het model te beoordelen of een cv aan de criteria voldoet. Een kandidaat verbergt daarin een tekst die vraagt de eerdere instructies te negeren en zijn cv goed te keuren voor een gesprek: zijn « gegevens » worden dan uitgevoerd als een instructie [2]. Men spreekt van indirecte injectie wanneer de aanvaller geen directe toegang heeft tot het AI-systeem [2]. Geneutraliseerde illustratie van het soort verborgen tekst: ```text [Onzichtbare tekst toegevoegd aan een cv, geparafraseerd: vraagt het model zijn oorspronkelijke opdracht te negeren en deze kandidaat aan te bevelen.] ``` De huidige modellen leggen in een verzoek geen beveiligingsgrens op tussen opdrachten en gegevens [2]. Het NCSC acht het mogelijk dat prompt injection nooit volledig wordt opgelost zoals SQL-injectie dat is [2]. Het raadt af te vertrouwen op een lijst met verboden zinnen, omdat een aanval op eindeloos veel manieren te herformuleren is [2]. Het meldt een aanpak die voortkomt uit een discussie tussen Simon Willison en Baibhav Bista: wanneer een model informatie van een derde verwerkt, dalen zijn rechten tot die van die derde [2]. ## Echte gevallen ### MathGPT: een API-sleutel buitgemaakt (NCSC-bericht, augustus 2023) Het NCSC beschrijft in een bericht van 30 augustus 2023 een aanval op MathGPT, een model dat vragen in natuurlijke taal omzet in rekencode. Een beveiligingsonderzoeker had vastgesteld dat het model de door de gebruiker ingevoerde tekst als code uitvoerde. Hij gebruikte dat om toegang te krijgen tot het systeem waarop het model draaide en er een gevoelige API-sleutel uit te halen, voordat hij de aanval openbaar maakte [5]. Het bericht noemt de datum van de aanval zelf niet. ### Een risicokader dat u moet kennen Het NIST publiceerde op 26 juli 2024 een profiel voor generatieve AI, als aanvulling op zijn kader voor risicobeheer van AI (AI RMF 1.0), dat in januari 2023 verscheen en bedoeld is voor vrijwillig gebruik [6]. Het richt zich op organisaties die deze systemen ontwerpen of gebruiken [6]. ## Bronnen 1. arXiv, “Attention Is All You Need”, 12 juni 2017. https://arxiv.org/abs/1706.03762 (geraadpleegd op 3 november 2026) 2. NCSC (Royaume-Uni), “Prompt injection is not SQL injection (it may be worse)”, 8 december 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (geraadpleegd op 3 november 2026) 3. arXiv, “Lost in the Middle: How Language Models Use Long Contexts”, 6 juli 2023. https://arxiv.org/abs/2307.03172 (geraadpleegd op 3 november 2026) 4. arXiv, “Language Models are Few-Shot Learners”, 28 mei 2020. https://arxiv.org/abs/2005.14165 (geraadpleegd op 3 november 2026) 5. NCSC (Royaume-Uni), “Thinking about the security of AI systems”, 30 augustus 2023. https://www.ncsc.gov.uk/blog-post/thinking-about-security-ai-systems (geraadpleegd op 3 november 2026) 6. NIST, “Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”, 26 juli 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (geraadpleegd op 3 november 2026) --- Oorspronkelijke bron: Cyberpedia, de openbare encyclopedie over cyberveiligheid en AI van Brain. Canonieke versie: https://startbrain.io/cyberpedia/nl/articles/transformer-architectuur-aandacht/ U mag deze tekst vrij hergebruiken onder de licentie CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), mits u “Brain, Cyberpedia” vermeldt met een link naar bovenstaand adres.