---
id: CP-289
slug: adversariele-voorbeelden-beeldherkenning-ai
lang: nl
title: Adversariële voorbeelden tegen AI-beeldherkenning
description: Een met het blote oog bijna identiek beeld of een simpele sticker kan een beeldherkenningsmodel misleiden. Principe, gedateerde gevallen en verdedigingen.
canonical_url: https://startbrain.io/cyberpedia/nl/articles/adversariele-voorbeelden-beeldherkenning-ai/
markdown_url: https://startbrain.io/cyberpedia/nl/articles/adversariele-voorbeelden-beeldherkenning-ai.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: Brain, “Adversariële voorbeelden tegen AI-beeldherkenning”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/nl/articles/adversariele-voorbeelden-beeldherkenning-ai/ (CC BY 4.0)
wing: 4
theme: understand_ai
reflex: air-006
schema: G1
updated: "2026-11-10"
translations:
  nl: https://startbrain.io/cyberpedia/nl/articles/adversariele-voorbeelden-beeldherkenning-ai/
  fr: https://startbrain.io/cyberpedia/fr/articles/exemples-contradictoires-vision-ia/
  en: https://startbrain.io/cyberpedia/en/articles/adversarial-examples-vision-models/
  de: https://startbrain.io/cyberpedia/de/articles/gegnerische-beispiele-ki-bilderkennung/
  es: https://startbrain.io/cyberpedia/es/articles/ejemplos-adversarios-vision-ia/
  it: https://startbrain.io/cyberpedia/it/articles/esempi-avversari-visione-ia/
  pl: https://startbrain.io/cyberpedia/pl/articles/przyklady-kontradyktoryjne-rozpoznawanie-obrazow-ai/
  pt: https://startbrain.io/cyberpedia/pt/articles/exemplos-adversariais-visao-ia/
  ja: https://startbrain.io/cyberpedia/ja/articles/adversarial-example-ai-gazo-ninshiki/
sources:
  - "n": 1
    title: Adversarial examples in the physical world
    publisher: arXiv
    url: https://arxiv.org/abs/1607.02533
    published: "2016-07-08"
    accessed: "2026-11-10"
  - "n": 2
    title: Intriguing properties of neural networks
    publisher: arXiv
    url: https://arxiv.org/abs/1312.6199
    published: "2013-12-21"
    accessed: "2026-11-10"
  - "n": 3
    title: Robust Physical-World Attacks on Deep Learning Models
    publisher: arXiv
    url: https://arxiv.org/abs/1707.08945
    published: "2017-07-27"
    accessed: "2026-11-10"
  - "n": 4
    title: Explaining and Harnessing Adversarial Examples
    publisher: arXiv
    url: https://arxiv.org/abs/1412.6572
    published: "2014-12-20"
    accessed: "2026-11-10"
  - "n": 5
    title: Adversarial Patch
    publisher: arXiv
    url: https://arxiv.org/abs/1712.09665
    published: "2017-12-27"
    accessed: "2026-11-10"
  - "n": 6
    title: Towards Evaluating the Robustness of Neural Networks
    publisher: arXiv
    url: https://arxiv.org/abs/1608.04644
    published: "2016-08-16"
    accessed: "2026-11-10"
  - "n": 7
    title: "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations"
    publisher: NIST
    url: https://csrc.nist.gov/pubs/ai/100/2/e2023/final
    published: "2024-01-04"
    accessed: "2026-11-10"
  - "n": 8
    title: Machine learning principles
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/collection/machine-learning-principles
    published: "2024-05-22"
    accessed: "2026-11-10"
  - "n": 9
    title: OWASP Machine Learning Security Top Ten
    publisher: OWASP
    url: https://owasp.org/projects/machine-learning-security-top-ten
    accessed: "2026-11-10"
---

# Adversariële voorbeelden tegen AI-beeldherkenning

Een adversarieel voorbeeld (adversarial example) is een invoergegeven dat heel licht is aangepast, met als doel een machine-learningmodel ertoe te brengen zich te vergissen [1]. Bij een beeld kan de aanpassing zo onopvallend zijn dat een menselijke waarnemer haar niet opmerkt, terwijl het model zich toch vergist [1].

Voor een medewerker ligt daar de moeilijkheid: het beeld lijkt normaal, de machine beslist anders. Al in 2013 laten onderzoekers zien dat een onwaarneembare verstoring volstaat om een neuraal netwerk een beeld in de verkeerde categorie te laten indelen [2].

## In 30 seconden

- Waar het gebeurt: bij systemen die beelden lezen, met name systemen die hun gegevens van een camera of een andere sensor krijgen [1].
- Wat de aanvaller wil: een precies antwoord naar keuze krijgen, bijvoorbeeld een verkeersbord in een andere categorie laten indelen [3].
- De reflex: de lezing van een beeld door een machine niet als gegeven aannemen, en een absurde beslissing terwijl het beeld normaal lijkt melden aan het team dat verantwoordelijk is voor het systeem.
- Als het al gebeurd is: het beeld of de reeks bewaren die de fout heeft veroorzaakt en doorsturen naar dat team.

## Directe vragen

### Kan men zien dat een beeld is aangepast?

Niet altijd. In veel gevallen zijn de aanpassingen zo subtiel dat een mens ze niet opmerkt, terwijl de classifier zich vergist [1]. Bij verkeersborden heeft de verstoring de vorm van zwart-witte stickers op een echt stopbord [3].

### Moet men toegang hebben tot het model om het te misleiden?

Niet noodzakelijk. Dezelfde verstoring kan een ander netwerk laten vergissen, getraind op een ander deel van de gegevens [2]. De auteurs van 2016 schrijven dat deze voorbeelden een veiligheidsprobleem vormen omdat ze zouden kunnen dienen om machine-learningsystemen aan te vallen "even if the adversary has no access to the underlying model" [1].

### Geldt dit ook voor een camera in de echte wereld, of alleen voor bestanden die aan een programma worden gestuurd?

Ja, ook voor een camera. Adversariële beelden die met de camera van een telefoon zijn gemaakt, zijn voorgelegd aan een Inception-classifier op ImageNet: een groot deel ervan blijft verkeerd ingedeeld nadat het door de camera is gegaan [1].

### Lossen verdedigingen het probleem op?

Een verdediging kan worden omzeild. Defensieve distillatie was gepresenteerd als iets dat het slagingspercentage van aanvallen van 95 % naar 0,5 % bracht, waarna drie nieuwe aanvalsalgoritmen haar omzeilden met een kans van 100 % [6].

## In de huid van de aanvaller

De aanvaller zoekt een beeld dat op het origineel lijkt maar een verkeerd antwoord uitlokt. De onderzoekers van 2013 vinden het door de voorspellingsfout van het netwerk te maximaliseren [2]. In 2014 beschrijven Goodfellow, Shlens en Szegedy een eenvoudige en snelle methode om zulke voorbeelden te maken, gebaseerd op hun verklaring van de kwetsbaarheid: de belangrijkste oorzaak zou de lineaire aard van neurale netwerken zijn [4].

De aanvaller heeft meerdere mogelijke doelen. Bij verkeersborden beoogt hij een precieze classificatie, een zogeheten gerichte [3]. Met een adversariële patch kan hij de classifier elke gekozen doelklasse laten uitgeven [5]. Dezelfde verstoring kan een ander netwerk misleiden [2], en deze voorbeelden zouden kunnen dienen om een systeem aan te vallen, ook als de tegenstander geen toegang heeft tot het model [1].

## Wat u op het scherm ziet

Op het scherm of op de camera lijkt de scène gewoon. Een menselijke waarnemer ziet soms geen enkele aanpassing, en toch vergist de classifier zich [1]. Bij een adversariële patch wordt het afgedrukte motief aan de scène toegevoegd, gefotografeerd en daarna aan de classifier voorgelegd. Die negeert dan de andere elementen van de scène en meldt de klasse die de aanvaller heeft gekozen, ook als de patch klein is [5].

Het waarschuwingssignaal is dus de beslissing, niet het beeld: een antwoord van het systeem dat niets te maken heeft met wat een persoon op dezelfde scène ziet.

## Onder de motorkap

Een neuraal netwerk leert verbanden tussen invoer en uitvoer die volgens Szegedy en zijn collega's in significante mate vrij discontinu zijn [2]. Een onwaarneembare verstoring, gevonden door de fout van het netwerk te maximaliseren, volstaat dan om de voorspelde klasse te veranderen, en ze is geen willekeurig artefact van de training [2].

Goodfellow en zijn coauteurs verwerpen de eerste verklaringen, niet-lineariteit en overfitting, ten gunste van de lineaire aard van de netwerken. Die lezing verklaart volgens hen ook dat voorbeelden van de ene architectuur en trainingsset naar de andere overgaan [4]. Het model vergist zich dan met een hoog vertrouwen [4].

Voor de fysieke wereld stellen Eykholt en zijn coauteurs een algoritme voor met de naam Robust Physical Perturbations (RP2), dat visuele verstoringen maakt die robuust zijn onder verschillende fysieke omstandigheden, waaronder gezichtspunten [3]. De patch van Brown en zijn coauteurs is universeel (hij valt elke scène aan), robuust (hij houdt stand tegen veel transformaties) en gericht [5].

## Incidentanalyses

### December 2013: onwaarneembare verstoringen die van het ene netwerk naar het andere overgaan

In december 2013 publiceren Szegedy en zes coauteurs "Intriguing properties of neural networks". Ze laten zien dat een onwaarneembare verstoring, gevonden door de voorspellingsfout te maximaliseren, het beeld verkeerd laat indelen, en dat dezelfde verstoring een ander netwerk misleidt dat is getraind op een andere deelverzameling van de gegevens [2].

### Juli 2016: de camera van een telefoon neutraliseert de aanval niet

In juli 2016 merken Kurakin, Goodfellow en Bengio op dat eerder werk uitging van een tegenstander die zijn gegevens rechtstreeks naar de classifier kan sturen, wat niet het geval is bij systemen die signalen van camera's ontvangen [1]. Adversariële beelden die door de camera van een telefoon zijn gegaan, blijven grotendeels verkeerd ingedeeld [1].

### Augustus 2016: defensieve distillatie omzeild

Carlini en Wagner publiceren in augustus 2016 een werk dat defensieve distillatie betwist. Hun drie nieuwe algoritmen slagen met een kans van 100 % op zowel gedistilleerde als niet-gedistilleerde netwerken, en ze stellen een overdraagbaarheidstest met hoog vertrouwen voor die haar ook onderuit haalt [6].

### Juli 2017: het stopbord en zijn stickers

In juli 2017 publiceren Eykholt en acht coauteurs hun aanval op de classificatie van verkeersborden. Met alleen zwart-witte stickers vallen ze een echt stopbord aan. De gerichte fout treft 100 % van de beelden die in het laboratorium zijn gemaakt en 84,8 % van de videobeelden die vanuit een rijdend voertuig zijn opgenomen bij de test in het veld, voor de classifier die als doelwit is genomen [3]. Ze stellen ook een evaluatiemethode in twee stappen voor, laboratorium en daarna veld, bij gebrek aan een gestandaardiseerde testmethode [3].

### December 2017: de afdrukbare adversariële patch

In december 2017 beschrijven Brown, Mané, Roy, Abadi en Gilmer een patch die kan worden afgedrukt, aan een scène toegevoegd, gefotografeerd en aan een classifier voorgelegd [5].

## Wat u doet

- Als u een systeem gebruikt of bewaakt dat beelden leest, behandel de uitvoer dan als een voorstel dat moet worden gecontroleerd wanneer die tegenspreekt wat u ziet.
- Meld een absurde beslissing aan het team dat het systeem beheert, met het betreffende beeld of de betreffende reeks.
- Verwijder of reinig een verdachte sticker of een verdacht voorwerp niet zonder dat team te hebben gewaarschuwd: ze dienen als bewijs.

## De valkuilen

- Een "normaal" beeld is geen veilig beeld: de aanval kan voor het oog onzichtbaar zijn [1].
- Eén enkele verdediging volstaat niet: defensieve distillatie is omzeild [6].
- De aanvaller heeft niet per se toegang tot het model nodig: de auteurs van 2016 merken op dat deze voorbeelden zouden kunnen dienen om een systeem aan te vallen zonder die toegang [1].

## Verdedigingen en referentiekaders

Adversariële training bestaat erin adversariële voorbeelden te gebruiken tijdens de training. Goodfellow en zijn coauteurs hebben haar gebruikt om de fout van een maxout-netwerk op de MNIST-testset te verkleinen [4].

Het NIST publiceert het rapport AI 100-2 E2023, definitieve versie van 4 januari 2024, dat de aanvallen op machine learning indeelt, een vocabulaire vastlegt, beperkingsmethoden presenteert en wijst op nog openstaande uitdagingen [7]. Het Britse NCSC heeft op 22 mei 2024 veiligheidsprincipes voor machine learning gepubliceerd. Die principes vormen noch een volledig beoordelingskader noch een controlelijst, en vragen om veiligheid te behandelen als een eis gedurende de hele levenscyclus van het systeem [8]. OWASP bereidt van zijn kant een Top 10 van de beveiliging van machine learning voor, nog in conceptvorm [9].

## Bronnen

1. arXiv, “Adversarial examples in the physical world”, 8 juli 2016. https://arxiv.org/abs/1607.02533 (geraadpleegd op 10 november 2026)
2. arXiv, “Intriguing properties of neural networks”, 21 december 2013. https://arxiv.org/abs/1312.6199 (geraadpleegd op 10 november 2026)
3. arXiv, “Robust Physical-World Attacks on Deep Learning Models”, 27 juli 2017. https://arxiv.org/abs/1707.08945 (geraadpleegd op 10 november 2026)
4. arXiv, “Explaining and Harnessing Adversarial Examples”, 20 december 2014. https://arxiv.org/abs/1412.6572 (geraadpleegd op 10 november 2026)
5. arXiv, “Adversarial Patch”, 27 december 2017. https://arxiv.org/abs/1712.09665 (geraadpleegd op 10 november 2026)
6. arXiv, “Towards Evaluating the Robustness of Neural Networks”, 16 augustus 2016. https://arxiv.org/abs/1608.04644 (geraadpleegd op 10 november 2026)
7. NIST, “Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations”, 4 januari 2024. https://csrc.nist.gov/pubs/ai/100/2/e2023/final (geraadpleegd op 10 november 2026)
8. NCSC (Royaume-Uni), “Machine learning principles”, 22 mei 2024. https://www.ncsc.gov.uk/collection/machine-learning-principles (geraadpleegd op 10 november 2026)
9. OWASP, “OWASP Machine Learning Security Top Ten”. https://owasp.org/projects/machine-learning-security-top-ten (geraadpleegd op 10 november 2026)

---

Oorspronkelijke bron: Cyberpedia, de openbare encyclopedie over cyberveiligheid en AI van Brain. Canonieke versie: https://startbrain.io/cyberpedia/nl/articles/adversariele-voorbeelden-beeldherkenning-ai/
U mag deze tekst vrij hergebruiken onder de licentie CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), mits u “Brain, Cyberpedia” vermeldt met een link naar bovenstaand adres.
