---
id: CP-289
slug: exemples-contradictoires-vision-ia
lang: fr
title: Exemples contradictoires contre la vision par IA
description: Une image presque identique à l'œil nu ou un simple autocollant peuvent tromper un modèle de vision. Principe, cas datés et défenses.
canonical_url: https://startbrain.io/cyberpedia/fr/articles/exemples-contradictoires-vision-ia/
markdown_url: https://startbrain.io/cyberpedia/fr/articles/exemples-contradictoires-vision-ia.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: Brain, « Exemples contradictoires contre la vision par IA », Cyberpedia, 2026. https://startbrain.io/cyberpedia/fr/articles/exemples-contradictoires-vision-ia/ (CC BY 4.0)
wing: 4
theme: understand_ai
reflex: air-006
schema: G1
updated: "2026-11-10"
translations:
  fr: https://startbrain.io/cyberpedia/fr/articles/exemples-contradictoires-vision-ia/
  en: https://startbrain.io/cyberpedia/en/articles/adversarial-examples-vision-models/
  de: https://startbrain.io/cyberpedia/de/articles/gegnerische-beispiele-ki-bilderkennung/
  es: https://startbrain.io/cyberpedia/es/articles/ejemplos-adversarios-vision-ia/
  it: https://startbrain.io/cyberpedia/it/articles/esempi-avversari-visione-ia/
  nl: https://startbrain.io/cyberpedia/nl/articles/adversariele-voorbeelden-beeldherkenning-ai/
  pl: https://startbrain.io/cyberpedia/pl/articles/przyklady-kontradyktoryjne-rozpoznawanie-obrazow-ai/
  pt: https://startbrain.io/cyberpedia/pt/articles/exemplos-adversariais-visao-ia/
  ja: https://startbrain.io/cyberpedia/ja/articles/adversarial-example-ai-gazo-ninshiki/
sources:
  - "n": 1
    title: Adversarial examples in the physical world
    publisher: arXiv
    url: https://arxiv.org/abs/1607.02533
    published: "2016-07-08"
    accessed: "2026-11-10"
  - "n": 2
    title: Intriguing properties of neural networks
    publisher: arXiv
    url: https://arxiv.org/abs/1312.6199
    published: "2013-12-21"
    accessed: "2026-11-10"
  - "n": 3
    title: Robust Physical-World Attacks on Deep Learning Models
    publisher: arXiv
    url: https://arxiv.org/abs/1707.08945
    published: "2017-07-27"
    accessed: "2026-11-10"
  - "n": 4
    title: Explaining and Harnessing Adversarial Examples
    publisher: arXiv
    url: https://arxiv.org/abs/1412.6572
    published: "2014-12-20"
    accessed: "2026-11-10"
  - "n": 5
    title: Adversarial Patch
    publisher: arXiv
    url: https://arxiv.org/abs/1712.09665
    published: "2017-12-27"
    accessed: "2026-11-10"
  - "n": 6
    title: Towards Evaluating the Robustness of Neural Networks
    publisher: arXiv
    url: https://arxiv.org/abs/1608.04644
    published: "2016-08-16"
    accessed: "2026-11-10"
  - "n": 7
    title: "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations"
    publisher: NIST
    url: https://csrc.nist.gov/pubs/ai/100/2/e2023/final
    published: "2024-01-04"
    accessed: "2026-11-10"
  - "n": 8
    title: Machine learning principles
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/collection/machine-learning-principles
    published: "2024-05-22"
    accessed: "2026-11-10"
  - "n": 9
    title: OWASP Machine Learning Security Top Ten
    publisher: OWASP
    url: https://owasp.org/projects/machine-learning-security-top-ten
    accessed: "2026-11-10"
---

# Exemples contradictoires contre la vision par IA

Un exemple contradictoire (adversarial example) est une donnée d'entrée modifiée très légèrement, dans le but de pousser un modèle d'apprentissage automatique à se tromper [1]. Pour une image, la modification peut être si discrète qu'un observateur humain ne la remarque pas, alors que le modèle se trompe quand même [1].

Pour un salarié, la difficulté est là : l'image paraît normale, c'est la machine qui décide autrement. Dès 2013, des chercheurs montrent qu'une perturbation imperceptible suffit à faire classer une image dans la mauvaise catégorie par un réseau de neurones [2].

## En 30 secondes

- Où ça arrive : sur les systèmes qui lisent des images, notamment ceux qui reçoivent leurs données d'une caméra ou d'un autre capteur [1].
- Ce que veut l'attaquant : obtenir une réponse précise de son choix, par exemple faire classer un panneau dans une autre catégorie [3].
- Le réflexe : ne pas tenir pour acquise la lecture d'une image par une machine, et signaler à l'équipe responsable du système une décision absurde alors que l'image semble normale.
- Si c'est déjà fait : conserver l'image ou la séquence qui a provoqué l'erreur et la transmettre à cette équipe.

## Questions directes

### Peut-on voir qu'une image a été modifiée ?

Pas toujours. Dans de nombreux cas, les modifications sont si subtiles qu'un humain ne les remarque pas, alors que le classifieur se trompe [1]. Dans le cas des panneaux routiers, la perturbation prend la forme d'autocollants noirs et blancs posés sur un vrai panneau stop [3].

### Faut-il avoir accès au modèle pour le tromper ?

Pas nécessairement. Une même perturbation peut faire se tromper un autre réseau, entraîné sur une partie différente des données [2]. Les auteurs de 2016 écrivent que ces exemples posent un problème de sécurité parce qu'ils pourraient servir à attaquer des systèmes d'apprentissage automatique « even if the adversary has no access to the underlying model » [1].

### Une caméra dans le monde réel est-elle concernée, ou seulement des fichiers envoyés à un programme ?

Elle l'est. Des images adverses obtenues avec l'appareil photo d'un téléphone ont été présentées à un classifieur Inception sur ImageNet : une large fraction d'entre elles reste mal classée après être passée par la caméra [1].

### Les défenses règlent-elles le problème ?

Une défense peut être contournée. La distillation défensive avait été présentée comme faisant passer le taux de réussite des attaques de 95 % à 0,5 %, puis trois nouveaux algorithmes d'attaque l'ont contournée avec une probabilité de 100 % [6].

## Dans la peau de l'attaquant

L'attaquant cherche une image qui ressemble à l'originale mais qui déclenche une réponse fausse. Les chercheurs de 2013 la trouvent en maximisant l'erreur de prédiction du réseau [2]. En 2014, Goodfellow, Shlens et Szegedy décrivent une méthode simple et rapide pour produire de tels exemples, fondée sur leur explication de la vulnérabilité : la cause principale serait la nature linéaire des réseaux de neurones [4].

L'attaquant a plusieurs objectifs possibles. Dans le cas des panneaux, il vise une classification précise, dite ciblée [3]. Avec un patch adverse, il peut faire sortir au classifieur n'importe quelle classe cible choisie [5]. Une même perturbation peut tromper un autre réseau [2], et ces exemples pourraient servir à attaquer un système même si l'adversaire n'a pas accès au modèle [1].

## Ce que vous voyez à l'écran

À l'écran ou sur la caméra, la scène semble ordinaire. Un observateur humain ne remarque parfois aucune modification, et pourtant le classifieur se trompe [1]. Dans le cas d'un patch adverse, le motif imprimé est ajouté à la scène, photographié, puis présenté au classifieur, qui ignore alors les autres éléments de la scène et annonce la classe choisie par l'attaquant, même quand le patch est petit [5].

Le signe d'alerte est donc la décision, pas l'image : une réponse du système sans rapport avec ce qu'une personne voit sur la même scène.

## Sous le capot

Un réseau de neurones apprend des correspondances entre entrées et sorties qui sont, selon Szegedy et ses collègues, assez discontinues dans une mesure significative [2]. Une perturbation imperceptible, cherchée en maximisant l'erreur du réseau, suffit alors à changer la classe prédite, et elle n'est pas un artefact aléatoire de l'apprentissage [2].

Goodfellow et ses coauteurs écartent les premières explications, la non-linéarité et le surapprentissage, au profit de la nature linéaire des réseaux. Cette lecture, disent-ils, explique aussi la généralisation des exemples d'une architecture et d'un jeu d'entraînement à l'autre [4]. Le modèle se trompe alors avec une confiance élevée [4].

Pour le monde physique, Eykholt et ses coauteurs proposent un algorithme nommé Robust Physical Perturbations (RP2), qui produit des perturbations visuelles robustes dans différentes conditions physiques, dont les points de vue [3]. Le patch de Brown et ses coauteurs est universel (il attaque n'importe quelle scène), robuste (il résiste à de nombreuses transformations) et ciblé [5].

## Autopsies

### Décembre 2013 : des perturbations imperceptibles qui passent d'un réseau à l'autre

En décembre 2013, Szegedy et six coauteurs publient « Intriguing properties of neural networks ». Ils montrent qu'une perturbation imperceptible trouvée en maximisant l'erreur de prédiction fait mal classer l'image, et que la même perturbation trompe un autre réseau entraîné sur un autre sous-ensemble des données [2].

### Juillet 2016 : la caméra d'un téléphone ne neutralise pas l'attaque

En juillet 2016, Kurakin, Goodfellow et Bengio relèvent que les travaux précédents supposaient un adversaire capable d'envoyer ses données directement au classifieur, ce qui n'est pas le cas des systèmes qui reçoivent des signaux de caméras [1]. Les images adverses passées par la caméra d'un téléphone restent en grande partie mal classées [1].

### Août 2016 : la distillation défensive contournée

Carlini et Wagner publient en août 2016 un travail qui conteste la distillation défensive. Leurs trois nouveaux algorithmes réussissent avec une probabilité de 100 % sur des réseaux distillés comme non distillés, et ils proposent un test de transférabilité à haute confiance qui la met aussi en échec [6].

### Juillet 2017 : le panneau stop et ses autocollants

En juillet 2017, Eykholt et huit coauteurs publient leur attaque sur la classification de panneaux routiers. Avec des autocollants noirs et blancs seulement, ils attaquent un vrai panneau stop. L'erreur ciblée touche 100 % des images prises en laboratoire et 84,8 % des images vidéo captées depuis un véhicule en mouvement lors du test sur le terrain, pour le classifieur visé [3]. Ils proposent aussi une méthode d'évaluation en deux étapes, laboratoire puis terrain, faute de méthode de test standardisée [3].

### Décembre 2017 : le patch adverse imprimable

En décembre 2017, Brown, Mané, Roy, Abadi et Gilmer décrivent un patch qui peut être imprimé, ajouté à une scène, photographié et présenté à un classifieur [5].

## Ce que vous faites

- Si vous utilisez ou surveillez un système qui lit des images, traitez sa sortie comme une proposition à vérifier quand elle contredit ce que vous voyez.
- Signalez une décision absurde à l'équipe qui gère le système, avec l'image ou la séquence concernée.
- Ne retirez ni ne nettoyez un autocollant ou un objet suspect sans avoir prévenu cette équipe : il sert de preuve.

## Les pièges

- Une image « normale » n'est pas une image sûre : l'attaque peut être invisible à l'œil [1].
- Une défense unique ne suffit pas : la distillation défensive a été contournée [6].
- L'attaquant n'a pas forcément besoin d'accéder au modèle : les auteurs de 2016 notent que ces exemples pourraient servir à attaquer un système sans cet accès [1].

## Défenses et cadres de référence

L'entraînement adversarial consiste à utiliser des exemples contradictoires pendant l'apprentissage. Goodfellow et ses coauteurs l'ont utilisé pour réduire l'erreur d'un réseau maxout sur le jeu de test MNIST [4].

Le NIST publie le rapport AI 100-2 E2023, version finale du 4 janvier 2024, qui classe les attaques contre l'apprentissage automatique, définit un vocabulaire, présente des méthodes d'atténuation et signale des défis encore ouverts [7]. Le NCSC britannique a publié le 22 mai 2024 des principes de sécurité pour l'apprentissage automatique. Ces principes ne forment ni un cadre d'évaluation complet ni une liste de contrôle, et demandent de traiter la sécurité comme une exigence tout au long du cycle de vie du système [8]. L'OWASP prépare de son côté un Top 10 de la sécurité de l'apprentissage automatique, encore à l'état de brouillon [9].

## Sources

1. arXiv, « Adversarial examples in the physical world », 8 juillet 2016. https://arxiv.org/abs/1607.02533 (consulté le 10 novembre 2026)
2. arXiv, « Intriguing properties of neural networks », 21 décembre 2013. https://arxiv.org/abs/1312.6199 (consulté le 10 novembre 2026)
3. arXiv, « Robust Physical-World Attacks on Deep Learning Models », 27 juillet 2017. https://arxiv.org/abs/1707.08945 (consulté le 10 novembre 2026)
4. arXiv, « Explaining and Harnessing Adversarial Examples », 20 décembre 2014. https://arxiv.org/abs/1412.6572 (consulté le 10 novembre 2026)
5. arXiv, « Adversarial Patch », 27 décembre 2017. https://arxiv.org/abs/1712.09665 (consulté le 10 novembre 2026)
6. arXiv, « Towards Evaluating the Robustness of Neural Networks », 16 août 2016. https://arxiv.org/abs/1608.04644 (consulté le 10 novembre 2026)
7. NIST, « Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations », 4 janvier 2024. https://csrc.nist.gov/pubs/ai/100/2/e2023/final (consulté le 10 novembre 2026)
8. NCSC (Royaume-Uni), « Machine learning principles », 22 mai 2024. https://www.ncsc.gov.uk/collection/machine-learning-principles (consulté le 10 novembre 2026)
9. OWASP, « OWASP Machine Learning Security Top Ten ». https://owasp.org/projects/machine-learning-security-top-ten (consulté le 10 novembre 2026)

---

Source originale : Cyberpedia, l'encyclopédie publique de cybersécurité et d'IA publiée par Brain. Version canonique : https://startbrain.io/cyberpedia/fr/articles/exemples-contradictoires-vision-ia/
Vous pouvez reprendre ce texte librement sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), à condition de citer « Brain, Cyberpedia » avec un lien vers l'adresse ci-dessus.
