Cyberpediapar Brain

Vol de modèle IA par des requêtes à l'API

Comment un concurrent copie un modèle IA en l'interrogeant par son API, et ce qu'en retient un salarié d'une entreprise qui l'expose.

Sur cette page
  1. 1En 30 secondes
  2. 2De quoi parle-t-on
  3. 3Questions directes
  4. 4Dans la peau de l'attaquant
  5. 5Ce que vous voyez à l'écran
  6. 6Sous le capot
  7. 7Autopsies
  8. 8Sources
  9. 9Citer cet article

En 30 secondes

Où ça arrive
Sur l'API d'un modèle proposé comme service. Les attaques décrites par Google visaient ses modèles Gemini[1].
Ce que veut l'attaquant
Accélérer le développement de son propre modèle, rapidement et à un coût nettement plus bas, en reprenant ce qu'un modèle mûr a appris[1].
Qui est touché
Les éditeurs de modèles et les fournisseurs de services d'IA. L'utilisateur ordinaire n'est en général pas exposé à un risque[1].
Le réflexe
Si votre entreprise fournit un modèle d'IA en service, surveiller l'accès à l'API pour repérer des schémas d'extraction ou de distillation[1], et limiter le nombre de requêtes qu'une même source peut envoyer[4].
Plan de l’article

De quoi parle-t-on

Un modèle d'IA proposé comme service peut être copié sans qu'aucun serveur soit piraté. Selon le Google Threat Intelligence Group (GTIG), des acteurs utilisent un accès légitime à l'API pour tenter de cloner certaines capacités d'un modèle, là où il fallait autrefois une intrusion informatique classique pour voler des secrets industriels[1]. Le principe tient en deux temps : interroger méthodiquement le modèle, puis entraîner un autre modèle sur ses réponses[1].

Cette fiche s'adresse d'abord aux éditeurs de modèles. Google écrit que d'autres entreprises dotées de modèles d'IA y feront probablement face dans un avenir proche[2], et s'attend à voir ces attaques apparaître ailleurs à mesure que d'autres organisations exposent leurs modèles à leurs clients et au public[3]. Un salarié d'une entreprise qui propose un modèle à ses clients est donc concerné par la surveillance de l'API et par la protection des accès.

Questions directes

Qu'est-ce qu'une attaque d'extraction de modèle ?

Elle a lieu quand un adversaire utilise un accès légitime pour sonder méthodiquement un modèle d'apprentissage automatique mûr, afin d'en tirer des informations qui servent à entraîner un nouveau modèle[1]. L'attaquant recourt pour cela à la distillation de connaissances, ce qui explique le nom d'« attaques par distillation »[1].

La distillation est-elle toujours une attaque ?

Non. C'est une technique courante pour entraîner un modèle « élève » à partir d'un modèle « enseignant » existant[1]. Elle consiste souvent à interroger l'enseignant sur des problèmes d'un domaine précis, puis à affiner le modèle élève avec les réponses (fine-tuning supervisé)[1]. Il existe des usages légitimes, et Google Cloud propose des offres de distillation[1]. En revanche, distiller les modèles Gemini sans autorisation viole les conditions d'utilisation de Google[1].

Un utilisateur ordinaire est-il menacé ?

Google indique que ces attaques ne représentent pas, en général, un risque pour les utilisateurs ordinaires, parce qu'elles ne menacent ni la confidentialité, ni la disponibilité, ni l'intégrité des services d'IA[1]. Le risque se concentre chez les développeurs de modèles et les fournisseurs de services[1].

Qui mène ces attaques ?

Google dit avoir observé et atténué de fréquentes attaques d'extraction venant d'entités du secteur privé dans le monde entier et de chercheurs voulant cloner une logique propriétaire[1]. En 2025, le groupe n'a observé aucune attaque directe contre des modèles de pointe de la part des acteurs étatiques ou des opérations d'influence qu'il suit[1].

Que doit faire une entreprise qui expose un modèle à ses clients ?

Google recommande aux organisations qui fournissent des modèles d'IA en service de surveiller l'accès à l'API pour y repérer des schémas d'extraction ou de distillation[1]. L'OWASP ajoute d'autres mesures : limiter le débit et fixer des quotas par source, journaliser l'usage et détecter les anomalies, contrôler strictement les accès[4]. Elles sont détaillées plus bas.

Dans la peau de l'attaquant

L'attaquant cherche à gagner du temps et de l'argent. L'extraction suivie d'une distillation lui permet d'accélérer le développement d'un modèle rapidement et à un coût nettement plus bas, ce que Google qualifie de vol de propriété intellectuelle[1].

Sa cible est la logique propriétaire et la formation spécialisée d'un modèle[1]. Google donne deux exemples : un modèle personnalisé pour l'analyse de données financières, visé par un concurrent commercial qui veut créer un produit dérivé, et un modèle de programmation, visé par un adversaire qui veut en reproduire les capacités dans un environnement sans garde-fous[1].

Les attaquants cherchent aussi à obtenir la capacité de raisonnement de Gemini, une cible fréquente[1]. L'OWASP décrit une variante, la réplication fonctionnelle : l'attaquant utilise le modèle visé pour produire des données d'entraînement synthétiques, puis affine un autre modèle pour obtenir un équivalent fonctionnel[4].

Ce que vous voyez à l'écran

Pour un utilisateur ordinaire, ces attaques ne touchent en général ni la confidentialité, ni la disponibilité, ni l'intégrité du service[1]. L'attaquant passe par un accès légitime à l'API[1]. C'est pourquoi Google recommande aux fournisseurs de surveiller cet accès pour y repérer des schémas d'extraction[1], et l'OWASP recommande de surveiller en continu l'utilisation des ressources et de journaliser pour détecter les schémas inhabituels[4].

Sous le capotÉquipes IT

Le mécanisme suit celui de la distillation légitime. L'attaquant envoie au modèle enseignant des questions sur un domaine, récupère les réponses, puis s'en sert pour entraîner son modèle élève[1].

Les traces de raisonnement internes de Gemini sont normalement résumées avant d'être livrées à l'utilisateur. Des attaquants ont tenté de forcer le modèle à produire les processus de raisonnement complets[1].

L'OWASP classe l'extraction de modèle par l'API parmi les formes de consommation non bornée : l'attaquant interroge l'API avec des entrées soigneusement conçues et des techniques d'injection de prompt, pour collecter assez de réponses afin de reproduire un modèle partiel ou de créer un modèle fantôme (« shadow model »)[4]. Au-delà de la copie, l'OWASP note que l'extraction porte atteinte à l'intégrité du modèle d'origine[4].

Les mesures de défense nommées par l'OWASP pour ce risque sont les suivantes[4] :

  • limiter la taille des entrées ;
  • restreindre ou masquer les paramètres logit_bias et logprobs dans les réponses de l'API ;
  • appliquer une limitation de débit et des quotas d'utilisation par source ;
  • journaliser et surveiller pour détecter les consommations inhabituelles ;
  • intégrer un filigrane aux sorties du modèle pour détecter leur usage non autorisé ;
  • entraîner les modèles à détecter les requêtes adverses et les tentatives d'extraction ;
  • mettre en place des contrôles d'accès forts (RBAC, principe du moindre privilège) pour limiter l'accès non autorisé aux dépôts de modèles et aux environnements d'entraînement.

De son côté, Google indique recourir à des défenses proactives en temps réel, qui peuvent dégrader les performances du modèle élève, et rappelle que ces attaques peuvent donner lieu à des retraits et à des poursuites[1].

Les accès eux-mêmes sont une cible. Pour abuser de services d'IA à grande échelle, des acteurs malveillants ont besoin de clés d'API, ce qui crée un risque de détournement pour les organisations disposant de nombreuses ressources cloud et d'IA[1]. Des outils d'IA open source vulnérables sont couramment exploités pour voler des clés d'API, ce qui alimente un marché noir de revente d'accès et fait peser des coûts sur les utilisateurs touchés[1]. L'OWASP signale que les méthodes d'entraînement et le code source des modèles propriétaires peuvent être considérés comme sensibles[5]. Par ailleurs, des sorties de modèle mal configurées peuvent révéler des algorithmes ou des données propriétaires[5]. L'attaque « Proof Pudding » (CVE-2019-20634) en est un exemple : des données d'entraînement divulguées ont facilité l'extraction et l'inversion d'un modèle, et permis de contourner des filtres de messagerie[5].

AutopsiesCas réels

12 février 2026 : une campagne de plus de 100 000 requêtes contre Gemini

Le 12 février 2026, le GTIG publie un rapport qui décrit des attaques d'extraction contre les modèles Gemini, identifiées et perturbées par Google DeepMind et le GTIG[1]. Elles émanaient de chercheurs et d'entreprises privées dans le monde entier[1].

Un cas détaillé visait le raisonnement de Gemini. Les attaquants demandaient au modèle de produire son raisonnement complet, en exigeant que la langue du contenu de réflexion reste cohérente avec la langue principale de la saisie[1]. L'analyse a recensé plus de 100 000 requêtes (prompts)[1]. D'après le GTIG, l'étendue des questions suggère une tentative de reproduire la capacité de raisonnement de Gemini dans des langues autres que l'anglais, sur une grande variété de tâches[1].

Les systèmes de Google ont reconnu l'attaque en temps réel et ont réduit son risque, ce qui a protégé les traces de raisonnement internes[1].

Sources

  1. Google, « GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use », 12 février 2026. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (consulté le 14 novembre 2026)
  2. Google, « Our new report details the latest ways threat actors are misusing AI. », 12 février 2026. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (consulté le 14 novembre 2026)
  3. Google, « Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration », 19 février 2026. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (consulté le 14 novembre 2026)
  4. OWASP, « LLM10:2025 Unbounded Consumption », 10 avril 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (consulté le 14 novembre 2026)
  5. OWASP, « LLM02:2025 Sensitive Information Disclosure », 10 avril 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consulté le 14 novembre 2026)