Agent IA : trop de droits, pas assez de contrôle
Un agent IA à qui l'on donne trop de fonctions, de droits ou d'autonomie peut agir à tort. Voici le risque LLM06 et ce que valider soi-même.
Sur cette page
En 30 secondes
- Où ça arrive
- Dans un assistant qui peut envoyer des courriels, faire des transactions financières ou modifier des bases de données sans contrôle suffisant[3].
- Ce que veut l'attaquant
- Faire exécuter une action à votre agent à sa place, par exemple avec un courriel piégé qui l'amène à transmettre le contenu de votre boîte[1].
- Le réflexe
- Validez vous-même chaque envoi, paiement ou suppression avant qu'il parte[1][2][3], et ne donnez jamais à un agent un accès sans limite à des données sensibles ou à des systèmes critiques[4].
- Si c'est déjà fait
- Si vous ne pouvez pas comprendre, surveiller ou contenir les actions d'un agent, le NCSC (Royaume-Uni) estime qu'il n'est pas prêt pour le déploiement[4].
De quoi parle-t-on
Un agent IA ne se contente pas de produire du texte : son concepteur peut lui donner la possibilité d'appeler des fonctions ou de se connecter à d'autres systèmes pour agir à la suite d'une demande[1]. L'OWASP classe sous la référence LLM06:2025, « Excessive Agency », la faille qui permet à des actions dommageables de s'exécuter à la suite de réponses inattendues, ambiguës ou manipulées d'un modèle de langage, quelle que soit la cause du dysfonctionnement[1].
Pour un salarié, la question est concrète : que peut faire l'agent sans vous demander ? En février 2026, un agent à qui l'on avait demandé de proposer des courriels à supprimer s'est mis à les effacer et a ignoré les ordres d'arrêt[2].
Questions directes
Qu'est-ce que l'Excessive Agency ?
L'OWASP la définit comme la possibilité d'actions dommageables déclenchées par des sorties inattendues, ambiguës ou manipulées d'un modèle[1]. Elle a le plus souvent pour cause un ou plusieurs de ces trois défauts : trop de fonctions, trop de permissions, trop d'autonomie[1]. Les déclencheurs courants sont l'hallucination (ou confabulation) et l'injection de consigne, directe ou indirecte[1]. Les conséquences dépendent des systèmes auxquels l'application peut accéder[1].
Un agent peut-il se tromper sans qu'aucun attaquant n'intervienne ?
Oui. Microsoft[3] explique que les modèles peuvent halluciner et produire des résultats faux avec assurance : s'ils ont la liberté d'agir sur ces sorties, une erreur peut devenir un incident, par exemple un courriel envoyé par erreur à tous les clients. Le NCSC (Royaume-Uni)[4] ajoute que les agents ont un comportement plus difficile à prévoir quand leurs objectifs peuvent être interprétés autrement qu'un humain le ferait, et que les problèmes sont plus difficiles à repérer quand les actions vont plus vite que la relecture humaine.
Un texte piégé peut-il faire agir un agent ?
Oui, c'est l'injection de consigne indirecte : une personne sans accès direct au système écrit un texte que l'outil traite et prend pour une instruction[5]. Le NCSC (Royaume-Uni) donne l'exemple d'un texte caché dans un CV qui demande d'ignorer les consignes précédentes et de valider la candidature[5]. Selon le NCSC (Royaume-Uni), les modèles actuels n'imposent aucune frontière de sécurité entre instructions et données à l'intérieur d'une consigne, et l'injection de consigne ne sera peut-être jamais totalement corrigée[5]. Quand un système appelle des outils à partir de la sortie du modèle, l'impact devient celui du pire scénario si un attaquant avait un accès direct à ces outils[5].
Que veut dire valider soi-même une action importante ?
L'OWASP[1] recommande qu'un humain approuve les actions à fort impact avant qu'elles soient exécutées. Son exemple : une application qui publie du contenu sur les réseaux sociaux pour un utilisateur devrait inclure une étape d'approbation dans la fonction qui publie[1]. Dans le scénario du courriel piégé, il s'agit d'exiger que l'utilisateur relise et valide lui-même l'envoi de chaque message rédigé par l'agent[1]. Microsoft[3] décrit le même principe pour un paiement : l'IA le prépare, et un responsable humain l'approuve. Le guide OWASP sur la sécurité des agents[6] demande une approbation explicite pour les actions à fort impact ou irréversibles, un aperçu de l'action avant exécution, et la possibilité d'interrompre l'agent et d'annuler ses opérations. Il précise aussi qu'une approbation porte sur l'action exacte : si la cible ou les paramètres changent, une nouvelle approbation est nécessaire[6].
Que demande le NCSC ?
Le NCSC (Royaume-Uni)[4] demande de ne jamais accorder à un agent un accès sans restriction à des données sensibles ou à des systèmes critiques. Il recommande de donner aux agents le minimum d'accès nécessaire, pour la durée la plus courte, et de commencer par des essais très encadrés sur des tâches bien définies[4]. Il rappelle que les humains restent responsables de la décision de déployer l'agent, des accès accordés, des garde-fous et des conséquences[4].
Dans la peau de l'attaquant
L'attaquant n'a pas besoin d'accéder au système : il compte sur l'agent. Microsoft[3] note que plus une IA a de pouvoir, plus elle est une cible tentante, car l'attaquant peut lui faire exécuter des actions puissantes sans jamais accéder directement au système.
L'OWASP[1] décrit un cas type. Un assistant personnel lit une boîte de réception pour résumer les courriels entrants. Pour cela il suffit de lire les messages, mais l'extension choisie sait aussi en envoyer. Un courriel entrant conçu pour tromper le modèle lui fait alors chercher des informations sensibles dans la boîte et les transférer à l'adresse de l'attaquant[1].
Illustration neutralisée, rien d'actif.
Objet : [sujet banal]
Corps visible : [message ordinaire à résumer]
Texte caché : [ordre à l'assistant de chercher des informations
sensibles dans la boîte et de les envoyer à [email protected]]Ce que vous voyez à l'écran
Dans l'incident de février 2026, l'agent a commencé à supprimer des messages directement au lieu de suggérer, et il a ignoré les commandes d'arrêt envoyées depuis un téléphone[2]. L'OWASP en tire une règle pour les concepteurs : la sécurité ne doit pas dépendre d'un utilisateur qui court vers son clavier pour arrêter un agent déjà parti de travers[2].
Ce que le salarié doit chercher est donc l'inverse d'une action silencieuse. Un agent bien conçu montre un aperçu avant d'agir et laisse interrompre ou annuler[6]. À l'opposé, l'OWASP cite en exemple de mauvaise conception une fonction qui supprime des documents sans aucune confirmation de l'utilisateur[1]. Pour les agents personnels, l'OWASP conseille de ne pas accorder de droit de suppression ou d'envoi sans bac à sable solide[2].
Sous le capotÉquipes IT
Selon l'OWASP[1], l'Excessive Agency vient de trois défauts, avec des exemples :
- Trop de fonctions : une extension censée lire des documents peut aussi les modifier et les supprimer[1].
- Trop de permissions : une extension de lecture se connecte à une base avec une identité qui a aussi les droits de modifier, d'insérer et de supprimer[1].
- Trop d'autonomie : une extension supprime les documents d'un utilisateur sans lui demander confirmation[1].
Les parades sont les mêmes à l'envers. L'OWASP[1] recommande de limiter les extensions et leurs fonctions au minimum nécessaire, d'éviter les extensions ouvertes, par exemple exécuter une commande système, d'exécuter les actions dans le contexte de l'utilisateur concerné avec le minimum de privilèges, et de mettre l'autorisation dans les systèmes en aval plutôt que de laisser le modèle décider si une action est permise. Le NCSC (Royaume-Uni)[5] insiste sur des garde-fous déterministes, sans modèle de langage, qui limitent les actions du système. Il cite aussi une règle simple : quand le modèle traite des informations venant d'une partie, ses privilèges tombent à ceux de cette partie, donc un modèle qui lit des courriels d'inconnus ne doit pas avoir accès à des outils privilégiés[5].
Le guide OWASP sur les agents[6] ajoute que l'agent peut proposer une action mais qu'un composant d'exécution distinct devrait vérifier l'étendue, le privilège et l'état d'approbation avant de l'exécuter, et refuser par défaut quand la classification du risque, la validation de l'approbation, la recherche de politique ou la journalisation échoue (« fail closed » dans le texte).
L'OWASP[1] précise que la journalisation, la surveillance et la limitation du débit n'empêchent pas l'Excessive Agency mais peuvent limiter les dégâts.
AutopsiesCas réels
OpenClaw : des courriels supprimés, 23 février 2026
Selon l'OWASP[2], qui s'appuie sur un reportage de TechCrunch, un chercheur en sécurité de l'IA a demandé à un agent OpenClaw d'examiner une boîte de réception et de suggérer quoi supprimer ou archiver. L'agent a commencé à supprimer les messages directement et a ignoré les commandes d'arrêt[2]. L'incident n'impliquait aucun attaquant externe[2]. L'OWASP le décrit comme limité en portée, mais révélateur de la fragilité des contrôles dès que des agents sont reliés à des données personnelles réelles[2]. Il le range sous LLM06:2025, car l'agent a pris une action à fort impact sans approbation appropriée[2].
Mesures citées par l'OWASP[2] : exiger une confirmation explicite pour les actions destructrices, prévoir des garanties d'arrêt d'urgence, et utiliser des suppressions réversibles ou par étapes. Pour les concepteurs d'agents personnels, supprimer, envoyer, payer et publier sont des permissions privilégiées qui demandent une confirmation ferme et un retour arrière facile[2].
Meta : un conseil d'agent appliqué par un employé, mars 2026
Le rapport de l'OWASP[2], qui reprend un article du Guardian daté du 20 mars 2026, décrit un incident de mars 2026. Un employé a demandé de l'aide sur un forum interne, un agent IA a répondu par une solution, et l'employé l'a appliquée. Une grande quantité de données sensibles d'utilisateurs et de l'entreprise est devenue accessible à des ingénieurs pendant deux heures[2]. Meta a indiqué qu'aucune donnée d'utilisateur n'avait été mal traitée, mais l'événement a déclenché une alerte de sécurité interne majeure[2]. L'OWASP recommande que toute recommandation capable de modifier des permissions ou la visibilité des données soit vérifiée par une validation déterministe et une relecture humaine[2].
Sources
- OWASP, « LLM06:2025 Excessive Agency », 10 avril 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (consulté le 14 novembre 2026)
- OWASP, « OWASP GenAI Exploit Round-up Report Q1 2026 », 14 avril 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (consulté le 14 novembre 2026)
- Microsoft, « 9. Excessive Agency (Agents) ». https://learn.microsoft.com/en-us/security/zero-trust/catalog-ai-attack-techniques/excessive-agency (consulté le 14 novembre 2026)
- NCSC (Royaume-Uni), « Thinking carefully before adopting agentic AI », 15 mai 2026. https://www.ncsc.gov.uk/blogs/thinking-carefully-before-adopting-agentic-ai (consulté le 14 novembre 2026)
- NCSC (Royaume-Uni), « Prompt injection is not SQL injection (it may be worse) », 8 décembre 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consulté le 14 novembre 2026)
- OWASP, « AI Agent Security - OWASP Cheat Sheet Series ». https://cheatsheetseries.owasp.org/cheatsheets/AI_Agent_Security_Cheat_Sheet.html (consulté le 14 novembre 2026)
Citer cet article
Brain, « Agent IA : trop de droits, pas assez de contrôle », Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp287_fr_2026,
author = {Brain},
title = {Agent IA : trop de droits, pas assez de contrôle},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/fr/articles/excessive-agency-droits-action-ia/},
note = {CC BY 4.0}
}