Cyberpediapar Brain

Shadow IA : coller des données d'entreprise dans un chatbot grand public

Coller un document de travail dans un chatbot grand public revient à le confier à un tiers. Ce que disent le NCSC, l'ANSSI et la CNIL, et les bons gestes.

Sur cette page
  1. 1En 30 secondes
  2. 2De quoi parle-t-on
  3. 3Questions directes
  4. 4Comment ça marche
  5. 5Ce que vous faites
  6. 6Les pièges
  7. 7Cas réels
  8. 8Sources
  9. 9Citer cet article

En 30 secondes

Où ça arrive
Dans un chatbot ouvert au public, utilisé en dehors des outils validés par l'entreprise, pour résumer, traduire, corriger ou écrire du code.
Le risque
Ce qu'on colle est visible du fournisseur, qui peut le conserver et l'utiliser[1]. L'entreprise perd la maîtrise de la donnée.
Le réflexe
Ne rien coller de confidentiel dans un chatbot grand public[2].

De quoi parle-t-on

Un chatbot grand public répond vite et ne demande rien en échange. Il suffit de lui coller un compte rendu, un extrait de code ou une liste de clients pour obtenir un résumé, une correction ou une traduction. Ce geste anodin a un effet que l'écran ne montre pas : le texte quitte l'entreprise et arrive chez un tiers.

On parle de shadow IA quand un salarié utilise ainsi un outil d'IA que son organisation n'a pas validé. Le NCSC (Royaume-Uni) rappelle que la requête est visible de l'organisation qui fournit le modèle[1]. L'ANSSI[2] range ces services parmi ceux où les données sensibles ne doivent pas être envoyées.

Questions directes

Le chatbot apprend-il ce que je tape et le répète-t-il à d'autres ?

Le NCSC (Royaume-Uni)[1] distingue deux choses. À la date de son billet (mars 2023), un modèle n'ajoute pas automatiquement les requêtes à ce qu'il sait : saisir une information ne la fait donc pas entrer dans le modèle pour les autres utilisateurs[1]. En revanche, la requête est visible de l'organisation qui fournit le modèle, elle est stockée et servira presque certainement à développer le service ou le modèle à un moment donné[1]. Le fournisseur, ses partenaires ou ses sous-traitants pourraient donc lire les requêtes[1].

ESET[3] ajoute que OpenAI a introduit fin avril 2023 la possibilité de désactiver l'historique des conversations dans ChatGPT. Selon OpenAI, citée par ESET, les conversations lancées sans historique ne servent pas à entraîner ni à améliorer ses modèles[3].

Quelles données ne doivent jamais partir ?

L'ANSSI[2] affirme que les données sensibles ne doivent absolument pas être envoyées à des services d'IA générative tiers comme ChatGPT, Gemini, Copilot, DeepL (traduction de texte) ou Perplexity. Elle cite les données de diffusion restreinte ou classifiées, les travaux de recherche relevant de la protection du potentiel scientifique et technique de la nation, les données personnelles, les données contractuelles, juridiques et financières de l'entreprise, et les secrets informatiques comme les mots de passe ou les clés d'API[2].

L'OWASP[6] dresse une liste voisine des informations sensibles : données personnelles, informations financières, dossiers de santé, données confidentielles d'entreprise, identifiants de sécurité et documents juridiques[6].

Pourquoi l'ANSSI compare-t-elle cela à un stockage chez un éditeur ?

Parce que, selon l'ANSSI[2], envoyer du texte, des images ou des documents à un service d'IA générative accessible au public revient à les déposer sur un espace de stockage appartenant à l'éditeur. L'isolation entre clients et la protection de la confidentialité des données envoyées ne sont pas toujours à l'état de l'art et reposent uniquement sur la confiance dans le fournisseur[2]. Avec la majorité des services, les données envoyées sont collectées et utilisées par le fournisseur pour optimiser ses modèles[2].

Y a-t-il un usage de ces outils qui reste acceptable ?

La CNIL[4] y répond sous condition. Pour des usages non confidentiels, un service grand public peut être envisagé avec des garanties appropriées, à condition d'éviter les comptes créés avec des adresses personnelles et, le cas échéant, de désactiver la possibilité pour le fournisseur de réutiliser les données d'usage[4]. Dès qu'il s'agit de données personnelles de clients ou de collaborateurs, ou de documentation sensible ou stratégique, la CNIL indique qu'il semble généralement plus opportun et plus sûr de privilégier un déploiement sur site[4].

Comment ça marche

Le chemin d'une donnée collée dans un chatbot est simple. Le texte part vers l'organisation qui fournit le modèle. Celle-ci le stocke et peut s'en servir pour faire évoluer son service[1]. Le salarié ne garde aucun contrôle ensuite : pour l'ANSSI[2], l'entreprise cliente ne contrôle pas le service, et il est impossible de garantir que la confidentialité des données saisies répond à ses exigences de sécurité[2].

Le NCSC (Royaume-Uni)[1] cite d'autres risques. Les requêtes stockées en ligne peuvent être piratées, divulguées ou, plus probablement, rendues publiques par accident, avec parfois des informations permettant d'identifier l'utilisateur[1]. L'exploitant du modèle peut aussi être racheté plus tard par une organisation dont la politique de confidentialité diffère de celle en vigueur quand les données ont été saisies[1]. Enfin, la sensibilité d'une question peut venir de la personne qui la pose ou du moment, et le rapprochement de plusieurs requêtes faites avec le même compte en dit plus que chacune[1].

L'OWASP[6] décrit l'autre sens du risque : une donnée confiée sans y penser à un modèle peut ressortir plus tard dans ses réponses. Il demande aux utilisateurs de comprendre ce danger[6].

Ce que vous faites

  • Ne collez rien de confidentiel dans un chatbot grand public. La CNIL[4] donne l'exemple des données personnelles et des données de l'entreprise, surtout celles couvertes par le secret des affaires ou par des obligations de déontologie[4]. Le NCSC (Royaume-Uni)[1] recommande de ne pas inclure d'informations sensibles dans les requêtes à des modèles publics et de ne pas leur soumettre de requête qui poserait problème si elle devenait publique[1].
  • Utilisez l'outil validé par l'entreprise. La CNIL[5] recommande d'encadrer les usages par une liste d'utilisations autorisées et interdites, par exemple ne pas fournir de données personnelles au système[5]. Elle recommande aussi aux organismes de fixer ces usages dans des politiques ou chartes internes[4]. ESET[3] dit de même : la politique de l'entreprise doit définir dans quelles circonstances les salariés peuvent utiliser ces outils[3].
  • Relisez ce que l'outil produit avant de l'utiliser. Les utilisateurs devraient porter un regard critique sur les sorties, et une bonne pratique consiste à ne jamais les reproduire telles quelles[4].
  • Si l'accès à un outil passe par un compte, utilisez l'adresse professionnelle prévue et non une adresse personnelle, dans le cadre où l'organisation l'a autorisé[4].

Les pièges

Le premier piège tient à la commodité. L'ANSSI[2] note que ces outils sont si faciles à utiliser qu'on est tenté de leur confier des données professionnelles, par exemple pour traduire un texte[2].

Le deuxième est de croire qu'un réglage suffit. Pour l'OWASP[6], des restrictions ajoutées dans les consignes internes d'un modèle sur les types de données à renvoyer peuvent atténuer le risque, mais elles ne sont pas toujours respectées et peuvent être contournées par injection de consigne ou d'autres méthodes[6]. L'option de désactivation de l'historique citée plus haut concerne l'entraînement des modèles[3]. Le NCSC (Royaume-Uni) rappelle de son côté que la requête est visible de l'organisation qui fournit le modèle[1].

Le troisième est de penser que le fournisseur garantit la sécurité. ESET[3] rappelle qu'OpenAI a dû mettre ChatGPT hors ligne le 20 mars 2023. OpenAI a indiqué le 24 mars qu'un bogue dans une bibliothèque open source avait permis à certains utilisateurs de voir des titres de l'historique d'un autre utilisateur actif, et que les informations de paiement de 1,2 % des abonnés ChatGPT Plus actifs pendant une fenêtre de neuf heures avaient pu devenir visibles par erreur[3].

Le quatrième est de croire qu'un conseil général remplace une règle. La CNIL[4] précise que, quand le fournisseur peut réutiliser les données selon ses conditions d'utilisation, l'organisme décide au cas par cas s'il interdit toute fourniture de données ou seulement certaines catégories[4]. La règle applicable à votre poste est celle de votre organisation.

Cas réels

Samsung, mars 2023 : du code et un enregistrement de réunion dans ChatGPT, selon ESET

ESET[3] rapporte que, fin mars 2023, le média sud-coréen The Economist Korea a fait état de trois incidents indépendants chez Samsung Electronics[3]. Selon ce récit, l'entreprise avait demandé à ses employés de faire attention aux informations saisies dans leurs requêtes, mais certains auraient laissé échapper des données internes en utilisant ChatGPT[3].

Un employé aurait saisi un code source défaillant lié à la base de données de mesure d'un équipement de semi-conducteurs pour chercher une solution[3]. Un deuxième aurait fait de même avec un programme d'identification d'équipements défectueux, pour obtenir une optimisation du code[3]. Un troisième aurait téléversé les enregistrements d'une réunion pour obtenir un compte rendu[3]. ESET précise que Samsung prévoit de développer son propre service d'IA interne pour aider ses employés dans leur travail[3].

L'OWASP[6] cite parmi ses références un article intitulé « Lessons learned from ChatGPT's Samsung leak »[6].

Sources

  1. NCSC (Royaume-Uni), « ChatGPT and large language models: what's the risk? », 14 mars 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consulté le 14 novembre 2026)
  2. ANSSI, « Security recommendations for a generative AI system », 29 avril 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consulté le 14 novembre 2026)
  3. ESET, « Meet “AI”, your new colleague: Could it expose your company's secrets? », 17 mai 2023. https://www.welivesecurity.com/2023/05/17/meet-ai-new-colleague-work-company-data/ (consulté le 14 novembre 2026)
  4. CNIL, « Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative », 18 juillet 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consulté le 14 novembre 2026)
  5. CNIL, « Comment déployer une IA générative ? La CNIL apporte de premières précisions », 18 juillet 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consulté le 14 novembre 2026)
  6. OWASP, « LLM02:2025 Sensitive Information Disclosure », 10 avril 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consulté le 14 novembre 2026)