Cyberpediapar Brain
FRDEEN

Comment fonctionne un grand modèle de langage

Un assistant d'IA comme ChatGPT écrit un texte plausible, que personne n'a vérifié. Ce que cela change pour vos réponses, vos données et vos règles.

En 30 secondes

Où ça arrive
À chaque question posée à un assistant d'IA, dans un outil validé par l'entreprise ou non.
Ce que le modèle fait
Il prolonge un texte, comme un modèle autorégressif2.
Ce qui peut mal tourner
Une réponse fausse mais plausible, une donnée confiée qui ressort ailleurs, une consigne cachée dans un document qui détourne l'outil.
Le réflexe
Relire et vérifier toute réponse qui compte, ne saisir aucune donnée sensible ou personnelle dans un outil non validé, et appliquer la règle d'usage de l'entreprise.
Si c'est déjà fait
Prévenir le service sécurité de l'entreprise, sans attendre de savoir si la donnée a réellement fuité.

De quoi parle-t-on

Un grand modèle de langage (en anglais LLM, pour large language model) est le moteur des assistants d'IA qui rédigent, résument ou traduisent un texte. Il ne consulte pas un fichier de faits. Il est entraîné sur un très grand corpus de texte, et il écrit en prolongeant ce qu'on lui donne : GPT-3 est décrit comme un modèle autorégressif2.

Cette mécanique explique ce que le salarié constate au quotidien : des réponses fluides, souvent justes, parfois fausses sur un ton très assuré. Elle explique aussi pourquoi il faut vérifier ce que l'outil écrit et ne pas lui confier de données sensibles.

Questions directes

Un assistant d'IA comprend-il ce qu'il écrit ?

Ce qu'on peut établir est un résultat mesurable : un modèle entraîné sur un grand corpus de texte accomplit des tâches de traduction, de questions-réponses ou de calcul à trois chiffres à partir de simples exemples donnés dans le texte de la demande2. Il le fait sans réentraînement : les consignes et les exemples passent uniquement par le texte2.

Pourquoi écrit-il parfois des choses fausses ?

Les auteurs d'InstructGPT écrivent qu'agrandir un modèle ne le rend pas meilleur pour suivre l'intention de l'utilisateur, et que les grands modèles peuvent produire des réponses « untruthful, toxic, or simply not helpful to the user »3. Le projet OWASP range la désinformation (« Misinformation ») parmi les dix risques de sa liste 2025 pour les applications fondées sur un LLM8.

Mon texte saisi peut-il ressortir ailleurs ?

C'est un risque reconnu. La liste OWASP 2025 contient une entrée « Sensitive Information Disclosure », la divulgation d'informations sensibles, qui concerne le modèle comme l'application qui l'entoure8. Le rapport du NIST sur les attaques contre l'apprentissage automatique cite l'atteinte à la vie privée (« privacy breach »), les grands modèles de langage et les chatbots dans ses mots-clés7. Cela justifie la règle : ce qu'on saisit dans un outil non validé sort du périmètre que l'entreprise maîtrise.

Un document ou une page web peuvent-ils donner des ordres à l'outil ?

C'est le risque que l'OWASP place en tête de sa liste 2025, sous le nom « Prompt Injection », l'injection de consignes8. Le modèle reçoit ses consignes par le texte2. Un exemple neutralisé figure plus bas.

Qui fixe les règles d'usage ?

L'entreprise. Les lignes directrices du NCSC britannique s'adressent aux fournisseurs de systèmes d'IA et notent que ces systèmes ont des vulnérabilités nouvelles, à considérer en plus des menaces informatiques habituelles5. Pour le salarié, cela se traduit par la liste d'outils validés et par la politique interne de l'organisation.

1Comment ça marche1 min

Le Transformer, présenté en juin 2017, est un réseau fondé uniquement sur des mécanismes d'attention, sans récurrence ni convolution1. Ses auteurs le disent plus parallélisable et nécessitant bien moins de temps d'entraînement1.

BERT, publié en octobre 2018, est entraîné sur du texte non étiqueté en tenant compte du contexte à gauche et à droite de chaque mot, puis ajusté à une tâche précise4. GPT-3, publié en mai 2020, est un modèle autorégressif de 175 milliards de paramètres, dix fois plus que tout modèle non épars précédent2. Les auteurs d'InstructGPT écrivent que ces modèles ne sont pas alignés sur leurs utilisateurs (« not aligned with their users »)3. Pour qu'il suive les demandes, une seconde étape existe. Pour InstructGPT, des annotateurs ont rédigé des démonstrations du comportement voulu, puis classé des réponses du modèle, et le modèle a été ajusté par apprentissage par renforcement à partir de ces retours humains3. Résultat rapporté : des évaluateurs préfèrent les réponses du modèle de 1,3 milliard de paramètres à celles de GPT-3 (175 milliards), et la véracité s'améliore3. Les auteurs précisent que le modèle « still makes simple mistakes »3.

2Ce que vous faites1 min
  • Traitez chaque réponse comme un brouillon. Vérifiez chiffres, dates, noms, références et citations dans une source que vous connaissez avant de les reprendre dans un document, un mail ou une décision.
  • Ne saisissez dans un outil non validé aucune donnée personnelle ni aucun document confidentiel. Si l'outil n'est pas sur la liste de l'entreprise, abstenez-vous.
  • Avant de coller dans un assistant un texte reçu de l'extérieur, demandez-vous s'il peut contenir des instructions destinées à la machine, et relisez le résultat avec cette idée en tête.
  • Donnez à l'outil le minimum d'accès. L'entrée OWASP « Excessive Agency » vise les systèmes à qui l'on accorde une part d'initiative8. Plus un assistant a d'accès à vos messages ou à vos fichiers, plus ses erreurs ont de portée.
  • En cas de doute ou d'erreur, signalez-le à votre équipe sécurité. Exemple d'illustration, neutralisé : une consigne cachée dans un document à résumer.
Extrait
[Illustration, texte fictif] Compte rendu de réunion du trimestre...
[Passage invisible ou en petits caractères : consigne paraphrasée,
demandant à l'assistant d'envoyer le contenu de la conversation
vers hxxps://exemple[.]invalid]
3Les pièges1 min
  • Un texte fluide peut être faux : la qualité de la rédaction ne dit rien de son exactitude.
  • Un modèle plus gros ne règle pas tout. Les auteurs d'InstructGPT écrivent que la taille ne garantit pas que le modèle suive l'intention de l'utilisateur3.
  • Le corpus d'entraînement compte. Les auteurs de GPT-3 relèvent des jeux de données où le modèle peine et des problèmes méthodologiques liés à l'entraînement sur de grands corpus du web2.
  • L'outil pratique mais non validé. Il échappe aux règles que l'entreprise a fixées pour ses outils d'IA, et ses utilisateurs ne savent pas ce qu'il devient des données saisies.
  • Le cadre de gestion des risques de l'IA du NIST, publié le 26 janvier 2023, est destiné à un usage volontaire, et la page indique qu'il est en cours de révision6. Le NIST y a ajouté, le 26 juillet 2024, un profil consacré à l'IA générative6. Ce sont des repères offerts aux organisations.
4Cas réels1 min

Mai 2020 : des articles de presse difficiles à distinguer

Dans l'article de présentation de GPT-3, soumis le 28 mai 2020, les auteurs constatent que le modèle peut produire des articles de presse que des évaluateurs humains distinguent difficilement d'articles écrits par des personnes2. Ils indiquent discuter des conséquences de ce constat pour la société2. Pour le salarié, la leçon pratique est simple : l'apparence d'un texte ne prouve ni son auteur ni son exactitude.

Novembre 2023 : des lignes directrices pour sécuriser les systèmes d'IA

Le 27 novembre 2023, le NCSC publie en version 1.0 ses lignes directrices, découpées en quatre étapes : conception, développement, déploiement, exploitation et maintenance5. Elles visent des systèmes qui fonctionnent comme prévu, restent disponibles et ne révèlent pas de données sensibles à des tiers non autorisés5. Le NIST publie de son côté en janvier 2024 une taxonomie des attaques contre l'apprentissage automatique, accompagnée d'un glossaire destiné aux lecteurs non spécialistes7. Du côté de l'OWASP, le projet est passé d'un petit groupe de professionnels de la sécurité en 2023 à plus de 600 experts contributeurs venus de plus de 18 pays9.

Fiche

Identifiant
CP-256
Aile
4. Intelligence artificielle
Compétence Brain
Comprendre l'IA (understand_ai)
Réflexe Brain
air-037
Schéma
G3 · Coupe Anatomique
Langues
de, en, fr
Sources
9 sources vérifiées le 3 novembre 2026
Sources9 sources
  1. arXiv, « Attention Is All You Need », 12 juin 2017. https://arxiv.org/abs/1706.03762 (consulté le 3 novembre 2026)
  2. arXiv, « Language Models are Few-Shot Learners », 28 mai 2020. https://arxiv.org/abs/2005.14165 (consulté le 3 novembre 2026)
  3. arXiv, « Training language models to follow instructions with human feedback », 4 mars 2022. https://arxiv.org/abs/2203.02155 (consulté le 3 novembre 2026)
  4. arXiv, « BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding », 11 octobre 2018. https://arxiv.org/abs/1810.04805 (consulté le 3 novembre 2026)
  5. NCSC (Royaume-Uni), « Guidelines for secure AI system development », 27 novembre 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consulté le 3 novembre 2026)
  6. NIST, « AI Risk Management Framework ». https://www.nist.gov/itl/ai-risk-management-framework (consulté le 3 novembre 2026)
  7. NIST, « Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations », 2 janvier 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (consulté le 3 novembre 2026)
  8. OWASP, « LLMRisks Archive ». https://genai.owasp.org/llm-top-10/ (consulté le 3 novembre 2026)
  9. OWASP, « OWASP Top 10 for Large Language Model Applications | OWASP Foundation ». https://owasp.org/projects/top-10-for-large-language-model-applications (consulté le 3 novembre 2026)

Citer cet article

Brain, « Comment fonctionne un grand modèle de langage », Cyberpedia, 2026. https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/

BibTeX 
@misc{brain_cp256_fr_2026,
  author = {Brain},
  title = {Comment fonctionne un grand modèle de langage},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/},
  note = {CC BY 4.0}
}
Licence CC BY 4.0