--- id: CP-256 slug: fonctionnement-llm-jeton-suivant lang: fr title: Comment fonctionne un grand modèle de langage description: Un assistant d'IA comme ChatGPT écrit un texte plausible, que personne n'a vérifié. Ce que cela change pour vos réponses, vos données et vos règles. canonical_url: https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ markdown_url: https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, « Comment fonctionne un grand modèle de langage », Cyberpedia, 2026. https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-037 schema: G3 updated: "2026-11-03" translations: fr: https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ en: https://startbrain.io/cyberpedia/en/articles/how-llms-work-next-token/ de: https://startbrain.io/cyberpedia/de/articles/funktionsweise-llm-naechstes-token/ es: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ sources: - "n": 1 title: Attention Is All You Need publisher: arXiv url: https://arxiv.org/abs/1706.03762 published: "2017-06-12" accessed: "2026-11-03" - "n": 2 title: Language Models are Few-Shot Learners publisher: arXiv url: https://arxiv.org/abs/2005.14165 published: "2020-05-28" accessed: "2026-11-03" - "n": 3 title: Training language models to follow instructions with human feedback publisher: arXiv url: https://arxiv.org/abs/2203.02155 published: "2022-03-04" accessed: "2026-11-03" - "n": 4 title: "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" publisher: arXiv url: https://arxiv.org/abs/1810.04805 published: "2018-10-11" accessed: "2026-11-03" - "n": 5 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 6 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 7 title: "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf published: "2024-01-02" accessed: "2026-11-03" - "n": 8 title: LLMRisks Archive publisher: OWASP url: https://genai.owasp.org/llm-top-10/ accessed: "2026-11-03" - "n": 9 title: OWASP Top 10 for Large Language Model Applications | OWASP Foundation publisher: OWASP url: https://owasp.org/projects/top-10-for-large-language-model-applications accessed: "2026-11-03" --- # Comment fonctionne un grand modèle de langage Un grand modèle de langage (en anglais LLM, pour large language model) est le moteur des assistants d'IA qui rédigent, résument ou traduisent un texte. Il ne consulte pas un fichier de faits. Il est entraîné sur un très grand corpus de texte, et il écrit en prolongeant ce qu'on lui donne : GPT-3 est décrit comme un modèle autorégressif [2]. Cette mécanique explique ce que le salarié constate au quotidien : des réponses fluides, souvent justes, parfois fausses sur un ton très assuré. Elle explique aussi pourquoi il faut vérifier ce que l'outil écrit et ne pas lui confier de données sensibles. ## En 30 secondes - Où ça arrive : à chaque question posée à un assistant d'IA, dans un outil validé par l'entreprise ou non. - Ce que le modèle fait : il prolonge un texte, comme un modèle autorégressif [2]. - Ce qui peut mal tourner : une réponse fausse mais plausible, une donnée confiée qui ressort ailleurs, une consigne cachée dans un document qui détourne l'outil. - Le réflexe : relire et vérifier toute réponse qui compte, ne saisir aucune donnée sensible ou personnelle dans un outil non validé, et appliquer la règle d'usage de l'entreprise. - Si c'est déjà fait : prévenir le service sécurité de l'entreprise, sans attendre de savoir si la donnée a réellement fuité. ## Questions directes ### Un assistant d'IA comprend-il ce qu'il écrit ? Ce qu'on peut établir est un résultat mesurable : un modèle entraîné sur un grand corpus de texte accomplit des tâches de traduction, de questions-réponses ou de calcul à trois chiffres à partir de simples exemples donnés dans le texte de la demande [2]. Il le fait sans réentraînement : les consignes et les exemples passent uniquement par le texte [2]. ### Pourquoi écrit-il parfois des choses fausses ? Les auteurs d'InstructGPT écrivent qu'agrandir un modèle ne le rend pas meilleur pour suivre l'intention de l'utilisateur, et que les grands modèles peuvent produire des réponses « untruthful, toxic, or simply not helpful to the user » [3]. Le projet OWASP range la désinformation (« Misinformation ») parmi les dix risques de sa liste 2025 pour les applications fondées sur un LLM [8]. ### Mon texte saisi peut-il ressortir ailleurs ? C'est un risque reconnu. La liste OWASP 2025 contient une entrée « Sensitive Information Disclosure », la divulgation d'informations sensibles, qui concerne le modèle comme l'application qui l'entoure [8]. Le rapport du NIST sur les attaques contre l'apprentissage automatique cite l'atteinte à la vie privée (« privacy breach »), les grands modèles de langage et les chatbots dans ses mots-clés [7]. Cela justifie la règle : ce qu'on saisit dans un outil non validé sort du périmètre que l'entreprise maîtrise. ### Un document ou une page web peuvent-ils donner des ordres à l'outil ? C'est le risque que l'OWASP place en tête de sa liste 2025, sous le nom « Prompt Injection », l'injection de consignes [8]. Le modèle reçoit ses consignes par le texte [2]. Un exemple neutralisé figure plus bas. ### Qui fixe les règles d'usage ? L'entreprise. Les lignes directrices du NCSC britannique s'adressent aux fournisseurs de systèmes d'IA et notent que ces systèmes ont des vulnérabilités nouvelles, à considérer en plus des menaces informatiques habituelles [5]. Pour le salarié, cela se traduit par la liste d'outils validés et par la politique interne de l'organisation. ## Comment ça marche Le Transformer, présenté en juin 2017, est un réseau fondé uniquement sur des mécanismes d'attention, sans récurrence ni convolution [1]. Ses auteurs le disent plus parallélisable et nécessitant bien moins de temps d'entraînement [1]. BERT, publié en octobre 2018, est entraîné sur du texte non étiqueté en tenant compte du contexte à gauche et à droite de chaque mot, puis ajusté à une tâche précise [4]. GPT-3, publié en mai 2020, est un modèle autorégressif de 175 milliards de paramètres, dix fois plus que tout modèle non épars précédent [2]. Les auteurs d'InstructGPT écrivent que ces modèles ne sont pas alignés sur leurs utilisateurs (« not aligned with their users ») [3]. Pour qu'il suive les demandes, une seconde étape existe. Pour InstructGPT, des annotateurs ont rédigé des démonstrations du comportement voulu, puis classé des réponses du modèle, et le modèle a été ajusté par apprentissage par renforcement à partir de ces retours humains [3]. Résultat rapporté : des évaluateurs préfèrent les réponses du modèle de 1,3 milliard de paramètres à celles de GPT-3 (175 milliards), et la véracité s'améliore [3]. Les auteurs précisent que le modèle « still makes simple mistakes » [3]. ## Ce que vous faites - Traitez chaque réponse comme un brouillon. Vérifiez chiffres, dates, noms, références et citations dans une source que vous connaissez avant de les reprendre dans un document, un mail ou une décision. - Ne saisissez dans un outil non validé aucune donnée personnelle ni aucun document confidentiel. Si l'outil n'est pas sur la liste de l'entreprise, abstenez-vous. - Avant de coller dans un assistant un texte reçu de l'extérieur, demandez-vous s'il peut contenir des instructions destinées à la machine, et relisez le résultat avec cette idée en tête. - Donnez à l'outil le minimum d'accès. L'entrée OWASP « Excessive Agency » vise les systèmes à qui l'on accorde une part d'initiative [8]. Plus un assistant a d'accès à vos messages ou à vos fichiers, plus ses erreurs ont de portée. - En cas de doute ou d'erreur, signalez-le à votre équipe sécurité. Exemple d'illustration, neutralisé : une consigne cachée dans un document à résumer. ```text [Illustration, texte fictif] Compte rendu de réunion du trimestre... [Passage invisible ou en petits caractères : consigne paraphrasée, demandant à l'assistant d'envoyer le contenu de la conversation vers hxxps://exemple[.]invalid] ``` ## Les pièges - Un texte fluide peut être faux : la qualité de la rédaction ne dit rien de son exactitude. - Un modèle plus gros ne règle pas tout. Les auteurs d'InstructGPT écrivent que la taille ne garantit pas que le modèle suive l'intention de l'utilisateur [3]. - Le corpus d'entraînement compte. Les auteurs de GPT-3 relèvent des jeux de données où le modèle peine et des problèmes méthodologiques liés à l'entraînement sur de grands corpus du web [2]. - L'outil pratique mais non validé. Il échappe aux règles que l'entreprise a fixées pour ses outils d'IA, et ses utilisateurs ne savent pas ce qu'il devient des données saisies. - Le cadre de gestion des risques de l'IA du NIST, publié le 26 janvier 2023, est destiné à un usage volontaire, et la page indique qu'il est en cours de révision [6]. Le NIST y a ajouté, le 26 juillet 2024, un profil consacré à l'IA générative [6]. Ce sont des repères offerts aux organisations. ## Cas réels ### Mai 2020 : des articles de presse difficiles à distinguer Dans l'article de présentation de GPT-3, soumis le 28 mai 2020, les auteurs constatent que le modèle peut produire des articles de presse que des évaluateurs humains distinguent difficilement d'articles écrits par des personnes [2]. Ils indiquent discuter des conséquences de ce constat pour la société [2]. Pour le salarié, la leçon pratique est simple : l'apparence d'un texte ne prouve ni son auteur ni son exactitude. ### Novembre 2023 : des lignes directrices pour sécuriser les systèmes d'IA Le 27 novembre 2023, le NCSC publie en version 1.0 ses lignes directrices, découpées en quatre étapes : conception, développement, déploiement, exploitation et maintenance [5]. Elles visent des systèmes qui fonctionnent comme prévu, restent disponibles et ne révèlent pas de données sensibles à des tiers non autorisés [5]. Le NIST publie de son côté en janvier 2024 une taxonomie des attaques contre l'apprentissage automatique, accompagnée d'un glossaire destiné aux lecteurs non spécialistes [7]. Du côté de l'OWASP, le projet est passé d'un petit groupe de professionnels de la sécurité en 2023 à plus de 600 experts contributeurs venus de plus de 18 pays [9]. ## Sources 1. arXiv, « Attention Is All You Need », 12 juin 2017. https://arxiv.org/abs/1706.03762 (consulté le 3 novembre 2026) 2. arXiv, « Language Models are Few-Shot Learners », 28 mai 2020. https://arxiv.org/abs/2005.14165 (consulté le 3 novembre 2026) 3. arXiv, « Training language models to follow instructions with human feedback », 4 mars 2022. https://arxiv.org/abs/2203.02155 (consulté le 3 novembre 2026) 4. arXiv, « BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding », 11 octobre 2018. https://arxiv.org/abs/1810.04805 (consulté le 3 novembre 2026) 5. NCSC (Royaume-Uni), « Guidelines for secure AI system development », 27 novembre 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consulté le 3 novembre 2026) 6. NIST, « AI Risk Management Framework ». https://www.nist.gov/itl/ai-risk-management-framework (consulté le 3 novembre 2026) 7. NIST, « Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations », 2 janvier 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (consulté le 3 novembre 2026) 8. OWASP, « LLMRisks Archive ». https://genai.owasp.org/llm-top-10/ (consulté le 3 novembre 2026) 9. OWASP, « OWASP Top 10 for Large Language Model Applications | OWASP Foundation ». https://owasp.org/projects/top-10-for-large-language-model-applications (consulté le 3 novembre 2026) --- Source originale : Cyberpedia, l'encyclopédie publique de cybersécurité et d'IA publiée par Brain. Version canonique : https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ Vous pouvez reprendre ce texte librement sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), à condition de citer « Brain, Cyberpedia » avec un lien vers l'adresse ci-dessus.