--- id: CP-271 slug: hallucination-ia-faits-inventes lang: fr title: "Hallucination d'IA : quand le modèle invente" description: "Un modèle de langage prédit le mot probable sans vérifier qu'il est vrai : il peut inventer faits, références et paquets de code." canonical_url: https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes/ markdown_url: https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: "Brain, « Hallucination d'IA : quand le modèle invente », Cyberpedia, 2026. https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes/ (CC BY 4.0)" wing: 4 theme: verify_output reflex: air-006 schema: G2 updated: "2026-11-03" translations: fr: https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes/ en: https://startbrain.io/cyberpedia/en/articles/ai-hallucination-invented-facts/ de: https://startbrain.io/cyberpedia/de/articles/ki-halluzination-erfundene-fakten/ es: https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 accessed: "2026-11-03" - "n": 4 title: Survey of Hallucination in Natural Language Generation publisher: arXiv url: https://arxiv.org/abs/2202.03629 accessed: "2026-11-03" - "n": 5 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" --- # Hallucination d'IA : quand le modèle invente Un assistant d'IA qui rédige un résumé, une note juridique ou une liste de références ne consulte pas une base de faits. Il produit une suite de mots plausible. Quand il se trompe, il le fait dans le même ton assuré que lorsqu'il a raison, et rien à l'écran ne signale la différence. Ce phénomène s'appelle l'hallucination. Le NIST américain emploie aussi le terme « confabulation » et note que l'on parle familièrement d'hallucinations ou de fabrications [2]. Pour un salarié, une réponse d'IA est un brouillon à vérifier, jamais une source. ## En 30 secondes - Où ça arrive : dans tout texte produit par un assistant d'IA, surtout sur des questions ouvertes appelant une réponse longue et dans les domaines qui demandent une expertise contextuelle [2]. - Ce qui est en jeu : le modèle peut inventer un fait, une référence, une citation ou un nom de bibliothèque de code, et le présenter avec aplomb [1][2]. - Le réflexe : recouper chaque fait important avec une source externe de confiance et faire relire par un humain les informations critiques avant de les utiliser [1]. - Si c'est déjà fait : prévenir le destinataire du document, corriger avec une source fiable et signaler l'erreur à la personne qui gère les outils d'IA dans l'entreprise. ## Questions directes ### Pourquoi une IA invente-t-elle ? Selon l'OWASP, les modèles comblent les lacunes de leurs données d'entraînement avec des motifs statistiques, sans comprendre le contenu. Les réponses peuvent alors sembler justes tout en étant sans fondement [1]. Le NIST décrit la même mécanique : les modèles produisent des sorties qui approchent la distribution statistique de leurs données d'entraînement, et les grands modèles de langage prédisent le mot suivant dans une phrase [2]. ### Est-ce un défaut rare ? Le NIST le présente comme un résultat naturel de la conception des modèles génératifs [2]. Deux revues de la recherche, l'une sur la génération de texte en général, l'autre sur les grands modèles de langage, décrivent un problème étudié de près. La première couvre le résumé automatique, le dialogue, les questions-réponses et la traduction automatique [4]. La seconde parle de contenus plausibles mais non factuels et de doutes sur la fiabilité de ces modèles dans la recherche d'information [3]. ### L'IA peut-elle aussi inventer ses justifications ? Oui. Le NIST indique que les sorties peuvent contenir une logique ou des citations inventées qui prétendent expliquer la réponse. Un modèle donne parfois des étapes de raisonnement alors que la réponse est fausse [2]. Une référence bien présentée ne prouve donc rien. ### Le risque vient-il seulement de la machine ? Non. L'OWASP nomme aussi la confiance excessive : des utilisateurs font trop confiance au contenu généré, ne vérifient pas son exactitude et intègrent des données fausses dans des décisions importantes [1]. Le NIST relève que le risque apparaît quand les utilisateurs croient le faux, souvent à cause du ton confiant de la réponse [2]. ## Comment ça marche Un modèle de langage ne distingue pas ce qu'il « sait » de ce qu'il complète. Le NIST précise que la prédiction statistique peut donner des sorties exactes et cohérentes, mais aussi inexactes ou incohérentes [2]. Elle pose surtout problème pour les consignes ouvertes demandant une réponse longue, et dans les domaines qui exigent une expertise contextuelle [2]. Les fabrications prennent plusieurs formes. L'OWASP en liste quatre. La première est l'inexactitude factuelle : le chatbot d'Air Canada a donné de fausses informations à des voyageurs, et la compagnie a été poursuivie avec succès [1]. La deuxième est l'affirmation sans fondement, dont un exemple cité est ChatGPT fabriquant de fausses affaires judiciaires, avec de graves difficultés devant un tribunal [1]. La troisième est l'illusion d'expertise, par exemple des chatbots qui présentent comme incertains des sujets de santé qui ne le sont pas [1]. La quatrième est le code dangereux : le modèle propose des bibliothèques peu sûres ou inexistantes [1]. Ces inventions peuvent être exploitées. L'OWASP décrit un scénario où des attaquants testent des assistants de programmation pour trouver les noms de paquets souvent inventés, puis publient de vrais paquets malveillants sous ces noms dans des dépôts très utilisés. Des développeurs qui suivent la suggestion de l'assistant les intègrent à leur logiciel sans le savoir [1]. ## Ce que vous faites Les mesures ci-dessous s'inspirent des recommandations de l'OWASP [1]. - Recoupez les faits importants avec des sources externes de confiance [1]. - Ouvrez chaque lien et chaque référence cités par l'IA. Si la page n'existe pas ou ne dit pas ce que l'IA lui attribue, considérez la référence comme inventée. Le NIST rappelle que des citations fabriquées peuvent induire en erreur [2]. - Ne collez pas une réponse non vérifiée dans un contrat, une note juridique, un document financier ou un courrier client. L'OWASP demande une relecture humaine, surtout pour les informations critiques ou sensibles [1]. - Avant d'installer un paquet de code proposé par un assistant, vérifiez qu'il existe et qu'il est légitime. L'OWASP demande aussi des pratiques de développement sécurisé pour éviter d'intégrer des failles venues de suggestions erronées [1]. - Dans une chaîne de décision, gardez un humain formé pour relire. L'OWASP insiste sur la formation des relecteurs, afin qu'ils ne s'en remettent pas aveuglément au contenu produit par l'IA [1]. ## Les pièges - La fluidité trompe. Un texte bien écrit n'est pas un texte exact, et le NIST relève que le ton confiant pousse à croire le faux [2]. - Les domaines spécialisés sont les plus exposés. L'OWASP cite le droit et la santé comme contextes où les affirmations sans fondement sont particulièrement dommageables [1]. Le NIST donne l'exemple d'un résumé de dossier médical confabulé qui pourrait entraîner de mauvais diagnostics [2]. - Demander à l'IA de se relire ne remplace pas une source externe. Elle peut justifier une réponse fausse par un raisonnement d'apparence logique [2]. - Aucun attaquant n'est nécessaire pour que le dommage ait lieu. L'OWASP décrit une entreprise poursuivie avec succès après avoir proposé un chatbot de diagnostic médical sans s'assurer de sa fiabilité. Le défaut venait d'un contrôle insuffisant, pas d'une attaque [1]. - Le risque est difficile à chiffrer. Le NIST écrit qu'il est ardu d'estimer l'échelle et l'impact des confabulations en aval [2]. Il a publié son profil sur l'IA générative, qui aide les organisations à repérer les risques propres à cette technologie, le 26 juillet 2024 [5]. ## Sources 1. OWASP, « LLM09:2025 Misinformation ». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consulté le 3 novembre 2026) 2. NIST, « Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consulté le 3 novembre 2026) 3. arXiv, « A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions ». https://arxiv.org/abs/2311.05232 (consulté le 3 novembre 2026) 4. arXiv, « Survey of Hallucination in Natural Language Generation ». https://arxiv.org/abs/2202.03629 (consulté le 3 novembre 2026) 5. NIST, « AI Risk Management Framework ». https://www.nist.gov/itl/ai-risk-management-framework (consulté le 3 novembre 2026) --- Source originale : Cyberpedia, l'encyclopédie publique de cybersécurité et d'IA publiée par Brain. Version canonique : https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes/ Vous pouvez reprendre ce texte librement sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), à condition de citer « Brain, Cyberpedia » avec un lien vers l'adresse ci-dessus.