Hallucination d'IA : quand le modèle invente
Un modèle de langage prédit le mot probable sans vérifier qu'il est vrai : il peut inventer faits, références et paquets de code.
En 30 secondes
- Où ça arrive
- Dans tout texte produit par un assistant d'IA, surtout sur des questions ouvertes appelant une réponse longue et dans les domaines qui demandent une expertise contextuelle2.
- Ce qui est en jeu
- Le modèle peut inventer un fait, une référence, une citation ou un nom de bibliothèque de code, et le présenter avec aplomb12.
- Le réflexe
- Recouper chaque fait important avec une source externe de confiance et faire relire par un humain les informations critiques avant de les utiliser1.
- Si c'est déjà fait
- Prévenir le destinataire du document, corriger avec une source fiable et signaler l'erreur à la personne qui gère les outils d'IA dans l'entreprise.
De quoi parle-t-on
Un assistant d'IA qui rédige un résumé, une note juridique ou une liste de références ne consulte pas une base de faits. Il produit une suite de mots plausible. Quand il se trompe, il le fait dans le même ton assuré que lorsqu'il a raison, et rien à l'écran ne signale la différence.
Ce phénomène s'appelle l'hallucination. Le NIST américain emploie aussi le terme « confabulation » et note que l'on parle familièrement d'hallucinations ou de fabrications2. Pour un salarié, une réponse d'IA est un brouillon à vérifier, jamais une source.
Questions directes
Pourquoi une IA invente-t-elle ?
Selon l'OWASP, les modèles comblent les lacunes de leurs données d'entraînement avec des motifs statistiques, sans comprendre le contenu. Les réponses peuvent alors sembler justes tout en étant sans fondement1. Le NIST décrit la même mécanique : les modèles produisent des sorties qui approchent la distribution statistique de leurs données d'entraînement, et les grands modèles de langage prédisent le mot suivant dans une phrase2.
Est-ce un défaut rare ?
Le NIST le présente comme un résultat naturel de la conception des modèles génératifs2. Deux revues de la recherche, l'une sur la génération de texte en général, l'autre sur les grands modèles de langage, décrivent un problème étudié de près. La première couvre le résumé automatique, le dialogue, les questions-réponses et la traduction automatique4. La seconde parle de contenus plausibles mais non factuels et de doutes sur la fiabilité de ces modèles dans la recherche d'information3.
L'IA peut-elle aussi inventer ses justifications ?
Oui. Le NIST indique que les sorties peuvent contenir une logique ou des citations inventées qui prétendent expliquer la réponse. Un modèle donne parfois des étapes de raisonnement alors que la réponse est fausse2. Une référence bien présentée ne prouve donc rien.
Le risque vient-il seulement de la machine ?
Non. L'OWASP nomme aussi la confiance excessive : des utilisateurs font trop confiance au contenu généré, ne vérifient pas son exactitude et intègrent des données fausses dans des décisions importantes1. Le NIST relève que le risque apparaît quand les utilisateurs croient le faux, souvent à cause du ton confiant de la réponse2.
1Comment ça marche1 min
Un modèle de langage ne distingue pas ce qu'il « sait » de ce qu'il complète. Le NIST précise que la prédiction statistique peut donner des sorties exactes et cohérentes, mais aussi inexactes ou incohérentes2. Elle pose surtout problème pour les consignes ouvertes demandant une réponse longue, et dans les domaines qui exigent une expertise contextuelle2.
Les fabrications prennent plusieurs formes. L'OWASP en liste quatre. La première est l'inexactitude factuelle : le chatbot d'Air Canada a donné de fausses informations à des voyageurs, et la compagnie a été poursuivie avec succès1. La deuxième est l'affirmation sans fondement, dont un exemple cité est ChatGPT fabriquant de fausses affaires judiciaires, avec de graves difficultés devant un tribunal1. La troisième est l'illusion d'expertise, par exemple des chatbots qui présentent comme incertains des sujets de santé qui ne le sont pas1. La quatrième est le code dangereux : le modèle propose des bibliothèques peu sûres ou inexistantes1.
Ces inventions peuvent être exploitées. L'OWASP décrit un scénario où des attaquants testent des assistants de programmation pour trouver les noms de paquets souvent inventés, puis publient de vrais paquets malveillants sous ces noms dans des dépôts très utilisés. Des développeurs qui suivent la suggestion de l'assistant les intègrent à leur logiciel sans le savoir1.
2Ce que vous faites1 min
Les mesures ci-dessous s'inspirent des recommandations de l'OWASP1.
- Recoupez les faits importants avec des sources externes de confiance1.
- Ouvrez chaque lien et chaque référence cités par l'IA. Si la page n'existe pas ou ne dit pas ce que l'IA lui attribue, considérez la référence comme inventée. Le NIST rappelle que des citations fabriquées peuvent induire en erreur2.
- Ne collez pas une réponse non vérifiée dans un contrat, une note juridique, un document financier ou un courrier client. L'OWASP demande une relecture humaine, surtout pour les informations critiques ou sensibles1.
- Avant d'installer un paquet de code proposé par un assistant, vérifiez qu'il existe et qu'il est légitime. L'OWASP demande aussi des pratiques de développement sécurisé pour éviter d'intégrer des failles venues de suggestions erronées1.
- Dans une chaîne de décision, gardez un humain formé pour relire. L'OWASP insiste sur la formation des relecteurs, afin qu'ils ne s'en remettent pas aveuglément au contenu produit par l'IA1.
3Les pièges1 min
- La fluidité trompe. Un texte bien écrit n'est pas un texte exact, et le NIST relève que le ton confiant pousse à croire le faux2.
- Les domaines spécialisés sont les plus exposés. L'OWASP cite le droit et la santé comme contextes où les affirmations sans fondement sont particulièrement dommageables1. Le NIST donne l'exemple d'un résumé de dossier médical confabulé qui pourrait entraîner de mauvais diagnostics2.
- Demander à l'IA de se relire ne remplace pas une source externe. Elle peut justifier une réponse fausse par un raisonnement d'apparence logique2.
- Aucun attaquant n'est nécessaire pour que le dommage ait lieu. L'OWASP décrit une entreprise poursuivie avec succès après avoir proposé un chatbot de diagnostic médical sans s'assurer de sa fiabilité. Le défaut venait d'un contrôle insuffisant, pas d'une attaque1.
- Le risque est difficile à chiffrer. Le NIST écrit qu'il est ardu d'estimer l'échelle et l'impact des confabulations en aval2. Il a publié son profil sur l'IA générative, qui aide les organisations à repérer les risques propres à cette technologie, le 26 juillet 20245.
Fiche
- Identifiant
- CP-271
- Aile
- 4. Intelligence artificielle
- Compétence Brain
- Vérifier les réponses (verify_output)
- Réflexe Brain
- air-006
- Schéma
- G2 · Comparatif Mythe vs Réalité
- Langues
- de, en, fr
- Sources
- 5 sources vérifiées le 3 novembre 2026
Sources5 sources
- OWASP, « LLM09:2025 Misinformation ». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consulté le 3 novembre 2026)
- NIST, « Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consulté le 3 novembre 2026)
- arXiv, « A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions ». https://arxiv.org/abs/2311.05232 (consulté le 3 novembre 2026)
- arXiv, « Survey of Hallucination in Natural Language Generation ». https://arxiv.org/abs/2202.03629 (consulté le 3 novembre 2026)
- NIST, « AI Risk Management Framework ». https://www.nist.gov/itl/ai-risk-management-framework (consulté le 3 novembre 2026)
Citer cet article
Brain, « Hallucination d'IA : quand le modèle invente », Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp271_fr_2026,
author = {Brain},
title = {Hallucination d'IA : quand le modèle invente},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes/},
note = {CC BY 4.0}
}