Cyberpediapar Brain
FRDEEN

L'avocat et les faux arrêts de ChatGPT

Un assistant d'IA peut inventer des décisions de justice crédibles. Pourquoi, et comment vérifier une citation avant de l'utiliser au travail.

En 30 secondes

Où ça arrive
Dans tout texte produit par un assistant d'IA qui contient une citation, un chiffre ou une décision de justice.
Ce que veut l'attaquant
Personne. Le risque vient du modèle lui-même, qui peut produire une réponse fausse sans qu'aucun attaquant n'intervienne1.
Le réflexe
Ne reprendre aucune citation, aucun chiffre ni aucune référence d'une IA sans l'avoir retrouvé dans la source d'origine, puis faire relire par une personne avant tout usage professionnel.
Si c'est déjà fait
Retrouver la source de chaque élément déjà utilisé, corriger ou retirer ce qui ne se vérifie pas, et prévenir les destinataires du document.

De quoi parle-t-on

Un assistant d'IA peut produire une décision de justice qui n'existe pas. L'OWASP mentionne que ChatGPT a fabriqué de faux cas juridiques, avec des conséquences importantes devant un tribunal1. Ce risque concerne aussi un salarié qui reprend tel quel le texte d'un assistant d'IA.

Les sources citées ici ne nomment pas l'affaire Mata v. Avianca et ne la racontent pas. Cette fiche ne reprend donc ni les noms des personnes, ni les dates, ni la sanction : elle s'en tient à ce que les sources établissent, et explique ce qu'un salarié en retient pour son propre travail.

Questions directes

Que s'est-il passé dans l'affaire Mata v. Avianca ?

Parmi les sources citées ici, seule la page de l'OWASP évoque ce type de cas, sans nommer l'affaire : ChatGPT y est décrit comme ayant fabriqué de faux cas juridiques, ce qui a entraîné des difficultés importantes devant un tribunal1. Le détail de la procédure, la date et la sanction n'y figurent pas.

Pourquoi une IA invente-t-elle des références ?

Un modèle de langage ne consulte pas une base de faits. L'OWASP explique qu'il comble les lacunes de ses données d'entraînement avec des régularités statistiques, sans comprendre le contenu : la réponse peut sembler juste tout en étant sans fondement1. Le NIST décrit la même mécanique : ces modèles produisent des sorties qui approchent la distribution statistique de leurs données d'entraînement, et les grands modèles de langage prédisent le mot suivant dans une phrase2.

Est-ce un défaut qui sera bientôt corrigé ?

Les sources ne le promettent pas. Une revue de la recherche note que ces modèles peuvent produire un contenu plausible mais non factuel, et que cela pose de sérieuses questions sur leur fiabilité dans les systèmes de recherche d'information3. Une étude théorique affirme qu'il est impossible d'éliminer l'hallucination dans les grands modèles de langage, et que ceux-ci hallucineront inévitablement s'ils servent de solveurs de problèmes généraux4.

Quel vocabulaire faut-il connaître ?

Le NIST parle de « confabulation » pour la production de contenus faux présentés avec assurance, et précise que le langage courant dit aussi « hallucinations » ou « fabrications »2. Les deux mots désignent le même phénomène.

Un texte rédigé d'un ton sûr est-il plus fiable ?

Non. Selon le NIST, le risque apparaît quand les utilisateurs croient un contenu faux, souvent à cause du ton assuré de la réponse, et agissent ensuite sur cette base2.

1Comment ça marche1 min

Le modèle ne cherche pas la vérité, il produit la suite de mots la plus probable. Le NIST note que cette prédiction statistique peut donner des sorties exactes et cohérentes, mais aussi des sorties inexactes ou incohérentes entre elles. Il juge ce phénomène particulièrement net pour les questions ouvertes appelant de longues réponses, et dans les domaines qui demandent une expertise contextuelle2. L'OWASP distingue deux problèmes liés. Le premier est l'hallucination, quand le modèle génère un contenu qui paraît exact mais est inventé. Le second est la confiance excessive : des utilisateurs font trop confiance au texte généré et ne vérifient pas son exactitude, de sorte qu'ils intègrent des données fausses dans des décisions ou des processus importants1.

2Ce que vous faites1 min

Les pratiques ci-dessous reprennent les mesures de l'OWASP et du NIST, formulées du point de vue du salarié.

  • Traitez toute citation, tout chiffre et toute référence produits par une IA comme non vérifiés. L'OWASP recommande que les utilisateurs recoupent les sorties avec des sources externes fiables1.
  • Retrouvez l'élément dans la source d'origine : le texte de la décision, le document officiel, l'étude. Une référence que vous ne parvenez pas à retrouver ne s'utilise pas.
  • Croisez plusieurs sources externes fiables plutôt que de vous contenter d'une seule confirmation1.
  • Gardez une validation humaine avant tout usage professionnel. L'OWASP demande une supervision humaine et des processus de vérification des faits pour les informations critiques ou sensibles, avec des relecteurs formés pour ne pas se reposer excessivement sur le contenu généré1.
  • Signalez à vos lecteurs ce qui a été produit avec une IA. L'OWASP recommande d'étiqueter clairement les contenus générés et d'informer les utilisateurs des limites de fiabilité1.
  • Dans les domaines sensibles, comme la santé ou les procédures judiciaires, redoublez de prudence : l'OWASP cite ces contextes pour les affirmations sans fondement1.
3Les pièges2 min

Le ton assuré

Une réponse fluide et affirmative ne prouve rien. Le NIST relève que les confabulations peuvent aussi prendre la forme de raisonnements ou de citations inventés qui prétendent justifier la réponse, ce qui peut conduire à faire confiance à tort au système2. Une référence très détaillée, avec numéro, juridiction et date, n'est donc pas un indice d'authenticité.

La confiance qui s'installe

Le NIST décrit un biais d'automatisation : à mesure que la technologie paraît fiable, les gens peuvent s'en remettre trop vite à ses sorties ou juger son contenu meilleur que celui d'autres sources. Ce biais aggrave le risque de confabulation2. Un outil qui a bien répondu dix fois n'a pas pour autant raison la onzième.

Demander à l'IA de se vérifier elle-même

Les sources citées ici n'étudient pas directement le cas où l'on demande à l'outil de confirmer sa propre réponse. Elles donnent cependant des éléments sur la fiabilité de ses sorties. Une étude sur ChatGPT constate des auto-contradictions, c'est-à-dire deux phrases contradictoires dans un même contexte, dans 17,7 % des phrases produites. Les auteurs ajoutent qu'une large part de ces contradictions, 35,2 % pour ChatGPT, ne peut pas être vérifiée avec des textes en ligne5. Leur détecteur, fondé sur des consignes données à ChatGPT, atteint environ 80 % de score F15. C'est utile en recherche, mais cela laisse des erreurs passer. Le NIST note aussi que les modèles fournissent parfois des étapes de raisonnement même quand la réponse est fausse2.

Croire que le problème disparaîtra

L'étude théorique juge l'hallucination inévitable4, et la revue de la recherche en détaille les limites actuelles3. La vérification humaine reste donc nécessaire.

Les mêmes erreurs ailleurs que dans un tribunal

L'OWASP cite d'autres cas : un robot conversationnel d'Air Canada a donné de fausses informations à des voyageurs, et la compagnie a été poursuivie avec succès1. Il mentionne aussi des assistants de programmation qui proposent des bibliothèques de code inexistantes ou peu sûres1. Dans un scénario décrit par l'OWASP, des attaquants repèrent les noms de paquets souvent inventés par les assistants, publient de vrais paquets malveillants sous ces noms, et des développeurs les intègrent1.

Fiche

Identifiant
CP-272
Aile
4. Intelligence artificielle
Compétence Brain
Vérifier les réponses (verify_output)
Réflexe Brain
air-026
Schéma
G2 · Comparatif Mythe vs Réalité
Langues
de, en, fr
Sources
5 sources vérifiées le 3 novembre 2026
Sources5 sources
  1. OWASP, « LLM09:2025 Misinformation ». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consulté le 3 novembre 2026)
  2. NIST, « Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consulté le 3 novembre 2026)
  3. arXiv, « A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions », 9 novembre 2023. https://arxiv.org/abs/2311.05232 (consulté le 3 novembre 2026)
  4. arXiv, « Hallucination is Inevitable: An Innate Limitation of Large Language Models », 22 janvier 2024. https://arxiv.org/abs/2401.11817 (consulté le 3 novembre 2026)
  5. arXiv, « Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation », 25 mai 2023. https://arxiv.org/abs/2305.15852 (consulté le 3 novembre 2026)

Citer cet article

Brain, « L'avocat et les faux arrêts de ChatGPT », Cyberpedia, 2026. https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/

BibTeX 
@misc{brain_cp272_fr_2026,
  author = {Brain},
  title = {L'avocat et les faux arrêts de ChatGPT},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/},
  note = {CC BY 4.0}
}
Licence CC BY 4.0