--- id: CP-272 slug: avocat-faux-arrets-chatgpt-mata-avianca lang: fr title: L'avocat et les faux arrêts de ChatGPT description: Un assistant d'IA peut inventer des décisions de justice crédibles. Pourquoi, et comment vérifier une citation avant de l'utiliser au travail. canonical_url: https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ markdown_url: https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, « L'avocat et les faux arrêts de ChatGPT », Cyberpedia, 2026. https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-026 schema: G2 updated: "2026-11-03" translations: fr: https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ en: https://startbrain.io/cyberpedia/en/articles/lawyer-fake-cases-chatgpt-mata-avianca/ de: https://startbrain.io/cyberpedia/de/articles/anwalt-erfundene-urteile-chatgpt-mata-avianca/ es: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 published: "2023-11-09" accessed: "2026-11-03" - "n": 4 title: "Hallucination is Inevitable: An Innate Limitation of Large Language Models" publisher: arXiv url: https://arxiv.org/abs/2401.11817 published: "2024-01-22" accessed: "2026-11-03" - "n": 5 title: "Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation" publisher: arXiv url: https://arxiv.org/abs/2305.15852 published: "2023-05-25" accessed: "2026-11-03" --- # L'avocat et les faux arrêts de ChatGPT Un assistant d'IA peut produire une décision de justice qui n'existe pas. L'OWASP mentionne que ChatGPT a fabriqué de faux cas juridiques, avec des conséquences importantes devant un tribunal [1]. Ce risque concerne aussi un salarié qui reprend tel quel le texte d'un assistant d'IA. Les sources citées ici ne nomment pas l'affaire Mata v. Avianca et ne la racontent pas. Cette fiche ne reprend donc ni les noms des personnes, ni les dates, ni la sanction : elle s'en tient à ce que les sources établissent, et explique ce qu'un salarié en retient pour son propre travail. ## En 30 secondes - Où ça arrive : dans tout texte produit par un assistant d'IA qui contient une citation, un chiffre ou une décision de justice. - Ce que veut l'attaquant : personne. Le risque vient du modèle lui-même, qui peut produire une réponse fausse sans qu'aucun attaquant n'intervienne [1]. - Le réflexe : ne reprendre aucune citation, aucun chiffre ni aucune référence d'une IA sans l'avoir retrouvé dans la source d'origine, puis faire relire par une personne avant tout usage professionnel. - Si c'est déjà fait : retrouver la source de chaque élément déjà utilisé, corriger ou retirer ce qui ne se vérifie pas, et prévenir les destinataires du document. ## Questions directes ### Que s'est-il passé dans l'affaire Mata v. Avianca ? Parmi les sources citées ici, seule la page de l'OWASP évoque ce type de cas, sans nommer l'affaire : ChatGPT y est décrit comme ayant fabriqué de faux cas juridiques, ce qui a entraîné des difficultés importantes devant un tribunal [1]. Le détail de la procédure, la date et la sanction n'y figurent pas. ### Pourquoi une IA invente-t-elle des références ? Un modèle de langage ne consulte pas une base de faits. L'OWASP explique qu'il comble les lacunes de ses données d'entraînement avec des régularités statistiques, sans comprendre le contenu : la réponse peut sembler juste tout en étant sans fondement [1]. Le NIST décrit la même mécanique : ces modèles produisent des sorties qui approchent la distribution statistique de leurs données d'entraînement, et les grands modèles de langage prédisent le mot suivant dans une phrase [2]. ### Est-ce un défaut qui sera bientôt corrigé ? Les sources ne le promettent pas. Une revue de la recherche note que ces modèles peuvent produire un contenu plausible mais non factuel, et que cela pose de sérieuses questions sur leur fiabilité dans les systèmes de recherche d'information [3]. Une étude théorique affirme qu'il est impossible d'éliminer l'hallucination dans les grands modèles de langage, et que ceux-ci hallucineront inévitablement s'ils servent de solveurs de problèmes généraux [4]. ### Quel vocabulaire faut-il connaître ? Le NIST parle de « confabulation » pour la production de contenus faux présentés avec assurance, et précise que le langage courant dit aussi « hallucinations » ou « fabrications » [2]. Les deux mots désignent le même phénomène. ### Un texte rédigé d'un ton sûr est-il plus fiable ? Non. Selon le NIST, le risque apparaît quand les utilisateurs croient un contenu faux, souvent à cause du ton assuré de la réponse, et agissent ensuite sur cette base [2]. ## Comment ça marche Le modèle ne cherche pas la vérité, il produit la suite de mots la plus probable. Le NIST note que cette prédiction statistique peut donner des sorties exactes et cohérentes, mais aussi des sorties inexactes ou incohérentes entre elles. Il juge ce phénomène particulièrement net pour les questions ouvertes appelant de longues réponses, et dans les domaines qui demandent une expertise contextuelle [2]. L'OWASP distingue deux problèmes liés. Le premier est l'hallucination, quand le modèle génère un contenu qui paraît exact mais est inventé. Le second est la confiance excessive : des utilisateurs font trop confiance au texte généré et ne vérifient pas son exactitude, de sorte qu'ils intègrent des données fausses dans des décisions ou des processus importants [1]. ## Ce que vous faites Les pratiques ci-dessous reprennent les mesures de l'OWASP et du NIST, formulées du point de vue du salarié. - Traitez toute citation, tout chiffre et toute référence produits par une IA comme non vérifiés. L'OWASP recommande que les utilisateurs recoupent les sorties avec des sources externes fiables [1]. - Retrouvez l'élément dans la source d'origine : le texte de la décision, le document officiel, l'étude. Une référence que vous ne parvenez pas à retrouver ne s'utilise pas. - Croisez plusieurs sources externes fiables plutôt que de vous contenter d'une seule confirmation [1]. - Gardez une validation humaine avant tout usage professionnel. L'OWASP demande une supervision humaine et des processus de vérification des faits pour les informations critiques ou sensibles, avec des relecteurs formés pour ne pas se reposer excessivement sur le contenu généré [1]. - Signalez à vos lecteurs ce qui a été produit avec une IA. L'OWASP recommande d'étiqueter clairement les contenus générés et d'informer les utilisateurs des limites de fiabilité [1]. - Dans les domaines sensibles, comme la santé ou les procédures judiciaires, redoublez de prudence : l'OWASP cite ces contextes pour les affirmations sans fondement [1]. ## Les pièges ### Le ton assuré Une réponse fluide et affirmative ne prouve rien. Le NIST relève que les confabulations peuvent aussi prendre la forme de raisonnements ou de citations inventés qui prétendent justifier la réponse, ce qui peut conduire à faire confiance à tort au système [2]. Une référence très détaillée, avec numéro, juridiction et date, n'est donc pas un indice d'authenticité. ### La confiance qui s'installe Le NIST décrit un biais d'automatisation : à mesure que la technologie paraît fiable, les gens peuvent s'en remettre trop vite à ses sorties ou juger son contenu meilleur que celui d'autres sources. Ce biais aggrave le risque de confabulation [2]. Un outil qui a bien répondu dix fois n'a pas pour autant raison la onzième. ### Demander à l'IA de se vérifier elle-même Les sources citées ici n'étudient pas directement le cas où l'on demande à l'outil de confirmer sa propre réponse. Elles donnent cependant des éléments sur la fiabilité de ses sorties. Une étude sur ChatGPT constate des auto-contradictions, c'est-à-dire deux phrases contradictoires dans un même contexte, dans 17,7 % des phrases produites. Les auteurs ajoutent qu'une large part de ces contradictions, 35,2 % pour ChatGPT, ne peut pas être vérifiée avec des textes en ligne [5]. Leur détecteur, fondé sur des consignes données à ChatGPT, atteint environ 80 % de score F1 [5]. C'est utile en recherche, mais cela laisse des erreurs passer. Le NIST note aussi que les modèles fournissent parfois des étapes de raisonnement même quand la réponse est fausse [2]. ### Croire que le problème disparaîtra L'étude théorique juge l'hallucination inévitable [4], et la revue de la recherche en détaille les limites actuelles [3]. La vérification humaine reste donc nécessaire. ### Les mêmes erreurs ailleurs que dans un tribunal L'OWASP cite d'autres cas : un robot conversationnel d'Air Canada a donné de fausses informations à des voyageurs, et la compagnie a été poursuivie avec succès [1]. Il mentionne aussi des assistants de programmation qui proposent des bibliothèques de code inexistantes ou peu sûres [1]. Dans un scénario décrit par l'OWASP, des attaquants repèrent les noms de paquets souvent inventés par les assistants, publient de vrais paquets malveillants sous ces noms, et des développeurs les intègrent [1]. ## Sources 1. OWASP, « LLM09:2025 Misinformation ». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consulté le 3 novembre 2026) 2. NIST, « Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile ». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consulté le 3 novembre 2026) 3. arXiv, « A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions », 9 novembre 2023. https://arxiv.org/abs/2311.05232 (consulté le 3 novembre 2026) 4. arXiv, « Hallucination is Inevitable: An Innate Limitation of Large Language Models », 22 janvier 2024. https://arxiv.org/abs/2401.11817 (consulté le 3 novembre 2026) 5. arXiv, « Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation », 25 mai 2023. https://arxiv.org/abs/2305.15852 (consulté le 3 novembre 2026) --- Source originale : Cyberpedia, l'encyclopédie publique de cybersécurité et d'IA publiée par Brain. Version canonique : https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ Vous pouvez reprendre ce texte librement sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), à condition de citer « Brain, Cyberpedia » avec un lien vers l'adresse ci-dessus.