--- id: CP-272 slug: abogado-sentencias-falsas-chatgpt-mata-avianca lang: es title: El abogado y las sentencias falsas de ChatGPT description: Un asistente de IA puede inventar resoluciones judiciales creíbles. Por qué ocurre y cómo comprobar una cita antes de usarla en el trabajo. canonical_url: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ markdown_url: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «El abogado y las sentencias falsas de ChatGPT», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-026 schema: G2 updated: "2026-11-03" translations: es: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ fr: https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ en: https://startbrain.io/cyberpedia/en/articles/lawyer-fake-cases-chatgpt-mata-avianca/ de: https://startbrain.io/cyberpedia/de/articles/anwalt-erfundene-urteile-chatgpt-mata-avianca/ it: https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 published: "2023-11-09" accessed: "2026-11-03" - "n": 4 title: "Hallucination is Inevitable: An Innate Limitation of Large Language Models" publisher: arXiv url: https://arxiv.org/abs/2401.11817 published: "2024-01-22" accessed: "2026-11-03" - "n": 5 title: "Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation" publisher: arXiv url: https://arxiv.org/abs/2305.15852 published: "2023-05-25" accessed: "2026-11-03" --- # El abogado y las sentencias falsas de ChatGPT Un asistente de IA puede producir una resolución judicial que no existe. OWASP señala que ChatGPT fabricó casos jurídicos falsos, con consecuencias importantes ante un tribunal [1]. Este riesgo afecta también a quien, en su trabajo, reutiliza tal cual el texto de un asistente de IA. Las fuentes citadas aquí no nombran el caso Mata v. Avianca ni lo relatan. Por eso esta ficha no recoge los nombres de las personas, ni las fechas, ni la sanción: se limita a lo que las fuentes establecen y explica qué puede sacar de ello un empleado para su propio trabajo. ## En 30 segundos - Dónde ocurre: en cualquier texto producido por un asistente de IA que contenga una cita, una cifra o una resolución judicial. - Qué quiere el atacante: nadie. El riesgo procede del propio modelo, que puede dar una respuesta falsa sin que intervenga ningún atacante [1]. - El reflejo: no reutilizar ninguna cita, cifra ni referencia de una IA sin haberla encontrado en la fuente original, y hacer que una persona la revise antes de cualquier uso profesional. - Si ya lo ha hecho: localizar la fuente de cada elemento ya utilizado, corregir o retirar lo que no se pueda comprobar y avisar a los destinatarios del documento. ## Preguntas directas ### ¿Qué ocurrió en el caso Mata v. Avianca? Entre las fuentes citadas aquí, solo la página de OWASP menciona este tipo de caso, sin nombrarlo: describe que ChatGPT fabricó casos jurídicos falsos, lo que causó dificultades importantes ante un tribunal [1]. No figuran el detalle del procedimiento, la fecha ni la sanción. ### ¿Por qué una IA inventa referencias? Un modelo de lenguaje no consulta una base de hechos. OWASP explica que rellena las lagunas de sus datos de entrenamiento con regularidades estadísticas, sin entender el contenido: la respuesta puede parecer correcta y carecer de fundamento [1]. NIST describe el mismo mecanismo: estos modelos producen resultados que se aproximan a la distribución estadística de sus datos de entrenamiento, y los grandes modelos de lenguaje predicen la palabra siguiente de una frase [2]. ### ¿Es un defecto que se corregirá pronto? Las fuentes no lo prometen. Una revisión de la investigación señala que estos modelos pueden producir contenido plausible pero no factual, y que esto plantea serias dudas sobre su fiabilidad en los sistemas de recuperación de información [3]. Un estudio teórico afirma que es imposible eliminar la alucinación en los grandes modelos de lenguaje, y que alucinarán inevitablemente si se usan como solucionadores generales de problemas [4]. ### ¿Qué vocabulario conviene conocer? NIST habla de «confabulación» para la producción de contenidos falsos presentados con seguridad, y precisa que el lenguaje corriente dice también «alucinaciones» o «invenciones» [2]. Las dos palabras designan el mismo fenómeno. ### ¿Un texto redactado con tono seguro es más fiable? No. Según NIST, el riesgo aparece cuando los usuarios creen un contenido falso, a menudo por el tono seguro de la respuesta, y actúan después sobre esa base [2]. ## Cómo funciona El modelo no busca la verdad: produce la secuencia de palabras más probable. NIST señala que esta predicción estadística puede dar resultados exactos y coherentes, pero también inexactos o incoherentes entre sí. Considera que el fenómeno es especialmente claro en las preguntas abiertas que requieren respuestas largas y en los ámbitos que exigen conocimiento experto del contexto [2]. OWASP distingue dos problemas relacionados. El primero es la alucinación, cuando el modelo genera un contenido que parece exacto pero es inventado. El segundo es la confianza excesiva: los usuarios se fían demasiado del texto generado y no verifican su exactitud, de modo que incorporan datos falsos a decisiones o procesos importantes [1]. ## Qué hace usted Las prácticas siguientes recogen las medidas de OWASP y NIST, formuladas desde el punto de vista del empleado. - Trate toda cita, cifra y referencia producida por una IA como no verificada. OWASP recomienda que los usuarios contrasten los resultados con fuentes externas fiables [1]. - Encuentre el elemento en la fuente original: el texto de la resolución, el documento oficial, el estudio. Una referencia que no logre encontrar no se utiliza. - Contraste varias fuentes externas fiables en lugar de conformarse con una sola confirmación [1]. - Mantenga una validación humana antes de cualquier uso profesional. OWASP pide supervisión humana y procesos de verificación de hechos para la información crítica o sensible, con revisores formados para no confiar en exceso en el contenido generado [1]. - Indique a sus lectores lo que se ha producido con una IA. OWASP recomienda etiquetar claramente los contenidos generados e informar a los usuarios de los límites de fiabilidad [1]. - En ámbitos sensibles, como la salud o los procedimientos judiciales, extreme la prudencia: OWASP cita estos contextos a propósito de las afirmaciones sin fundamento [1]. ## Las trampas ### El tono seguro Una respuesta fluida y afirmativa no prueba nada. NIST señala que las confabulaciones pueden adoptar también la forma de razonamientos o citas inventados que pretenden justificar la respuesta, lo que puede llevar a confiar en el sistema sin motivo [2]. Una referencia muy detallada, con número, jurisdicción y fecha, no es por tanto un indicio de autenticidad. ### La confianza que se instala NIST describe un sesgo de automatización: a medida que la tecnología parece fiable, las personas pueden fiarse demasiado deprisa de sus resultados o juzgar su contenido mejor que el de otras fuentes. Este sesgo agrava el riesgo de confabulación [2]. Una herramienta que ha acertado diez veces no tiene razón por ello la undécima. ### Pedir a la IA que se verifique a sí misma Las fuentes citadas aquí no estudian directamente el caso en que se pide a la herramienta que confirme su propia respuesta. Sí aportan, en cambio, datos sobre la fiabilidad de sus resultados. Un estudio sobre ChatGPT constata autocontradicciones, es decir, dos frases contradictorias en un mismo contexto, en el 17,7 % de las frases producidas. Los autores añaden que una gran parte de esas contradicciones, el 35,2 % en el caso de ChatGPT, no se puede verificar con textos en línea [5]. Su detector, basado en instrucciones dadas a ChatGPT, alcanza una puntuación F1 de cerca del 80 % [5]. Es útil en investigación, pero deja pasar errores. NIST señala también que los modelos a veces ofrecen pasos de razonamiento incluso cuando la respuesta es falsa [2]. ### Creer que el problema desaparecerá El estudio teórico considera inevitable la alucinación [4], y la revisión de la investigación detalla sus límites actuales [3]. La verificación humana sigue siendo, pues, necesaria. ### Los mismos errores fuera de un tribunal OWASP cita otros casos: un chatbot de Air Canada dio información falsa a viajeros, y la compañía fue demandada con éxito [1]. Menciona también asistentes de programación que proponen bibliotecas de código inexistentes o poco seguras [1]. En un escenario descrito por OWASP, los atacantes identifican los nombres de paquetes que los asistentes inventan con frecuencia, publican paquetes maliciosos reales con esos nombres y los desarrolladores los incorporan [1]. ## Fuentes 1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado el 3 de noviembre de 2026) 2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado el 3 de noviembre de 2026) 3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions», 9 de noviembre de 2023. https://arxiv.org/abs/2311.05232 (consultado el 3 de noviembre de 2026) 4. arXiv, «Hallucination is Inevitable: An Innate Limitation of Large Language Models», 22 de enero de 2024. https://arxiv.org/abs/2401.11817 (consultado el 3 de noviembre de 2026) 5. arXiv, «Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation», 25 de mayo de 2023. https://arxiv.org/abs/2305.15852 (consultado el 3 de noviembre de 2026) --- Fuente original: Cyberpedia, la enciclopedia pública de ciberseguridad e IA publicada por Brain. Versión canónica: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ Puede reutilizar este texto libremente bajo la licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), siempre que cite «Brain, Cyberpedia» con un enlace a la dirección anterior.