--- id: CP-271 slug: alucinacion-ia-hechos-inventados lang: es title: "Alucinación de la IA: cuando el modelo se inventa los datos" description: "Un modelo de lenguaje predice la palabra probable sin comprobar que sea cierta: puede inventar hechos, referencias y paquetes de código." canonical_url: https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/ markdown_url: https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: "Brain, «Alucinación de la IA: cuando el modelo se inventa los datos», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/ (CC BY 4.0)" wing: 4 theme: verify_output reflex: air-006 schema: G2 updated: "2026-11-03" translations: es: https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/ fr: https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes/ en: https://startbrain.io/cyberpedia/en/articles/ai-hallucination-invented-facts/ de: https://startbrain.io/cyberpedia/de/articles/ki-halluzination-erfundene-fakten/ it: https://startbrain.io/cyberpedia/it/articles/allucinazione-ia-fatti-inventati/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 accessed: "2026-11-03" - "n": 4 title: Survey of Hallucination in Natural Language Generation publisher: arXiv url: https://arxiv.org/abs/2202.03629 accessed: "2026-11-03" - "n": 5 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" --- # Alucinación de la IA: cuando el modelo se inventa los datos Un asistente de IA que redacta un resumen, una nota jurídica o una lista de referencias no consulta una base de hechos. Produce una secuencia de palabras verosímil. Cuando se equivoca, lo hace con el mismo tono seguro que cuando acierta, y nada en la pantalla señala la diferencia. Este fenómeno se llama alucinación. El NIST estadounidense emplea también el término «confabulación» y señala que en el lenguaje corriente se habla de alucinaciones o fabricaciones [2]. Para un empleado, una respuesta de la IA es un borrador que hay que verificar, nunca una fuente. ## En 30 segundos - Dónde ocurre: en cualquier texto producido por un asistente de IA, sobre todo en preguntas abiertas que requieren una respuesta larga y en ámbitos que exigen experiencia contextual [2]. - Qué está en juego: el modelo puede inventar un hecho, una referencia, una cita o el nombre de una biblioteca de código, y presentarlo con aplomo [1][2]. - El reflejo: contraste cada dato importante con una fuente externa de confianza y haga que una persona revise la información crítica antes de usarla [1]. - Si ya lo ha hecho: avise al destinatario del documento, corrija con una fuente fiable e informe del error a la persona que gestiona las herramientas de IA en la empresa. ## Preguntas directas ### ¿Por qué inventa una IA? Según OWASP, los modelos rellenan las lagunas de sus datos de entrenamiento con patrones estadísticos, sin comprender el contenido. Las respuestas pueden parecer correctas aunque carezcan de fundamento [1]. El NIST describe el mismo mecanismo: los modelos generan salidas que se aproximan a la distribución estadística de sus datos de entrenamiento, y los grandes modelos de lenguaje predicen la palabra siguiente en una frase [2]. ### ¿Es un defecto poco frecuente? El NIST lo presenta como un resultado natural del diseño de los modelos generativos [2]. Dos revisiones de la investigación, una sobre la generación de texto en general y otra sobre los grandes modelos de lenguaje, describen un problema muy estudiado. La primera abarca el resumen automático, el diálogo, las preguntas y respuestas y la traducción automática [4]. La segunda habla de contenidos verosímiles pero no factuales y de dudas sobre la fiabilidad de estos modelos en la recuperación de información [3]. ### ¿Puede la IA inventar también sus justificaciones? Sí. El NIST indica que las salidas pueden contener una lógica o citas inventadas que pretenden explicar la respuesta. A veces un modelo ofrece pasos de razonamiento aunque la respuesta sea falsa [2]. Una referencia bien presentada, por tanto, no prueba nada. ### ¿Viene el riesgo solo de la máquina? No. OWASP menciona también la confianza excesiva: los usuarios confían demasiado en el contenido generado, no comprueban su exactitud e incorporan datos falsos a decisiones importantes [1]. El NIST señala que el riesgo aparece cuando los usuarios creen lo falso, a menudo por el tono seguro de la respuesta [2]. ## Cómo funciona Un modelo de lenguaje no distingue lo que «sabe» de lo que completa. El NIST precisa que la predicción estadística puede dar salidas exactas y coherentes, pero también inexactas o incoherentes [2]. Plantea problemas sobre todo en las instrucciones abiertas que piden una respuesta larga y en los ámbitos que exigen experiencia contextual [2]. Las fabricaciones adoptan varias formas. OWASP enumera cuatro. La primera es la inexactitud factual: el chatbot de Air Canada dio información falsa a unos viajeros, y la aerolínea fue demandada con éxito [1]. La segunda es la afirmación sin fundamento, con un ejemplo citado: ChatGPT fabricando casos judiciales falsos, con graves dificultades ante un tribunal [1]. La tercera es la ilusión de experiencia, por ejemplo chatbots que presentan como inciertos temas de salud que no lo son [1]. La cuarta es el código peligroso: el modelo propone bibliotecas poco seguras o inexistentes [1]. Estas invenciones pueden ser explotadas. OWASP describe un escenario en el que unos atacantes prueban asistentes de programación para encontrar los nombres de paquetes que se inventan con frecuencia y luego publican paquetes maliciosos reales con esos nombres en repositorios muy utilizados. Los desarrolladores que siguen la sugerencia del asistente los integran en su software sin saberlo [1]. ## Lo que usted hace Las medidas siguientes se inspiran en las recomendaciones de OWASP [1]. - Contraste los datos importantes con fuentes externas de confianza [1]. - Abra cada enlace y cada referencia que cite la IA. Si la página no existe o no dice lo que la IA le atribuye, considere la referencia inventada. El NIST recuerda que las citas fabricadas pueden inducir a error [2]. - No pegue una respuesta sin verificar en un contrato, una nota jurídica, un documento financiero ni una carta a un cliente. OWASP pide una revisión humana, sobre todo para la información crítica o sensible [1]. - Antes de instalar un paquete de código propuesto por un asistente, compruebe que existe y que es legítimo. OWASP pide además prácticas de desarrollo seguro para evitar incorporar fallos procedentes de sugerencias erróneas [1]. - En una cadena de decisión, mantenga a una persona formada que revise. OWASP insiste en la formación de los revisores, para que no se fíen ciegamente del contenido producido por la IA [1]. ## Las trampas - La fluidez engaña. Un texto bien escrito no es un texto exacto, y el NIST señala que el tono seguro lleva a creer lo falso [2]. - Los ámbitos especializados son los más expuestos. OWASP cita el derecho y la salud como contextos en los que las afirmaciones sin fundamento resultan especialmente dañinas [1]. El NIST pone el ejemplo de un resumen de historial médico confabulado que podría provocar diagnósticos erróneos [2]. - Pedir a la IA que se revise a sí misma no sustituye una fuente externa. Puede justificar una respuesta falsa con un razonamiento de apariencia lógica [2]. - No hace falta ningún atacante para que se produzca el daño. OWASP describe una empresa demandada con éxito tras ofrecer un chatbot de diagnóstico médico sin asegurarse de su fiabilidad. El defecto procedía de un control insuficiente, no de un ataque [1]. - El riesgo es difícil de cuantificar. El NIST escribe que es arduo estimar la escala y el impacto posterior de las confabulaciones [2]. Publicó su perfil sobre la IA generativa, que ayuda a las organizaciones a detectar los riesgos propios de esta tecnología, el 26 de julio de 2024 [5]. ## Fuentes 1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado el 3 de noviembre de 2026) 2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado el 3 de noviembre de 2026) 3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions». https://arxiv.org/abs/2311.05232 (consultado el 3 de noviembre de 2026) 4. arXiv, «Survey of Hallucination in Natural Language Generation». https://arxiv.org/abs/2202.03629 (consultado el 3 de noviembre de 2026) 5. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado el 3 de noviembre de 2026) --- Fuente original: Cyberpedia, la enciclopedia pública de ciberseguridad e IA publicada por Brain. Versión canónica: https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/ Puede reutilizar este texto libremente bajo la licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), siempre que cite «Brain, Cyberpedia» con un enlace a la dirección anterior.