Cyberpediapor Brain
ESDEENFR

Alucinación de la IA: cuando el modelo se inventa los datos

Un modelo de lenguaje predice la palabra probable sin comprobar que sea cierta: puede inventar hechos, referencias y paquetes de código.

En 30 segundos

Dónde ocurre
En cualquier texto producido por un asistente de IA, sobre todo en preguntas abiertas que requieren una respuesta larga y en ámbitos que exigen experiencia contextual2.
Qué está en juego
El modelo puede inventar un hecho, una referencia, una cita o el nombre de una biblioteca de código, y presentarlo con aplomo12.
El reflejo
Contraste cada dato importante con una fuente externa de confianza y haga que una persona revise la información crítica antes de usarla1.
Si ya lo ha hecho
Avise al destinatario del documento, corrija con una fuente fiable e informe del error a la persona que gestiona las herramientas de IA en la empresa.

De qué se trata

Un asistente de IA que redacta un resumen, una nota jurídica o una lista de referencias no consulta una base de hechos. Produce una secuencia de palabras verosímil. Cuando se equivoca, lo hace con el mismo tono seguro que cuando acierta, y nada en la pantalla señala la diferencia.

Este fenómeno se llama alucinación. El NIST estadounidense emplea también el término «confabulación» y señala que en el lenguaje corriente se habla de alucinaciones o fabricaciones2. Para un empleado, una respuesta de la IA es un borrador que hay que verificar, nunca una fuente.

Preguntas directas

¿Por qué inventa una IA?

Según OWASP, los modelos rellenan las lagunas de sus datos de entrenamiento con patrones estadísticos, sin comprender el contenido. Las respuestas pueden parecer correctas aunque carezcan de fundamento1. El NIST describe el mismo mecanismo: los modelos generan salidas que se aproximan a la distribución estadística de sus datos de entrenamiento, y los grandes modelos de lenguaje predicen la palabra siguiente en una frase2.

¿Es un defecto poco frecuente?

El NIST lo presenta como un resultado natural del diseño de los modelos generativos2. Dos revisiones de la investigación, una sobre la generación de texto en general y otra sobre los grandes modelos de lenguaje, describen un problema muy estudiado. La primera abarca el resumen automático, el diálogo, las preguntas y respuestas y la traducción automática4. La segunda habla de contenidos verosímiles pero no factuales y de dudas sobre la fiabilidad de estos modelos en la recuperación de información3.

¿Puede la IA inventar también sus justificaciones?

Sí. El NIST indica que las salidas pueden contener una lógica o citas inventadas que pretenden explicar la respuesta. A veces un modelo ofrece pasos de razonamiento aunque la respuesta sea falsa2. Una referencia bien presentada, por tanto, no prueba nada.

¿Viene el riesgo solo de la máquina?

No. OWASP menciona también la confianza excesiva: los usuarios confían demasiado en el contenido generado, no comprueban su exactitud e incorporan datos falsos a decisiones importantes1. El NIST señala que el riesgo aparece cuando los usuarios creen lo falso, a menudo por el tono seguro de la respuesta2.

1Cómo funciona1 min

Un modelo de lenguaje no distingue lo que «sabe» de lo que completa. El NIST precisa que la predicción estadística puede dar salidas exactas y coherentes, pero también inexactas o incoherentes2. Plantea problemas sobre todo en las instrucciones abiertas que piden una respuesta larga y en los ámbitos que exigen experiencia contextual2.

Las fabricaciones adoptan varias formas. OWASP enumera cuatro. La primera es la inexactitud factual: el chatbot de Air Canada dio información falsa a unos viajeros, y la aerolínea fue demandada con éxito1. La segunda es la afirmación sin fundamento, con un ejemplo citado: ChatGPT fabricando casos judiciales falsos, con graves dificultades ante un tribunal1. La tercera es la ilusión de experiencia, por ejemplo chatbots que presentan como inciertos temas de salud que no lo son1. La cuarta es el código peligroso: el modelo propone bibliotecas poco seguras o inexistentes1.

Estas invenciones pueden ser explotadas. OWASP describe un escenario en el que unos atacantes prueban asistentes de programación para encontrar los nombres de paquetes que se inventan con frecuencia y luego publican paquetes maliciosos reales con esos nombres en repositorios muy utilizados. Los desarrolladores que siguen la sugerencia del asistente los integran en su software sin saberlo1.

2Lo que usted hace1 min

Las medidas siguientes se inspiran en las recomendaciones de OWASP1.

  • Contraste los datos importantes con fuentes externas de confianza1.
  • Abra cada enlace y cada referencia que cite la IA. Si la página no existe o no dice lo que la IA le atribuye, considere la referencia inventada. El NIST recuerda que las citas fabricadas pueden inducir a error2.
  • No pegue una respuesta sin verificar en un contrato, una nota jurídica, un documento financiero ni una carta a un cliente. OWASP pide una revisión humana, sobre todo para la información crítica o sensible1.
  • Antes de instalar un paquete de código propuesto por un asistente, compruebe que existe y que es legítimo. OWASP pide además prácticas de desarrollo seguro para evitar incorporar fallos procedentes de sugerencias erróneas1.
  • En una cadena de decisión, mantenga a una persona formada que revise. OWASP insiste en la formación de los revisores, para que no se fíen ciegamente del contenido producido por la IA1.
3Las trampas1 min
  • La fluidez engaña. Un texto bien escrito no es un texto exacto, y el NIST señala que el tono seguro lleva a creer lo falso2.
  • Los ámbitos especializados son los más expuestos. OWASP cita el derecho y la salud como contextos en los que las afirmaciones sin fundamento resultan especialmente dañinas1. El NIST pone el ejemplo de un resumen de historial médico confabulado que podría provocar diagnósticos erróneos2.
  • Pedir a la IA que se revise a sí misma no sustituye una fuente externa. Puede justificar una respuesta falsa con un razonamiento de apariencia lógica2.
  • No hace falta ningún atacante para que se produzca el daño. OWASP describe una empresa demandada con éxito tras ofrecer un chatbot de diagnóstico médico sin asegurarse de su fiabilidad. El defecto procedía de un control insuficiente, no de un ataque1.
  • El riesgo es difícil de cuantificar. El NIST escribe que es arduo estimar la escala y el impacto posterior de las confabulaciones2. Publicó su perfil sobre la IA generativa, que ayuda a las organizaciones a detectar los riesgos propios de esta tecnología, el 26 de julio de 20245.

Ficha

Identificador
CP-271
Ala
4. Inteligencia artificial
Competencia Brain
Verificar las respuestas (verify_output)
Reflejo Brain
air-006
Esquema
G2 · Mito frente a realidad
Idiomas
de, en, es, fr
Fuentes
5 fuentes verificadas el 3 de noviembre de 2026
Fuentes5 fuentes
  1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado el 3 de noviembre de 2026)
  2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado el 3 de noviembre de 2026)
  3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions». https://arxiv.org/abs/2311.05232 (consultado el 3 de noviembre de 2026)
  4. arXiv, «Survey of Hallucination in Natural Language Generation». https://arxiv.org/abs/2202.03629 (consultado el 3 de noviembre de 2026)
  5. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado el 3 de noviembre de 2026)

Citar este artículo

Brain, «Alucinación de la IA: cuando el modelo se inventa los datos», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/

BibTeX 
@misc{brain_cp271_es_2026,
  author = {Brain},
  title = {Alucinación de la IA: cuando el modelo se inventa los datos},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/},
  note = {CC BY 4.0}
}
Licencia CC BY 4.0