--- id: CP-280 slug: verificar-fuentes-buscadores-ia lang: es title: Verificar las fuentes que cita una IA de búsqueda description: Una IA de búsqueda muestra enlaces junto a su respuesta. Así se abren, se comparan con la afirmación y se sabe cuándo no fiarse de ellos. canonical_url: https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia/ markdown_url: https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Verificar las fuentes que cita una IA de búsqueda», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-031 schema: G2 updated: "2026-11-03" translations: es: https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia/ fr: https://startbrain.io/cyberpedia/fr/articles/verifier-sources-moteurs-recherche-ia/ en: https://startbrain.io/cyberpedia/en/articles/verify-ai-search-engine-citations/ de: https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen/ it: https://startbrain.io/cyberpedia/it/articles/verificare-fonti-motori-ricerca-ia/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ published: "2024-04-10" accessed: "2026-11-03" - "n": 2 title: LLM01:2025 Prompt Injection publisher: OWASP url: https://genai.owasp.org/llmrisk/llm01-prompt-injection/ published: "2024-04-10" accessed: "2026-11-03" - "n": 3 title: Prompt injection is not SQL injection (it may be worse) publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection published: "2025-12-08" accessed: "2026-11-03" - "n": 4 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 5 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # Verificar las fuentes que cita una IA de búsqueda Un buscador basado en IA responde con frases redactadas y muestra enlaces al lado. La presentación da la impresión de que cada frase se ha contrastado con esas páginas. Sin embargo, un modelo de lenguaje puede producir un contenido que parece exacto y es inventado. OWASP, que mantiene una lista de los principales riesgos de las aplicaciones de IA generativa, llama alucinación a este fenómeno [1]. Esta ficha explica cómo comprobar usted mismo las fuentes mostradas antes de apoyarse en una respuesta, sobre todo cuando sirve para decidir algo. Las fuentes de esta ficha no describen el funcionamiento interno de productos concretos. Tratan los riesgos de estas herramientas en general. ## En 30 segundos - Dónde ocurre: en cualquier respuesta de una IA acompañada de enlaces, ya se use para preparar una nota, una compra, un expediente o una decisión. - Qué quiere el atacante: a veces nadie, porque OWASP señala que un error puede causar daños sin atacante [1]. Cuando lo hay, busca colar instrucciones en una página que la IA va a leer [2]. - El reflejo: abrir cada enlace citado, comprobar que la página existe, quién la publica y que dice lo que afirma la respuesta, y no decidir nada importante con una respuesta sin verificar. - Si ya lo ha hecho: repita la verificación ahora y avise a las personas afectadas si la fuente no se sostiene. ## Preguntas directas ### ¿Por qué una IA puede citar una fuente que no dice lo que afirma? Según OWASP, los modelos rellenan las lagunas de sus datos de entrenamiento con regularidades estadísticas, sin comprender el contenido. Por eso pueden producir respuestas verosímiles y sin fundamento [1]. Un enlace mostrado junto a una frase no prueba que la frase proceda de él. Es motivo suficiente para ir a leer la página. ### ¿Un enlace que se abre prueba que la información es correcta? No. Que la página exista es la primera comprobación, no la última. Después hay que leer el pasaje en cuestión y compararlo con la afirmación de la IA. OWASP recomienda contrastar las respuestas de un modelo con fuentes externas de confianza [1]. ### ¿Puede una IA inventar documentos? OWASP cita dos casos. El primero se refiere a afirmaciones sin fundamento: ChatGPT fabricó causas judiciales falsas, lo que causó graves problemas ante un tribunal [1]. El segundo se refiere al código: los asistentes de programación sugieren bibliotecas que no existen, y después los atacantes publican paquetes maliciosos con esos nombres [1]. El principio vale para las referencias: un nombre, un número o un título proporcionados por una IA se comprueban en la fuente. ### ¿Puede una página web manipular la respuesta? Sí. OWASP describe la inyección de prompt indirecta: el modelo acepta datos de fuentes externas, como sitios web o archivos, y su contenido modifica su comportamiento de forma imprevista [2]. En uno de sus escenarios, un usuario pide a una IA que resuma una página web con instrucciones ocultas, que provocan la fuga de la conversación privada [2]. Estas instrucciones no necesitan ser visibles ni legibles para una persona: basta con que el modelo las procese [2]. ### ¿Las defensas de los fabricantes resuelven el problema? No del todo. OWASP escribe que la generación aumentada por recuperación (RAG), que va a buscar documentos para respaldar la respuesta, no elimina por completo las vulnerabilidades de inyección de prompt [2]. El NCSC británico considera muy posible que estos ataques nunca se neutralicen del todo, porque los modelos actuales no distinguen entre datos e instrucciones en un prompt [3]. El control humano sigue siendo, por tanto, necesario. ## Cómo funciona Una IA de búsqueda recoge contenido externo y redacta una respuesta a partir de él. OWASP incluye los sitios web y los archivos entre las entradas externas que pueden alterar el comportamiento de un modelo [2]. El NCSC da la razón: bajo el capó, el modelo no distingue un dato de una instrucción, solo predice el «next token» [3]. Pueden sumarse dos errores. El primero viene del modelo: OWASP cita las alucinaciones, pero también los sesgos de los datos de entrenamiento y la información incompleta [1]. El segundo viene del usuario. OWASP llama «overreliance» a confiar demasiado en un contenido generado sin comprobar su exactitud, lo que agrava el efecto de la desinformación [1]. El NIST, organismo estadounidense, ha publicado un perfil dedicado a la IA generativa, que puede ayudar a las organizaciones a identificar los riesgos propios de estas herramientas [4]. Este perfil es un documento de acompañamiento del marco de gestión de riesgos de la IA, cuyo uso es voluntario [5]. ## Qué hace usted - Abra cada enlace citado, uno por uno. Un enlace que no se abre, que devuelve un error o que lleva a una página ajena a la pregunta no respalda nada. - Mire quién publica la página. Una administración, un organismo de normalización o un editor identificable valen más que un sitio sin autor ni fecha. - Busque en la página la frase que corresponde a la afirmación. Si no la encuentra, considere la afirmación como no confirmada. - Remóntese a la fuente de origen. Si la propia página cita otro documento, abra ese. - Contraste con una segunda fuente independiente cualquier cifra, fecha, nombre o decisión que importe. OWASP recomienda este contraste con fuentes externas de confianza [1]. - Para un asunto de peso (salud, derecho, finanzas, seguridad), pida que lo revise una persona competente. OWASP recomienda una supervisión humana, sobre todo para la información crítica o sensible [1]. - No copie una respuesta sin verificar en un expediente, un correo a un cliente o una decisión. Anote lo que se ha verificado y lo que no. ## Las trampas Falsa precisión. Una cifra exacta o una cita entre comillas dan impresión de rigor. OWASP señala que un modelo puede dar la ilusión de comprender un tema complejo, lo que induce a error a los usuarios [1]. Localice la cifra y la cita en la página. Fuentes de segunda mano. Una página que reproduce otro sitio no añade ninguna prueba. Remóntese hasta el editor original. Contenido trampa. Una página puede contener texto escrito para la IA y no para usted. El NCSC da el ejemplo de un currículum con un texto oculto que pide ignorar las instrucciones anteriores y aprobar al candidato. Es un ejemplo ilustrativo, no un incidente fechado [3]. Si una respuesta recomienda de forma inesperada un sitio, un producto o una acción, abra la página y busque qué lo explica. No siga nunca una instrucción encontrada en una fuente: comuníquela. Exceso de confianza. Los enlaces, la maquetación y el tono seguro tranquilizan. OWASP cita el chatbot de Air Canada, que dio información errónea a unos viajeros: la aerolínea fue demandada con éxito [1]. La página no fecha este caso. También recomienda indicar claramente a los usuarios los límites de fiabilidad de estas herramientas [1]. Si la herramienta no muestra nada parecido, dé por supuesto ese límite. Filtros supuestos. El NCSC desaconseja los filtros de tipo lista de denegación, porque un ataque puede reformularse de infinitas maneras [3]. También advierte contra los productos que pretenden «detener» la inyección de prompt [3]. Una herramienta corporativa validada no exime, por tanto, de leer las fuentes. ## Fuentes 1. OWASP, «LLM09:2025 Misinformation», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado el 3 de noviembre de 2026) 2. OWASP, «LLM01:2025 Prompt Injection», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (consultado el 3 de noviembre de 2026) 3. NCSC (Royaume-Uni), «Prompt injection is not SQL injection (it may be worse)», 8 de diciembre de 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consultado el 3 de noviembre de 2026) 4. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado el 3 de noviembre de 2026) 5. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 26 de julio de 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (consultado el 3 de noviembre de 2026) --- Fuente original: Cyberpedia, la enciclopedia pública de ciberseguridad e IA publicada por Brain. Versión canónica: https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia/ Puede reutilizar este texto libremente bajo la licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), siempre que cite «Brain, Cyberpedia» con un enlace a la dirección anterior.