--- id: CP-256 slug: funcionamiento-llm-siguiente-token lang: es title: Cómo funciona un modelo de lenguaje de gran tamaño description: Un asistente de IA como ChatGPT escribe un texto plausible que nadie ha verificado. Qué implica para sus respuestas, sus datos y sus normas. canonical_url: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ markdown_url: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Cómo funciona un modelo de lenguaje de gran tamaño», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-037 schema: G3 updated: "2026-11-03" translations: es: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ fr: https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ en: https://startbrain.io/cyberpedia/en/articles/how-llms-work-next-token/ de: https://startbrain.io/cyberpedia/de/articles/funktionsweise-llm-naechstes-token/ it: https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/ sources: - "n": 1 title: Attention Is All You Need publisher: arXiv url: https://arxiv.org/abs/1706.03762 published: "2017-06-12" accessed: "2026-11-03" - "n": 2 title: Language Models are Few-Shot Learners publisher: arXiv url: https://arxiv.org/abs/2005.14165 published: "2020-05-28" accessed: "2026-11-03" - "n": 3 title: Training language models to follow instructions with human feedback publisher: arXiv url: https://arxiv.org/abs/2203.02155 published: "2022-03-04" accessed: "2026-11-03" - "n": 4 title: "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" publisher: arXiv url: https://arxiv.org/abs/1810.04805 published: "2018-10-11" accessed: "2026-11-03" - "n": 5 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 6 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 7 title: "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf published: "2024-01-02" accessed: "2026-11-03" - "n": 8 title: LLMRisks Archive publisher: OWASP url: https://genai.owasp.org/llm-top-10/ accessed: "2026-11-03" - "n": 9 title: OWASP Top 10 for Large Language Model Applications | OWASP Foundation publisher: OWASP url: https://owasp.org/projects/top-10-for-large-language-model-applications accessed: "2026-11-03" --- # Cómo funciona un modelo de lenguaje de gran tamaño Un modelo de lenguaje de gran tamaño (en inglés LLM, por large language model) es el motor de los asistentes de IA que redactan, resumen o traducen textos. No consulta un archivo de hechos. Se entrena con un corpus de texto muy grande y escribe prolongando lo que se le da: GPT-3 se describe como un modelo autorregresivo [2]. Este mecanismo explica lo que el empleado observa a diario: respuestas fluidas, a menudo acertadas y a veces erróneas, con un tono muy seguro. Explica también por qué hay que verificar lo que escribe la herramienta y no confiarle datos sensibles. ## En 30 segundos - Dónde ocurre: cada vez que se hace una pregunta a un asistente de IA, en una herramienta validada por la empresa o no. - Qué hace el modelo: prolonga un texto, como un modelo autorregresivo [2]. - Qué puede salir mal: una respuesta falsa pero plausible, un dato introducido que aparece en otro lugar, una instrucción oculta en un documento que desvía la herramienta. - El reflejo: releer y verificar toda respuesta que importe, no introducir datos sensibles ni personales en una herramienta no validada y aplicar la norma de uso de la empresa. - Si ya lo ha hecho: avise al servicio de seguridad de la empresa, sin esperar a saber si el dato se ha filtrado de verdad. ## Preguntas directas ### ¿Entiende un asistente de IA lo que escribe? Lo que se puede establecer es un resultado medible: un modelo entrenado con un gran corpus de texto realiza tareas de traducción, de preguntas y respuestas o de cálculo con tres cifras a partir de simples ejemplos incluidos en el texto de la solicitud [2]. Lo hace sin reentrenamiento: las instrucciones y los ejemplos pasan únicamente por el texto [2]. ### ¿Por qué escribe a veces cosas falsas? Los autores de InstructGPT escriben que agrandar un modelo no lo hace mejor a la hora de seguir la intención del usuario, y que los modelos grandes pueden producir respuestas "untruthful, toxic, or simply not helpful to the user" [3]. El proyecto OWASP incluye la desinformación ("Misinformation") entre los diez riesgos de su lista de 2025 para las aplicaciones basadas en un LLM [8]. ### ¿Puede el texto que introduzco aparecer en otro lugar? Es un riesgo reconocido. La lista OWASP de 2025 contiene una entrada "Sensitive Information Disclosure", la divulgación de información sensible, que afecta tanto al modelo como a la aplicación que lo rodea [8]. El informe del NIST sobre los ataques contra el aprendizaje automático cita la vulneración de la privacidad ("privacy breach"), los grandes modelos de lenguaje y los chatbots entre sus palabras clave [7]. Esto justifica la norma: lo que se introduce en una herramienta no validada sale del perímetro que la empresa controla. ### ¿Pueden un documento o una página web dar órdenes a la herramienta? Es el riesgo que OWASP sitúa a la cabeza de su lista de 2025, con el nombre "Prompt Injection", la inyección de instrucciones [8]. El modelo recibe sus instrucciones a través del texto [2]. Más abajo figura un ejemplo neutralizado. ### ¿Quién fija las normas de uso? La empresa. Las directrices del NCSC británico se dirigen a los proveedores de sistemas de IA y señalan que estos sistemas tienen vulnerabilidades nuevas, que deben considerarse además de las amenazas informáticas habituales [5]. Para el empleado, esto se concreta en la lista de herramientas validadas y en la política interna de la organización. ## Cómo funciona El Transformer, presentado en junio de 2017, es una red basada únicamente en mecanismos de atención, sin recurrencia ni convolución [1]. Sus autores lo describen como más paralelizable y con un tiempo de entrenamiento mucho menor [1]. BERT, publicado en octubre de 2018, se entrena con texto sin etiquetar teniendo en cuenta el contexto a izquierda y derecha de cada palabra, y luego se ajusta a una tarea concreta [4]. GPT-3, publicado en mayo de 2020, es un modelo autorregresivo de 175 000 millones de parámetros, diez veces más que cualquier modelo no disperso anterior [2]. Los autores de InstructGPT escriben que estos modelos no están alineados con sus usuarios ("not aligned with their users") [3]. Para que sigan las solicitudes, existe una segunda etapa. En el caso de InstructGPT, unos anotadores redactaron demostraciones del comportamiento deseado, después clasificaron respuestas del modelo, y el modelo se ajustó mediante aprendizaje por refuerzo a partir de esas valoraciones humanas [3]. Resultado indicado: los evaluadores prefieren las respuestas del modelo de 1300 millones de parámetros a las de GPT-3 (175 000 millones), y la veracidad mejora [3]. Los autores precisan que el modelo "still makes simple mistakes" [3]. ## Lo que usted hace - Trate cada respuesta como un borrador. Verifique cifras, fechas, nombres, referencias y citas en una fuente que conozca antes de incorporarlas a un documento, un correo o una decisión. - No introduzca datos personales ni documentos confidenciales en una herramienta no validada. Si la herramienta no figura en la lista de la empresa, absténgase. - Antes de pegar en un asistente un texto recibido del exterior, pregúntese si puede contener instrucciones dirigidas a la máquina y relea el resultado con esa idea presente. - Dé a la herramienta el mínimo de accesos. La entrada OWASP "Excessive Agency" se refiere a los sistemas a los que se concede cierta iniciativa [8]. Cuanto más acceso tiene un asistente a sus mensajes o a sus archivos, mayor alcance tienen sus errores. - Ante una duda o un error, comuníquelo a su equipo de seguridad. Ejemplo ilustrativo, neutralizado: una instrucción oculta en un documento que se quiere resumir. ```text [Ilustración, texto ficticio] Acta de la reunión del trimestre... [Pasaje invisible o en letra pequeña: instrucción parafraseada, que pide al asistente enviar el contenido de la conversación a hxxps://ejemplo[.]invalid] ``` ## Las trampas - Un texto fluido puede ser falso: la calidad de la redacción no dice nada sobre su exactitud. - Un modelo más grande no lo resuelve todo. Los autores de InstructGPT escriben que el tamaño no garantiza que el modelo siga la intención del usuario [3]. - El corpus de entrenamiento importa. Los autores de GPT-3 señalan conjuntos de datos en los que el modelo tiene dificultades y problemas metodológicos ligados al entrenamiento con grandes corpus de la web [2]. - La herramienta práctica pero no validada. Escapa a las normas que la empresa ha fijado para sus herramientas de IA, y sus usuarios no saben qué ocurre con los datos introducidos. - El marco de gestión de riesgos de la IA del NIST, publicado el 26 de enero de 2023, está destinado a un uso voluntario, y la página indica que está en revisión [6]. El NIST le añadió, el 26 de julio de 2024, un perfil dedicado a la IA generativa [6]. Son referencias que se ofrecen a las organizaciones. ## Casos reales ### Mayo de 2020: artículos de prensa difíciles de distinguir En el artículo de presentación de GPT-3, enviado el 28 de mayo de 2020, los autores constatan que el modelo puede producir artículos de prensa que los evaluadores humanos distinguen con dificultad de los escritos por personas [2]. Indican que discuten las consecuencias de esta constatación para la sociedad [2]. Para el empleado, la lección práctica es sencilla: la apariencia de un texto no prueba ni su autor ni su exactitud. ### Noviembre de 2023: directrices para asegurar los sistemas de IA El 27 de noviembre de 2023, el NCSC publica en versión 1.0 sus directrices, divididas en cuatro etapas: diseño, desarrollo, despliegue, operación y mantenimiento [5]. Se dirigen a sistemas que funcionan como está previsto, siguen disponibles y no revelan datos sensibles a terceros no autorizados [5]. El NIST publica por su parte en enero de 2024 una taxonomía de los ataques contra el aprendizaje automático, acompañada de un glosario destinado a lectores no especialistas [7]. En cuanto a OWASP, el proyecto ha pasado de un pequeño grupo de profesionales de la seguridad en 2023 a más de 600 expertos colaboradores procedentes de más de 18 países [9]. ## Fuentes 1. arXiv, «Attention Is All You Need», 12 de junio de 2017. https://arxiv.org/abs/1706.03762 (consultado el 3 de noviembre de 2026) 2. arXiv, «Language Models are Few-Shot Learners», 28 de mayo de 2020. https://arxiv.org/abs/2005.14165 (consultado el 3 de noviembre de 2026) 3. arXiv, «Training language models to follow instructions with human feedback», 4 de marzo de 2022. https://arxiv.org/abs/2203.02155 (consultado el 3 de noviembre de 2026) 4. arXiv, «BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding», 11 de octubre de 2018. https://arxiv.org/abs/1810.04805 (consultado el 3 de noviembre de 2026) 5. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de noviembre de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado el 3 de noviembre de 2026) 6. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado el 3 de noviembre de 2026) 7. NIST, «Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations», 2 de enero de 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (consultado el 3 de noviembre de 2026) 8. OWASP, «LLMRisks Archive». https://genai.owasp.org/llm-top-10/ (consultado el 3 de noviembre de 2026) 9. OWASP, «OWASP Top 10 for Large Language Model Applications | OWASP Foundation». https://owasp.org/projects/top-10-for-large-language-model-applications (consultado el 3 de noviembre de 2026) --- Fuente original: Cyberpedia, la enciclopedia pública de ciberseguridad e IA publicada por Brain. Versión canónica: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ Puede reutilizar este texto libremente bajo la licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), siempre que cite «Brain, Cyberpedia» con un enlace a la dirección anterior.