--- id: CP-257 slug: arquitectura-transformer-atencion lang: es title: El Transformer y el mecanismo de atención description: "El Transformer, descrito en junio de 2017: qué cambia para un empleado esta arquitectura basada en la atención, sus límites y la prompt injection." canonical_url: https://startbrain.io/cyberpedia/es/articles/arquitectura-transformer-atencion/ markdown_url: https://startbrain.io/cyberpedia/es/articles/arquitectura-transformer-atencion.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «El Transformer y el mecanismo de atención», Cyberpedia, 2026. https://startbrain.io/cyberpedia/es/articles/arquitectura-transformer-atencion/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-038 schema: G3 updated: "2026-11-03" translations: es: https://startbrain.io/cyberpedia/es/articles/arquitectura-transformer-atencion/ fr: https://startbrain.io/cyberpedia/fr/articles/architecture-transformer-attention/ en: https://startbrain.io/cyberpedia/en/articles/transformer-architecture-attention/ de: https://startbrain.io/cyberpedia/de/articles/transformer-architektur-attention/ it: https://startbrain.io/cyberpedia/it/articles/architettura-transformer-attenzione/ sources: - "n": 1 title: Attention Is All You Need publisher: arXiv url: https://arxiv.org/abs/1706.03762 published: "2017-06-12" accessed: "2026-11-03" - "n": 2 title: Prompt injection is not SQL injection (it may be worse) publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection published: "2025-12-08" accessed: "2026-11-03" - "n": 3 title: "Lost in the Middle: How Language Models Use Long Contexts" publisher: arXiv url: https://arxiv.org/abs/2307.03172 published: "2023-07-06" accessed: "2026-11-03" - "n": 4 title: Language Models are Few-Shot Learners publisher: arXiv url: https://arxiv.org/abs/2005.14165 published: "2020-05-28" accessed: "2026-11-03" - "n": 5 title: Thinking about the security of AI systems publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/blog-post/thinking-about-security-ai-systems published: "2023-08-30" accessed: "2026-11-03" - "n": 6 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # El Transformer y el mecanismo de atención El Transformer, una arquitectura de modelo, se describió por primera vez en un artículo de investigación presentado el 12 de junio de 2017 con el título «Attention Is All You Need» [1]. Conocer las grandes líneas de esta arquitectura ayuda a ajustar su uso: saber qué hace realmente la herramienta con un texto, por qué una respuesta bien redactada puede ser falsa y qué es mejor no confiarle. ## En 30 segundos - Dónde ocurre: cada vez que se hace una pregunta a un asistente de IA, ya sea para resumir un documento, redactar un correo o traducir. - Qué conviene saber: el modelo predice la palabra siguiente más probable [2]. La ficha extrae de ello un consejo: verificar lo que escribe. - Los límites: en un texto largo, no aprovecha todas las partes con la misma fiabilidad [3]. - El reflejo: releer y verificar toda respuesta antes de usarla, y no pegar nunca datos confidenciales en una herramienta que la empresa no haya validado. - Si ya lo ha hecho: avisar a su responsable o al equipo de seguridad, sin esperar a ver una consecuencia. ## Preguntas directas ### ¿De dónde viene el Transformer? El artículo fundacional se presentó el 12 de junio de 2017 [1]. Sus autores proponen una arquitectura de red que describen como «new simple network architecture, the Transformer, based solely on attention mechanisms, dispensing with recurrence and convolutions entirely» [1]. Antes de él, los modelos dominantes para procesar secuencias de palabras se basaban en las llamadas redes recurrentes o convolucionales [1]. Los resultados anunciados se referían a la traducción automática. El modelo alcanzó 28,4 BLEU en la tarea de inglés a alemán de WMT 2014, y 41,8 BLEU en la de inglés a francés tras 3,5 días de entrenamiento con ocho GPU [1]. Los autores indican además que el modelo es más fácil de paralelizar y requiere bastante menos tiempo de entrenamiento [1]. ### ¿Qué es la atención? La atención es el mecanismo que los autores sitúan en el centro de la arquitectura: los mejores modelos de la época ya conectaban el codificador y el decodificador mediante un mecanismo de atención, y el Transformer se apoya únicamente en ese principio [1]. Para un lector no especialista, la imagen útil es la de una lectura en la que cada palabra se relaciona con las demás palabras del texto, en lugar de una lectura estrictamente palabra por palabra. Esta imagen es una simplificación: la ficha no entra en el cálculo, y las fuentes citadas aquí no lo detallan. ### ¿Entiende este modelo lo que se le escribe? El Centro Nacional de Ciberseguridad británico (NCSC) responde sobre este punto en una entrada del 8 de diciembre de 2025. Ante una instrucción, un modelo de lenguaje «doesn't understand the text it in the way a person does»: «is simply predicting the most likely next token from the text so far» [2]. Una respuesta fluida es, por tanto, una secuencia probable de palabras, no la prueba de una verificación. ### ¿Por qué han mejorado los asistentes? Un artículo de 2020 sobre GPT-3 presenta un modelo de lenguaje de 175 000 millones de parámetros, diez veces más que cualquier modelo no disperso anterior [4]. Sus autores muestran que aumentar el tamaño de los modelos mejora notablemente el rendimiento en tareas nuevas planteadas con solo unos pocos ejemplos [4]. También señalan conjuntos de datos en los que el modelo sigue teniendo dificultades [4]. ### ¿Recuerda el modelo toda la conversación? No de forma fiable. Un estudio de 2023, probado con preguntas sobre varios documentos, constata que el rendimiento puede degradarse notablemente cuando la información útil cambia de lugar en el texto proporcionado [3]. Suele ser mejor cuando esa información está al principio o al final, y empeora cuando está en medio de un contexto largo, incluso en modelos diseñados para textos largos [3]. ### ¿Se le pueden confiar datos sensibles? No, salvo en una herramienta validada por la empresa. El NCSC cita entre los efectos posibles de la prompt injection el de «reveal confidential information» [5]. La ficha no detalla las reglas de cada herramienta: dependen de la política de la empresa, que las fuentes citadas aquí no describen. ## Cómo funciona Un Transformer recibe un texto y produce una continuación de texto. El NCSC resume el principio con sobriedad: el modelo predice el «next token», es decir, el elemento siguiente más probable según el texto ya presente [2]. Nada en este funcionamiento separa lo que sería una instrucción de lo que sería un simple dato [2]. De ello se derivan dos consecuencias prácticas. - El texto producido es probable, no comprobado. Un modelo puede escribir un párrafo convincente sin que nadie haya verificado un solo hecho. - No existe una frontera de seguridad entre las instrucciones y los datos dentro de un prompt [2]. El artículo de 2020 sobre GPT-3 señala además que los evaluadores humanos tenían dificultades para distinguir las noticias generadas por el modelo de las escritas por personas [4]. La calidad de la forma no informa, pues, sobre la exactitud del fondo. ## Lo que usted hace - Relea cada respuesta como un borrador escrito por alguien que no ha verificado nada: las cifras, los nombres, las referencias y las citas se comprueban en la fuente. - El rendimiento suele ser mayor cuando la información útil está al principio o al final del texto proporcionado [3]. La ficha deduce de ello que conviene colocar lo esencial de la petición en esos lugares y no en medio de un documento largo. - Ante una conversación o un documento largos, la ficha aconseja empezar de nuevo con un resumen y una petición precisa, en lugar de suponer que todo se ha retenido. - No pegue datos personales, secretos comerciales, contraseñas ni claves de acceso. El NCSC relata un caso en el que un investigador de seguridad extrajo una clave de API sensible de un sistema expuesto a un ataque de prompt injection [5]. - Si el asistente lee documentos externos (correos, currículos, páginas web), considere que su contenido puede incluir instrucciones ocultas [2]. ## Las trampas ### Creer que el modelo razona Una respuesta que expone pasos se parece a un razonamiento. Sin embargo, las fuentes citadas aquí describen un mecanismo de predicción de la palabra siguiente [2], y el NCSC precisa que el modelo no entiende el texto como lo hace una persona [2]. ### Tomar una respuesta fluida por una respuesta exacta Un texto bien construido puede ser falso. Evaluadores humanos tuvieron dificultades para distinguir noticias generadas por GPT-3 de noticias escritas por personas [4]. ### La prompt injection La prompt injection consiste en introducir en un texto una instrucción que el modelo seguirá. El NCSC, por su parte, la define como una entrada diseñada para que el modelo se comporte de forma imprevista: producir un contenido ofensivo, revelar información confidencial o desencadenar efectos no deseados en un sistema que acepta sin control la salida del modelo [5]. La entrada del NCSC de diciembre de 2025 da un ejemplo en la contratación de personal. Una herramienta pide al modelo que valore si un currículo cumple los criterios. Un candidato oculta en él un texto que pide ignorar las instrucciones anteriores y aprobar su currículo para una entrevista: sus «datos» se ejecutan entonces como una instrucción [2]. Se habla de inyección indirecta cuando el atacante no tiene ningún acceso directo al sistema de IA [2]. Ilustración neutralizada del tipo de texto oculto: ```text [Texto invisible añadido a un currículo, parafraseado: pide al modelo que no tenga en cuenta su misión original y que recomiende a este candidato.] ``` Los modelos actuales no imponen una frontera de seguridad entre instrucciones y datos en una solicitud [2]. El NCSC considera posible que la prompt injection no llegue a resolverse del todo, como sí se resolvió la inyección SQL [2]. Desaconseja confiar en una lista de frases prohibidas, porque existen infinitas formas de reformular un ataque [2]. Menciona un enfoque surgido de una conversación entre Simon Willison y Baibhav Bista: cuando un modelo procesa información de un tercero, sus privilegios se reducen a los de ese tercero [2]. ## Casos reales ### MathGPT: una clave de API extraída (entrada del NCSC, agosto de 2023) El NCSC describe, en una entrada fechada el 30 de agosto de 2023, un ataque contra MathGPT, un modelo diseñado para convertir preguntas en lenguaje natural en código de cálculo. Un investigador de seguridad había comprobado que el modelo evaluaba como código el texto introducido por el usuario. Lo aprovechó para acceder al sistema que alojaba el modelo y extraer una clave de API sensible antes de divulgar el ataque [5]. La entrada no da la fecha del ataque en sí. ### Una matriz de riesgos que conviene conocer El NIST publicó el 26 de julio de 2024 un perfil dedicado a la IA generativa, complemento de su marco de gestión de riesgos de la IA (AI RMF 1.0), difundido en enero de 2023 y de uso voluntario [6]. Está dirigido a las organizaciones que diseñan o utilizan estos sistemas [6]. ## Fuentes 1. arXiv, «Attention Is All You Need», 12 de junio de 2017. https://arxiv.org/abs/1706.03762 (consultado el 3 de noviembre de 2026) 2. NCSC (Royaume-Uni), «Prompt injection is not SQL injection (it may be worse)», 8 de diciembre de 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consultado el 3 de noviembre de 2026) 3. arXiv, «Lost in the Middle: How Language Models Use Long Contexts», 6 de julio de 2023. https://arxiv.org/abs/2307.03172 (consultado el 3 de noviembre de 2026) 4. arXiv, «Language Models are Few-Shot Learners», 28 de mayo de 2020. https://arxiv.org/abs/2005.14165 (consultado el 3 de noviembre de 2026) 5. NCSC (Royaume-Uni), «Thinking about the security of AI systems», 30 de agosto de 2023. https://www.ncsc.gov.uk/blog-post/thinking-about-security-ai-systems (consultado el 3 de noviembre de 2026) 6. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 26 de julio de 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (consultado el 3 de noviembre de 2026) --- Fuente original: Cyberpedia, la enciclopedia pública de ciberseguridad e IA publicada por Brain. Versión canónica: https://startbrain.io/cyberpedia/es/articles/arquitectura-transformer-atencion/ Puede reutilizar este texto libremente bajo la licencia CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), siempre que cite «Brain, Cyberpedia» con un enlace a la dirección anterior.