El Transformer y el mecanismo de atención
El Transformer, descrito en junio de 2017: qué cambia para un empleado esta arquitectura basada en la atención, sus límites y la prompt injection.
En 30 segundos
- Dónde ocurre
- Cada vez que se hace una pregunta a un asistente de IA, ya sea para resumir un documento, redactar un correo o traducir.
- Qué conviene saber
- El modelo predice la palabra siguiente más probable2. La ficha extrae de ello un consejo: verificar lo que escribe.
- Los límites
- En un texto largo, no aprovecha todas las partes con la misma fiabilidad3.
- El reflejo
- Releer y verificar toda respuesta antes de usarla, y no pegar nunca datos confidenciales en una herramienta que la empresa no haya validado.
- Si ya lo ha hecho
- Avisar a su responsable o al equipo de seguridad, sin esperar a ver una consecuencia.
De qué se trata
El Transformer, una arquitectura de modelo, se describió por primera vez en un artículo de investigación presentado el 12 de junio de 2017 con el título «Attention Is All You Need»1.
Conocer las grandes líneas de esta arquitectura ayuda a ajustar su uso: saber qué hace realmente la herramienta con un texto, por qué una respuesta bien redactada puede ser falsa y qué es mejor no confiarle.
Preguntas directas
¿De dónde viene el Transformer?
El artículo fundacional se presentó el 12 de junio de 20171. Sus autores proponen una arquitectura de red que describen como «new simple network architecture, the Transformer, based solely on attention mechanisms, dispensing with recurrence and convolutions entirely»1. Antes de él, los modelos dominantes para procesar secuencias de palabras se basaban en las llamadas redes recurrentes o convolucionales1.
Los resultados anunciados se referían a la traducción automática. El modelo alcanzó 28,4 BLEU en la tarea de inglés a alemán de WMT 2014, y 41,8 BLEU en la de inglés a francés tras 3,5 días de entrenamiento con ocho GPU1. Los autores indican además que el modelo es más fácil de paralelizar y requiere bastante menos tiempo de entrenamiento1.
¿Qué es la atención?
La atención es el mecanismo que los autores sitúan en el centro de la arquitectura: los mejores modelos de la época ya conectaban el codificador y el decodificador mediante un mecanismo de atención, y el Transformer se apoya únicamente en ese principio1. Para un lector no especialista, la imagen útil es la de una lectura en la que cada palabra se relaciona con las demás palabras del texto, en lugar de una lectura estrictamente palabra por palabra. Esta imagen es una simplificación: la ficha no entra en el cálculo, y las fuentes citadas aquí no lo detallan.
¿Entiende este modelo lo que se le escribe?
El Centro Nacional de Ciberseguridad británico (NCSC) responde sobre este punto en una entrada del 8 de diciembre de 2025. Ante una instrucción, un modelo de lenguaje «doesn't understand the text it in the way a person does»: «is simply predicting the most likely next token from the text so far»2. Una respuesta fluida es, por tanto, una secuencia probable de palabras, no la prueba de una verificación.
¿Por qué han mejorado los asistentes?
Un artículo de 2020 sobre GPT-3 presenta un modelo de lenguaje de 175 000 millones de parámetros, diez veces más que cualquier modelo no disperso anterior4. Sus autores muestran que aumentar el tamaño de los modelos mejora notablemente el rendimiento en tareas nuevas planteadas con solo unos pocos ejemplos4. También señalan conjuntos de datos en los que el modelo sigue teniendo dificultades4.
¿Recuerda el modelo toda la conversación?
No de forma fiable. Un estudio de 2023, probado con preguntas sobre varios documentos, constata que el rendimiento puede degradarse notablemente cuando la información útil cambia de lugar en el texto proporcionado3. Suele ser mejor cuando esa información está al principio o al final, y empeora cuando está en medio de un contexto largo, incluso en modelos diseñados para textos largos3.
¿Se le pueden confiar datos sensibles?
No, salvo en una herramienta validada por la empresa. El NCSC cita entre los efectos posibles de la prompt injection el de «reveal confidential information»5. La ficha no detalla las reglas de cada herramienta: dependen de la política de la empresa, que las fuentes citadas aquí no describen.
1Cómo funciona1 min
Un Transformer recibe un texto y produce una continuación de texto. El NCSC resume el principio con sobriedad: el modelo predice el «next token», es decir, el elemento siguiente más probable según el texto ya presente2. Nada en este funcionamiento separa lo que sería una instrucción de lo que sería un simple dato2.
De ello se derivan dos consecuencias prácticas.
- El texto producido es probable, no comprobado. Un modelo puede escribir un párrafo convincente sin que nadie haya verificado un solo hecho.
- No existe una frontera de seguridad entre las instrucciones y los datos dentro de un prompt2.
El artículo de 2020 sobre GPT-3 señala además que los evaluadores humanos tenían dificultades para distinguir las noticias generadas por el modelo de las escritas por personas4. La calidad de la forma no informa, pues, sobre la exactitud del fondo.
2Lo que usted hace1 min
- Relea cada respuesta como un borrador escrito por alguien que no ha verificado nada: las cifras, los nombres, las referencias y las citas se comprueban en la fuente.
- El rendimiento suele ser mayor cuando la información útil está al principio o al final del texto proporcionado3. La ficha deduce de ello que conviene colocar lo esencial de la petición en esos lugares y no en medio de un documento largo.
- Ante una conversación o un documento largos, la ficha aconseja empezar de nuevo con un resumen y una petición precisa, en lugar de suponer que todo se ha retenido.
- No pegue datos personales, secretos comerciales, contraseñas ni claves de acceso. El NCSC relata un caso en el que un investigador de seguridad extrajo una clave de API sensible de un sistema expuesto a un ataque de prompt injection5.
- Si el asistente lee documentos externos (correos, currículos, páginas web), considere que su contenido puede incluir instrucciones ocultas2.
3Las trampas2 min
Creer que el modelo razona
Una respuesta que expone pasos se parece a un razonamiento. Sin embargo, las fuentes citadas aquí describen un mecanismo de predicción de la palabra siguiente2, y el NCSC precisa que el modelo no entiende el texto como lo hace una persona2.
Tomar una respuesta fluida por una respuesta exacta
Un texto bien construido puede ser falso. Evaluadores humanos tuvieron dificultades para distinguir noticias generadas por GPT-3 de noticias escritas por personas4.
La prompt injection
La prompt injection consiste en introducir en un texto una instrucción que el modelo seguirá. El NCSC, por su parte, la define como una entrada diseñada para que el modelo se comporte de forma imprevista: producir un contenido ofensivo, revelar información confidencial o desencadenar efectos no deseados en un sistema que acepta sin control la salida del modelo5.
La entrada del NCSC de diciembre de 2025 da un ejemplo en la contratación de personal. Una herramienta pide al modelo que valore si un currículo cumple los criterios. Un candidato oculta en él un texto que pide ignorar las instrucciones anteriores y aprobar su currículo para una entrevista: sus «datos» se ejecutan entonces como una instrucción2. Se habla de inyección indirecta cuando el atacante no tiene ningún acceso directo al sistema de IA2.
Ilustración neutralizada del tipo de texto oculto:
[Texto invisible añadido a un currículo, parafraseado: pide al modelo que no tenga en cuenta
su misión original y que recomiende a este candidato.]Los modelos actuales no imponen una frontera de seguridad entre instrucciones y datos en una solicitud2. El NCSC considera posible que la prompt injection no llegue a resolverse del todo, como sí se resolvió la inyección SQL2. Desaconseja confiar en una lista de frases prohibidas, porque existen infinitas formas de reformular un ataque2. Menciona un enfoque surgido de una conversación entre Simon Willison y Baibhav Bista: cuando un modelo procesa información de un tercero, sus privilegios se reducen a los de ese tercero2.
4Casos reales1 min
MathGPT: una clave de API extraída (entrada del NCSC, agosto de 2023)
El NCSC describe, en una entrada fechada el 30 de agosto de 2023, un ataque contra MathGPT, un modelo diseñado para convertir preguntas en lenguaje natural en código de cálculo. Un investigador de seguridad había comprobado que el modelo evaluaba como código el texto introducido por el usuario. Lo aprovechó para acceder al sistema que alojaba el modelo y extraer una clave de API sensible antes de divulgar el ataque5. La entrada no da la fecha del ataque en sí.
Una matriz de riesgos que conviene conocer
El NIST publicó el 26 de julio de 2024 un perfil dedicado a la IA generativa, complemento de su marco de gestión de riesgos de la IA (AI RMF 1.0), difundido en enero de 2023 y de uso voluntario6. Está dirigido a las organizaciones que diseñan o utilizan estos sistemas6.
Ficha
- Identificador
- CP-257
- Ala
- 4. Inteligencia artificial
- Competencia Brain
- Entender la IA (understand_ai)
- Reflejo Brain
- air-038
- Esquema
- G3 · Corte anatómico
- Idiomas
- de, en, es, fr
- Fuentes
- 6 fuentes verificadas el 3 de noviembre de 2026
Fuentes6 fuentes
- arXiv, «Attention Is All You Need», 12 de junio de 2017. https://arxiv.org/abs/1706.03762 (consultado el 3 de noviembre de 2026)
- NCSC (Royaume-Uni), «Prompt injection is not SQL injection (it may be worse)», 8 de diciembre de 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consultado el 3 de noviembre de 2026)
- arXiv, «Lost in the Middle: How Language Models Use Long Contexts», 6 de julio de 2023. https://arxiv.org/abs/2307.03172 (consultado el 3 de noviembre de 2026)
- arXiv, «Language Models are Few-Shot Learners», 28 de mayo de 2020. https://arxiv.org/abs/2005.14165 (consultado el 3 de noviembre de 2026)
- NCSC (Royaume-Uni), «Thinking about the security of AI systems», 30 de agosto de 2023. https://www.ncsc.gov.uk/blog-post/thinking-about-security-ai-systems (consultado el 3 de noviembre de 2026)
- NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 26 de julio de 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (consultado el 3 de noviembre de 2026)
Citar este artículo
Brain, «El Transformer y el mecanismo de atención», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp257_es_2026,
author = {Brain},
title = {El Transformer y el mecanismo de atención},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/es/articles/arquitectura-transformer-atencion/},
note = {CC BY 4.0}
}