Cyberpediapor Brain

Robo de un modelo de IA mediante consultas a la API

Cómo un competidor copia un modelo de IA interrogándolo por su API y qué saca de ello un empleado de una empresa que lo expone.

En esta página
  1. 1En 30 segundos
  2. 2De qué se trata
  3. 3Preguntas directas
  4. 4En la piel del atacante
  5. 5Lo que ve en la pantalla
  6. 6Bajo el capó
  7. 7Autopsias
  8. 8Fuentes
  9. 9Citar este artículo

En 30 segundos

Dónde ocurre
En la API de un modelo ofrecido como servicio. Los ataques descritos por Google iban dirigidos contra sus modelos Gemini[1].
Qué quiere el atacante
Acelerar el desarrollo de su propio modelo, con rapidez y a un coste notablemente más bajo, aprovechando lo que ha aprendido un modelo maduro[1].
Quién se ve afectado
Los proveedores de modelos y de servicios de IA. El usuario corriente, en general, no está expuesto a un riesgo[1].
El reflejo
Si su empresa ofrece un modelo de IA como servicio, vigilar el acceso a la API para detectar patrones de extracción o de destilación[1] y limitar el número de solicitudes que una misma fuente puede enviar[4].
Plano del artículo

De qué se trata

Un modelo de IA ofrecido como servicio puede copiarse sin que se vulnere ningún servidor. Según el Google Threat Intelligence Group (GTIG), algunos actores utilizan un acceso legítimo a la API para intentar clonar ciertas capacidades de un modelo, cuando antes hacía falta una intrusión informática clásica para robar secretos industriales[1]. El principio tiene dos tiempos: interrogar al modelo de forma metódica y después entrenar otro modelo con sus respuestas[1].

Este artículo se dirige en primer lugar a los proveedores de modelos. Google escribe que otras empresas dotadas de modelos de IA probablemente se enfrentarán a ello en un futuro próximo[2], y prevé que estos ataques aparezcan en otros lugares a medida que más organizaciones expongan sus modelos a sus clientes y al público[3]. Un empleado de una empresa que ofrece un modelo a sus clientes se ve, por tanto, afectado por la vigilancia de la API y por la protección de los accesos.

Preguntas directas

¿Qué es un ataque de extracción de modelo?

Ocurre cuando un adversario utiliza un acceso legítimo para sondear de forma metódica un modelo de aprendizaje automático maduro, con el fin de obtener información que sirva para entrenar un modelo nuevo[1]. Para ello el atacante recurre a la destilación de conocimiento, de ahí el nombre de «ataques por destilación»[1].

¿Es la destilación siempre un ataque?

No. Es una técnica habitual para entrenar un modelo «alumno» a partir de un modelo «profesor» ya existente[1]. A menudo consiste en interrogar al profesor sobre problemas de un ámbito concreto y después afinar el modelo alumno con las respuestas (fine-tuning supervisado)[1]. Existen usos legítimos, y Google Cloud ofrece servicios de destilación[1]. En cambio, destilar los modelos Gemini sin autorización infringe las condiciones de uso de Google[1].

¿Corre peligro un usuario corriente?

Google indica que, en general, estos ataques no representan un riesgo para los usuarios corrientes, porque no amenazan ni la confidencialidad, ni la disponibilidad, ni la integridad de los servicios de IA[1]. El riesgo se concentra en los desarrolladores de modelos y en los proveedores de servicios[1].

¿Quién lleva a cabo estos ataques?

Google dice haber observado y mitigado frecuentes ataques de extracción procedentes de entidades del sector privado de todo el mundo y de investigadores que querían clonar una lógica propietaria[1]. En 2025, el grupo no observó ningún ataque directo contra modelos de vanguardia por parte de los actores estatales ni de las operaciones de influencia que sigue[1].

¿Qué debe hacer una empresa que expone un modelo a sus clientes?

Google recomienda a las organizaciones que ofrecen modelos de IA como servicio que vigilen el acceso a la API para detectar patrones de extracción o de destilación[1]. OWASP añade otras medidas: limitar el ritmo de solicitudes y fijar cuotas por fuente, registrar el uso y detectar anomalías, controlar estrictamente los accesos[4]. Se detallan más abajo.

En la piel del atacante

El atacante busca ganar tiempo y dinero. La extracción seguida de una destilación le permite acelerar el desarrollo de un modelo con rapidez y a un coste notablemente más bajo, lo que Google califica de robo de propiedad intelectual[1].

Su objetivo es la lógica propietaria y la formación especializada de un modelo[1]. Google da dos ejemplos: un modelo personalizado para el análisis de datos financieros, al que apunta un competidor comercial que quiere crear un producto derivado, y un modelo de programación, al que apunta un adversario que quiere reproducir sus capacidades en un entorno sin salvaguardas[1].

Los atacantes también intentan obtener la capacidad de razonamiento de Gemini, un objetivo frecuente[1]. OWASP describe una variante, la replicación funcional: el atacante utiliza el modelo objetivo para producir datos de entrenamiento sintéticos y después afina otro modelo para obtener un equivalente funcional[4].

Lo que ve en la pantalla

Para un usuario corriente, estos ataques no afectan, en general, ni a la confidencialidad, ni a la disponibilidad, ni a la integridad del servicio[1]. El atacante pasa por un acceso legítimo a la API[1]. Por eso Google recomienda a los proveedores vigilar ese acceso para detectar patrones de extracción[1], y OWASP recomienda supervisar de forma continua el uso de los recursos y registrar la actividad para detectar patrones inusuales[4].

Bajo el capóEquipos de TI

El mecanismo sigue el de la destilación legítima. El atacante envía al modelo profesor preguntas sobre un ámbito, recoge las respuestas y las utiliza para entrenar su modelo alumno[1].

Las trazas de razonamiento internas de Gemini normalmente se resumen antes de entregarse al usuario. Algunos atacantes intentaron forzar al modelo a producir los procesos de razonamiento completos[1].

OWASP clasifica la extracción de modelo mediante la API entre las formas de consumo sin límites: el atacante consulta la API con entradas cuidadosamente diseñadas y técnicas de inyección de prompt, para reunir suficientes respuestas con las que reproducir un modelo parcial o crear un modelo fantasma («shadow model»)[4]. Más allá de la copia, OWASP señala que la extracción atenta contra la integridad del modelo original[4].

Las medidas de defensa que OWASP nombra para este riesgo son las siguientes[4]:

  • limitar el tamaño de las entradas;
  • restringir u ocultar los parámetros logit_bias y logprobs en las respuestas de la API;
  • aplicar una limitación del ritmo de solicitudes y cuotas de uso por fuente;
  • registrar y supervisar para detectar consumos inusuales;
  • integrar una marca de agua en las salidas del modelo para detectar su uso no autorizado;
  • entrenar los modelos para detectar las solicitudes adversarias y los intentos de extracción;
  • establecer controles de acceso sólidos (RBAC, principio de mínimo privilegio) para limitar el acceso no autorizado a los repositorios de modelos y a los entornos de entrenamiento.

Por su parte, Google indica que recurre a defensas proactivas en tiempo real, que pueden degradar el rendimiento del modelo alumno, y recuerda que estos ataques pueden dar lugar a retiradas y a procesos judiciales[1].

Los propios accesos son un objetivo. Para abusar de servicios de IA a gran escala, los actores maliciosos necesitan claves de API, lo que crea un riesgo de desvío para las organizaciones que disponen de muchos recursos en la nube y de IA[1]. Herramientas de IA de código abierto vulnerables se explotan con frecuencia para robar claves de API, lo que alimenta un mercado negro de reventa de accesos y hace recaer costes sobre los usuarios afectados[1]. OWASP señala que los métodos de entrenamiento y el código fuente de los modelos propietarios pueden considerarse sensibles[5]. Además, unas salidas de modelo mal configuradas pueden revelar algoritmos o datos propietarios[5]. El ataque «Proof Pudding» (CVE-2019-20634) es un ejemplo: unos datos de entrenamiento divulgados facilitaron la extracción y la inversión de un modelo, y permitieron eludir filtros de correo electrónico[5].

AutopsiasCasos reales

12 de febrero de 2026: una campaña de más de 100 000 solicitudes contra Gemini

El 12 de febrero de 2026, el GTIG publica un informe que describe ataques de extracción contra los modelos Gemini, identificados e interrumpidos por Google DeepMind y el GTIG[1]. Procedían de investigadores y de empresas privadas de todo el mundo[1].

Un caso detallado apuntaba al razonamiento de Gemini. Los atacantes pedían al modelo que produjera su razonamiento completo, exigiendo que el idioma del contenido de reflexión se mantuviera coherente con el idioma principal de la entrada[1]. El análisis contabilizó más de 100 000 solicitudes (prompts)[1]. Según el GTIG, la amplitud de las preguntas sugiere un intento de reproducir la capacidad de razonamiento de Gemini en idiomas distintos del inglés, en una gran variedad de tareas[1].

Los sistemas de Google reconocieron el ataque en tiempo real y redujeron su riesgo, lo que protegió las trazas de razonamiento internas[1].

Fuentes

  1. Google, «GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use», 12 de febrero de 2026. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (consultado el 14 de noviembre de 2026)
  2. Google, «Our new report details the latest ways threat actors are misusing AI.», 12 de febrero de 2026. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (consultado el 14 de noviembre de 2026)
  3. Google, «Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration», 19 de febrero de 2026. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (consultado el 14 de noviembre de 2026)
  4. OWASP, «LLM10:2025 Unbounded Consumption», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (consultado el 14 de noviembre de 2026)
  5. OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado el 14 de noviembre de 2026)