Cyberpediapor Brain

Roubo de modelo de IA por pedidos à API

Como um concorrente copia um modelo de IA interrogando a sua API, e o que deve reter um colaborador de uma empresa que o expõe.

Nesta página
  1. 1Em 30 segundos
  2. 2Do que se trata
  3. 3Perguntas diretas
  4. 4Na pele do atacante
  5. 5O que vê no ecrã
  6. 6Por baixo do capô
  7. 7Autópsias
  8. 8Fontes
  9. 9Citar este artigo

Em 30 segundos

Onde acontece
Na API de um modelo oferecido como serviço. Os ataques descritos pela Google visavam os seus modelos Gemini[1].
O que pretende o atacante
Acelerar o desenvolvimento do seu próprio modelo, depressa e a um custo bastante mais baixo, aproveitando o que um modelo maduro aprendeu[1].
Quem é afetado
Os editores de modelos e os fornecedores de serviços de IA. O utilizador comum, em geral, não está exposto a um risco[1].
O reflexo
Se a sua empresa fornece um modelo de IA como serviço, vigiar o acesso à API para detetar padrões de extração ou de destilação[1] e limitar o número de pedidos que uma mesma origem pode enviar[4].
Mapa do artigo

Do que se trata

Um modelo de IA oferecido como serviço pode ser copiado sem que nenhum servidor seja pirateado. Segundo o Google Threat Intelligence Group (GTIG), há atores que usam um acesso legítimo à API para tentar clonar certas capacidades de um modelo, quando antes era preciso uma intrusão informática clássica para roubar segredos industriais[1]. O princípio tem dois tempos: interrogar o modelo de forma metódica e, depois, treinar outro modelo com as respostas dele[1].

Esta ficha dirige-se, antes de mais, aos editores de modelos. A Google escreve que outras empresas com modelos de IA provavelmente enfrentarão este problema num futuro próximo[2], e espera ver estes ataques surgir noutros lados à medida que mais organizações expõem os seus modelos aos clientes e ao público[3]. Um colaborador de uma empresa que oferece um modelo aos seus clientes está, por isso, envolvido na vigilância da API e na proteção dos acessos.

Perguntas diretas

O que é um ataque de extração de modelo?

Ocorre quando um adversário usa um acesso legítimo para sondar de forma metódica um modelo de aprendizagem automática maduro, a fim de dele retirar informações que servem para treinar um novo modelo[1]. Para isso, o atacante recorre à destilação de conhecimento, o que explica o nome de «ataques por destilação»[1].

A destilação é sempre um ataque?

Não. É uma técnica corrente para treinar um modelo «aluno» a partir de um modelo «professor» já existente[1]. Consiste muitas vezes em interrogar o professor sobre problemas de um domínio preciso e, depois, afinar o modelo aluno com as respostas (fine-tuning supervisionado)[1]. Existem usos legítimos, e o Google Cloud oferece serviços de destilação[1]. Em contrapartida, destilar os modelos Gemini sem autorização viola as condições de utilização da Google[1].

Um utilizador comum está ameaçado?

A Google indica que estes ataques não representam, em geral, um risco para os utilizadores comuns, porque não ameaçam nem a confidencialidade, nem a disponibilidade, nem a integridade dos serviços de IA[1]. O risco concentra-se nos programadores de modelos e nos fornecedores de serviços[1].

Quem conduz estes ataques?

A Google diz ter observado e mitigado frequentes ataques de extração vindos de entidades do setor privado em todo o mundo e de investigadores que queriam clonar uma lógica proprietária[1]. Em 2025, o grupo não observou nenhum ataque direto contra modelos de ponta por parte dos atores estatais ou das operações de influência que acompanha[1].

O que deve fazer uma empresa que expõe um modelo aos seus clientes?

A Google recomenda às organizações que fornecem modelos de IA como serviço que vigiem o acesso à API para nele detetar padrões de extração ou de destilação[1]. A OWASP acrescenta outras medidas: limitar a taxa de pedidos e fixar quotas por origem, registar a utilização e detetar anomalias, controlar rigorosamente os acessos[4]. Estão detalhadas mais abaixo.

Na pele do atacante

O atacante procura ganhar tempo e dinheiro. A extração seguida de destilação permite-lhe acelerar o desenvolvimento de um modelo depressa e a um custo bastante mais baixo, o que a Google qualifica de roubo de propriedade intelectual[1].

O seu alvo é a lógica proprietária e a formação especializada de um modelo[1]. A Google dá dois exemplos: um modelo personalizado para a análise de dados financeiros, visado por um concorrente comercial que quer criar um produto derivado, e um modelo de programação, visado por um adversário que quer reproduzir as suas capacidades num ambiente sem salvaguardas[1].

Os atacantes procuram também obter a capacidade de raciocínio do Gemini, um alvo frequente[1]. A OWASP descreve uma variante, a replicação funcional: o atacante utiliza o modelo visado para produzir dados de treino sintéticos e, depois, afina outro modelo para obter um equivalente funcional[4].

O que vê no ecrã

Para um utilizador comum, estes ataques não afetam, em geral, nem a confidencialidade, nem a disponibilidade, nem a integridade do serviço[1]. O atacante passa por um acesso legítimo à API[1]. É por isso que a Google recomenda aos fornecedores que vigiem esse acesso para nele detetar padrões de extração[1], e que a OWASP recomenda monitorizar de forma contínua a utilização dos recursos e registar para detetar padrões invulgares[4].

Por baixo do capôEquipas de TI

O mecanismo segue o da destilação legítima. O atacante envia ao modelo professor perguntas sobre um domínio, recolhe as respostas e usa-as depois para treinar o seu modelo aluno[1].

Os vestígios de raciocínio internos do Gemini são normalmente resumidos antes de serem entregues ao utilizador. Alguns atacantes tentaram forçar o modelo a produzir os processos de raciocínio completos[1].

A OWASP classifica a extração de modelo pela API entre as formas de consumo ilimitado: o atacante interroga a API com entradas cuidadosamente concebidas e técnicas de injeção de prompt, para recolher respostas suficientes para reproduzir um modelo parcial ou criar um modelo-sombra («shadow model»)[4]. Além da cópia, a OWASP observa que a extração prejudica a integridade do modelo de origem[4].

As medidas de defesa que a OWASP indica para este risco são as seguintes[4]:

  • limitar o tamanho das entradas;
  • restringir ou ocultar os parâmetros logit_bias e logprobs nas respostas da API;
  • aplicar uma limitação da taxa de pedidos e quotas de utilização por origem;
  • registar e monitorizar para detetar consumos invulgares;
  • integrar uma marca de água nas saídas do modelo para detetar a sua utilização não autorizada;
  • treinar os modelos para detetar pedidos adversários e tentativas de extração;
  • pôr em prática controlos de acesso fortes (RBAC, princípio do menor privilégio) para limitar o acesso não autorizado aos repositórios de modelos e aos ambientes de treino.

Por seu lado, a Google indica recorrer a defesas proativas em tempo real, que podem degradar o desempenho do modelo aluno, e lembra que estes ataques podem dar lugar a retiradas (takedowns) e a ações judiciais[1].

Os próprios acessos são um alvo. Para abusar de serviços de IA em grande escala, os atores maliciosos precisam de chaves de API, o que cria um risco de desvio para as organizações com muitos recursos de cloud e de IA[1]. Ferramentas de IA de código aberto vulneráveis são correntemente exploradas para roubar chaves de API, o que alimenta um mercado negro de revenda de acessos e faz recair custos sobre os utilizadores afetados[1]. A OWASP assinala que os métodos de treino e o código-fonte dos modelos proprietários podem ser considerados sensíveis[5]. Além disso, saídas de modelo mal configuradas podem revelar algoritmos ou dados proprietários[5]. O ataque «Proof Pudding» (CVE-2019-20634) é um exemplo: dados de treino divulgados facilitaram a extração e a inversão de um modelo e permitiram contornar filtros de correio eletrónico[5].

AutópsiasCasos reais

12 de fevereiro de 2026: uma campanha de mais de 100 000 pedidos contra o Gemini

A 12 de fevereiro de 2026, o GTIG publica um relatório que descreve ataques de extração contra os modelos Gemini, identificados e perturbados pelo Google DeepMind e pelo GTIG[1]. Provinham de investigadores e de empresas privadas de todo o mundo[1].

Um caso detalhado visava o raciocínio do Gemini. Os atacantes pediam ao modelo que produzisse o seu raciocínio completo, exigindo que a língua do conteúdo de reflexão se mantivesse coerente com a língua principal da entrada[1]. A análise contabilizou mais de 100 000 pedidos (prompts)[1]. Segundo o GTIG, a amplitude das perguntas sugere uma tentativa de reproduzir a capacidade de raciocínio do Gemini em línguas que não o inglês, numa grande variedade de tarefas[1].

Os sistemas da Google reconheceram o ataque em tempo real e reduziram o seu risco, o que protegeu os vestígios de raciocínio internos[1].

Fontes

  1. Google, «GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use», 12 de fevereiro de 2026. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (consultado em 14 de novembro de 2026)
  2. Google, «Our new report details the latest ways threat actors are misusing AI.», 12 de fevereiro de 2026. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (consultado em 14 de novembro de 2026)
  3. Google, «Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration», 19 de fevereiro de 2026. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (consultado em 14 de novembro de 2026)
  4. OWASP, «LLM10:2025 Unbounded Consumption», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (consultado em 14 de novembro de 2026)
  5. OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado em 14 de novembro de 2026)