Roubo de modelo de IA por pedidos à API
Como um concorrente copia um modelo de IA interrogando a sua API, e o que deve reter um colaborador de uma empresa que o expõe.
Nesta página
Em 30 segundos
- Onde acontece
- Na API de um modelo oferecido como serviço. Os ataques descritos pela Google visavam os seus modelos Gemini[1].
- O que pretende o atacante
- Acelerar o desenvolvimento do seu próprio modelo, depressa e a um custo bastante mais baixo, aproveitando o que um modelo maduro aprendeu[1].
- Quem é afetado
- Os editores de modelos e os fornecedores de serviços de IA. O utilizador comum, em geral, não está exposto a um risco[1].
Do que se trata
Um modelo de IA oferecido como serviço pode ser copiado sem que nenhum servidor seja pirateado. Segundo o Google Threat Intelligence Group (GTIG), há atores que usam um acesso legítimo à API para tentar clonar certas capacidades de um modelo, quando antes era preciso uma intrusão informática clássica para roubar segredos industriais[1]. O princípio tem dois tempos: interrogar o modelo de forma metódica e, depois, treinar outro modelo com as respostas dele[1].
Esta ficha dirige-se, antes de mais, aos editores de modelos. A Google escreve que outras empresas com modelos de IA provavelmente enfrentarão este problema num futuro próximo[2], e espera ver estes ataques surgir noutros lados à medida que mais organizações expõem os seus modelos aos clientes e ao público[3]. Um colaborador de uma empresa que oferece um modelo aos seus clientes está, por isso, envolvido na vigilância da API e na proteção dos acessos.
Perguntas diretas
O que é um ataque de extração de modelo?
Ocorre quando um adversário usa um acesso legítimo para sondar de forma metódica um modelo de aprendizagem automática maduro, a fim de dele retirar informações que servem para treinar um novo modelo[1]. Para isso, o atacante recorre à destilação de conhecimento, o que explica o nome de «ataques por destilação»[1].
A destilação é sempre um ataque?
Não. É uma técnica corrente para treinar um modelo «aluno» a partir de um modelo «professor» já existente[1]. Consiste muitas vezes em interrogar o professor sobre problemas de um domínio preciso e, depois, afinar o modelo aluno com as respostas (fine-tuning supervisionado)[1]. Existem usos legítimos, e o Google Cloud oferece serviços de destilação[1]. Em contrapartida, destilar os modelos Gemini sem autorização viola as condições de utilização da Google[1].
Um utilizador comum está ameaçado?
A Google indica que estes ataques não representam, em geral, um risco para os utilizadores comuns, porque não ameaçam nem a confidencialidade, nem a disponibilidade, nem a integridade dos serviços de IA[1]. O risco concentra-se nos programadores de modelos e nos fornecedores de serviços[1].
Quem conduz estes ataques?
A Google diz ter observado e mitigado frequentes ataques de extração vindos de entidades do setor privado em todo o mundo e de investigadores que queriam clonar uma lógica proprietária[1]. Em 2025, o grupo não observou nenhum ataque direto contra modelos de ponta por parte dos atores estatais ou das operações de influência que acompanha[1].
O que deve fazer uma empresa que expõe um modelo aos seus clientes?
A Google recomenda às organizações que fornecem modelos de IA como serviço que vigiem o acesso à API para nele detetar padrões de extração ou de destilação[1]. A OWASP acrescenta outras medidas: limitar a taxa de pedidos e fixar quotas por origem, registar a utilização e detetar anomalias, controlar rigorosamente os acessos[4]. Estão detalhadas mais abaixo.
Na pele do atacante
O atacante procura ganhar tempo e dinheiro. A extração seguida de destilação permite-lhe acelerar o desenvolvimento de um modelo depressa e a um custo bastante mais baixo, o que a Google qualifica de roubo de propriedade intelectual[1].
O seu alvo é a lógica proprietária e a formação especializada de um modelo[1]. A Google dá dois exemplos: um modelo personalizado para a análise de dados financeiros, visado por um concorrente comercial que quer criar um produto derivado, e um modelo de programação, visado por um adversário que quer reproduzir as suas capacidades num ambiente sem salvaguardas[1].
Os atacantes procuram também obter a capacidade de raciocínio do Gemini, um alvo frequente[1]. A OWASP descreve uma variante, a replicação funcional: o atacante utiliza o modelo visado para produzir dados de treino sintéticos e, depois, afina outro modelo para obter um equivalente funcional[4].
O que vê no ecrã
Para um utilizador comum, estes ataques não afetam, em geral, nem a confidencialidade, nem a disponibilidade, nem a integridade do serviço[1]. O atacante passa por um acesso legítimo à API[1]. É por isso que a Google recomenda aos fornecedores que vigiem esse acesso para nele detetar padrões de extração[1], e que a OWASP recomenda monitorizar de forma contínua a utilização dos recursos e registar para detetar padrões invulgares[4].
Por baixo do capôEquipas de TI
O mecanismo segue o da destilação legítima. O atacante envia ao modelo professor perguntas sobre um domínio, recolhe as respostas e usa-as depois para treinar o seu modelo aluno[1].
Os vestígios de raciocínio internos do Gemini são normalmente resumidos antes de serem entregues ao utilizador. Alguns atacantes tentaram forçar o modelo a produzir os processos de raciocínio completos[1].
A OWASP classifica a extração de modelo pela API entre as formas de consumo ilimitado: o atacante interroga a API com entradas cuidadosamente concebidas e técnicas de injeção de prompt, para recolher respostas suficientes para reproduzir um modelo parcial ou criar um modelo-sombra («shadow model»)[4]. Além da cópia, a OWASP observa que a extração prejudica a integridade do modelo de origem[4].
As medidas de defesa que a OWASP indica para este risco são as seguintes[4]:
- limitar o tamanho das entradas;
- restringir ou ocultar os parâmetros
logit_biaselogprobsnas respostas da API; - aplicar uma limitação da taxa de pedidos e quotas de utilização por origem;
- registar e monitorizar para detetar consumos invulgares;
- integrar uma marca de água nas saídas do modelo para detetar a sua utilização não autorizada;
- treinar os modelos para detetar pedidos adversários e tentativas de extração;
- pôr em prática controlos de acesso fortes (RBAC, princípio do menor privilégio) para limitar o acesso não autorizado aos repositórios de modelos e aos ambientes de treino.
Por seu lado, a Google indica recorrer a defesas proativas em tempo real, que podem degradar o desempenho do modelo aluno, e lembra que estes ataques podem dar lugar a retiradas (takedowns) e a ações judiciais[1].
Os próprios acessos são um alvo. Para abusar de serviços de IA em grande escala, os atores maliciosos precisam de chaves de API, o que cria um risco de desvio para as organizações com muitos recursos de cloud e de IA[1]. Ferramentas de IA de código aberto vulneráveis são correntemente exploradas para roubar chaves de API, o que alimenta um mercado negro de revenda de acessos e faz recair custos sobre os utilizadores afetados[1]. A OWASP assinala que os métodos de treino e o código-fonte dos modelos proprietários podem ser considerados sensíveis[5]. Além disso, saídas de modelo mal configuradas podem revelar algoritmos ou dados proprietários[5]. O ataque «Proof Pudding» (CVE-2019-20634) é um exemplo: dados de treino divulgados facilitaram a extração e a inversão de um modelo e permitiram contornar filtros de correio eletrónico[5].
AutópsiasCasos reais
12 de fevereiro de 2026: uma campanha de mais de 100 000 pedidos contra o Gemini
A 12 de fevereiro de 2026, o GTIG publica um relatório que descreve ataques de extração contra os modelos Gemini, identificados e perturbados pelo Google DeepMind e pelo GTIG[1]. Provinham de investigadores e de empresas privadas de todo o mundo[1].
Um caso detalhado visava o raciocínio do Gemini. Os atacantes pediam ao modelo que produzisse o seu raciocínio completo, exigindo que a língua do conteúdo de reflexão se mantivesse coerente com a língua principal da entrada[1]. A análise contabilizou mais de 100 000 pedidos (prompts)[1]. Segundo o GTIG, a amplitude das perguntas sugere uma tentativa de reproduzir a capacidade de raciocínio do Gemini em línguas que não o inglês, numa grande variedade de tarefas[1].
Os sistemas da Google reconheceram o ataque em tempo real e reduziram o seu risco, o que protegeu os vestígios de raciocínio internos[1].
Fontes
- Google, «GTIG AI Threat Tracker: Distillation, Experimentation, and (Continued) Integration of AI for Adversarial Use», 12 de fevereiro de 2026. https://cloud.google.com/blog/topics/threat-intelligence/distillation-experimentation-integration-ai-adversarial-use (consultado em 14 de novembro de 2026)
- Google, «Our new report details the latest ways threat actors are misusing AI.», 12 de fevereiro de 2026. https://blog.google/innovation-and-ai/infrastructure-and-cloud/google-cloud/gtig-report-ai-cyber-attacks-feb-2026/ (consultado em 14 de novembro de 2026)
- Google, «Cloud CISO Perspectives: New AI threats report: Distillation, experimentation, and integration», 19 de fevereiro de 2026. https://cloud.google.com/blog/products/identity-security/cloud-ciso-perspectives-new-ai-threats-report-distillation-experimentation-integration (consultado em 14 de novembro de 2026)
- OWASP, «LLM10:2025 Unbounded Consumption», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (consultado em 14 de novembro de 2026)
- OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado em 14 de novembro de 2026)
Citar este artigo
Brain, «Roubo de modelo de IA por pedidos à API», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp290_pt_2026,
author = {Brain},
title = {Roubo de modelo de IA por pedidos à API},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pt/articles/model-extraction-roubo-modelo-ia/},
note = {CC BY 4.0}
}