Cyberpediapor Brain

Proteger os conectores MCP

Um assistente de IA ligado ao correio eletrónico, aos ficheiros ou às bases de dados age com as suas permissões. Os riscos e os gestos do colaborador.

Nesta página
  1. 1Em 30 segundos
  2. 2Do que se trata
  3. 3Perguntas diretas
  4. 4Como funciona
  5. 5O que faz
  6. 6As armadilhas
  7. 7Fontes
  8. 8Citar este artigo

Em 30 segundos

Onde acontece
Num assistente de IA ligado a um correio eletrónico, a um espaço de ficheiros ou a uma base de dados, através de extensões que o modelo pode chamar para agir na sequência de um pedido[1].
O que o atacante quer
Fazer o assistente agir em seu lugar, através de um conteúdo armadilhado que o assistente lê ou de uma extensão comprometida[1].
O reflexo
Ativar apenas os conectores validados pelo departamento de informática, ler cada pedido de autorização antes de validar, conceder apenas as permissões necessárias e comunicar qualquer comportamento inesperado.
Se já o fez
Retirar o conector ou as permissões concedidas e avisar o departamento de informática sem demora.

Do que se trata

Um assistente de IA torna-se mais útil quando é ligado às suas ferramentas de trabalho: correio eletrónico, ficheiros, bases de dados. Cada ligação dá-lhe também um poder de ação. Com estes conectores, o assistente age com permissões reais.

Esta ficha explica os riscos que a OWASP e o NCSC britânico descrevem para estes assistentes ligados a ferramentas e, depois, o que o colaborador faz do seu lado.

Perguntas diretas

O que torna um conector arriscado?

Um sistema baseado num modelo de linguagem recebe muitas vezes do seu programador a capacidade de chamar funções ou de interagir com outros sistemas, através de extensões, para agir na sequência de um pedido[1]. A OWASP dá o nome de «Excessive Agency» à falha que permite ações danosas em resposta a saídas inesperadas, ambíguas ou manipuladas do modelo, seja qual for a causa do mau funcionamento[1]. A causa de fundo reside, em geral, numa ou mais destas três coisas: funcionalidades a mais, permissões a mais, autonomia a mais[1].

Um assistente pode ser enganado por um simples texto?

Sim. A injeção de prompt é o caso em que um conteúdo modifica o comportamento do modelo de forma não desejada[2]. Na sua forma indireta, o modelo lê uma fonte externa, como um sítio web ou um ficheiro, e esse conteúdo altera o seu comportamento[2]. O NCSC dá o exemplo de um CV que contém um texto escondido a pedir que se ignorem as instruções anteriores e se aprove a candidatura[3]. As instruções não precisam de ser legíveis por uma pessoa, desde que o modelo as analise[2].

Basta uma proteção técnica?

Não. O NCSC escreve que os grandes modelos atuais «simply do not enforce a security boundary between instructions and data inside a prompt»[3]. Considera que os ataques por injeção de prompt poderão nunca ser totalmente atenuados, como o foram as injeções SQL[3]. A OWASP observa que a geração aumentada por recuperação (RAG) e o ajuste fino não eliminam por completo a falha[2]. O risco que subsiste gere-se pela conceção e pela exploração[3].

O que faz o colaborador, concretamente?

Aplica quatro gestos, detalhados mais abaixo: escolher conectores validados, ler as autorizações, limitar as permissões, comunicar. A OWASP situa os controlos de fundo (permissões das ferramentas, controlos nos sistemas a jusante) nas extensões e nos sistemas a jusante[1].

Como funciona

O assistente decide, a partir do pedido e daquilo que lê, que extensão chamar. Os sistemas de agentes chamam o modelo de forma repetida e apoiam-se nas saídas das chamadas anteriores para orientar as seguintes[1]. Um conteúdo armadilhado lido no início de uma cadeia pode, portanto, influenciar as ações seguintes. A OWASP cita, entre os desencadeadores habituais, uma injeção proveniente de um utilizador malicioso, de uma chamada anterior a uma extensão maliciosa ou comprometida ou, nos sistemas multiagente, de um agente par comprometido[1].

O NCSC tira daí a consequência para as ferramentas: quando o sistema chama ferramentas ou API em função da saída do modelo, um atacante pode obrigá-lo a utilizá-las, e o impacto passa a ser o de «whatever the worse case scenario would be of giving an attacker direct access to those tools/APIs»[3]. O NCSC cita também uma regra simples: quando um modelo trata a informação de uma parte, os seus privilégios descem para os dessa parte[3]. Um assistente que lê mensagens de qualquer remetente externo não deveria, por isso, ter acesso a ferramentas privilegiadas[3].

Os modelos e os dados pré-treinados de terceiros são elementos externos que podem ser manipulados por adulteração ou envenenamento[5]. Um atacante pode também comprometer a conta de um fornecedor num repositório de modelos, ou criar uma conta semelhante, e acrescentar-lhe engenharia social[5].

O que faz

  • Instalar apenas os conectores validados pelo departamento de informática. As medidas recomendadas do lado da organização são controlar cuidadosamente os fornecedores, utilizar apenas fornecedores de confiança e utilizar apenas modelos de fontes verificáveis[5]. Um conector encontrado num sítio web ou recebido por mensagem deve ser submetido ao departamento de informática antes de qualquer utilização.
  • Ler o pedido de autorização antes de validar. A OWASP recomenda que uma pessoa aprove as ações de grande impacto antes de serem executadas, por exemplo a publicação de um conteúdo em nome do utilizador[1]. Esta validação só tem valor se a pessoa ler o que aprova: o destinatário e a ação pedida.
  • Nunca conceder mais permissões do que as necessárias. A OWASP dá o exemplo de uma extensão de leitura de mensagens, que não precisa de poder apagar nem enviar mensagens[1]. Quando um conector pede uma ligação, deve preferir-se o nível de acesso mais restrito, por exemplo apenas em leitura[1].
  • Comunicar qualquer comportamento inesperado. A OWASP recomenda registar e monitorizar a atividade das extensões para detetar ações indesejadas e reagir[1]. O NCSC acrescenta que as chamadas de ferramenta ou de API que falham podem revelar as primeiras etapas de um ataque[3]. Uma mensagem estranha, um envio não pedido ou um pedido de acesso invulgar devem ser transmitidos ao departamento de informática.

As armadilhas

Primeira armadilha: acreditar num bloqueio por palavras proibidas. O NCSC alerta contra o «deny-listing», porque existe uma infinidade de maneiras de reformular um ataque para contornar um filtro[3]. Do mesmo modo, convida a desconfiar dos produtos que dizem «parar» a injeção de prompt[3].

Segunda armadilha: confundir um conector útil com um conector proporcionado. A OWASP descreve um programador que só quer ler documentos, mas cuja extensão de terceiros permite também modificá-los e apagá-los[1]. Descreve também uma extensão de leitura que se liga a uma base de dados com uma identidade que tem permissões de leitura, escrita e eliminação[1], e uma extensão que acede aos ficheiros de todos os utilizadores com uma conta privilegiada, quando só deveria agir em nome do utilizador atual[1].

Terceira armadilha: deixar extensões por utilizar. A OWASP cita uma extensão experimentada na fase de desenvolvimento e depois abandonada, que continua, no entanto, disponível para o agente[1].

Quarta armadilha: validar por reflexo. A OWASP descreve um assistente ligado a uma caixa de correio para resumir as mensagens recebidas. Uma mensagem armadilhada leva-o a procurar informações sensíveis na caixa e a reencaminhá-las para o atacante[1]. Entre as medidas de defesa, o utilizador relê e valida manualmente cada mensagem redigida pela extensão antes do envio[1].

Quinta armadilha: acreditar que a rede interna protege. Segundo a Microsoft, o princípio «Zero Trust» assenta em «never trust, always verify»: os acessos são concedidos após verificação, de forma contínua, e tanto os utilizadores como as cargas de trabalho só obtêm o acesso de que precisam, pelo período mais curto[4]. Estes princípios aplicam-se também às cargas de trabalho de IA[4].

As diretrizes do NCSC para o desenvolvimento seguro de sistemas de IA, publicadas a 27 de novembro de 2023, abrangem a conceção, o desenvolvimento, a implementação, depois a exploração e a manutenção, com o registo e a monitorização[6]. Dirigem-se aos fornecedores de sistemas de IA e aos responsáveis pelo risco[6].

Fontes

  1. OWASP, «LLM06:2025 Excessive Agency», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (consultado em 10 de novembro de 2026)
  2. OWASP, «LLM01:2025 Prompt Injection», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (consultado em 10 de novembro de 2026)
  3. NCSC (Royaume-Uni), «Prompt injection is not SQL injection (it may be worse)», 8 de dezembro de 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consultado em 10 de novembro de 2026)
  4. Microsoft, «Zero Trust as a security foundation». https://learn.microsoft.com/en-us/security/zero-trust/zero-trust-overview (consultado em 10 de novembro de 2026)
  5. OWASP, «LLM03:2025 Supply Chain», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm032025-supply-chain/ (consultado em 10 de novembro de 2026)
  6. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de novembro de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado em 10 de novembro de 2026)