Fuga de dados através de uma imagem num assistente de IA
Um texto escondido num e-mail pode levar um assistente de IA a mostrar uma imagem que transporta os seus dados. Casos EchoLeak e GrafanaGhost, defesas.
Nesta página
Em 30 segundos
- Onde acontece
- Quando um assistente de IA lê um conteúdo que não escreveu, por exemplo um correio eletrónico, uma página web ou um documento[3].
- O que pretende o atacante
- Fazer sair dados da empresa para um servidor que controla[2].
- O reflexo
- Só dê ao assistente os dados necessários para a tarefa, porque uma informação fornecida por descuido pode voltar a sair mais tarde nas respostas dele[4].
Do que se trata
No caso do EchoLeak, um assistente de IA deixou sair dados da empresa sem que ninguém clicasse em coisa alguma[1]. Um texto escondido num correio eletrónico ou num documento dá instruções ao assistente[3]. Este mostra então uma imagem cujo endereço contém os dados[3], e a imagem é obtida automaticamente[1].
Dois casos descrevem este mecanismo. No EchoLeak, no Microsoft 365 Copilot, um artigo de investigadores descreve uma exfiltração de dados à distância, sem autenticação, através de um único correio eletrónico armadilhado, explorando imagens obtidas automaticamente[1]. No GrafanaGhost, investigadores divulgaram uma falha que podia levar o assistente do Grafana a mostrar uma imagem externa, a qual enviava dados da empresa ao atacante num parâmetro do endereço[2].
Perguntas diretas
É preciso clicar para os dados saírem?
No EchoLeak, não: o ataque descrito funciona sem interação do utilizador[1]. No GrafanaGhost, o Grafana declarou que a exploração teria exigido uma interação substancial do utilizador[2].
O que é uma injeção de prompt indireta?
Segundo o NCSC (Reino Unido), é o caso em que um atacante sem acesso direto ao sistema de IA escreve algo que acaba tratado pelo sistema e tomado por uma instrução[5]. A OWASP inclui nesta categoria o conteúdo de correios eletrónicos e de anexos tratados por assistentes de IA, bem como o texto escondido em páginas web, documentos ou correios eletrónicos[3].
Porque é que o assistente obedece a um texto que não se vê?
Segundo o NCSC (Reino Unido), os grandes modelos de linguagem atuais não aplicam nenhuma fronteira de segurança entre as instruções e os dados dentro de um prompt[5]. A OWASP acrescenta que as cadeias de tratamento de documentos transmitem muitas vezes ao modelo o texto extraído, sem ter em conta a apresentação, de modo que um texto invisível para o leitor chega ao modelo na mesma[3].
Que dados podem fugir?
A OWASP cita os dados pessoais, as informações financeiras, os registos de saúde, os dados confidenciais da empresa, as credenciais de segurança e os documentos jurídicos[4].
Um filtro de frases suspeitas basta?
Não. Segundo a OWASP, a filtragem das entradas não é uma fronteira de segurança: um atacante pode reformular uma instrução de muitas maneiras que uma lista de bloqueio não reconhece[3]. O NCSC (Reino Unido) alerta também contra o bloqueio de conteúdos conhecidos como maliciosos, porque existe uma infinidade de reformulações de um ataque[5].
Este risco pode desaparecer?
O NCSC (Reino Unido) considera que a injeção de prompt talvez nunca venha a ser totalmente mitigada, e que as equipas de segurança devem saber que continuará a ser um risco residual, gerido pela conceção, pela construção e pela exploração[5].
Na pele do atacante
O atacante não tem acesso ao assistente. Escreve um conteúdo que acabará lido por ele: um correio eletrónico, um documento, uma página[5]. Esconde lá instruções, por exemplo com um texto da cor do fundo, minúsculo, tapado ou colocado fora da página[3].
O objetivo dele é obter dados da empresa num servidor que controla[2]. A OWASP descreve um cenário típico: um assistente pessoal tem acesso à caixa de entrada para resumir os correios eletrónicos recebidos. Um correio eletrónico armadilhado leva-o a percorrer a caixa à procura de informações sensíveis e a transferi-las para o endereço do atacante[6]. Neste cenário, a extensão escolhida pelo programador contém também funções de envio de mensagens, quando a leitura basta para resumir[6].
No EchoLeak, os investigadores descrevem um encadeamento de contornos: o classificador XPIA (Cross Prompt Injection Attempt) da Microsoft, a ocultação das ligações (contornada com a sintaxe Markdown chamada reference-style), as imagens carregadas automaticamente e um proxy do Microsoft Teams autorizado pela política de segurança de conteúdos[1].
O que vê no ecrã
O texto armadilhado não se vê: é esse o princípio[3]. A OWASP assinala que, nos seus mapeamentos de riscos, os utilizadores de uma IA de observabilidade de confiança podiam desencadear a fuga sem o saber[2].
A exfiltração passa por uma imagem. O exemplo da OWASP é uma etiqueta de imagem escondida cujo endereço contém o dado a roubar[3]. Segue-se uma ilustração neutralizada deste princípio, que não funciona:
Ilustração neutralizada, não funcional.
[Texto escondido num correio eletrónico: instrução que pede ao assistente que mostre uma imagem]
No caso GrafanaGhost, o contexto malicioso podia levar o assistente a ignorar as suas salvaguardas e a mostrar uma imagem externa, o que enviava os dados ao atacante como parâmetro do endereço[2].
Por baixo do capôEquipas de TI
O mecanismo assenta em três elementos.
- A imagem é obtida sem ação do utilizador: o EchoLeak explorava imagens carregadas automaticamente[1].
- Os dados viajam no endereço da imagem, como parâmetro do endereço[2].
- A apresentação da resposta do assistente passa a ser o canal de saída: a OWASP classifica nomeadamente o GrafanaGhost no tratamento incorreto das saídas do modelo (LLM05:2025)[2].
As defesas esperadas da empresa incidem sobre estes três pontos.
- Filtrar o que o assistente mostra. No GrafanaGhost, a OWASP recomenda sanear o contexto externo, restringir a apresentação de saída e reforçar a validação dos endereços[2]. A lista de verificação da OWASP pede também um saneamento do HTML e do Markdown na apresentação[3]. Um modelo de salvaguarda pode examinar a resposta antes de a apresentar, nomeadamente para detetar marcação de exfiltração, mas é ele próprio um modelo e pode sofrer uma injeção de prompt[3].
- Limitar os direitos do assistente. Os autores do estudo do EchoLeak tiram como lição o princípio do privilégio mínimo, a defesa em profundidade e testes adversariais contínuos[1]. A OWASP dá exemplos: não oferecer ao agente uma extensão que vá buscar o conteúdo de um endereço web se o sistema não precisar dela, e limitar uma extensão de mensagens à leitura[6]. A OWASP recomenda a aprovação de uma pessoa para as ações de grande impacto[6].
- Separar consoante a proveniência. O NCSC (Reino Unido) cita uma regra simples: quando um modelo trata informações de uma parte, os seus privilégios descem para os dessa parte. Um assistente que trata correios eletrónicos de pessoas externas não deve, portanto, ter acesso a ferramentas privilegiadas[5].
O NCSC (Reino Unido) observa que nenhum produto basta para eliminar a injeção de prompt, e que o melhor que se pode esperar é reduzir a probabilidade ou o impacto[5]. Para o NCSC (Reino Unido), as proteções de conceção deveriam visar mais salvaguardas determinísticas, fora do modelo, que limitem as ações do sistema[5]. A OWASP recomenda testar estas fronteiras com dados fictícios e ferramentas de substituição instrumentadas[3].
Para o colaborador, a OWASP indica que os utilizadores deveriam compreender o risco de fornecer sem querer dados sensíveis, que podem depois aparecer na saída do modelo[4]. Recomenda que se forneçam orientações para evitar a introdução de informações sensíveis[4], e que só se conceda acesso aos dados necessários ao utilizador ou ao processo em causa[4].
AutópsiasCasos reais
EchoLeak no Microsoft 365 Copilot, estudo de setembro de 2025
O EchoLeak tem o identificador CVE-2025-32711. Os investigadores descrevem-no como uma injeção de prompt sem clique no Microsoft 365 Copilot, que permitia uma exfiltração de dados à distância e sem autenticação através de um único correio eletrónico armadilhado[1]. O artigo, depositado no arXiv a 6 de setembro de 2025, foi publicado na AAAI Fall Symposium Series 2025[1].
O encadeamento descrito combina o contorno do classificador XPIA, a sintaxe Markdown reference-style, as imagens carregadas automaticamente e um proxy do Teams autorizado pela política de segurança de conteúdos[1]. Os autores propõem como medidas a partição dos prompts, uma filtragem reforçada das entradas e das saídas, um controlo de acesso baseado na proveniência e políticas de segurança de conteúdos rigorosas[1].
GrafanaGhost, abril de 2026
A OWASP data a divulgação em 7 de abril de 2026 e o reconhecimento de uma correção em 8 de abril[2]. A Noma Security encontrou uma fraqueza nos componentes de IA do Grafana, que permitia apontar o sistema para recursos externos com instruções escondidas[2]. O assistente podia então mostrar uma imagem externa, o que enviava dados da empresa ao atacante como parâmetro do endereço[2].
O Grafana indicou depois que um problema na apresentação das imagens Markdown tinha sido corrigido rapidamente e que a exploração teria exigido uma interação substancial do utilizador[2]. A OWASP especifica que nenhum CVE público foi atribuído e que foi aplicada uma correção parcial ao componente de apresentação[2]. Trata-se de uma divulgação de investigação[2].
ChatGPT e os dados pessoais, maio de 2024
Num artigo depositado a 31 de maio de 2024, o autor relata que o ChatGPT 4 e 4o eram suscetíveis a uma injeção de prompt que permitia a um atacante exfiltrar dados pessoais dos utilizadores[7]. Segundo ele, o ataque aplicava-se sem ferramenta de terceiros e todos os utilizadores eram então afetados[7]. A função de memória do ChatGPT agravava a falha, porque permitia ao atacante fazer vigiar o utilizador para obter os dados pretendidos[7].
Fontes
- arXiv, «EchoLeak: The First Real-World Zero-Click Prompt Injection Exploit in a Production LLM System», 6 de setembro de 2025. https://arxiv.org/abs/2509.10540 (consultado em 14 de novembro de 2026)
- OWASP, «OWASP GenAI Exploit Round-up Report Q1 2026», 14 de abril de 2026. https://genai.owasp.org/2026/04/14/owasp-genai-exploit-round-up-report-q1-2026/ (consultado em 14 de novembro de 2026)
- OWASP, «LLM Prompt Injection Prevention Cheat Sheet». https://cheatsheetseries.owasp.org/cheatsheets/LLM_Prompt_Injection_Prevention_Cheat_Sheet.html (consultado em 14 de novembro de 2026)
- OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado em 14 de novembro de 2026)
- NCSC (Royaume-Uni), «Prompt injection is not SQL injection (it may be worse)», 8 de dezembro de 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consultado em 14 de novembro de 2026)
- OWASP, «LLM06:2025 Excessive Agency», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm062025-excessive-agency/ (consultado em 14 de novembro de 2026)
- arXiv, «Exfiltration of personal information from ChatGPT via prompt injection», 31 de maio de 2024. https://arxiv.org/abs/2406.00199 (consultado em 14 de novembro de 2026)
Citar este artigo
Brain, «Fuga de dados através de uma imagem num assistente de IA», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp284_pt_2026,
author = {Brain},
title = {Fuga de dados através de uma imagem num assistente de IA},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pt/articles/exfiltracao-dados-markdown-assistente-ia/},
note = {CC BY 4.0}
}