---
id: CP-306
slug: shadow-ia-chatbot-publico-fuga-dados
lang: pt
title: "Shadow IA: colar dados da empresa num chatbot de grande público"
description: Colar um documento de trabalho num chatbot de grande público é confiá-lo a um terceiro. O que dizem o NCSC, a ANSSI e a CNIL, e os gestos certos.
canonical_url: https://startbrain.io/cyberpedia/pt/articles/shadow-ia-chatbot-publico-fuga-dados/
markdown_url: https://startbrain.io/cyberpedia/pt/articles/shadow-ia-chatbot-publico-fuga-dados.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: "Brain, «Shadow IA: colar dados da empresa num chatbot de grande público», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/shadow-ia-chatbot-publico-fuga-dados/ (CC BY 4.0)"
wing: 4
theme: authorized_tools
reflex: air-019
schema: G5
updated: "2026-11-14"
translations:
  pt: https://startbrain.io/cyberpedia/pt/articles/shadow-ia-chatbot-publico-fuga-dados/
  fr: https://startbrain.io/cyberpedia/fr/articles/shadow-ia-chatbot-grand-public-fuite-donnees/
  en: https://startbrain.io/cyberpedia/en/articles/shadow-ai-public-chatbot-data-leak/
  de: https://startbrain.io/cyberpedia/de/articles/shadow-ki-oeffentlicher-chatbot-datenabfluss/
  es: https://startbrain.io/cyberpedia/es/articles/shadow-ia-chatbot-gran-publico-fuga-datos/
  it: https://startbrain.io/cyberpedia/it/articles/shadow-ia-chatbot-grande-pubblico-fuga-dati/
  nl: https://startbrain.io/cyberpedia/nl/articles/shadow-ai-chatbot-groot-publiek-datalek/
  pl: https://startbrain.io/cyberpedia/pl/articles/shadow-ai-ogolnodostepny-chatbot-wyciek-danych/
  ja: https://startbrain.io/cyberpedia/ja/articles/shadow-ai-public-chatbot-data-leak/
sources:
  - "n": 1
    title: "ChatGPT and large language models: what's the risk?"
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk
    published: "2023-03-14"
    accessed: "2026-11-14"
  - "n": 2
    title: Security recommendations for a generative AI system
    publisher: ANSSI
    url: https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf
    published: "2024-04-29"
    accessed: "2026-11-14"
  - "n": 3
    title: "Meet “AI”, your new colleague: Could it expose your company's secrets?"
    publisher: ESET
    url: https://www.welivesecurity.com/2023/05/17/meet-ai-new-colleague-work-company-data/
    published: "2023-05-17"
    accessed: "2026-11-14"
  - "n": 4
    title: Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative
    publisher: CNIL
    url: https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative
    published: "2024-07-18"
    accessed: "2026-11-14"
  - "n": 5
    title: Comment déployer une IA générative ? La CNIL apporte de premières précisions
    publisher: CNIL
    url: https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions
    published: "2024-07-18"
    accessed: "2026-11-14"
  - "n": 6
    title: LLM02:2025 Sensitive Information Disclosure
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/
    published: "2024-04-10"
    accessed: "2026-11-14"
---

# Shadow IA: colar dados da empresa num chatbot de grande público

Um chatbot de grande público responde depressa e não pede nada em troca. Basta colar-lhe uma ata, um excerto de código ou uma lista de clientes para obter um resumo, uma correção ou uma tradução. Este gesto banal tem um efeito que o ecrã não mostra: o texto sai da empresa e chega a um terceiro.

Fala-se de shadow IA quando um colaborador usa assim uma ferramenta de IA que a sua organização não validou. O NCSC (Reino Unido) lembra que o pedido é visível para a organização que fornece o modelo [1]. A ANSSI [2] inclui estes serviços entre aqueles para onde os dados sensíveis não devem ser enviados.

## Em 30 segundos

- Onde acontece: num chatbot aberto ao público, usado fora das ferramentas validadas pela empresa, para resumir, traduzir, corrigir ou escrever código.
- O risco: o que se cola é visível para o fornecedor, que o pode conservar e utilizar [1]. A empresa perde o controlo do dado.
- O reflexo: não colar nada de confidencial num chatbot de grande público [2].

## Perguntas diretas

### O chatbot aprende o que escrevo e repete-o a outros?

O NCSC (Reino Unido) [1] distingue duas coisas. À data do seu artigo (março de 2023), um modelo não acrescenta automaticamente os pedidos ao que sabe: introduzir uma informação não a faz, portanto, entrar no modelo para os outros utilizadores [1]. Em contrapartida, o pedido é visível para a organização que fornece o modelo, fica armazenado e servirá quase de certeza para desenvolver o serviço ou o modelo a dada altura [1]. O fornecedor, os seus parceiros ou os seus subcontratantes poderiam, portanto, ler os pedidos [1].

A ESET [3] acrescenta que a OpenAI introduziu no final de abril de 2023 a possibilidade de desativar o histórico de conversas no ChatGPT. Segundo a OpenAI, citada pela ESET, as conversas iniciadas sem histórico não servem para treinar nem para melhorar os seus modelos [3].

### Que dados nunca devem sair?

A ANSSI [2] afirma que os dados sensíveis não devem em caso algum ser enviados a serviços de IA generativa de terceiros como o ChatGPT, o Gemini, o Copilot, o DeepL (tradução de texto) ou o Perplexity. Cita os dados de difusão restrita ou classificados, os trabalhos de investigação abrangidos pela proteção do potencial científico e técnico da nação, os dados pessoais, os dados contratuais, jurídicos e financeiros da empresa, e os segredos informáticos como as palavras-passe ou as chaves de API [2].

A OWASP [6] apresenta uma lista próxima de informações sensíveis: dados pessoais, informações financeiras, processos clínicos, dados confidenciais da empresa, credenciais de segurança e documentos jurídicos [6].

### Porque é que a ANSSI compara isto a um armazenamento junto de um editor?

Porque, segundo a ANSSI [2], enviar texto, imagens ou documentos para um serviço de IA generativa acessível ao público equivale a depositá-los num espaço de armazenamento pertencente ao editor. O isolamento entre clientes e a proteção da confidencialidade dos dados enviados nem sempre estão ao estado da arte e assentam unicamente na confiança no fornecedor [2]. Com a maioria dos serviços, os dados enviados são recolhidos e utilizados pelo fornecedor para otimizar os seus modelos [2].

### Há uma utilização destas ferramentas que continue a ser aceitável?

A CNIL [4] responde sob condição. Para utilizações não confidenciais, pode considerar-se um serviço de grande público com garantias adequadas, desde que se evitem as contas criadas com endereços pessoais e, se for caso disso, se desative a possibilidade de o fornecedor reutilizar os dados de utilização [4]. Quando se trata de dados pessoais de clientes ou de colaboradores, ou de documentação sensível ou estratégica, a CNIL indica que parece geralmente mais oportuno e mais seguro privilegiar uma implementação nas instalações da organização [4].

## Como funciona

O percurso de um dado colado num chatbot é simples. O texto segue para a organização que fornece o modelo. Esta armazena-o e pode servir-se dele para fazer evoluir o seu serviço [1]. O colaborador não mantém qualquer controlo depois disso: para a ANSSI [2], a empresa cliente não controla o serviço, e é impossível garantir que a confidencialidade dos dados introduzidos satisfaz as suas exigências de segurança [2].

O NCSC (Reino Unido) [1] cita outros riscos. Os pedidos armazenados em linha podem ser pirateados, divulgados ou, mais provavelmente, tornados públicos por acidente, por vezes com informações que permitem identificar o utilizador [1]. O operador do modelo pode também ser adquirido mais tarde por uma organização cuja política de privacidade difere da que estava em vigor quando os dados foram introduzidos [1]. Por fim, a sensibilidade de uma pergunta pode vir da pessoa que a faz ou do momento, e o cruzamento de vários pedidos feitos com a mesma conta diz mais do que cada um deles [1].

A OWASP [6] descreve o outro sentido do risco: um dado confiado sem pensar a um modelo pode vir a sair mais tarde nas suas respostas. Pede aos utilizadores que compreendam este perigo [6].

## O que faz

- Não cole nada de confidencial num chatbot de grande público. A CNIL [4] dá o exemplo dos dados pessoais e dos dados da empresa, sobretudo os abrangidos pelo segredo comercial ou por obrigações deontológicas [4]. O NCSC (Reino Unido) [1] recomenda não incluir informações sensíveis nos pedidos a modelos públicos e não lhes submeter um pedido que causaria problemas se se tornasse público [1].
- Utilize a ferramenta validada pela empresa. A CNIL [5] recomenda enquadrar as utilizações com uma lista de usos autorizados e proibidos, por exemplo não fornecer dados pessoais ao sistema [5]. Recomenda também que as organizações fixem estas utilizações em políticas ou cartas internas [4]. A ESET [3] diz o mesmo: a política da empresa deve definir em que circunstâncias os colaboradores podem usar estas ferramentas [3].
- Releia o que a ferramenta produz antes de o utilizar. Os utilizadores deveriam ter um olhar crítico sobre os resultados, e uma boa prática consiste em nunca os reproduzir tal e qual [4].
- Se o acesso a uma ferramenta passa por uma conta, use o endereço profissional previsto e não um endereço pessoal, no âmbito em que a organização o autorizou [4].

## As armadilhas

A primeira armadilha é a comodidade. A ANSSI [2] observa que estas ferramentas são tão fáceis de usar que a tentação é confiar-lhes dados profissionais, por exemplo para traduzir um texto [2].

A segunda é acreditar que uma configuração basta. Para a OWASP [6], as restrições acrescentadas nas instruções internas de um modelo sobre os tipos de dados a devolver podem atenuar o risco, mas nem sempre são respeitadas e podem ser contornadas por injeção de prompt ou por outros métodos [6]. A opção de desativação do histórico citada acima diz respeito ao treino dos modelos [3]. O NCSC (Reino Unido) lembra, por seu lado, que o pedido é visível para a organização que fornece o modelo [1].

A terceira é pensar que o fornecedor garante a segurança. A ESET [3] lembra que a OpenAI teve de pôr o ChatGPT fora de linha em 20 de março de 2023. A OpenAI indicou em 24 de março que uma falha numa biblioteca de código aberto tinha permitido a alguns utilizadores ver títulos do histórico de outro utilizador ativo, e que as informações de pagamento de 1,2 % dos subscritores do ChatGPT Plus ativos durante uma janela de nove horas tinham podido tornar-se visíveis por erro [3].

A quarta é crer que um conselho geral substitui uma regra. A CNIL [4] precisa que, quando o fornecedor pode reutilizar os dados segundo as suas condições de utilização, a organização decide caso a caso se proíbe qualquer fornecimento de dados ou apenas certas categorias [4]. A regra aplicável ao seu posto é a da sua organização.

## Casos reais

### Samsung, março de 2023: código e uma gravação de reunião no ChatGPT, segundo a ESET

A ESET [3] relata que, no final de março de 2023, o meio sul-coreano The Economist Korea deu conta de três incidentes independentes na Samsung Electronics [3]. Segundo este relato, a empresa tinha pedido aos seus empregados que tivessem cuidado com as informações introduzidas nos pedidos, mas alguns teriam deixado escapar dados internos ao utilizar o ChatGPT [3].

Um empregado teria introduzido um código-fonte defeituoso ligado à base de dados de medição de um equipamento de semicondutores para procurar uma solução [3]. Um segundo teria feito o mesmo com um programa de identificação de equipamentos defeituosos, para obter uma otimização do código [3]. Um terceiro teria carregado as gravações de uma reunião para obter uma ata [3]. A ESET precisa que a Samsung prevê desenvolver o seu próprio serviço de IA interno para ajudar os empregados no seu trabalho [3].

A OWASP [6] cita entre as suas referências um artigo intitulado «Lessons learned from ChatGPT's Samsung leak» [6].

## Fontes

1. NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 de março de 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultado em 14 de novembro de 2026)
2. ANSSI, «Security recommendations for a generative AI system», 29 de abril de 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consultado em 14 de novembro de 2026)
3. ESET, «Meet “AI”, your new colleague: Could it expose your company's secrets?», 17 de maio de 2023. https://www.welivesecurity.com/2023/05/17/meet-ai-new-colleague-work-company-data/ (consultado em 14 de novembro de 2026)
4. CNIL, «Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative», 18 de julho de 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consultado em 14 de novembro de 2026)
5. CNIL, «Comment déployer une IA générative ? La CNIL apporte de premières précisions», 18 de julho de 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consultado em 14 de novembro de 2026)
6. OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado em 14 de novembro de 2026)

---

Fonte original: Cyberpedia, a enciclopédia pública de cibersegurança e IA publicada pela Brain. Versão canónica: https://startbrain.io/cyberpedia/pt/articles/shadow-ia-chatbot-publico-fuga-dados/
Pode reutilizar livremente este texto sob a licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), desde que cite «Brain, Cyberpedia» com uma ligação para o endereço acima.
