Cyberpediapor Brain

Carta de utilização da IA: autorizar, enquadrar, proibir

Para que serve uma carta de utilização da IA, o que contém e o que faz antes de abrir uma nova ferramenta de IA generativa.

Nesta página
  1. 1Em 30 segundos
  2. 2Do que se trata
  3. 3Perguntas diretas
  4. 4Como funciona
  5. 5O que faz
  6. 6As armadilhas
  7. 7Fontes
  8. 8Citar este artigo

Em 30 segundos

Onde acontece
Sempre que um colaborador usa uma IA generativa para produzir conteúdo, retrabalhar um texto (correção, tradução) ou analisar documentos (triagem, síntese)[2].
O risco
Segundo a ANSSI, na maioria dos serviços em linha, os dados enviados são recolhidos e usados pelo fornecedor para otimizar os seus modelos[3].
O reflexo
Ler a carta antes de usar uma nova ferramenta e não introduzir nenhum dado sensível num serviço de IA público em linha[3]; em caso de problema, recorrer ao ponto de contacto que a organização possa ter designado para reportar as dificuldades de ordem ética[2].

Do que se trata

Uma carta de utilização da IA é um documento interno que diz aos colaboradores quais as utilizações de IA generativa permitidas e quais as excluídas. A CNIL recomenda enquadrar as utilizações definindo uma lista de utilizações autorizadas e proibidas[1].

Esta ficha organiza essas regras em três colunas: o que é permitido com as ferramentas validadas, o que exige uma autorização, o que é proibido. Indica também o que faz antes de utilizar uma nova ferramenta e a quem dirigir as suas perguntas.

Perguntas diretas

Porquê uma carta?

Segundo a CNIL, é, em regra geral, a organização utilizadora que incorre em responsabilidade legal em caso de má utilização da IA pelo seu pessoal[2]. Recomenda por isso a qualquer organização que enquadre a utilização por políticas ou cartas internas, que definam claramente as utilizações autorizadas e proibidas[2].

O que contém uma carta?

A CNIL dá como exemplos de proibições não fornecer dados pessoais ao sistema e não lhe confiar nenhuma tomada de decisão[1]. Consoante o modo de implementação, convirá também proibir o fornecimento de certos dados confidenciais, por exemplo os abrangidos pelo segredo industrial e comercial[2]. Recomenda formar os utilizadores de forma adequada e realizar controlos regulares[2].

Quem participa na redação?

A CNIL recomenda envolver desde o início todas as partes interessadas: o encarregado da proteção de dados (DPO), o responsável pelos sistemas de informação, o RSSI e os responsáveis das áreas de negócio[1]. O DPO pode desempenhar utilmente um papel de governação, se for caso disso em articulação com o RSSI, e esta designação pode oferecer aos utilizadores um ponto de contacto para reportarem os seus problemas[2].

O regulamento europeu sobre a IA exige formar os colaboradores?

A Comissão Europeia explica que o artigo 4.º do regulamento sobre a IA pede que os fornecedores e os responsáveis pela implantação de sistemas de IA tomem medidas para promover a literacia em matéria de IA do seu pessoal e das outras pessoas que usam esses sistemas em seu nome[4]. Essas medidas têm em conta os conhecimentos técnicos, a experiência, a educação e a formação dessas pessoas[4].

A FAQ precisa que o artigo 4.º não impõe que se meçam os conhecimentos dos colaboradores, nem que se garanta um nível preciso de literacia a cada pessoa[4]. Indica também que nenhum certificado é necessário (a organização pode manter um registo interno das formações) e que nenhuma estrutura de governação particular é imposta[4]. Não fixa nenhum formato de formação obrigatório, mas considera que confiar nos manuais de utilização, ou pedir ao pessoal que os leia, pode ser ineficaz[4].

Segundo a mesma FAQ, o artigo 4.º entrou em aplicação em 2 de fevereiro de 2025[4]. As regras de supervisão e de sanção aplicam-se desde 2 de agosto de 2026, e a supervisão cabe às autoridades nacionais de fiscalização do mercado[4]. O Digital Omnibus sobre a IA, que entrou em vigor em meados de julho de 2026, alterou o artigo 4.º: a obrigação de literacia em matéria de IA mantém-se para os fornecedores e os responsáveis pela implantação, mas não é imposto nenhum nível preciso ou suficiente[4].

Uma empresa cujos colaboradores usam o ChatGPT para redigir ou traduzir está abrangida?

A Comissão responde que sim: esses colaboradores deveriam ser informados dos riscos próprios da ferramenta, por exemplo a alucinação[4].

Posso introduzir dados da empresa num serviço público de IA?

A ANSSI escreve que dados sensíveis não devem em caso algum ser enviados a serviços de IA generativa de terceiros como o ChatGPT, o Gemini, o Copilot, o DeepL ou o Perplexity[3]. Inclui nesses dados as palavras-passe e chaves de API, os dados pessoais e os dados contratuais, jurídicos e financeiros da empresa[3]. O NCSC (Reino Unido) recomenda não incluir informações sensíveis nos pedidos dirigidos aos LLM públicos, nem submeter pedidos que causariam problema se fossem tornados públicos[5].

Como funciona

A CNIL aconselha a partir de uma necessidade concreta, em vez de implementar uma IA generativa sem objetivo preciso[1]. O modo de implementação conta: para utilizações não confidenciais, pode considerar-se um serviço para o grande público, com garantias adequadas. Se a utilização consiste em fornecer dados pessoais ou documentação sensível, parece geralmente mais oportuno e mais seguro, segundo a CNIL, privilegiar uma solução implementada nas instalações da organização, que limita os riscos de extração de dados junto de um terceiro[2]. Com uma API, o controlo do sistema está quase exclusivamente nas mãos do fornecedor, pelo que a indicação é evitar, tanto quanto possível, introduzir nela dados pessoais[2].

Existem referenciais que ajudam as organizações a avaliar estes riscos. O quadro de gestão dos riscos da IA do NIST destina-se a uma utilização voluntária[6]. O seu perfil dedicado à IA generativa, publicado em 26 de julho de 2024, pode ajudar as organizações a identificar os riscos próprios da IA generativa[6].

Quanto às ameaças, o NCSC (Reino Unido) descreve a injeção de prompt, em que um atacante cria uma entrada concebida para que o modelo se comporte de forma imprevista, por exemplo revelando informações confidenciais[7]. A OWASP inclui a divulgação de informações sensíveis entre os riscos dos LLM: dados pessoais, dados financeiros, processos clínicos, dados confidenciais de empresas, credenciais de segurança e documentos jurídicos[8].

O que faz

Permitido com as ferramentas validadas

São as utilizações que a carta enumera, nas ferramentas que a organização escolheu. A CNIL distingue três categorias de tarefas: gerar conteúdo, retrabalhar um conteúdo existente (correção, tradução) e analisar dados (triagem, síntese de documentos)[2]. Dá um exemplo: pôr um assistente conversacional à disposição dos colaboradores para facilitar a redação apresenta menos riscos do que usar um sistema para ajudar a decidir a respeito de clientes, de candidatos ou de cidadãos[2].

Neste quadro, a CNIL indica que os utilizadores deveriam submeter apenas informações que estão autorizados a partilhar e olhar de forma crítica para as respostas: exatidão, plágio, enviesamentos[2]. Segundo ela, uma boa prática consiste em nunca reproduzir tal e qual as respostas do sistema[2].

O que exige uma autorização

A CNIL considera um serviço para o grande público para utilizações não confidenciais, com garantias adequadas: evitar as contas criadas com endereços pessoais e, se for caso disso, desativar a possibilidade de o fornecedor reutilizar os dados de utilização[2]. Quando os dados correm o risco de ser reutilizados pelo fornecedor, a organização faz uma análise caso a caso para saber se proíbe todos os dados pessoais ou apenas certas categorias[2].

Quando uma ferramenta se liga ao correio, aos documentos ou aos repositórios de código, a ANSSI pede que se reveja os seus direitos de acesso logo na ativação e depois regularmente (por exemplo todos os meses)[3].

Proibido

A carta pode proibir, por exemplo, fornecer dados pessoais ao sistema e confiar-lhe uma tomada de decisão[1]. A ANSSI escreve, por seu lado, que os dados sensíveis não devem ser enviados a serviços de IA generativa de terceiros[3]. A CNIL cita entre os dados a proteger os abrangidos pelo segredo comercial ou por obrigações deontológicas, na utilização de um serviço para o grande público[2]. Quanto ao código, a ANSSI recomenda vivamente não mandar uma IA gerar blocos de código destinados aos módulos críticos: criptografia, gestão dos direitos de acesso, tratamento de dados sensíveis[3].

Antes de utilizar uma nova ferramenta

  • Verificar se consta da carta e se a utilização prevista nela é permitida.
  • Partir do princípio de que o fornecedor reutiliza os dados introduzidos: segundo o NCSC, os pedidos são armazenados e quase certamente usados, em determinado momento, para desenvolver o serviço ou o modelo, daí a necessidade de compreender as condições de utilização e a política de privacidade antes de fazer uma pergunta sensível[5].
  • Utilizar uma conta profissional e não um endereço pessoal[2].
  • Em caso de dúvida ou de problema, dirigir-se ao ponto de contacto que a organização designou, se existir: a CNIL indica que a designação de um DPO, que pode desempenhar utilmente um papel de governação, se for caso disso em articulação com o RSSI, pode oferecer aos utilizadores um ponto de contacto para reportarem os seus problemas[2].

As armadilhas

Uma resposta plausível não é forçosamente exata: a CNIL observa que estes sistemas podem gerar resultados inexatos que parecem plausíveis, e que uma confiança excessiva, sem verificação, pode levar a decisões erradas[2]. Alerta também para o enviesamento de automatização, isto é, a perda de confiança ou de competência ligada a uma utilização excessiva[2].

Uma pergunta pode ser sensível por causa de quem a faz. O NCSC (Reino Unido) dá o exemplo de um dirigente que perguntasse como despedir um colaborador, e lembra que os pedidos feitos com uma mesma conta podem ser agregados[5].

Uma instrução dada à ferramenta não substitui a regra. A OWASP observa que as restrições colocadas no prompt de sistema podem não ser respeitadas e ser contornadas por injeção de prompt[8].

Por fim, o encargo não deveria recair apenas sobre o utilizador: o NCSC (Reino Unido) escreve que os clientes geralmente não têm a perícia para tratar sozinhos os riscos ligados à IA, e que os programadores deveriam assumir a responsabilidade pela segurança dos seus clientes[7].

Fontes

  1. CNIL, «Comment déployer une IA générative ? La CNIL apporte de premières précisions», 18 de julho de 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consultado em 14 de novembro de 2026)
  2. CNIL, «Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative», 18 de julho de 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consultado em 14 de novembro de 2026)
  3. ANSSI, «Security recommendations for a generative AI system», 29 de abril de 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consultado em 14 de novembro de 2026)
  4. Commission européenne, «AI Literacy - Questions & Answers». https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers (consultado em 14 de novembro de 2026)
  5. NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 de março de 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultado em 14 de novembro de 2026)
  6. NIST, «AI Risk Management Framework», 26 de janeiro de 2023. https://www.nist.gov/itl/ai-risk-management-framework (consultado em 14 de novembro de 2026)
  7. NCSC (Royaume-Uni), «AI and cyber security: what you need to know», 13 de fevereiro de 2024. https://www.ncsc.gov.uk/guidance/ai-and-cyber-security-what-you-need-to-know (consultado em 14 de novembro de 2026)
  8. OWASP, «LLM02:2025 Sensitive Information Disclosure». https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado em 14 de novembro de 2026)