Carta de utilização da IA: autorizar, enquadrar, proibir
Para que serve uma carta de utilização da IA, o que contém e o que faz antes de abrir uma nova ferramenta de IA generativa.
Nesta página
Em 30 segundos
- Onde acontece
- Sempre que um colaborador usa uma IA generativa para produzir conteúdo, retrabalhar um texto (correção, tradução) ou analisar documentos (triagem, síntese)[2].
- O risco
- Segundo a ANSSI, na maioria dos serviços em linha, os dados enviados são recolhidos e usados pelo fornecedor para otimizar os seus modelos[3].
Do que se trata
Uma carta de utilização da IA é um documento interno que diz aos colaboradores quais as utilizações de IA generativa permitidas e quais as excluídas. A CNIL recomenda enquadrar as utilizações definindo uma lista de utilizações autorizadas e proibidas[1].
Esta ficha organiza essas regras em três colunas: o que é permitido com as ferramentas validadas, o que exige uma autorização, o que é proibido. Indica também o que faz antes de utilizar uma nova ferramenta e a quem dirigir as suas perguntas.
Perguntas diretas
Porquê uma carta?
Segundo a CNIL, é, em regra geral, a organização utilizadora que incorre em responsabilidade legal em caso de má utilização da IA pelo seu pessoal[2]. Recomenda por isso a qualquer organização que enquadre a utilização por políticas ou cartas internas, que definam claramente as utilizações autorizadas e proibidas[2].
O que contém uma carta?
A CNIL dá como exemplos de proibições não fornecer dados pessoais ao sistema e não lhe confiar nenhuma tomada de decisão[1]. Consoante o modo de implementação, convirá também proibir o fornecimento de certos dados confidenciais, por exemplo os abrangidos pelo segredo industrial e comercial[2]. Recomenda formar os utilizadores de forma adequada e realizar controlos regulares[2].
Quem participa na redação?
A CNIL recomenda envolver desde o início todas as partes interessadas: o encarregado da proteção de dados (DPO), o responsável pelos sistemas de informação, o RSSI e os responsáveis das áreas de negócio[1]. O DPO pode desempenhar utilmente um papel de governação, se for caso disso em articulação com o RSSI, e esta designação pode oferecer aos utilizadores um ponto de contacto para reportarem os seus problemas[2].
O regulamento europeu sobre a IA exige formar os colaboradores?
A Comissão Europeia explica que o artigo 4.º do regulamento sobre a IA pede que os fornecedores e os responsáveis pela implantação de sistemas de IA tomem medidas para promover a literacia em matéria de IA do seu pessoal e das outras pessoas que usam esses sistemas em seu nome[4]. Essas medidas têm em conta os conhecimentos técnicos, a experiência, a educação e a formação dessas pessoas[4].
A FAQ precisa que o artigo 4.º não impõe que se meçam os conhecimentos dos colaboradores, nem que se garanta um nível preciso de literacia a cada pessoa[4]. Indica também que nenhum certificado é necessário (a organização pode manter um registo interno das formações) e que nenhuma estrutura de governação particular é imposta[4]. Não fixa nenhum formato de formação obrigatório, mas considera que confiar nos manuais de utilização, ou pedir ao pessoal que os leia, pode ser ineficaz[4].
Segundo a mesma FAQ, o artigo 4.º entrou em aplicação em 2 de fevereiro de 2025[4]. As regras de supervisão e de sanção aplicam-se desde 2 de agosto de 2026, e a supervisão cabe às autoridades nacionais de fiscalização do mercado[4]. O Digital Omnibus sobre a IA, que entrou em vigor em meados de julho de 2026, alterou o artigo 4.º: a obrigação de literacia em matéria de IA mantém-se para os fornecedores e os responsáveis pela implantação, mas não é imposto nenhum nível preciso ou suficiente[4].
Uma empresa cujos colaboradores usam o ChatGPT para redigir ou traduzir está abrangida?
A Comissão responde que sim: esses colaboradores deveriam ser informados dos riscos próprios da ferramenta, por exemplo a alucinação[4].
Posso introduzir dados da empresa num serviço público de IA?
A ANSSI escreve que dados sensíveis não devem em caso algum ser enviados a serviços de IA generativa de terceiros como o ChatGPT, o Gemini, o Copilot, o DeepL ou o Perplexity[3]. Inclui nesses dados as palavras-passe e chaves de API, os dados pessoais e os dados contratuais, jurídicos e financeiros da empresa[3]. O NCSC (Reino Unido) recomenda não incluir informações sensíveis nos pedidos dirigidos aos LLM públicos, nem submeter pedidos que causariam problema se fossem tornados públicos[5].
Como funciona
A CNIL aconselha a partir de uma necessidade concreta, em vez de implementar uma IA generativa sem objetivo preciso[1]. O modo de implementação conta: para utilizações não confidenciais, pode considerar-se um serviço para o grande público, com garantias adequadas. Se a utilização consiste em fornecer dados pessoais ou documentação sensível, parece geralmente mais oportuno e mais seguro, segundo a CNIL, privilegiar uma solução implementada nas instalações da organização, que limita os riscos de extração de dados junto de um terceiro[2]. Com uma API, o controlo do sistema está quase exclusivamente nas mãos do fornecedor, pelo que a indicação é evitar, tanto quanto possível, introduzir nela dados pessoais[2].
Existem referenciais que ajudam as organizações a avaliar estes riscos. O quadro de gestão dos riscos da IA do NIST destina-se a uma utilização voluntária[6]. O seu perfil dedicado à IA generativa, publicado em 26 de julho de 2024, pode ajudar as organizações a identificar os riscos próprios da IA generativa[6].
Quanto às ameaças, o NCSC (Reino Unido) descreve a injeção de prompt, em que um atacante cria uma entrada concebida para que o modelo se comporte de forma imprevista, por exemplo revelando informações confidenciais[7]. A OWASP inclui a divulgação de informações sensíveis entre os riscos dos LLM: dados pessoais, dados financeiros, processos clínicos, dados confidenciais de empresas, credenciais de segurança e documentos jurídicos[8].
O que faz
Permitido com as ferramentas validadas
São as utilizações que a carta enumera, nas ferramentas que a organização escolheu. A CNIL distingue três categorias de tarefas: gerar conteúdo, retrabalhar um conteúdo existente (correção, tradução) e analisar dados (triagem, síntese de documentos)[2]. Dá um exemplo: pôr um assistente conversacional à disposição dos colaboradores para facilitar a redação apresenta menos riscos do que usar um sistema para ajudar a decidir a respeito de clientes, de candidatos ou de cidadãos[2].
Neste quadro, a CNIL indica que os utilizadores deveriam submeter apenas informações que estão autorizados a partilhar e olhar de forma crítica para as respostas: exatidão, plágio, enviesamentos[2]. Segundo ela, uma boa prática consiste em nunca reproduzir tal e qual as respostas do sistema[2].
O que exige uma autorização
A CNIL considera um serviço para o grande público para utilizações não confidenciais, com garantias adequadas: evitar as contas criadas com endereços pessoais e, se for caso disso, desativar a possibilidade de o fornecedor reutilizar os dados de utilização[2]. Quando os dados correm o risco de ser reutilizados pelo fornecedor, a organização faz uma análise caso a caso para saber se proíbe todos os dados pessoais ou apenas certas categorias[2].
Quando uma ferramenta se liga ao correio, aos documentos ou aos repositórios de código, a ANSSI pede que se reveja os seus direitos de acesso logo na ativação e depois regularmente (por exemplo todos os meses)[3].
Proibido
A carta pode proibir, por exemplo, fornecer dados pessoais ao sistema e confiar-lhe uma tomada de decisão[1]. A ANSSI escreve, por seu lado, que os dados sensíveis não devem ser enviados a serviços de IA generativa de terceiros[3]. A CNIL cita entre os dados a proteger os abrangidos pelo segredo comercial ou por obrigações deontológicas, na utilização de um serviço para o grande público[2]. Quanto ao código, a ANSSI recomenda vivamente não mandar uma IA gerar blocos de código destinados aos módulos críticos: criptografia, gestão dos direitos de acesso, tratamento de dados sensíveis[3].
Antes de utilizar uma nova ferramenta
- Verificar se consta da carta e se a utilização prevista nela é permitida.
- Partir do princípio de que o fornecedor reutiliza os dados introduzidos: segundo o NCSC, os pedidos são armazenados e quase certamente usados, em determinado momento, para desenvolver o serviço ou o modelo, daí a necessidade de compreender as condições de utilização e a política de privacidade antes de fazer uma pergunta sensível[5].
- Utilizar uma conta profissional e não um endereço pessoal[2].
- Em caso de dúvida ou de problema, dirigir-se ao ponto de contacto que a organização designou, se existir: a CNIL indica que a designação de um DPO, que pode desempenhar utilmente um papel de governação, se for caso disso em articulação com o RSSI, pode oferecer aos utilizadores um ponto de contacto para reportarem os seus problemas[2].
As armadilhas
Uma resposta plausível não é forçosamente exata: a CNIL observa que estes sistemas podem gerar resultados inexatos que parecem plausíveis, e que uma confiança excessiva, sem verificação, pode levar a decisões erradas[2]. Alerta também para o enviesamento de automatização, isto é, a perda de confiança ou de competência ligada a uma utilização excessiva[2].
Uma pergunta pode ser sensível por causa de quem a faz. O NCSC (Reino Unido) dá o exemplo de um dirigente que perguntasse como despedir um colaborador, e lembra que os pedidos feitos com uma mesma conta podem ser agregados[5].
Uma instrução dada à ferramenta não substitui a regra. A OWASP observa que as restrições colocadas no prompt de sistema podem não ser respeitadas e ser contornadas por injeção de prompt[8].
Por fim, o encargo não deveria recair apenas sobre o utilizador: o NCSC (Reino Unido) escreve que os clientes geralmente não têm a perícia para tratar sozinhos os riscos ligados à IA, e que os programadores deveriam assumir a responsabilidade pela segurança dos seus clientes[7].
Fontes
- CNIL, «Comment déployer une IA générative ? La CNIL apporte de premières précisions», 18 de julho de 2024. https://www.cnil.fr/fr/comment-deployer-une-ia-generative-la-cnil-apporte-de-premieres-precisions (consultado em 14 de novembro de 2026)
- CNIL, «Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative», 18 de julho de 2024. https://www.cnil.fr/fr/les-questions-reponses-de-la-cnil-sur-lutilisation-dun-systeme-dia-generative (consultado em 14 de novembro de 2026)
- ANSSI, «Security recommendations for a generative AI system», 29 de abril de 2024. https://messervices.cyber.gouv.fr/documents-guides/security_recommandations_for_a_generative_ai_system.pdf (consultado em 14 de novembro de 2026)
- Commission européenne, «AI Literacy - Questions & Answers». https://digital-strategy.ec.europa.eu/en/faqs/ai-literacy-questions-answers (consultado em 14 de novembro de 2026)
- NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 de março de 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultado em 14 de novembro de 2026)
- NIST, «AI Risk Management Framework», 26 de janeiro de 2023. https://www.nist.gov/itl/ai-risk-management-framework (consultado em 14 de novembro de 2026)
- NCSC (Royaume-Uni), «AI and cyber security: what you need to know», 13 de fevereiro de 2024. https://www.ncsc.gov.uk/guidance/ai-and-cyber-security-what-you-need-to-know (consultado em 14 de novembro de 2026)
- OWASP, «LLM02:2025 Sensitive Information Disclosure». https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado em 14 de novembro de 2026)
Citar este artigo
Brain, «Carta de utilização da IA: autorizar, enquadrar, proibir», Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp314_pt_2026,
author = {Brain},
title = {Carta de utilização da IA: autorizar, enquadrar, proibir},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/pt/articles/carta-utilizacao-ia-empresa/},
note = {CC BY 4.0}
}