Tradução automática por IA e contratos confidenciais

Uma ferramenta de tradução por IA em linha recebe o texto que o utilizador cola na sua janela. Um modelo de linguagem trata-o, e o texto sai do posto do colaborador assim que é enviado.

O ponto a verificar é o destino do texto depois da tradução. A OWASP pede aos fornecedores que mantenham políticas claras de conservação, utilização e eliminação dos dados e que permitam aos utilizadores recusar que os seus dados sirvam para treino¹. A OWASP acrescenta que as restrições colocadas nas instruções internas de um modelo nem sempre são respeitadas e podem ser contornadas por injeção de prompt ou por outros métodos¹. Uma promessa do fornecedor não substitui, portanto, um contrato empresarial.

A CNIL recorda que os direitos de acesso, retificação, oposição e apagamento existem, mas que podem ser difíceis de exercer relativamente a um modelo de IA, seja para identificar as pessoas no modelo, seja para o modificar².

Antes de traduzir, o colaborador verifica se a empresa disponibiliza uma ferramenta validada. Se sim, usa-a, e só ela, para qualquer documento profissional.

Sem ferramenta validada, um documento confidencial não se cola num serviço gratuito. O colaborador pede o parecer do responsável pela segurança ou do jurista, ou manda traduzir o documento a um prestador ligado à empresa por contrato.

Para uma passagem não sensível, uma preparação limita a exposição. A OWASP cita a tokenização e a ocultação (redaction) entre as técnicas que servem para limpar informações sensíveis antes do tratamento¹. Manualmente, isto equivale a substituir os nomes, os montantes e as referências por marcadores neutros, por exemplo "[Sociedade A]" e "[Montante]", e a repô-los depois na tradução. Este método não serve para um texto cuja própria estrutura é confidencial.

Depois da tradução, o colaborador relê o resultado. O NIST descreve o risco de conteúdo errado afirmado com segurança³: num contrato, um jurista ou uma pessoa que leia a língua de origem verifica os termos jurídicos, os prazos e os montantes.

Se um texto confidencial já foi colado num serviço não validado, o colaborador comunica-o de imediato, sem esperar para saber se houve algum dano.

• As versões gratuitas: as suas condições de utilização decidem o destino do texto. A OWASP recomenda que as aplicações ofereçam um meio de recusar a reutilização dos dados¹, mas nada garante que um serviço gratuito o proponha.
• As extensões do navegador: as fontes aqui citadas não detalham o seu funcionamento. O colaborador não pode, por isso, presumir que tratam o texto com mais cautela do que um sítio em linha, e valida-as como qualquer outra ferramenta.
• A tradução fluida mas errada: um texto bem escrito não é um texto exato³.
• A anonimização incompleta: retirar um nome não basta se o contexto permitir reconhecer as partes. A CNIL observa que alguns modelos são anónimos e outros não, o que mostra que o anonimato não é adquirido por defeito².
• A confiança nos avisos exibidos: uma regra do tipo "este serviço não guarda nada" só tem valor se constar de um compromisso escrito do fornecedor para com a empresa.
• O esquecimento da obrigação de confidencialidade: um contrato pode proibir a comunicação do seu conteúdo a terceiros. As fontes aqui citadas não detalham estas cláusulas, que se leem no próprio contrato.

A OWASP recomenda que se forneçam instruções para evitar a introdução de informações sensíveis e que se proponha formação sobre boas práticas de interação segura com os LLM¹. Para um colaborador, isto traduz-se numa regra de equipa clara: que ferramenta, para que documentos, com que revisão.