Cyberpediapor Brain
PTDEENESFRITNL

Fine-tuning ou RAG na empresa

Voltar a treinar um modelo (fine-tuning, LoRA) ou dar-lhe documentos para consultar (RAG): a diferença, os riscos e os seus reflexos.

Em 30 segundos

Onde acontece
Nas ferramentas de IA ligadas aos seus documentos.
O que quer o atacante
Introduzir conteúdo armadilhado nos dados (documentos indexados ou dados de treino), ou obter informações que o sistema memorizou ou indexou.
O reflexo
Não introduza dados pessoais ou confidenciais numa ferramenta de IA sem validação e verifique as fontes que a ferramenta cita.
Se já o fez
Avise o responsável pela ferramenta ou a segurança, para que retirem o dado da base ou dos dados de treino.

Do que se trata

Para que um assistente de IA responda sobre temas próprios de uma empresa, existem dois caminhos. O primeiro volta a treinar o modelo com dados internos (fine-tuning). O segundo liga o modelo a documentos que pode consultar: é o RAG, sigla de «retrieval-augmented generation».

O RAG associa uma memória contida no modelo a uma memória externa, por exemplo um índice de documentos1. Os seus autores observam que indicar a origem das respostas de um modelo e atualizar os seus conhecimentos continuam a ser problemas em aberto para os modelos isolados1. Esta ficha explica a diferença e o que faz, como colaborador, com cada uma das abordagens.

Perguntas diretas

Qual é a diferença entre fine-tuning, LoRA e RAG?

O fine-tuning adapta um modelo já treinado a uma tarefa ou a um domínio específico. Na sua versão completa, volta a treinar todos os parâmetros do modelo2. O LoRA é uma variante mais leve. Congela os pesos do modelo original e acrescenta pequenas matrizes treináveis a cada camada, o que reduz muito o número de parâmetros a treinar2. Para o GPT-3 175B, os autores indicam uma redução de 10 000 vezes desse número e de 3 vezes na memória de GPU necessária, em comparação com um fine-tuning completo com Adam2.

O RAG liga o modelo a fontes de conhecimento externas4. A OWASP refere que este acréscimo pode alterar o comportamento do modelo de base sem que tal seja pretendido4.

Que vantagens tem o RAG na empresa?

Parte dos conhecimentos do RAG está numa base de documentos, além dos do modelo: os autores do RAG apresentam a atualização dos conhecimentos e a indicação da proveniência como limites dos modelos isolados, que a memória externa procura superar1. A OWASP aconselha guardar as informações fornecidas pelos utilizadores numa base vetorial, o que permite ajustes sem voltar a treinar todo o modelo3. Por fim, os direitos de acesso podem aplicar-se ao nível da base, desde que esta tenha sido concebida para isso (ver mais abaixo)4.

Quanto ao custo, as fontes do dossiê não comparam diretamente as duas abordagens. Estabelecem apenas que o fine-tuning completo se torna menos viável à medida que os modelos crescem2.

O RAG protege de tudo?

Não. Segundo a OWASP, o RAG e o fine-tuning procuram tornar as respostas mais pertinentes e mais exatas, mas a investigação mostra que não neutralizam por completo a injeção de prompt6.

1Como funciona1 min

Com o RAG, o modelo está ligado a fontes de conhecimento externas, e a OWASP precisa que este aumento por recuperação utiliza mecanismos vetoriais e embeddings4. O modelo combina então a sua memória própria com esta memória externa1.

Com o fine-tuning, os dados passam pelo treino. A OWASP distingue três etapas em que os dados podem ser manipulados: o pré-treino, o fine-tuning e a fase de embedding, em que o texto é convertido em vetores3.

2O que faz1 min
  • Não introduza dados pessoais ou confidenciais numa ferramenta de IA sem validação. A OWASP inclui nas informações sensíveis os dados pessoais, as informações financeiras, os registos de saúde, os dados comerciais confidenciais, as credenciais de segurança e os documentos jurídicos5.
  • Tenha presente que o que escreve pode voltar a surgir mais tarde. A OWASP pede aos utilizadores que compreendam os riscos de fornecer, sem querer, dados sensíveis, que poderiam ser revelados nas respostas do modelo5.
  • Leia as fontes citadas pela ferramenta e confirme que dizem mesmo o que a resposta afirma. A OWASP recomenda validar as saídas do modelo face a fontes fiáveis para detetar um envenenamento3.
  • Verifique se a ferramenta está validada pela sua organização e leia as respetivas condições de utilização: a OWASP pede aos proprietários de aplicações que permitam aos utilizadores recusar que os seus dados entrem no treino5.
  • Comunique uma resposta que contenha informações de outro serviço ou de outro utilizador. A OWASP descreve este caso: uma resposta pode conter os dados pessoais de outro utilizador devido a uma limpeza insuficiente dos dados5.
3As armadilhas2 min

Fuga de dados memorizados

Um modelo exposto a dados sensíveis durante o treino pode devolvê-los. A OWASP cita a inclusão descuidada de dados no treino como causa de divulgação de informações sensíveis5. Cita também o risco de as respostas revelarem dados ou algoritmos proprietários5. Com o RAG, a fuga passa pela base: controlos de acesso insuficientes ou mal alinhados podem permitir que o modelo encontre e divulgue dados pessoais ou proprietários4.

Direitos de acesso mal geridos

Quando vários grupos de utilizadores partilham a mesma base vetorial, as informações de um grupo podem ser devolvidas em resposta às perguntas de outro, com possível fuga de informações comerciais sensíveis4. A OWASP recomenda uma base vetorial que tenha em conta as permissões e uma separação estrita dos conjuntos de dados4.

Envenenamento dos dados

O envenenamento consiste em manipular os dados de pré-treino, de fine-tuning ou de embedding para introduzir falhas, portas dos fundos ou enviesamentos3. Os riscos são maiores com fontes externas, que podem conter conteúdo não verificado ou malicioso3. Uma porta dos fundos pode deixar o comportamento do modelo inalterado até que um gatilho o modifique, o que a torna difícil de detetar3. Para uma base RAG, a OWASP aconselha aceitar dados apenas de fontes fiáveis e verificadas e auditar regularmente a base4.

Injeção de prompt através dos documentos indexados

Uma injeção indireta ocorre quando o modelo aceita entradas vindas de fontes externas, como sites ou ficheiros, cujo conteúdo altera o seu comportamento de forma imprevista6. A OWASP descreve um cenário: um atacante modifica um documento do repositório que uma aplicação RAG utiliza; quando a pergunta de um utilizador faz surgir esse conteúdo, as instruções maliciosas alteram a resposta6.

O exemplo seguinte é uma ilustração neutralizada, inspirada na lógica do cenário da OWASP sobre um CV armadilhado4.

Excerto
Ilustração: um CV carregado numa ferramenta de triagem de candidaturas contém,
em texto branco sobre fundo branco, [uma instrução a pedir que se ignorem as
regras anteriores e que se recomende este candidato]. A ferramenta lê este texto
oculto juntamente com o resto do documento.

Segundo a OWASP, o modelo segue então essas instruções ocultas e recomenda um candidato sem qualificações4. A defesa proposta: ferramentas de extração que ignoram a formatação e detetam o conteúdo oculto, e a validação de qualquer documento antes da sua entrada na base4.

Um quadro de segurança para as equipas que implementam

O NCSC britânico publica diretrizes para os fornecedores de sistemas de IA, para que esses sistemas funcionem como previsto e sem revelar dados sensíveis a terceiros não autorizados7.

Ficha

Identificador
CP-524
Ala
4. Inteligência artificial
Competência Brain
Dominar a IA (master_ai)
Reflexo Brain
air-054
Esquema
G3 · Corte anatómico
Idiomas
de, en, es, fr, it, nl, pt
Fontes
7 fontes verificadas em 3 de novembro de 2026
Fontes7 fontes
  1. arXiv, «Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks», 22 de maio de 2020. https://arxiv.org/abs/2005.11401 (consultado em 3 de novembro de 2026)
  2. arXiv, «LoRA: Low-Rank Adaptation of Large Language Models», 17 de junho de 2021. https://arxiv.org/abs/2106.09685 (consultado em 3 de novembro de 2026)
  3. OWASP, «LLM04:2025 Data and Model Poisoning», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm042025-data-and-model-poisoning/ (consultado em 3 de novembro de 2026)
  4. OWASP, «LLM08:2025 Vector and Embedding Weaknesses», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm082025-vector-and-embedding-weaknesses/ (consultado em 3 de novembro de 2026)
  5. OWASP, «LLM02:2025 Sensitive Information Disclosure», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm022025-sensitive-information-disclosure/ (consultado em 3 de novembro de 2026)
  6. OWASP, «LLM01:2025 Prompt Injection», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (consultado em 3 de novembro de 2026)
  7. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de novembro de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado em 3 de novembro de 2026)

Citar este artigo

Brain, «Fine-tuning ou RAG na empresa», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/fine-tuning-lora-vs-rag-empresa-pt/

BibTeX 
@misc{brain_cp524_pt_2026,
  author = {Brain},
  title = {Fine-tuning ou RAG na empresa},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/pt/articles/fine-tuning-lora-vs-rag-empresa-pt/},
  note = {CC BY 4.0}
}
Licença CC BY 4.0