Cyberpediapor Brain
PTDEENESFRITNL

Como funciona um grande modelo de linguagem

Um assistente de IA como o ChatGPT escreve um texto plausível, que ninguém verificou. O que isso muda nas suas respostas, nos seus dados e nas suas regras.

Em 30 segundos

Onde acontece
Em cada pergunta feita a um assistente de IA, numa ferramenta validada pela empresa ou não.
O que o modelo faz
Prolonga um texto, como um modelo autorregressivo2.
O que pode correr mal
Uma resposta falsa mas plausível, um dado confiado à ferramenta que reaparece noutro lugar, uma instrução escondida num documento que desvia a ferramenta.
O reflexo
Reler e verificar toda a resposta que conta, não introduzir nenhum dado sensível ou pessoal numa ferramenta não validada e aplicar a regra de utilização da empresa.
Se já aconteceu
Avisar a equipa de segurança da empresa, sem esperar para saber se o dado foi realmente divulgado.

Do que se trata

Um grande modelo de linguagem (em inglês LLM, de large language model) é o motor dos assistentes de IA que redigem, resumem ou traduzem um texto. Não consulta um ficheiro de factos. É treinado num corpus de texto muito vasto e escreve prolongando o que lhe é dado: o GPT-3 é descrito como um modelo autorregressivo2.

Este mecanismo explica o que o colaborador constata no dia a dia: respostas fluidas, muitas vezes certas, por vezes erradas num tom muito seguro. Explica também por que razão é preciso verificar o que a ferramenta escreve e não lhe confiar dados sensíveis.

Perguntas diretas

Um assistente de IA compreende o que escreve?

O que se pode estabelecer é um resultado mensurável: um modelo treinado num grande corpus de texto realiza tarefas de tradução, de perguntas e respostas ou de cálculo com três algarismos a partir de simples exemplos dados no texto do pedido2. Fá-lo sem novo treino: as instruções e os exemplos passam unicamente pelo texto2.

Porque escreve por vezes coisas falsas?

Os autores do InstructGPT escrevem que aumentar um modelo não o torna melhor a seguir a intenção do utilizador, e que os grandes modelos podem produzir respostas "untruthful, toxic, or simply not helpful to the user"3. O projeto OWASP inclui a desinformação ("Misinformation") entre os dez riscos da sua lista de 2025 para as aplicações baseadas num LLM8.

O texto que introduzo pode reaparecer noutro lugar?

É um risco reconhecido. A lista OWASP de 2025 contém uma entrada "Sensitive Information Disclosure", a divulgação de informações sensíveis, que diz respeito tanto ao modelo como à aplicação que o rodeia8. O relatório do NIST sobre os ataques à aprendizagem automática inclui nas suas palavras-chave a violação da privacidade ("privacy breach"), os grandes modelos de linguagem e os chatbots7. Isto justifica a regra: o que se introduz numa ferramenta não validada sai do perímetro que a empresa controla.

Um documento ou uma página web podem dar ordens à ferramenta?

É o risco que a OWASP coloca à cabeça da sua lista de 2025, com o nome "Prompt Injection", a injeção de instruções8. O modelo recebe as suas instruções através do texto2. Um exemplo neutralizado figura mais abaixo.

Quem define as regras de utilização?

A empresa. As diretrizes do NCSC britânico dirigem-se aos fornecedores de sistemas de IA e observam que estes sistemas têm vulnerabilidades novas, a considerar além das ameaças informáticas habituais5. Para o colaborador, isto traduz-se na lista de ferramentas validadas e na política interna da organização.

1Como funciona1 min

O Transformer, apresentado em junho de 2017, é uma rede baseada unicamente em mecanismos de atenção, sem recorrência nem convolução1. Os seus autores afirmam que é mais paralelizável e exige muito menos tempo de treino1.

O BERT, publicado em outubro de 2018, é treinado com texto sem etiquetas, tendo em conta o contexto à esquerda e à direita de cada palavra, e depois ajustado a uma tarefa precisa4. O GPT-3, publicado em maio de 2020, é um modelo autorregressivo de 175 mil milhões de parâmetros, dez vezes mais do que qualquer modelo não esparso anterior2.

Os autores do InstructGPT escrevem que estes modelos não estão alinhados com os seus utilizadores ("not aligned with their users")3. Para que sigam os pedidos, existe uma segunda etapa. No caso do InstructGPT, anotadores redigiram demonstrações do comportamento pretendido, depois classificaram respostas do modelo, e o modelo foi ajustado por aprendizagem por reforço a partir desse retorno humano3. Resultado indicado: avaliadores preferem as respostas do modelo de 1,3 mil milhões de parâmetros às do GPT-3 (175 mil milhões), e a veracidade melhora3. Os autores precisam que o modelo "still makes simple mistakes"3.

2O que fazer1 min
  • Trate cada resposta como um rascunho. Verifique números, datas, nomes, referências e citações numa fonte que conheça antes de os retomar num documento, num email ou numa decisão.
  • Não introduza numa ferramenta não validada nenhum dado pessoal nem nenhum documento confidencial. Se a ferramenta não consta da lista da empresa, abstenha-se.
  • Antes de colar num assistente um texto recebido do exterior, pergunte-se se pode conter instruções destinadas à máquina e releia o resultado com essa ideia presente.
  • Dê à ferramenta o mínimo de acesso. A entrada OWASP "Excessive Agency" visa os sistemas a quem se concede alguma iniciativa8. Quanto mais acesso um assistente tiver às suas mensagens ou aos seus ficheiros, maior o alcance dos seus erros.
  • Em caso de dúvida ou de erro, comunique-o à sua equipa de segurança.

Exemplo ilustrativo, neutralizado: uma instrução escondida num documento a resumir.

Excerto
[Illustration, texte fictif] Compte rendu de réunion du trimestre...
[Passage invisible ou en petits caractères : consigne paraphrasée,
demandant à l'assistant d'envoyer le contenu de la conversation
vers hxxps://exemple[.]invalid]
3As armadilhas1 min
  • Um texto fluido pode ser falso: a qualidade da redação nada diz sobre a sua exatidão.
  • Um modelo maior não resolve tudo. Os autores do InstructGPT escrevem que o tamanho não garante que o modelo siga a intenção do utilizador3.
  • O corpus de treino conta. Os autores do GPT-3 apontam conjuntos de dados em que o modelo tem dificuldades e problemas metodológicos ligados ao treino com grandes corpora da web2.
  • A ferramenta prática mas não validada. Escapa às regras que a empresa fixou para as suas ferramentas de IA, e os seus utilizadores não sabem o que acontece aos dados introduzidos.
  • O quadro de gestão dos riscos da IA do NIST, publicado a 26 de janeiro de 2023, destina-se a uso voluntário, e a página indica que está em revisão6. O NIST acrescentou-lhe, a 26 de julho de 2024, um perfil dedicado à IA generativa6. São referências oferecidas às organizações.
4Casos reais1 min

Maio de 2020: artigos de imprensa difíceis de distinguir

No artigo de apresentação do GPT-3, submetido a 28 de maio de 2020, os autores constatam que o modelo pode produzir artigos de imprensa que avaliadores humanos têm dificuldade em distinguir de artigos escritos por pessoas2. Indicam que discutem as consequências desta constatação para a sociedade2. Para o colaborador, a lição prática é simples: o aspeto de um texto não prova nem o seu autor nem a sua exatidão.

Novembro de 2023: diretrizes para proteger os sistemas de IA

A 27 de novembro de 2023, o NCSC publica na versão 1.0 as suas diretrizes, divididas em quatro etapas: conceção, desenvolvimento, implementação, exploração e manutenção5. Visam sistemas que funcionam como previsto, permanecem disponíveis e não revelam dados sensíveis a terceiros não autorizados5. O NIST publica, por seu lado, em janeiro de 2024, uma taxonomia dos ataques à aprendizagem automática, acompanhada de um glossário destinado a leitores não especialistas7. Quanto à OWASP, o projeto passou de um pequeno grupo de profissionais de segurança em 2023 para mais de 600 peritos colaboradores oriundos de mais de 18 países9.

Ficha

Identificador
CP-256
Ala
4. Inteligência artificial
Competência Brain
Perceber a IA (understand_ai)
Reflexo Brain
air-037
Esquema
G3 · Corte anatómico
Idiomas
de, en, es, fr, it, nl, pt
Fontes
9 fontes verificadas em 3 de novembro de 2026
Fontes9 fontes
  1. arXiv, «Attention Is All You Need», 12 de junho de 2017. https://arxiv.org/abs/1706.03762 (consultado em 3 de novembro de 2026)
  2. arXiv, «Language Models are Few-Shot Learners», 28 de maio de 2020. https://arxiv.org/abs/2005.14165 (consultado em 3 de novembro de 2026)
  3. arXiv, «Training language models to follow instructions with human feedback», 4 de março de 2022. https://arxiv.org/abs/2203.02155 (consultado em 3 de novembro de 2026)
  4. arXiv, «BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding», 11 de outubro de 2018. https://arxiv.org/abs/1810.04805 (consultado em 3 de novembro de 2026)
  5. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de novembro de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado em 3 de novembro de 2026)
  6. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado em 3 de novembro de 2026)
  7. NIST, «Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations», 2 de janeiro de 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (consultado em 3 de novembro de 2026)
  8. OWASP, «LLMRisks Archive». https://genai.owasp.org/llm-top-10/ (consultado em 3 de novembro de 2026)
  9. OWASP, «OWASP Top 10 for Large Language Model Applications | OWASP Foundation». https://owasp.org/projects/top-10-for-large-language-model-applications (consultado em 3 de novembro de 2026)

Citar este artigo

Brain, «Como funciona um grande modelo de linguagem», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token/

BibTeX 
@misc{brain_cp256_pt_2026,
  author = {Brain},
  title = {Como funciona um grande modelo de linguagem},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token/},
  note = {CC BY 4.0}
}
Licença CC BY 4.0