--- id: CP-256 slug: funcionamento-llm-proximo-token lang: pt title: Como funciona um grande modelo de linguagem description: Um assistente de IA como o ChatGPT escreve um texto plausível, que ninguém verificou. O que isso muda nas suas respostas, nos seus dados e nas suas regras. canonical_url: https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token/ markdown_url: https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Como funciona um grande modelo de linguagem», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-037 schema: G3 updated: "2026-11-03" translations: pt: https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token/ fr: https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ en: https://startbrain.io/cyberpedia/en/articles/how-llms-work-next-token/ de: https://startbrain.io/cyberpedia/de/articles/funktionsweise-llm-naechstes-token/ es: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ it: https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/ nl: https://startbrain.io/cyberpedia/nl/articles/werking-llm-volgende-token/ sources: - "n": 1 title: Attention Is All You Need publisher: arXiv url: https://arxiv.org/abs/1706.03762 published: "2017-06-12" accessed: "2026-11-03" - "n": 2 title: Language Models are Few-Shot Learners publisher: arXiv url: https://arxiv.org/abs/2005.14165 published: "2020-05-28" accessed: "2026-11-03" - "n": 3 title: Training language models to follow instructions with human feedback publisher: arXiv url: https://arxiv.org/abs/2203.02155 published: "2022-03-04" accessed: "2026-11-03" - "n": 4 title: "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" publisher: arXiv url: https://arxiv.org/abs/1810.04805 published: "2018-10-11" accessed: "2026-11-03" - "n": 5 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 6 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 7 title: "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf published: "2024-01-02" accessed: "2026-11-03" - "n": 8 title: LLMRisks Archive publisher: OWASP url: https://genai.owasp.org/llm-top-10/ accessed: "2026-11-03" - "n": 9 title: OWASP Top 10 for Large Language Model Applications | OWASP Foundation publisher: OWASP url: https://owasp.org/projects/top-10-for-large-language-model-applications accessed: "2026-11-03" --- # Como funciona um grande modelo de linguagem Um grande modelo de linguagem (em inglês LLM, de large language model) é o motor dos assistentes de IA que redigem, resumem ou traduzem um texto. Não consulta um ficheiro de factos. É treinado num corpus de texto muito vasto e escreve prolongando o que lhe é dado: o GPT-3 é descrito como um modelo autorregressivo [2]. Este mecanismo explica o que o colaborador constata no dia a dia: respostas fluidas, muitas vezes certas, por vezes erradas num tom muito seguro. Explica também por que razão é preciso verificar o que a ferramenta escreve e não lhe confiar dados sensíveis. ## Em 30 segundos - Onde acontece: em cada pergunta feita a um assistente de IA, numa ferramenta validada pela empresa ou não. - O que o modelo faz: prolonga um texto, como um modelo autorregressivo [2]. - O que pode correr mal: uma resposta falsa mas plausível, um dado confiado à ferramenta que reaparece noutro lugar, uma instrução escondida num documento que desvia a ferramenta. - O reflexo: reler e verificar toda a resposta que conta, não introduzir nenhum dado sensível ou pessoal numa ferramenta não validada e aplicar a regra de utilização da empresa. - Se já aconteceu: avisar a equipa de segurança da empresa, sem esperar para saber se o dado foi realmente divulgado. ## Perguntas diretas ### Um assistente de IA compreende o que escreve? O que se pode estabelecer é um resultado mensurável: um modelo treinado num grande corpus de texto realiza tarefas de tradução, de perguntas e respostas ou de cálculo com três algarismos a partir de simples exemplos dados no texto do pedido [2]. Fá-lo sem novo treino: as instruções e os exemplos passam unicamente pelo texto [2]. ### Porque escreve por vezes coisas falsas? Os autores do InstructGPT escrevem que aumentar um modelo não o torna melhor a seguir a intenção do utilizador, e que os grandes modelos podem produzir respostas "untruthful, toxic, or simply not helpful to the user" [3]. O projeto OWASP inclui a desinformação ("Misinformation") entre os dez riscos da sua lista de 2025 para as aplicações baseadas num LLM [8]. ### O texto que introduzo pode reaparecer noutro lugar? É um risco reconhecido. A lista OWASP de 2025 contém uma entrada "Sensitive Information Disclosure", a divulgação de informações sensíveis, que diz respeito tanto ao modelo como à aplicação que o rodeia [8]. O relatório do NIST sobre os ataques à aprendizagem automática inclui nas suas palavras-chave a violação da privacidade ("privacy breach"), os grandes modelos de linguagem e os chatbots [7]. Isto justifica a regra: o que se introduz numa ferramenta não validada sai do perímetro que a empresa controla. ### Um documento ou uma página web podem dar ordens à ferramenta? É o risco que a OWASP coloca à cabeça da sua lista de 2025, com o nome "Prompt Injection", a injeção de instruções [8]. O modelo recebe as suas instruções através do texto [2]. Um exemplo neutralizado figura mais abaixo. ### Quem define as regras de utilização? A empresa. As diretrizes do NCSC britânico dirigem-se aos fornecedores de sistemas de IA e observam que estes sistemas têm vulnerabilidades novas, a considerar além das ameaças informáticas habituais [5]. Para o colaborador, isto traduz-se na lista de ferramentas validadas e na política interna da organização. ## Como funciona O Transformer, apresentado em junho de 2017, é uma rede baseada unicamente em mecanismos de atenção, sem recorrência nem convolução [1]. Os seus autores afirmam que é mais paralelizável e exige muito menos tempo de treino [1]. O BERT, publicado em outubro de 2018, é treinado com texto sem etiquetas, tendo em conta o contexto à esquerda e à direita de cada palavra, e depois ajustado a uma tarefa precisa [4]. O GPT-3, publicado em maio de 2020, é um modelo autorregressivo de 175 mil milhões de parâmetros, dez vezes mais do que qualquer modelo não esparso anterior [2]. Os autores do InstructGPT escrevem que estes modelos não estão alinhados com os seus utilizadores ("not aligned with their users") [3]. Para que sigam os pedidos, existe uma segunda etapa. No caso do InstructGPT, anotadores redigiram demonstrações do comportamento pretendido, depois classificaram respostas do modelo, e o modelo foi ajustado por aprendizagem por reforço a partir desse retorno humano [3]. Resultado indicado: avaliadores preferem as respostas do modelo de 1,3 mil milhões de parâmetros às do GPT-3 (175 mil milhões), e a veracidade melhora [3]. Os autores precisam que o modelo "still makes simple mistakes" [3]. ## O que fazer - Trate cada resposta como um rascunho. Verifique números, datas, nomes, referências e citações numa fonte que conheça antes de os retomar num documento, num email ou numa decisão. - Não introduza numa ferramenta não validada nenhum dado pessoal nem nenhum documento confidencial. Se a ferramenta não consta da lista da empresa, abstenha-se. - Antes de colar num assistente um texto recebido do exterior, pergunte-se se pode conter instruções destinadas à máquina e releia o resultado com essa ideia presente. - Dê à ferramenta o mínimo de acesso. A entrada OWASP "Excessive Agency" visa os sistemas a quem se concede alguma iniciativa [8]. Quanto mais acesso um assistente tiver às suas mensagens ou aos seus ficheiros, maior o alcance dos seus erros. - Em caso de dúvida ou de erro, comunique-o à sua equipa de segurança. Exemplo ilustrativo, neutralizado: uma instrução escondida num documento a resumir. ```text [Illustration, texte fictif] Compte rendu de réunion du trimestre... [Passage invisible ou en petits caractères : consigne paraphrasée, demandant à l'assistant d'envoyer le contenu de la conversation vers hxxps://exemple[.]invalid] ``` ## As armadilhas - Um texto fluido pode ser falso: a qualidade da redação nada diz sobre a sua exatidão. - Um modelo maior não resolve tudo. Os autores do InstructGPT escrevem que o tamanho não garante que o modelo siga a intenção do utilizador [3]. - O corpus de treino conta. Os autores do GPT-3 apontam conjuntos de dados em que o modelo tem dificuldades e problemas metodológicos ligados ao treino com grandes corpora da web [2]. - A ferramenta prática mas não validada. Escapa às regras que a empresa fixou para as suas ferramentas de IA, e os seus utilizadores não sabem o que acontece aos dados introduzidos. - O quadro de gestão dos riscos da IA do NIST, publicado a 26 de janeiro de 2023, destina-se a uso voluntário, e a página indica que está em revisão [6]. O NIST acrescentou-lhe, a 26 de julho de 2024, um perfil dedicado à IA generativa [6]. São referências oferecidas às organizações. ## Casos reais ### Maio de 2020: artigos de imprensa difíceis de distinguir No artigo de apresentação do GPT-3, submetido a 28 de maio de 2020, os autores constatam que o modelo pode produzir artigos de imprensa que avaliadores humanos têm dificuldade em distinguir de artigos escritos por pessoas [2]. Indicam que discutem as consequências desta constatação para a sociedade [2]. Para o colaborador, a lição prática é simples: o aspeto de um texto não prova nem o seu autor nem a sua exatidão. ### Novembro de 2023: diretrizes para proteger os sistemas de IA A 27 de novembro de 2023, o NCSC publica na versão 1.0 as suas diretrizes, divididas em quatro etapas: conceção, desenvolvimento, implementação, exploração e manutenção [5]. Visam sistemas que funcionam como previsto, permanecem disponíveis e não revelam dados sensíveis a terceiros não autorizados [5]. O NIST publica, por seu lado, em janeiro de 2024, uma taxonomia dos ataques à aprendizagem automática, acompanhada de um glossário destinado a leitores não especialistas [7]. Quanto à OWASP, o projeto passou de um pequeno grupo de profissionais de segurança em 2023 para mais de 600 peritos colaboradores oriundos de mais de 18 países [9]. ## Fontes 1. arXiv, «Attention Is All You Need», 12 de junho de 2017. https://arxiv.org/abs/1706.03762 (consultado em 3 de novembro de 2026) 2. arXiv, «Language Models are Few-Shot Learners», 28 de maio de 2020. https://arxiv.org/abs/2005.14165 (consultado em 3 de novembro de 2026) 3. arXiv, «Training language models to follow instructions with human feedback», 4 de março de 2022. https://arxiv.org/abs/2203.02155 (consultado em 3 de novembro de 2026) 4. arXiv, «BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding», 11 de outubro de 2018. https://arxiv.org/abs/1810.04805 (consultado em 3 de novembro de 2026) 5. NCSC (Royaume-Uni), «Guidelines for secure AI system development», 27 de novembro de 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (consultado em 3 de novembro de 2026) 6. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado em 3 de novembro de 2026) 7. NIST, «Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations», 2 de janeiro de 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (consultado em 3 de novembro de 2026) 8. OWASP, «LLMRisks Archive». https://genai.owasp.org/llm-top-10/ (consultado em 3 de novembro de 2026) 9. OWASP, «OWASP Top 10 for Large Language Model Applications | OWASP Foundation». https://owasp.org/projects/top-10-for-large-language-model-applications (consultado em 3 de novembro de 2026) --- Fonte original: Cyberpedia, a enciclopédia pública de cibersegurança e IA publicada pela Brain. Versão canónica: https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token/ Pode reutilizar livremente este texto sob a licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), desde que cite «Brain, Cyberpedia» com uma ligação para o endereço acima.