Cyberpediapor Brain

Janela de contexto: a memória de trabalho de uma IA

A janela de contexto limita o que um assistente de IA lê de uma só vez. O que lê mal e os gestos simples para a aproveitar melhor.

Nesta página
  1. 1Em 30 segundos
  2. 2Do que se trata
  3. 3Perguntas diretas
  4. 4Como funciona
  5. 5O que faz
  6. 6As armadilhas
  7. 7Fontes
  8. 8Citar este artigo

Em 30 segundos

Onde acontece
Em qualquer conversa com um assistente de IA, assim que se cola um documento longo ou se dão várias instruções.
O que se passa
O modelo trabalha dentro de um limite de texto e, mesmo dentro desse limite, pode usar mal uma informação colocada a meio de um texto longo[3].
O reflexo
Dividir a tarefa, colocar a instrução no início e repeti-la no fim, depois verificar a resposta[5].
Se já o fez
Releia a resposta com o texto original à frente, ponto por ponto.

Do que se trata

Quando faz uma pergunta a um assistente de IA, este responde a partir da informação que lhe é transmitida: a Google chama a essa informação o contexto[2]. A quantidade de texto que o modelo pode ter em conta de uma só vez chama-se janela de contexto. A Google compara-a à memória de curto prazo: uma pessoa só consegue reter uma quantidade limitada de informação, e o mesmo se passa com os modelos generativos[2].

Esta janela mede-se em tokens, não em páginas. Os modelos recentes aumentaram-na muito, mas há investigações que mostram que uma janela grande não garante uma leitura fiável de tudo o que contém[3][4]. Esta ficha explica o que o colaborador deve reter e os gestos que limitam os erros.

Perguntas diretas

O que é um token?

Um modelo de linguagem começa por dividir o texto em unidades chamadas tokens: palavras, grupos de caracteres, ou combinações de palavras e de pontuação[1]. O método de divisão varia consoante o modelo. Os modelos GPT da OpenAI usam, por exemplo, uma divisão em subpalavras[1]. A Microsoft observa que as palavras correntes de várias sílabas cabem muitas vezes num único token, ao passo que as palavras mais raras são cortadas em sílabas[5].

O que é a janela de contexto?

É o número máximo de tokens que o modelo pode processar[1]. Este limite exprime-se muitas vezes como uma janela combinada, que cobre em conjunto os tokens de entrada (o que escreve) e os de saída (o que o modelo produz)[1]. Quanto mais longa é a entrada, menos espaço resta para a saída.

A Microsoft dá um exemplo com números: com uma janela de 100 tokens e uma frase de nove palavras dividida palavra a palavra, a entrada ocupa nove tokens e restam 91 para a saída. Dividida caráter a caráter, a mesma frase ocupa 34 e restam apenas 66[1].

Qual é hoje o tamanho de uma janela?

Segundo a Google, a maior parte dos modelos generativos criados nos últimos anos só processava 8 000 tokens de cada vez, e depois modelos mais recentes passaram a aceitar 32 000 ou 128 000 tokens[2]. A Google indica que o Gemini aceita 1 milhão de tokens, o que corresponde a 8 romances ingleses de extensão média ou a 50 000 linhas de código[2].

O modelo guarda em memória o que lhe forneci?

Os exemplos que se incluem numa instrução não alteram o modelo de forma duradoura: orientam-no apenas para a resposta em curso[5]. A Google descreve métodos que se usavam para gerir janelas estreitas: abandonar as mensagens antigas à medida que chegam novas, ou substituí-las por um resumo quando a janela está quase cheia[2].

Uma janela grande evita os erros?

Não. Investigadores testaram vários modelos, entre os quais Claude 3, Gemini Pro, GPT 3.5 Turbo, Llama 3 Instruct e Mistral Instruct, na análise de sentimento e na classificação de artigos de imprensa. Relatam que os modelos se mostram insuficientes perante sequências longas, apesar das suas grandes janelas[4]. A Google reconhece também um limite: quando se procuram várias informações precisas num contexto longo, o modelo não atinge a mesma exatidão que para uma só, e o desempenho pode variar muito consoante o contexto[2].

Como funciona

A Microsoft lembra que, seja qual for a instrução, o modelo responde com o que considera mais provável com base nos seus dados de treino, e que não segue um caminho de processamento distinto para as perguntas[5].

A posição da informação conta. O estudo «Lost in the Middle», submetido em julho de 2023, mediu o desempenho de modelos em duas tarefas: responder a uma pergunta a partir de vários documentos e encontrar um valor associado a uma chave. Os autores observam que o desempenho é muitas vezes melhor quando a informação útil se encontra no início ou no fim do texto fornecido, e que se degrada nitidamente quando se encontra a meio, incluindo em modelos concebidos para contextos longos[3].

A Microsoft descreve, por seu lado, um viés de recência: a informação no fim da instrução pode influenciar mais a resposta do que a do início[5]. A Microsoft especifica também que a ordem dos elementos pode alterar o resultado, incluindo a ordem dos exemplos dados ao modelo[5].

O comprimento tem um custo. Os serviços de IA generativa faturam muitas vezes ao token e aplicam um número máximo de tokens por minuto[1]. Para uma organização que explora um assistente, a OWASP classifica entre os riscos o envio contínuo de entradas que excedem a janela de contexto, o que pode provocar um consumo excessivo de recursos e degradar o serviço[7]. A OWASP recomenda uma validação rigorosa das entradas, para que não excedam limites de tamanho razoáveis[7].

O que faz

  • Divida a tarefa. A Microsoft indica que os modelos de linguagem têm muitas vezes melhores resultados quando a tarefa é dividida em etapas mais pequenas, por exemplo extrair primeiro os factos pertinentes e depois redigir o resto[5].
  • Coloque a instrução no início e repita-a no fim. A Microsoft indica que enunciar a tarefa no início da instrução, antes do contexto e dos exemplos, pode ajudar a obter melhores saídas, e que repetir as instruções no fim da instrução vale a pena experimentar[5]. A Microsoft acrescenta que os seus testes com o ChatGPT e o GPT-4 deram a mesma resposta com ou sem a primeira técnica[5].
  • Dê ao modelo uma saída de recurso. A Microsoft sugere, por exemplo, pedir que responda «not found» se a resposta não estiver presente, o que pode ajudar o modelo a evitar uma resposta falsa[5].
  • Forneça o texto de referência e peça citações. A Microsoft recomenda vivamente dar ao modelo dados em que se apoiar quando a resposta deve basear-se em informações fiáveis e atualizadas[5]. Pedir citações pode ajudar a reduzir a frequência das respostas falsas, e as citações colocadas no texto, junto da afirmação, são melhores salvaguardas do que as citações no fim da resposta[5].
  • Verifique sempre. Mesmo com uma instrução bem redigida, a Microsoft indica que é preciso validar as respostas do modelo, porque uma instrução que funcionou bem num caso não se generaliza necessariamente[5].

As armadilhas

O documento colado pode conter instruções

Quando um assistente lê um site ou um ficheiro, o conteúdo pode encerrar instruções que o modelo interpreta e que alteram o seu comportamento: a OWASP fala de injeção de prompt indireta[6]. Num cenário que a OWASP descreve, um utilizador pede a um modelo que resuma uma página web que contém instruções ocultas, as quais levam à exfiltração da conversa privada[6]. A OWASP recomenda separar e identificar claramente o conteúdo não fiável, e prever uma aprovação humana para as operações com privilégios[6].

Uma janela grande dá uma falsa segurança

A Google indica que, para uma única informação procurada, se pode obter cerca de 99 % de sucesso, mas que o resultado não é o mesmo quando é preciso encontrar várias[2]. Uma resposta pode assim parecer completa e, ainda assim, omitir pontos de um texto longo.

Os conselhos dependem do modelo

A Microsoft avisa que cada modelo se comporta de forma diferente e que as suas técnicas não se aplicam da mesma maneira a todos. Estas técnicas não são recomendadas para os modelos de raciocínio como o gpt-5 e a série o[5].

Fontes

  1. Microsoft, «Understand tokens». https://learn.microsoft.com/en-us/dotnet/ai/conceptual/understanding-tokens (consultado em 14 de novembro de 2026)
  2. Google, «Long context | Gemini Enterprise Agent Platform | Google Cloud Documentation». https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/long-context (consultado em 14 de novembro de 2026)
  3. arXiv, «Lost in the Middle: How Language Models Use Long Contexts», 6 de julho de 2023. https://arxiv.org/abs/2307.03172 (consultado em 14 de novembro de 2026)
  4. arXiv, «Efficient Solutions For An Intriguing Failure of LLMs: Long Context Window Does Not Mean LLMs Can Analyze Long Sequences Flawlessly», 3 de agosto de 2024. https://arxiv.org/abs/2408.01866 (consultado em 14 de novembro de 2026)
  5. Microsoft, «Prompt engineering techniques». https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/prompt-engineering (consultado em 14 de novembro de 2026)
  6. OWASP, «LLM01:2025 Prompt Injection», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (consultado em 14 de novembro de 2026)
  7. OWASP, «LLM10:2025 Unbounded Consumption», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm102025-unbounded-consumption/ (consultado em 14 de novembro de 2026)