Alucinação de IA: quando o modelo inventa

Um modelo de linguagem prevê a palavra provável sem verificar se é verdadeira: pode inventar factos, referências e pacotes de código.

5 min de leitura
Atualizado em 3 de novembro de 2026
5 fontes

Em 30 segundos

Onde acontece: Em qualquer texto produzido por um assistente de IA, sobretudo em perguntas abertas que pedem uma resposta longa e em áreas que exigem conhecimento especializado do contexto².
O que está em jogo: O modelo pode inventar um facto, uma referência, uma citação ou o nome de uma biblioteca de código, e apresentá-lo com aprumo¹².
O reflexo: O reflexo: confirmar cada facto importante com uma fonte externa de confiança e pedir a uma pessoa que reveja as informações críticas antes de as utilizar¹.
Se já o fez: Avisar o destinatário do documento, corrigir com uma fonte fiável e comunicar o erro à pessoa que gere as ferramentas de IA na empresa.

Do que se trata

Um assistente de IA que redige um resumo, uma nota jurídica ou uma lista de referências não consulta uma base de factos. Produz uma sequência de palavras plausível. Quando se engana, fá-lo com o mesmo tom seguro de quando acerta, e nada no ecrã assinala a diferença.

Este fenómeno chama-se alucinação. O NIST norte-americano usa também o termo «confabulação» e observa que se fala, na linguagem corrente, de alucinações ou de fabricações². Para um colaborador, uma resposta de IA é um rascunho a verificar, nunca uma fonte.

Perguntas diretas

Porque é que uma IA inventa?

Segundo a OWASP, os modelos preenchem as lacunas dos seus dados de treino com padrões estatísticos, sem compreender o conteúdo. As respostas podem então parecer certas e não ter qualquer fundamento¹. O NIST descreve o mesmo mecanismo: os modelos produzem resultados que se aproximam da distribuição estatística dos seus dados de treino, e os grandes modelos de linguagem preveem a palavra seguinte numa frase².

É um defeito raro?

O NIST apresenta-o como um resultado natural da conceção dos modelos generativos². Duas revisões da investigação, uma sobre a geração de texto em geral, outra sobre os grandes modelos de linguagem, descrevem um problema muito estudado. A primeira abrange o resumo automático, o diálogo, as perguntas e respostas e a tradução automática⁴. A segunda fala de conteúdos plausíveis mas não factuais e de dúvidas sobre a fiabilidade destes modelos na pesquisa de informação³.

A IA também pode inventar as suas justificações?

Sim. O NIST indica que os resultados podem conter uma lógica ou citações inventadas que pretendem explicar a resposta. Um modelo apresenta por vezes etapas de raciocínio quando a resposta está errada². Uma referência bem apresentada não prova, por isso, nada.

O risco vem apenas da máquina?

Não. A OWASP refere também a confiança excessiva: utilizadores confiam demasiado no conteúdo gerado, não verificam a sua exatidão e integram dados falsos em decisões importantes¹. O NIST observa que o risco surge quando os utilizadores acreditam no que é falso, muitas vezes por causa do tom confiante da resposta².

1Como funciona1 min

Um modelo de linguagem não distingue o que «sabe» daquilo que completa. O NIST precisa que a previsão estatística pode dar resultados exatos e coerentes, mas também inexatos ou incoerentes². Coloca problemas sobretudo nas instruções abertas que pedem uma resposta longa e nas áreas que exigem conhecimento especializado do contexto².

As fabricações assumem várias formas. A OWASP enumera quatro. A primeira é a inexatidão factual: o chatbot da Air Canada deu informações falsas a passageiros, e a companhia foi processada com sucesso¹. A segunda é a afirmação sem fundamento, de que um exemplo citado é o ChatGPT a fabricar processos judiciais falsos, com graves dificuldades perante um tribunal¹. A terceira é a ilusão de competência, por exemplo chatbots que apresentam como incertos assuntos de saúde que não o são¹. A quarta é o código perigoso: o modelo sugere bibliotecas pouco seguras ou inexistentes¹.

Estas invenções podem ser exploradas. A OWASP descreve um cenário em que atacantes testam assistentes de programação para encontrar os nomes de pacotes frequentemente inventados e depois publicam pacotes maliciosos reais com esses nomes em repositórios muito utilizados. Programadores que seguem a sugestão do assistente integram-nos no seu software sem o saberem¹.

2O que faz1 min

As medidas abaixo inspiram-se nas recomendações da OWASP¹.

Confirme os factos importantes com fontes externas de confiança¹.
Abra cada ligação e cada referência citada pela IA. Se a página não existir ou não disser o que a IA lhe atribui, considere a referência inventada. O NIST recorda que citações fabricadas podem induzir em erro².
Não cole uma resposta não verificada num contrato, numa nota jurídica, num documento financeiro ou numa carta a um cliente. A OWASP pede uma revisão humana, sobretudo para as informações críticas ou sensíveis¹.
Antes de instalar um pacote de código sugerido por um assistente, verifique se existe e se é legítimo. A OWASP pede também práticas de desenvolvimento seguro para evitar integrar falhas provenientes de sugestões erradas¹.
Numa cadeia de decisão, mantenha uma pessoa com formação para rever. A OWASP insiste na formação dos revisores, para que não se limitem a confiar às cegas no conteúdo produzido pela IA¹.

3As armadilhas1 min

A fluidez engana. Um texto bem escrito não é um texto exato, e o NIST observa que o tom confiante leva a acreditar no que é falso².
As áreas especializadas são as mais expostas. A OWASP cita o direito e a saúde como contextos em que as afirmações sem fundamento são particularmente prejudiciais¹. O NIST dá o exemplo de um resumo de processo clínico confabulado que poderia levar a diagnósticos errados².
Pedir à IA que se reveja a si própria não substitui uma fonte externa. Ela pode justificar uma resposta falsa com um raciocínio de aparência lógica².
Não é preciso um atacante para que o dano ocorra. A OWASP descreve uma empresa processada com sucesso por ter disponibilizado um chatbot de diagnóstico médico sem garantir a sua fiabilidade. A falha veio de um controlo insuficiente, não de um ataque¹.
O risco é difícil de quantificar. O NIST escreve que é difícil estimar a escala e o impacto a jusante das confabulações². Publicou o seu perfil sobre IA generativa, que ajuda as organizações a identificar os riscos próprios desta tecnologia, a 26 de julho de 2024⁵.

Ficha

Identificador: CP-271
Ala: 4. Inteligência artificial
Competência Brain: Verificar as respostas (verify_output)
Reflexo Brain: air-006
Esquema: G2 · Mito contra realidade
Idiomas: de, en, es, fr, it, nl, pt
Fontes: 5 fontes verificadas em 3 de novembro de 2026

Fontes5 fontes

OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026)
NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado em 3 de novembro de 2026)
arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions». https://arxiv.org/abs/2311.05232 (consultado em 3 de novembro de 2026)
arXiv, «Survey of Hallucination in Natural Language Generation». https://arxiv.org/abs/2202.03629 (consultado em 3 de novembro de 2026)
NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado em 3 de novembro de 2026)

Citar este artigo

Brain, «Alucinação de IA: quando o modelo inventa», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/alucinacao-ia-factos-inventados/

BibTeX

@misc{brain_cp271_pt_2026,
  author = {Brain},
  title = {Alucinação de IA: quando o modelo inventa},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/pt/articles/alucinacao-ia-factos-inventados/},
  note = {CC BY 4.0}
}

Licença CC BY 4.0