--- id: CP-271 slug: alucinacao-ia-factos-inventados lang: pt title: "Alucinação de IA: quando o modelo inventa" description: "Um modelo de linguagem prevê a palavra provável sem verificar se é verdadeira: pode inventar factos, referências e pacotes de código." canonical_url: https://startbrain.io/cyberpedia/pt/articles/alucinacao-ia-factos-inventados/ markdown_url: https://startbrain.io/cyberpedia/pt/articles/alucinacao-ia-factos-inventados.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: "Brain, «Alucinação de IA: quando o modelo inventa», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/alucinacao-ia-factos-inventados/ (CC BY 4.0)" wing: 4 theme: verify_output reflex: air-006 schema: G2 updated: "2026-11-03" translations: pt: https://startbrain.io/cyberpedia/pt/articles/alucinacao-ia-factos-inventados/ fr: https://startbrain.io/cyberpedia/fr/articles/hallucination-ia-faits-inventes/ en: https://startbrain.io/cyberpedia/en/articles/ai-hallucination-invented-facts/ de: https://startbrain.io/cyberpedia/de/articles/ki-halluzination-erfundene-fakten/ es: https://startbrain.io/cyberpedia/es/articles/alucinacion-ia-hechos-inventados/ it: https://startbrain.io/cyberpedia/it/articles/allucinazione-ia-fatti-inventati/ nl: https://startbrain.io/cyberpedia/nl/articles/ai-hallucinatie-verzonnen-feiten/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 accessed: "2026-11-03" - "n": 4 title: Survey of Hallucination in Natural Language Generation publisher: arXiv url: https://arxiv.org/abs/2202.03629 accessed: "2026-11-03" - "n": 5 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" --- # Alucinação de IA: quando o modelo inventa Um assistente de IA que redige um resumo, uma nota jurídica ou uma lista de referências não consulta uma base de factos. Produz uma sequência de palavras plausível. Quando se engana, fá-lo com o mesmo tom seguro de quando acerta, e nada no ecrã assinala a diferença. Este fenómeno chama-se alucinação. O NIST norte-americano usa também o termo «confabulação» e observa que se fala, na linguagem corrente, de alucinações ou de fabricações [2]. Para um colaborador, uma resposta de IA é um rascunho a verificar, nunca uma fonte. ## Em 30 segundos - Onde acontece: em qualquer texto produzido por um assistente de IA, sobretudo em perguntas abertas que pedem uma resposta longa e em áreas que exigem conhecimento especializado do contexto [2]. - O que está em jogo: o modelo pode inventar um facto, uma referência, uma citação ou o nome de uma biblioteca de código, e apresentá-lo com aprumo [1][2]. - O reflexo: O reflexo: confirmar cada facto importante com uma fonte externa de confiança e pedir a uma pessoa que reveja as informações críticas antes de as utilizar [1]. - Se já o fez: avisar o destinatário do documento, corrigir com uma fonte fiável e comunicar o erro à pessoa que gere as ferramentas de IA na empresa. ## Perguntas diretas ### Porque é que uma IA inventa? Segundo a OWASP, os modelos preenchem as lacunas dos seus dados de treino com padrões estatísticos, sem compreender o conteúdo. As respostas podem então parecer certas e não ter qualquer fundamento [1]. O NIST descreve o mesmo mecanismo: os modelos produzem resultados que se aproximam da distribuição estatística dos seus dados de treino, e os grandes modelos de linguagem preveem a palavra seguinte numa frase [2]. ### É um defeito raro? O NIST apresenta-o como um resultado natural da conceção dos modelos generativos [2]. Duas revisões da investigação, uma sobre a geração de texto em geral, outra sobre os grandes modelos de linguagem, descrevem um problema muito estudado. A primeira abrange o resumo automático, o diálogo, as perguntas e respostas e a tradução automática [4]. A segunda fala de conteúdos plausíveis mas não factuais e de dúvidas sobre a fiabilidade destes modelos na pesquisa de informação [3]. ### A IA também pode inventar as suas justificações? Sim. O NIST indica que os resultados podem conter uma lógica ou citações inventadas que pretendem explicar a resposta. Um modelo apresenta por vezes etapas de raciocínio quando a resposta está errada [2]. Uma referência bem apresentada não prova, por isso, nada. ### O risco vem apenas da máquina? Não. A OWASP refere também a confiança excessiva: utilizadores confiam demasiado no conteúdo gerado, não verificam a sua exatidão e integram dados falsos em decisões importantes [1]. O NIST observa que o risco surge quando os utilizadores acreditam no que é falso, muitas vezes por causa do tom confiante da resposta [2]. ## Como funciona Um modelo de linguagem não distingue o que «sabe» daquilo que completa. O NIST precisa que a previsão estatística pode dar resultados exatos e coerentes, mas também inexatos ou incoerentes [2]. Coloca problemas sobretudo nas instruções abertas que pedem uma resposta longa e nas áreas que exigem conhecimento especializado do contexto [2]. As fabricações assumem várias formas. A OWASP enumera quatro. A primeira é a inexatidão factual: o chatbot da Air Canada deu informações falsas a passageiros, e a companhia foi processada com sucesso [1]. A segunda é a afirmação sem fundamento, de que um exemplo citado é o ChatGPT a fabricar processos judiciais falsos, com graves dificuldades perante um tribunal [1]. A terceira é a ilusão de competência, por exemplo chatbots que apresentam como incertos assuntos de saúde que não o são [1]. A quarta é o código perigoso: o modelo sugere bibliotecas pouco seguras ou inexistentes [1]. Estas invenções podem ser exploradas. A OWASP descreve um cenário em que atacantes testam assistentes de programação para encontrar os nomes de pacotes frequentemente inventados e depois publicam pacotes maliciosos reais com esses nomes em repositórios muito utilizados. Programadores que seguem a sugestão do assistente integram-nos no seu software sem o saberem [1]. ## O que faz As medidas abaixo inspiram-se nas recomendações da OWASP [1]. - Confirme os factos importantes com fontes externas de confiança [1]. - Abra cada ligação e cada referência citada pela IA. Se a página não existir ou não disser o que a IA lhe atribui, considere a referência inventada. O NIST recorda que citações fabricadas podem induzir em erro [2]. - Não cole uma resposta não verificada num contrato, numa nota jurídica, num documento financeiro ou numa carta a um cliente. A OWASP pede uma revisão humana, sobretudo para as informações críticas ou sensíveis [1]. - Antes de instalar um pacote de código sugerido por um assistente, verifique se existe e se é legítimo. A OWASP pede também práticas de desenvolvimento seguro para evitar integrar falhas provenientes de sugestões erradas [1]. - Numa cadeia de decisão, mantenha uma pessoa com formação para rever. A OWASP insiste na formação dos revisores, para que não se limitem a confiar às cegas no conteúdo produzido pela IA [1]. ## As armadilhas - A fluidez engana. Um texto bem escrito não é um texto exato, e o NIST observa que o tom confiante leva a acreditar no que é falso [2]. - As áreas especializadas são as mais expostas. A OWASP cita o direito e a saúde como contextos em que as afirmações sem fundamento são particularmente prejudiciais [1]. O NIST dá o exemplo de um resumo de processo clínico confabulado que poderia levar a diagnósticos errados [2]. - Pedir à IA que se reveja a si própria não substitui uma fonte externa. Ela pode justificar uma resposta falsa com um raciocínio de aparência lógica [2]. - Não é preciso um atacante para que o dano ocorra. A OWASP descreve uma empresa processada com sucesso por ter disponibilizado um chatbot de diagnóstico médico sem garantir a sua fiabilidade. A falha veio de um controlo insuficiente, não de um ataque [1]. - O risco é difícil de quantificar. O NIST escreve que é difícil estimar a escala e o impacto a jusante das confabulações [2]. Publicou o seu perfil sobre IA generativa, que ajuda as organizações a identificar os riscos próprios desta tecnologia, a 26 de julho de 2024 [5]. ## Fontes 1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026) 2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado em 3 de novembro de 2026) 3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions». https://arxiv.org/abs/2311.05232 (consultado em 3 de novembro de 2026) 4. arXiv, «Survey of Hallucination in Natural Language Generation». https://arxiv.org/abs/2202.03629 (consultado em 3 de novembro de 2026) 5. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado em 3 de novembro de 2026) --- Fonte original: Cyberpedia, a enciclopédia pública de cibersegurança e IA publicada pela Brain. Versão canónica: https://startbrain.io/cyberpedia/pt/articles/alucinacao-ia-factos-inventados/ Pode reutilizar livremente este texto sob a licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), desde que cite «Brain, Cyberpedia» com uma ligação para o endereço acima.