Verificar uma resposta de IA com três fontes

Uma IA generativa pode afirmar factos errados com toda a confiança. Como identificar as afirmações a confirmar e compará-las com três fontes independentes.

5 min de leitura
Atualizado em 3 de novembro de 2026
5 fontes

Em 30 segundos

Onde acontece: Sempre que uma resposta de IA contém um facto preciso (número, data, citação, referência jurídica, nome de software) que pretende reutilizar.
O que quer o atacante: Não há necessariamente ninguém envolvido. O erro vem do modelo, mas um atacante pode explorar os nomes inventados¹.
O reflexo: Antes de reutilizar um facto dado por uma IA, compará-lo com três fontes independentes e não transmitir nada enquanto não coincidirem.
Se já o fez: Avise os destinatários do texto, corrija-o e, se foi tomada alguma decisão com base nele, comunique o caso à sua equipa de segurança ou ao seu responsável.

Do que se trata

Um assistente de IA generativa pode responder em tom sereno, tenha ou não razão. Uma data, um número, o nome de uma lei, a referência de um artigo: tudo pode sair bem redigido e estar errado. Para um colaborador que reutiliza esse texto num email, num relatório ou numa decisão, o risco é transmitir o erro em nome próprio.

Esta ficha explica de onde vêm estes erros e detalha depois um método simples: identificar o que pode ser verificado, compará-lo com três fontes independentes e decidir, ou pedir a opinião de outra pessoa.

Perguntas diretas

Porque é que uma IA afirma coisas falsas?

O NIST chama a este fenómeno «confabulação»: produzir conteúdo falso ou errado, apresentado com segurança. Na linguagem corrente, fala-se de alucinações ou de invenções². O mesmo documento explica que estes erros decorrem da conceção dos modelos: produzem resultados que se aproximam da distribuição estatística dos seus dados de treino, por exemplo ao prever a palavra seguinte numa frase². Essa previsão pode dar um resultado exato, ou um resultado inexato e incoerente².

A OWASP descreve o mesmo mecanismo: o modelo preenche as lacunas dos dados de treino com regularidades estatísticas, sem compreender o conteúdo, e pode por isso produzir respostas plausíveis mas sem fundamento¹. Os enviesamentos dos dados de treino e a informação incompleta também contribuem¹.

Em que casos é o risco mais elevado?

O NIST cita os pedidos abertos que exigem uma resposta longa e as áreas que requerem perícia ou um contexto preciso². Um artigo de investigação sobre tarefas de inferência identifica dois enviesamentos resultantes do treino: a memorização de frases e as regularidades de uso aprendidas em todo o corpus. Os autores apresentam-nos como fontes principais de alucinação⁵.

Porque é que o tom seguro é um problema?

Segundo o NIST, o risco surge quando os utilizadores acreditam num conteúdo falso, muitas vezes por causa do tom confiante da resposta, e agem em conformidade ou o divulgam². A OWASP refere a confiança excessiva (overreliance): os utilizadores confiam demasiado no conteúdo gerado sem verificar a sua exatidão, o que agrava o efeito da desinformação¹.

Uma IA pode inventar fontes?

Sim. A OWASP dá o exemplo de um ChatGPT que fabricou processos judiciais falsos, com graves consequências perante um tribunal¹. A ficha não indica a data deste caso. A OWASP cita também os assistentes de programação que sugerem bibliotecas de código inexistentes¹. Uma ligação, um número de acórdão ou um nome de pacote dado por uma IA é, por isso, uma afirmação a confirmar, não uma prova.

1Como funciona1 min

Os estudos de síntese descrevem a alucinação de várias formas. Um define-a como a produção de conteúdo plausível mas não factual³. Outro descreve-a como conteúdo que se afasta do pedido do utilizador, contradiz o contexto já gerado ou se afasta do conhecimento estabelecido sobre o mundo⁴. O NIST retoma noções próximas: conteúdo que diverge do pedido ou que contradiz uma afirmação anterior da mesma conversa².

Para um colaborador, isto significa que a fluidez de um texto nada diz sobre a sua exatidão. As duas sínteses indicam que as alucinações representam um desafio de fiabilidade nas utilizações reais³⁴.

A OWASP inclui a verificação cruzada entre as suas medidas: incentivar os utilizadores a comparar os resultados com fontes externas de confiança, prever uma revisão humana para a informação crítica ou sensível e formar os revisores para que não confiem demasiado na IA¹.

2O que fazer1 min

O método tem três passos.

Primeiro passo: isole as afirmações verificáveis. Sublinhe na resposta tudo o que um documento possa contradizer: números, datas, nomes de pessoas ou de organizações, citações, referências a textos, nomes de software ou de bibliotecas. As opiniões e as reformulações gerais não precisam do mesmo controlo.

Segundo passo: procure três fontes independentes, sem voltar a passar pela IA. Prefira as fontes primárias: o texto da lei, a página do fabricante, o documento do organismo em causa. As três fontes não devem copiar-se entre si. Se dois artigos retomam a mesma notícia de agência, contam como uma só fonte. Abra cada ligação pessoalmente: uma ligação dada pela IA é também uma afirmação a verificar.

Terceiro passo: decida ou encaminhe. As três fontes independentes confirmam o facto: pode reutilizá-lo citando a fonte primária, não a IA. As fontes contradizem-se, ou não encontra nenhuma: retire a afirmação. Se ela contar para uma decisão, um contrato ou um conteúdo destinado ao exterior, peça a opinião de um especialista na matéria. A OWASP recomenda supervisão humana para a informação crítica ou sensível¹.

3As armadilhas2 min

Fontes que remontam à mesma origem: três páginas que citam o mesmo comunicado dão apenas uma confirmação. Recue até à origem e conte-a uma só vez.
Uma ligação inventada: a OWASP assinala casos de referências ou bibliotecas inexistentes sugeridas por um modelo¹. Uma ligação que não abre não confirma nada.
O enviesamento de confirmação: procurar apenas o que vai no sentido da resposta. Procure também o que a contradiz e formule a pesquisa sem usar os termos da IA.
O tom seguro: o NIST observa que a confiança demonstrada pela resposta leva a acreditar nela². Uma resposta detalhada não é mais exata do que uma resposta breve.
Os nomes de pacotes de código: a OWASP descreve um cenário em que atacantes identificam os nomes de bibliotecas que os assistentes de programação inventam com frequência e publicam depois pacotes maliciosos reais com esses nomes. Os programadores que confiam no assistente integram-nos sem o saber¹. Para código, verifique se a biblioteca existe e quem a publica antes de a instalar.
O controlo automático tomado por garantia: a OWASP recomenda também mecanismos de validação automática dos resultados importantes¹, mas estes não substituem a revisão humana da informação crítica.

Além disso, os erros não pressupõem um atacante. A OWASP descreve o caso de uma empresa que oferece um chatbot de diagnóstico médico sem se assegurar da sua fiabilidade: a empresa foi processada com êxito, sem que nenhum atacante tivesse intervindo¹. Cita também um chatbot da Air Canada que deu informações erradas a viajantes, e a companhia foi processada com êxito¹. A ficha não data estes casos.

Ficha

Identificador: CP-277
Ala: 4. Inteligência artificial
Competência Brain: Verificar as respostas (verify_output)
Reflexo Brain: air-028
Esquema: G2 · Mito contra realidade
Idiomas: de, en, es, fr, it, nl, pt
Fontes: 5 fontes verificadas em 3 de novembro de 2026

Fontes5 fontes

OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026)
NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado em 3 de novembro de 2026)
arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions». https://arxiv.org/abs/2311.05232 (consultado em 3 de novembro de 2026)
arXiv, «Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models». https://arxiv.org/abs/2309.01219 (consultado em 3 de novembro de 2026)
arXiv, «Sources of Hallucination by Large Language Models on Inference Tasks». https://arxiv.org/abs/2305.14552 (consultado em 3 de novembro de 2026)

Citar este artigo

Brain, «Verificar uma resposta de IA com três fontes», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/verificacao-cruzada-respostas-ia-tres-fontes/

BibTeX

@misc{brain_cp277_pt_2026,
  author = {Brain},
  title = {Verificar uma resposta de IA com três fontes},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/pt/articles/verificacao-cruzada-respostas-ia-tres-fontes/},
  note = {CC BY 4.0}
}

Licença CC BY 4.0