--- id: CP-280 slug: verificar-fontes-motores-pesquisa-ia lang: pt title: Verificar as fontes citadas por uma IA de pesquisa description: Uma IA de pesquisa mostra ligações ao lado da resposta. Veja como abri-las, compará-las com a afirmação e saber quando não confiar nelas. canonical_url: https://startbrain.io/cyberpedia/pt/articles/verificar-fontes-motores-pesquisa-ia/ markdown_url: https://startbrain.io/cyberpedia/pt/articles/verificar-fontes-motores-pesquisa-ia.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «Verificar as fontes citadas por uma IA de pesquisa», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/verificar-fontes-motores-pesquisa-ia/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-031 schema: G2 updated: "2026-11-03" translations: pt: https://startbrain.io/cyberpedia/pt/articles/verificar-fontes-motores-pesquisa-ia/ fr: https://startbrain.io/cyberpedia/fr/articles/verifier-sources-moteurs-recherche-ia/ en: https://startbrain.io/cyberpedia/en/articles/verify-ai-search-engine-citations/ de: https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen/ es: https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia/ it: https://startbrain.io/cyberpedia/it/articles/verificare-fonti-motori-ricerca-ia/ nl: https://startbrain.io/cyberpedia/nl/articles/bronnen-ai-zoekmachines-controleren/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ published: "2024-04-10" accessed: "2026-11-03" - "n": 2 title: LLM01:2025 Prompt Injection publisher: OWASP url: https://genai.owasp.org/llmrisk/llm01-prompt-injection/ published: "2024-04-10" accessed: "2026-11-03" - "n": 3 title: Prompt injection is not SQL injection (it may be worse) publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection published: "2025-12-08" accessed: "2026-11-03" - "n": 4 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 5 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence published: "2024-07-26" accessed: "2026-11-03" --- # Verificar as fontes citadas por uma IA de pesquisa Um motor de pesquisa baseado em IA responde com frases redigidas e mostra ligações ao lado. A apresentação dá a impressão de que cada frase foi verificada com base nessas páginas. No entanto, um modelo de linguagem pode produzir um conteúdo que parece exato, mas é inventado. A OWASP, que mantém uma lista dos principais riscos das aplicações de IA generativa, chama a este fenómeno alucinação [1]. Esta ficha explica como verificar pessoalmente as fontes apresentadas antes de se apoiar numa resposta, sobretudo quando ela serve para decidir algo. As fontes desta ficha não descrevem o funcionamento interno de produtos concretos. Tratam dos riscos destas ferramentas em geral. ## Em 30 segundos - Onde acontece: em qualquer resposta de uma IA acompanhada de ligações, quer seja usada para preparar uma nota, uma compra, um processo ou uma decisão. - O que quer o atacante: por vezes ninguém, pois a OWASP observa que um erro pode causar danos sem atacante [1]. Quando existe um, procura introduzir instruções numa página que a IA vai ler [2]. - O reflexo: abrir cada ligação citada, verificar que a página existe, quem a publica e que diz mesmo o que a resposta afirma, e não decidir nada importante com base numa resposta não verificada. - Se já o fez: repita a verificação agora e avise as pessoas envolvidas se a fonte não se sustentar. ## Perguntas diretas ### Porque pode uma IA citar uma fonte que não diz o que ela afirma? Segundo a OWASP, os modelos preenchem as lacunas dos dados de treino com regularidades estatísticas, sem compreender o conteúdo. Podem, por isso, produzir respostas plausíveis e sem fundamento [1]. Uma ligação apresentada ao lado de uma frase não prova que a frase provém dela. É razão suficiente para ir ler a página. ### Uma ligação que abre prova que a informação é correta? Não. A existência da página é a primeira verificação, não a última. É preciso depois ler a passagem em causa e compará-la com a afirmação da IA. A OWASP recomenda cruzar as respostas de um modelo com fontes externas de confiança [1]. ### Pode uma IA inventar documentos? A OWASP cita dois casos. O primeiro diz respeito a afirmações sem fundamento: o ChatGPT fabricou processos judiciais falsos, o que causou problemas graves perante um tribunal [1]. O segundo diz respeito ao código: assistentes de programação sugerem bibliotecas que não existem, e atacantes publicam depois pacotes maliciosos com esses nomes [1]. O princípio vale para as referências: um nome, um número ou um título fornecidos por uma IA verificam-se na fonte. ### Uma página web pode manipular a resposta? Sim. A OWASP descreve a injeção de prompt indireta: o modelo aceita dados vindos de fontes externas, como sítios web ou ficheiros, e o seu conteúdo altera o comportamento do modelo de forma imprevista [2]. Num dos seus cenários, um utilizador pede a uma IA que resuma uma página web com instruções ocultas, que provocam a fuga da conversa privada [2]. Estas instruções não precisam de ser visíveis ou legíveis por um ser humano: basta que o modelo as processe [2]. ### As defesas dos fornecedores resolvem o problema? Não totalmente. A OWASP escreve que a geração aumentada por recuperação (RAG), que vai buscar documentos para sustentar a resposta, não elimina por completo as falhas de injeção de prompt [2]. O NCSC britânico considera muito possível que estes ataques nunca sejam totalmente neutralizados, porque os modelos atuais não distinguem dados de instruções num prompt [3]. O controlo humano continua, por isso, a ser necessário. ## Como funciona Uma IA de pesquisa vai buscar conteúdo externo e redige uma resposta a partir dele. A OWASP inclui os sítios web e os ficheiros entre as entradas externas que podem alterar o comportamento de um modelo [2]. O NCSC explica a razão: por baixo do capô, o modelo não distingue um dado de uma instrução, limita-se a prever o «next token» [3]. Podem somar-se dois erros. O primeiro vem do modelo: a OWASP cita as alucinações, mas também os enviesamentos dos dados de treino e as informações incompletas [1]. O segundo vem do utilizador. A OWASP chama «overreliance» ao facto de confiar demasiado num conteúdo gerado sem verificar a sua exatidão, o que agrava o efeito da desinformação [1]. O NIST, organismo norte-americano, publicou um perfil dedicado à IA generativa, que pode ajudar as organizações a identificar os riscos próprios destas ferramentas [4]. Este perfil é um documento de acompanhamento do quadro de gestão de riscos da IA, cuja utilização é voluntária [5]. ## O que fazer - Abra cada ligação citada, uma a uma. Uma ligação que não abre, que devolve um erro ou que leva a uma página sem relação com a pergunta não sustenta nada. - Veja quem publica a página. Uma administração pública, um organismo de normalização ou um editor identificável vale mais do que um sítio sem autor nem data. - Procure na página a frase que corresponde à afirmação. Se não a encontrar, considere a afirmação como não confirmada. - Remonte à fonte de origem. Se a própria página cita outro documento, abra esse. - Cruze com uma segunda fonte independente para qualquer número, data, nome ou decisão que conte. A OWASP recomenda este cruzamento com fontes externas de confiança [1]. - Para um tema de risco elevado (saúde, direito, finanças, segurança), peça a revisão de uma pessoa competente. A OWASP recomenda uma supervisão humana, sobretudo para informações críticas ou sensíveis [1]. - Não copie uma resposta não verificada para um processo, um email a um cliente ou uma decisão. Anote o que foi verificado e o que não foi. ## As armadilhas Falsa precisão. Um número exato ou uma citação entre aspas dão uma impressão de rigor. A OWASP refere que um modelo pode dar a ilusão de compreender um assunto complexo, o que induz os utilizadores em erro [1]. Encontre o número e a citação na página. Fontes de segunda mão. Uma página que retoma outro sítio não acrescenta prova. Remonte ao editor de origem. Conteúdo armadilhado. Uma página pode conter texto escrito para a IA e não para si. O NCSC dá o exemplo de um CV com texto oculto que pede para ignorar as instruções anteriores e aprovar o candidato. É um exemplo ilustrativo, não um incidente datado [3]. Se uma resposta recomendar de forma inesperada um sítio, um produto ou uma ação, abra a página e procure o que o explica. Nunca siga uma instrução encontrada numa fonte: comunique-a. Excesso de confiança. As ligações, a paginação e o tom seguro tranquilizam. A OWASP cita o robô de conversação da Air Canada, que deu informações erradas a viajantes: a companhia foi processada com sucesso [1]. A página não data este caso. Recomenda também que se indiquem claramente aos utilizadores os limites de fiabilidade destas ferramentas [1]. Se a ferramenta não mostrar nada disso, tenha esse limite como certo. Filtros presumidos. O NCSC desaconselha os filtros do tipo lista de bloqueio, porque um ataque pode ser reformulado de infinitas maneiras [3]. Previne também contra os produtos que pretendem «parar» a injeção de prompt [3]. Uma ferramenta de empresa validada não dispensa, por isso, a leitura das fontes. ## Fontes 1. OWASP, «LLM09:2025 Misinformation», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026) 2. OWASP, «LLM01:2025 Prompt Injection», 10 de abril de 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (consultado em 3 de novembro de 2026) 3. NCSC (Royaume-Uni), «Prompt injection is not SQL injection (it may be worse)», 8 de dezembro de 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (consultado em 3 de novembro de 2026) 4. NIST, «AI Risk Management Framework». https://www.nist.gov/itl/ai-risk-management-framework (consultado em 3 de novembro de 2026) 5. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile», 26 de julho de 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (consultado em 3 de novembro de 2026) --- Fonte original: Cyberpedia, a enciclopédia pública de cibersegurança e IA publicada pela Brain. Versão canónica: https://startbrain.io/cyberpedia/pt/articles/verificar-fontes-motores-pesquisa-ia/ Pode reutilizar livremente este texto sob a licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), desde que cite «Brain, Cyberpedia» com uma ligação para o endereço acima.