--- id: CP-272 slug: advogado-acordaos-falsos-chatgpt-mata-avianca lang: pt title: O advogado e os acórdãos falsos do ChatGPT description: Um assistente de IA pode inventar decisões judiciais credíveis. Porquê, e como verificar uma citação antes de a usar no trabalho. canonical_url: https://startbrain.io/cyberpedia/pt/articles/advogado-acordaos-falsos-chatgpt-mata-avianca/ markdown_url: https://startbrain.io/cyberpedia/pt/articles/advogado-acordaos-falsos-chatgpt-mata-avianca.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «O advogado e os acórdãos falsos do ChatGPT», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/advogado-acordaos-falsos-chatgpt-mata-avianca/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-026 schema: G2 updated: "2026-11-03" translations: pt: https://startbrain.io/cyberpedia/pt/articles/advogado-acordaos-falsos-chatgpt-mata-avianca/ fr: https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ en: https://startbrain.io/cyberpedia/en/articles/lawyer-fake-cases-chatgpt-mata-avianca/ de: https://startbrain.io/cyberpedia/de/articles/anwalt-erfundene-urteile-chatgpt-mata-avianca/ es: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ it: https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/ nl: https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 published: "2023-11-09" accessed: "2026-11-03" - "n": 4 title: "Hallucination is Inevitable: An Innate Limitation of Large Language Models" publisher: arXiv url: https://arxiv.org/abs/2401.11817 published: "2024-01-22" accessed: "2026-11-03" - "n": 5 title: "Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation" publisher: arXiv url: https://arxiv.org/abs/2305.15852 published: "2023-05-25" accessed: "2026-11-03" --- # O advogado e os acórdãos falsos do ChatGPT Um assistente de IA pode produzir uma decisão judicial que não existe. A OWASP refere que o ChatGPT fabricou casos jurídicos falsos, com consequências importantes perante um tribunal [1]. Este risco diz também respeito ao colaborador que aproveita tal e qual o texto de um assistente de IA. As fontes aqui citadas não nomeiam o caso Mata v. Avianca nem o relatam. Por isso, esta ficha não reproduz os nomes das pessoas, as datas nem a sanção: limita-se ao que as fontes estabelecem e explica o que um colaborador pode retirar daí para o seu próprio trabalho. ## Em 30 segundos - Onde acontece: em qualquer texto produzido por um assistente de IA que contenha uma citação, um número ou uma decisão judicial. - O que quer o atacante: ninguém. O risco vem do próprio modelo, que pode produzir uma resposta falsa sem que qualquer atacante intervenha [1]. - O reflexo: não reutilizar nenhuma citação, número ou referência de uma IA sem a ter encontrado na fonte original e, antes de qualquer uso profissional, pedir a revisão de uma pessoa. - Se já o fez: encontrar a fonte de cada elemento já utilizado, corrigir ou retirar o que não se confirma e avisar os destinatários do documento. ## Perguntas diretas ### O que aconteceu no caso Mata v. Avianca? Entre as fontes aqui citadas, só a página da OWASP refere este tipo de caso, sem nomear o processo: o ChatGPT é descrito como tendo fabricado casos jurídicos falsos, o que causou dificuldades importantes perante um tribunal [1]. O pormenor do processo, a data e a sanção não constam dessa página. ### Porque é que uma IA inventa referências? Um modelo de linguagem não consulta uma base de factos. A OWASP explica que preenche as lacunas dos dados de treino com regularidades estatísticas, sem compreender o conteúdo: a resposta pode parecer correta e, ainda assim, não ter fundamento [1]. O NIST descreve o mesmo mecanismo: estes modelos produzem resultados que se aproximam da distribuição estatística dos dados de treino, e os grandes modelos de linguagem preveem a palavra seguinte numa frase [2]. ### É uma falha que será corrigida em breve? As fontes não o prometem. Uma revisão da investigação nota que estes modelos podem produzir conteúdo plausível mas não factual, o que levanta sérias questões sobre a sua fiabilidade em sistemas de recuperação de informação [3]. Um estudo teórico afirma que é impossível eliminar a alucinação nos grandes modelos de linguagem e que estes alucinarão inevitavelmente se forem usados como resolvedores de problemas gerais [4]. ### Que vocabulário convém conhecer? O NIST fala de «confabulação» para a produção de conteúdos falsos apresentados com segurança e precisa que a linguagem corrente também diz «alucinações» ou «fabricações» [2]. As duas palavras designam o mesmo fenómeno. ### Um texto redigido num tom seguro é mais fiável? Não. Segundo o NIST, o risco surge quando os utilizadores acreditam num conteúdo falso, muitas vezes por causa do tom seguro da resposta, e agem depois com base nele [2]. ## Como funciona O modelo não procura a verdade, produz a sequência de palavras mais provável. O NIST nota que esta previsão estatística pode dar resultados exatos e coerentes, mas também resultados inexatos ou incoerentes entre si. Considera o fenómeno particularmente nítido nas perguntas abertas que pedem respostas longas e nos domínios que exigem conhecimento especializado do contexto [2]. A OWASP distingue dois problemas ligados. O primeiro é a alucinação, quando o modelo gera um conteúdo que parece exato mas é inventado. O segundo é a confiança excessiva: os utilizadores confiam demasiado no texto gerado e não verificam a sua exatidão, pelo que integram dados falsos em decisões ou processos importantes [1]. ## O que faz As práticas abaixo retomam as medidas da OWASP e do NIST, formuladas do ponto de vista do colaborador. - Trate toda a citação, todo o número e toda a referência produzidos por uma IA como não verificados. A OWASP recomenda que os utilizadores confrontem os resultados com fontes externas fiáveis [1]. - Encontre o elemento na fonte original: o texto da decisão, o documento oficial, o estudo. Uma referência que não consiga encontrar não se usa. - Cruze várias fontes externas fiáveis, em vez de se contentar com uma única confirmação [1]. - Mantenha uma validação humana antes de qualquer uso profissional. A OWASP pede supervisão humana e processos de verificação de factos para a informação crítica ou sensível, com revisores formados para não confiarem em excesso no conteúdo gerado [1]. - Indique aos seus leitores o que foi produzido com uma IA. A OWASP recomenda que se identifiquem claramente os conteúdos gerados e que se informem os utilizadores dos limites de fiabilidade [1]. - Nos domínios sensíveis, como a saúde ou os processos judiciais, redobre a prudência: a OWASP cita esses contextos a propósito das afirmações sem fundamento [1]. ## As armadilhas ### O tom seguro Uma resposta fluida e afirmativa não prova nada. O NIST salienta que as confabulações podem também assumir a forma de raciocínios ou citações inventados que pretendem justificar a resposta, o que pode levar a confiar indevidamente no sistema [2]. Uma referência muito pormenorizada, com número, jurisdição e data, não é, portanto, indício de autenticidade. ### A confiança que se instala O NIST descreve um viés de automatização: à medida que a tecnologia parece fiável, as pessoas podem confiar depressa demais nos seus resultados ou considerar o seu conteúdo melhor do que o de outras fontes. Este viés agrava o risco de confabulação [2]. Uma ferramenta que respondeu bem dez vezes não tem razão, só por isso, à décima primeira. ### Pedir à IA que se verifique a si própria As fontes aqui citadas não estudam diretamente o caso em que se pede à ferramenta que confirme a sua própria resposta. Dão, no entanto, elementos sobre a fiabilidade dos seus resultados. Um estudo sobre o ChatGPT constata autocontradições, isto é, duas frases contraditórias no mesmo contexto, em 17,7 % das frases produzidas. Os autores acrescentam que uma grande parte dessas contradições, 35,2 % no caso do ChatGPT, não pode ser verificada com textos em linha [5]. O detetor que propõem, baseado em instruções dadas ao ChatGPT, atinge cerca de 80 % de pontuação F1 [5]. É útil na investigação, mas deixa passar erros. O NIST nota também que os modelos fornecem por vezes etapas de raciocínio mesmo quando a resposta é falsa [2]. ### Acreditar que o problema vai desaparecer O estudo teórico considera a alucinação inevitável [4], e a revisão da investigação detalha os seus limites atuais [3]. A verificação humana continua, assim, a ser necessária. ### Os mesmos erros fora de um tribunal A OWASP cita outros casos: um chatbot da Air Canada deu informações falsas a viajantes, e a companhia foi processada com êxito [1]. Menciona também assistentes de programação que sugerem bibliotecas de código inexistentes ou pouco seguras [1]. Num cenário descrito pela OWASP, atacantes identificam os nomes de pacotes que os assistentes inventam com frequência, publicam pacotes maliciosos verdadeiros com esses nomes, e programadores integram-nos [1]. ## Fontes 1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026) 2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado em 3 de novembro de 2026) 3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions», 9 de novembro de 2023. https://arxiv.org/abs/2311.05232 (consultado em 3 de novembro de 2026) 4. arXiv, «Hallucination is Inevitable: An Innate Limitation of Large Language Models», 22 de janeiro de 2024. https://arxiv.org/abs/2401.11817 (consultado em 3 de novembro de 2026) 5. arXiv, «Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation», 25 de maio de 2023. https://arxiv.org/abs/2305.15852 (consultado em 3 de novembro de 2026) --- Fonte original: Cyberpedia, a enciclopédia pública de cibersegurança e IA publicada pela Brain. Versão canónica: https://startbrain.io/cyberpedia/pt/articles/advogado-acordaos-falsos-chatgpt-mata-avianca/ Pode reutilizar livremente este texto sob a licença CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), desde que cite «Brain, Cyberpedia» com uma ligação para o endereço acima.