Cyberpediapor Brain
PTDEENESFRITNL

O advogado e os acórdãos falsos do ChatGPT

Um assistente de IA pode inventar decisões judiciais credíveis. Porquê, e como verificar uma citação antes de a usar no trabalho.

Em 30 segundos

Onde acontece
Em qualquer texto produzido por um assistente de IA que contenha uma citação, um número ou uma decisão judicial.
O que quer o atacante
Ninguém. O risco vem do próprio modelo, que pode produzir uma resposta falsa sem que qualquer atacante intervenha1.
O reflexo
Não reutilizar nenhuma citação, número ou referência de uma IA sem a ter encontrado na fonte original e, antes de qualquer uso profissional, pedir a revisão de uma pessoa.
Se já o fez
Encontrar a fonte de cada elemento já utilizado, corrigir ou retirar o que não se confirma e avisar os destinatários do documento.

Do que se trata

Um assistente de IA pode produzir uma decisão judicial que não existe. A OWASP refere que o ChatGPT fabricou casos jurídicos falsos, com consequências importantes perante um tribunal1. Este risco diz também respeito ao colaborador que aproveita tal e qual o texto de um assistente de IA.

As fontes aqui citadas não nomeiam o caso Mata v. Avianca nem o relatam. Por isso, esta ficha não reproduz os nomes das pessoas, as datas nem a sanção: limita-se ao que as fontes estabelecem e explica o que um colaborador pode retirar daí para o seu próprio trabalho.

Perguntas diretas

O que aconteceu no caso Mata v. Avianca?

Entre as fontes aqui citadas, só a página da OWASP refere este tipo de caso, sem nomear o processo: o ChatGPT é descrito como tendo fabricado casos jurídicos falsos, o que causou dificuldades importantes perante um tribunal1. O pormenor do processo, a data e a sanção não constam dessa página.

Porque é que uma IA inventa referências?

Um modelo de linguagem não consulta uma base de factos. A OWASP explica que preenche as lacunas dos dados de treino com regularidades estatísticas, sem compreender o conteúdo: a resposta pode parecer correta e, ainda assim, não ter fundamento1. O NIST descreve o mesmo mecanismo: estes modelos produzem resultados que se aproximam da distribuição estatística dos dados de treino, e os grandes modelos de linguagem preveem a palavra seguinte numa frase2.

É uma falha que será corrigida em breve?

As fontes não o prometem. Uma revisão da investigação nota que estes modelos podem produzir conteúdo plausível mas não factual, o que levanta sérias questões sobre a sua fiabilidade em sistemas de recuperação de informação3. Um estudo teórico afirma que é impossível eliminar a alucinação nos grandes modelos de linguagem e que estes alucinarão inevitavelmente se forem usados como resolvedores de problemas gerais4.

Que vocabulário convém conhecer?

O NIST fala de «confabulação» para a produção de conteúdos falsos apresentados com segurança e precisa que a linguagem corrente também diz «alucinações» ou «fabricações»2. As duas palavras designam o mesmo fenómeno.

Um texto redigido num tom seguro é mais fiável?

Não. Segundo o NIST, o risco surge quando os utilizadores acreditam num conteúdo falso, muitas vezes por causa do tom seguro da resposta, e agem depois com base nele2.

1Como funciona1 min

O modelo não procura a verdade, produz a sequência de palavras mais provável. O NIST nota que esta previsão estatística pode dar resultados exatos e coerentes, mas também resultados inexatos ou incoerentes entre si. Considera o fenómeno particularmente nítido nas perguntas abertas que pedem respostas longas e nos domínios que exigem conhecimento especializado do contexto2.

A OWASP distingue dois problemas ligados. O primeiro é a alucinação, quando o modelo gera um conteúdo que parece exato mas é inventado. O segundo é a confiança excessiva: os utilizadores confiam demasiado no texto gerado e não verificam a sua exatidão, pelo que integram dados falsos em decisões ou processos importantes1.

2O que faz1 min

As práticas abaixo retomam as medidas da OWASP e do NIST, formuladas do ponto de vista do colaborador.

  • Trate toda a citação, todo o número e toda a referência produzidos por uma IA como não verificados. A OWASP recomenda que os utilizadores confrontem os resultados com fontes externas fiáveis1.
  • Encontre o elemento na fonte original: o texto da decisão, o documento oficial, o estudo. Uma referência que não consiga encontrar não se usa.
  • Cruze várias fontes externas fiáveis, em vez de se contentar com uma única confirmação1.
  • Mantenha uma validação humana antes de qualquer uso profissional. A OWASP pede supervisão humana e processos de verificação de factos para a informação crítica ou sensível, com revisores formados para não confiarem em excesso no conteúdo gerado1.
  • Indique aos seus leitores o que foi produzido com uma IA. A OWASP recomenda que se identifiquem claramente os conteúdos gerados e que se informem os utilizadores dos limites de fiabilidade1.
  • Nos domínios sensíveis, como a saúde ou os processos judiciais, redobre a prudência: a OWASP cita esses contextos a propósito das afirmações sem fundamento1.
3As armadilhas2 min

O tom seguro

Uma resposta fluida e afirmativa não prova nada. O NIST salienta que as confabulações podem também assumir a forma de raciocínios ou citações inventados que pretendem justificar a resposta, o que pode levar a confiar indevidamente no sistema2. Uma referência muito pormenorizada, com número, jurisdição e data, não é, portanto, indício de autenticidade.

A confiança que se instala

O NIST descreve um viés de automatização: à medida que a tecnologia parece fiável, as pessoas podem confiar depressa demais nos seus resultados ou considerar o seu conteúdo melhor do que o de outras fontes. Este viés agrava o risco de confabulação2. Uma ferramenta que respondeu bem dez vezes não tem razão, só por isso, à décima primeira.

Pedir à IA que se verifique a si própria

As fontes aqui citadas não estudam diretamente o caso em que se pede à ferramenta que confirme a sua própria resposta. Dão, no entanto, elementos sobre a fiabilidade dos seus resultados. Um estudo sobre o ChatGPT constata autocontradições, isto é, duas frases contraditórias no mesmo contexto, em 17,7 % das frases produzidas. Os autores acrescentam que uma grande parte dessas contradições, 35,2 % no caso do ChatGPT, não pode ser verificada com textos em linha5. O detetor que propõem, baseado em instruções dadas ao ChatGPT, atinge cerca de 80 % de pontuação F15. É útil na investigação, mas deixa passar erros. O NIST nota também que os modelos fornecem por vezes etapas de raciocínio mesmo quando a resposta é falsa2.

Acreditar que o problema vai desaparecer

O estudo teórico considera a alucinação inevitável4, e a revisão da investigação detalha os seus limites atuais3. A verificação humana continua, assim, a ser necessária.

Os mesmos erros fora de um tribunal

A OWASP cita outros casos: um chatbot da Air Canada deu informações falsas a viajantes, e a companhia foi processada com êxito1. Menciona também assistentes de programação que sugerem bibliotecas de código inexistentes ou pouco seguras1. Num cenário descrito pela OWASP, atacantes identificam os nomes de pacotes que os assistentes inventam com frequência, publicam pacotes maliciosos verdadeiros com esses nomes, e programadores integram-nos1.

Ficha

Identificador
CP-272
Ala
4. Inteligência artificial
Competência Brain
Verificar as respostas (verify_output)
Reflexo Brain
air-026
Esquema
G2 · Mito contra realidade
Idiomas
de, en, es, fr, it, nl, pt
Fontes
5 fontes verificadas em 3 de novembro de 2026
Fontes5 fontes
  1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultado em 3 de novembro de 2026)
  2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultado em 3 de novembro de 2026)
  3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions», 9 de novembro de 2023. https://arxiv.org/abs/2311.05232 (consultado em 3 de novembro de 2026)
  4. arXiv, «Hallucination is Inevitable: An Innate Limitation of Large Language Models», 22 de janeiro de 2024. https://arxiv.org/abs/2401.11817 (consultado em 3 de novembro de 2026)
  5. arXiv, «Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation», 25 de maio de 2023. https://arxiv.org/abs/2305.15852 (consultado em 3 de novembro de 2026)

Citar este artigo

Brain, «O advogado e os acórdãos falsos do ChatGPT», Cyberpedia, 2026. https://startbrain.io/cyberpedia/pt/articles/advogado-acordaos-falsos-chatgpt-mata-avianca/

BibTeX 
@misc{brain_cp272_pt_2026,
  author = {Brain},
  title = {O advogado e os acórdãos falsos do ChatGPT},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/pt/articles/advogado-acordaos-falsos-chatgpt-mata-avianca/},
  note = {CC BY 4.0}
}
Licença CC BY 4.0