Cyberpediadi Brain
ITDEENESFR

L'avvocato e le sentenze false di ChatGPT

Un assistente di IA può inventare sentenze credibili. Perché succede e come verificare una citazione prima di usarla al lavoro.

In 30 secondi

Dove succede
In qualsiasi testo prodotto da un assistente di IA che contenga una citazione, una cifra o una decisione giudiziaria.
Che cosa vuole l'attaccante
Nessuno. Il rischio nasce dal modello stesso, che può produrre una risposta falsa senza che alcun attaccante intervenga1.
Il riflesso
Non riprendere alcuna citazione, cifra o riferimento da un'IA senza averlo ritrovato nella fonte originale, poi far rileggere il testo da una persona prima di qualsiasi uso professionale.
Se è già successo
Risalire alla fonte di ogni elemento già utilizzato, correggere o eliminare ciò che non si verifica e avvisare i destinatari del documento.

Di cosa si tratta

Un assistente di IA può produrre una decisione giudiziaria che non esiste. L'OWASP segnala che ChatGPT ha fabbricato falsi casi giuridici, con conseguenze rilevanti davanti a un tribunale1. Il rischio riguarda anche il dipendente che riprende così com'è il testo di un assistente di IA.

Le fonti citate qui non nominano il caso Mata v. Avianca e non lo raccontano. Questa scheda non riporta quindi né i nomi delle persone, né le date, né la sanzione: si limita a ciò che le fonti stabiliscono e spiega che cosa un dipendente ne può ricavare per il proprio lavoro.

Domande dirette

Che cosa è successo nel caso Mata v. Avianca?

Tra le fonti citate qui, solo la pagina dell'OWASP accenna a questo tipo di caso, senza nominarlo: vi si descrive ChatGPT come autore di falsi casi giuridici, il che ha causato difficoltà rilevanti davanti a un tribunale1. Il dettaglio del procedimento, la data e la sanzione non vi compaiono.

Perché un'IA inventa dei riferimenti?

Un modello linguistico non consulta una base di fatti. L'OWASP spiega che colma le lacune dei dati di addestramento con regolarità statistiche, senza comprendere il contenuto: la risposta può sembrare corretta pur essendo priva di fondamento1. Il NIST descrive lo stesso meccanismo: questi modelli producono output che approssimano la distribuzione statistica dei dati di addestramento, e i grandi modelli linguistici prevedono la parola successiva in una frase2.

È un difetto che sarà presto corretto?

Le fonti non lo promettono. Una rassegna della ricerca osserva che questi modelli possono produrre contenuti plausibili ma non fattuali, e che ciò solleva seri interrogativi sulla loro affidabilità nei sistemi di recupero delle informazioni3. Uno studio teorico sostiene che è impossibile eliminare l'allucinazione nei grandi modelli linguistici, e che questi allucineranno inevitabilmente se usati come risolutori di problemi generali4.

Quale vocabolario conviene conoscere?

Il NIST parla di «confabulazione» per la produzione di contenuti falsi presentati con sicurezza, e precisa che nel linguaggio comune si dice anche «allucinazioni» o «fabbricazioni»2. Le due parole indicano lo stesso fenomeno.

Un testo scritto con tono sicuro è più affidabile?

No. Secondo il NIST, il rischio compare quando gli utenti credono a un contenuto falso, spesso a causa del tono sicuro della risposta, e poi agiscono su quella base2.

1Come funziona1 min

Il modello non cerca la verità, produce la sequenza di parole più probabile. Il NIST osserva che questa previsione statistica può dare output esatti e coerenti, ma anche output inesatti o incoerenti tra loro. Lo ritiene un fenomeno particolarmente evidente per le domande aperte che richiedono risposte lunghe, e negli ambiti che richiedono competenza contestuale2.

L'OWASP distingue due problemi collegati. Il primo è l'allucinazione, quando il modello genera un contenuto che sembra esatto ma è inventato. Il secondo è l'eccessivo affidamento: gli utenti si fidano troppo del testo generato e non ne verificano l'esattezza, così inseriscono dati falsi in decisioni o processi importanti1.

2Che cosa fare1 min

Le pratiche che seguono riprendono le misure dell'OWASP e del NIST, formulate dal punto di vista del dipendente.

  • Consideri non verificata ogni citazione, cifra e riferimento prodotti da un'IA. L'OWASP raccomanda agli utenti di confrontare gli output con fonti esterne affidabili1.
  • Ritrovi l'elemento nella fonte originale: il testo della decisione, il documento ufficiale, lo studio. Un riferimento che non riesce a ritrovare non si usa.
  • Incroci più fonti esterne affidabili invece di accontentarsi di una sola conferma1.
  • Mantenga una validazione umana prima di qualsiasi uso professionale. L'OWASP chiede supervisione umana e processi di verifica dei fatti per le informazioni critiche o sensibili, con revisori formati a non affidarsi eccessivamente al contenuto generato1.
  • Indichi ai suoi lettori che cosa è stato prodotto con un'IA. L'OWASP raccomanda di etichettare chiaramente i contenuti generati e di informare gli utenti sui limiti di affidabilità1.
  • Negli ambiti sensibili, come la salute o i procedimenti giudiziari, raddoppi la prudenza: l'OWASP cita questi contesti a proposito delle affermazioni infondate1.
3Le trappole2 min

Il tono sicuro

Una risposta fluida e assertiva non prova nulla. Il NIST rileva che le confabulazioni possono assumere anche la forma di ragionamenti o citazioni inventati che pretendono di giustificare la risposta, il che può indurre a fidarsi a torto del sistema2. Un riferimento molto dettagliato, con numero, giurisdizione e data, non è quindi un indizio di autenticità.

La fiducia che si consolida

Il NIST descrive un bias di automazione: man mano che la tecnologia appare affidabile, le persone possono affidarsi troppo in fretta ai suoi output o giudicarne il contenuto migliore di quello di altre fonti. Questo bias aggrava il rischio di confabulazione2. Uno strumento che ha risposto bene dieci volte non ha per questo ragione l'undicesima.

Chiedere all'IA di verificarsi da sola

Le fonti citate qui non studiano direttamente il caso in cui si chiede allo strumento di confermare la propria risposta. Forniscono però elementi sull'affidabilità dei suoi output. Uno studio su ChatGPT rileva autocontraddizioni, cioè due frasi contraddittorie nello stesso contesto, nel 17,7 % delle frasi prodotte. Gli autori aggiungono che gran parte di queste contraddizioni, il 35,2 % per ChatGPT, non può essere verificata con testi online5. Il loro rilevatore, basato su istruzioni date a ChatGPT, raggiunge circa l'80 % di F1 score5. È utile nella ricerca, ma lascia passare degli errori. Il NIST osserva inoltre che i modelli talvolta forniscono passaggi di ragionamento anche quando la risposta è sbagliata2.

Credere che il problema scomparirà

Lo studio teorico giudica l'allucinazione inevitabile4, e la rassegna della ricerca ne illustra in dettaglio i limiti attuali3. La verifica umana resta quindi necessaria.

Gli stessi errori fuori da un tribunale

L'OWASP cita altri casi: un assistente conversazionale di Air Canada ha dato informazioni false a dei viaggiatori e contro la compagnia è stata intentata con successo un'azione legale1. Segnala anche assistenti di programmazione che propongono librerie di codice inesistenti o poco sicure1. In uno scenario descritto dall'OWASP, degli attaccanti individuano i nomi di pacchetti spesso inventati dagli assistenti, pubblicano veri pacchetti dannosi con quei nomi e degli sviluppatori li integrano1.

Scheda

Identificativo
CP-272
Ala
4. Intelligenza artificiale
Competenza Brain
Verificare le risposte (verify_output)
Riflesso Brain
air-026
Schema
G2 · Mito contro realtà
Lingue
de, en, es, fr, it
Fonti
5 fonti verificate il 3 novembre 2026
Fonti5 fonti
  1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultato il 3 novembre 2026)
  2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultato il 3 novembre 2026)
  3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions», 9 novembre 2023. https://arxiv.org/abs/2311.05232 (consultato il 3 novembre 2026)
  4. arXiv, «Hallucination is Inevitable: An Innate Limitation of Large Language Models», 22 gennaio 2024. https://arxiv.org/abs/2401.11817 (consultato il 3 novembre 2026)
  5. arXiv, «Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation», 25 maggio 2023. https://arxiv.org/abs/2305.15852 (consultato il 3 novembre 2026)

Cita questo articolo

Brain, «L'avvocato e le sentenze false di ChatGPT», Cyberpedia, 2026. https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/

BibTeX 
@misc{brain_cp272_it_2026,
  author = {Brain},
  title = {L'avvocato e le sentenze false di ChatGPT},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/},
  note = {CC BY 4.0}
}
Licenza CC BY 4.0