--- id: CP-272 slug: avvocato-sentenze-false-chatgpt-mata-avianca lang: it title: L'avvocato e le sentenze false di ChatGPT description: Un assistente di IA può inventare sentenze credibili. Perché succede e come verificare una citazione prima di usarla al lavoro. canonical_url: https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/ markdown_url: https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, «L'avvocato e le sentenze false di ChatGPT», Cyberpedia, 2026. https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-026 schema: G2 updated: "2026-11-03" translations: it: https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/ fr: https://startbrain.io/cyberpedia/fr/articles/avocat-faux-arrets-chatgpt-mata-avianca/ en: https://startbrain.io/cyberpedia/en/articles/lawyer-fake-cases-chatgpt-mata-avianca/ de: https://startbrain.io/cyberpedia/de/articles/anwalt-erfundene-urteile-chatgpt-mata-avianca/ es: https://startbrain.io/cyberpedia/es/articles/abogado-sentencias-falsas-chatgpt-mata-avianca/ nl: https://startbrain.io/cyberpedia/nl/articles/advocaat-verzonnen-uitspraken-chatgpt-mata-avianca/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 published: "2023-11-09" accessed: "2026-11-03" - "n": 4 title: "Hallucination is Inevitable: An Innate Limitation of Large Language Models" publisher: arXiv url: https://arxiv.org/abs/2401.11817 published: "2024-01-22" accessed: "2026-11-03" - "n": 5 title: "Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation" publisher: arXiv url: https://arxiv.org/abs/2305.15852 published: "2023-05-25" accessed: "2026-11-03" --- # L'avvocato e le sentenze false di ChatGPT Un assistente di IA può produrre una decisione giudiziaria che non esiste. L'OWASP segnala che ChatGPT ha fabbricato falsi casi giuridici, con conseguenze rilevanti davanti a un tribunale [1]. Il rischio riguarda anche il dipendente che riprende così com'è il testo di un assistente di IA. Le fonti citate qui non nominano il caso Mata v. Avianca e non lo raccontano. Questa scheda non riporta quindi né i nomi delle persone, né le date, né la sanzione: si limita a ciò che le fonti stabiliscono e spiega che cosa un dipendente ne può ricavare per il proprio lavoro. ## In 30 secondi - Dove succede: in qualsiasi testo prodotto da un assistente di IA che contenga una citazione, una cifra o una decisione giudiziaria. - Che cosa vuole l'attaccante: nessuno. Il rischio nasce dal modello stesso, che può produrre una risposta falsa senza che alcun attaccante intervenga [1]. - Il riflesso: non riprendere alcuna citazione, cifra o riferimento da un'IA senza averlo ritrovato nella fonte originale, poi far rileggere il testo da una persona prima di qualsiasi uso professionale. - Se è già successo: risalire alla fonte di ogni elemento già utilizzato, correggere o eliminare ciò che non si verifica e avvisare i destinatari del documento. ## Domande dirette ### Che cosa è successo nel caso Mata v. Avianca? Tra le fonti citate qui, solo la pagina dell'OWASP accenna a questo tipo di caso, senza nominarlo: vi si descrive ChatGPT come autore di falsi casi giuridici, il che ha causato difficoltà rilevanti davanti a un tribunale [1]. Il dettaglio del procedimento, la data e la sanzione non vi compaiono. ### Perché un'IA inventa dei riferimenti? Un modello linguistico non consulta una base di fatti. L'OWASP spiega che colma le lacune dei dati di addestramento con regolarità statistiche, senza comprendere il contenuto: la risposta può sembrare corretta pur essendo priva di fondamento [1]. Il NIST descrive lo stesso meccanismo: questi modelli producono output che approssimano la distribuzione statistica dei dati di addestramento, e i grandi modelli linguistici prevedono la parola successiva in una frase [2]. ### È un difetto che sarà presto corretto? Le fonti non lo promettono. Una rassegna della ricerca osserva che questi modelli possono produrre contenuti plausibili ma non fattuali, e che ciò solleva seri interrogativi sulla loro affidabilità nei sistemi di recupero delle informazioni [3]. Uno studio teorico sostiene che è impossibile eliminare l'allucinazione nei grandi modelli linguistici, e che questi allucineranno inevitabilmente se usati come risolutori di problemi generali [4]. ### Quale vocabolario conviene conoscere? Il NIST parla di «confabulazione» per la produzione di contenuti falsi presentati con sicurezza, e precisa che nel linguaggio comune si dice anche «allucinazioni» o «fabbricazioni» [2]. Le due parole indicano lo stesso fenomeno. ### Un testo scritto con tono sicuro è più affidabile? No. Secondo il NIST, il rischio compare quando gli utenti credono a un contenuto falso, spesso a causa del tono sicuro della risposta, e poi agiscono su quella base [2]. ## Come funziona Il modello non cerca la verità, produce la sequenza di parole più probabile. Il NIST osserva che questa previsione statistica può dare output esatti e coerenti, ma anche output inesatti o incoerenti tra loro. Lo ritiene un fenomeno particolarmente evidente per le domande aperte che richiedono risposte lunghe, e negli ambiti che richiedono competenza contestuale [2]. L'OWASP distingue due problemi collegati. Il primo è l'allucinazione, quando il modello genera un contenuto che sembra esatto ma è inventato. Il secondo è l'eccessivo affidamento: gli utenti si fidano troppo del testo generato e non ne verificano l'esattezza, così inseriscono dati falsi in decisioni o processi importanti [1]. ## Che cosa fare Le pratiche che seguono riprendono le misure dell'OWASP e del NIST, formulate dal punto di vista del dipendente. - Consideri non verificata ogni citazione, cifra e riferimento prodotti da un'IA. L'OWASP raccomanda agli utenti di confrontare gli output con fonti esterne affidabili [1]. - Ritrovi l'elemento nella fonte originale: il testo della decisione, il documento ufficiale, lo studio. Un riferimento che non riesce a ritrovare non si usa. - Incroci più fonti esterne affidabili invece di accontentarsi di una sola conferma [1]. - Mantenga una validazione umana prima di qualsiasi uso professionale. L'OWASP chiede supervisione umana e processi di verifica dei fatti per le informazioni critiche o sensibili, con revisori formati a non affidarsi eccessivamente al contenuto generato [1]. - Indichi ai suoi lettori che cosa è stato prodotto con un'IA. L'OWASP raccomanda di etichettare chiaramente i contenuti generati e di informare gli utenti sui limiti di affidabilità [1]. - Negli ambiti sensibili, come la salute o i procedimenti giudiziari, raddoppi la prudenza: l'OWASP cita questi contesti a proposito delle affermazioni infondate [1]. ## Le trappole ### Il tono sicuro Una risposta fluida e assertiva non prova nulla. Il NIST rileva che le confabulazioni possono assumere anche la forma di ragionamenti o citazioni inventati che pretendono di giustificare la risposta, il che può indurre a fidarsi a torto del sistema [2]. Un riferimento molto dettagliato, con numero, giurisdizione e data, non è quindi un indizio di autenticità. ### La fiducia che si consolida Il NIST descrive un bias di automazione: man mano che la tecnologia appare affidabile, le persone possono affidarsi troppo in fretta ai suoi output o giudicarne il contenuto migliore di quello di altre fonti. Questo bias aggrava il rischio di confabulazione [2]. Uno strumento che ha risposto bene dieci volte non ha per questo ragione l'undicesima. ### Chiedere all'IA di verificarsi da sola Le fonti citate qui non studiano direttamente il caso in cui si chiede allo strumento di confermare la propria risposta. Forniscono però elementi sull'affidabilità dei suoi output. Uno studio su ChatGPT rileva autocontraddizioni, cioè due frasi contraddittorie nello stesso contesto, nel 17,7 % delle frasi prodotte. Gli autori aggiungono che gran parte di queste contraddizioni, il 35,2 % per ChatGPT, non può essere verificata con testi online [5]. Il loro rilevatore, basato su istruzioni date a ChatGPT, raggiunge circa l'80 % di F1 score [5]. È utile nella ricerca, ma lascia passare degli errori. Il NIST osserva inoltre che i modelli talvolta forniscono passaggi di ragionamento anche quando la risposta è sbagliata [2]. ### Credere che il problema scomparirà Lo studio teorico giudica l'allucinazione inevitabile [4], e la rassegna della ricerca ne illustra in dettaglio i limiti attuali [3]. La verifica umana resta quindi necessaria. ### Gli stessi errori fuori da un tribunale L'OWASP cita altri casi: un assistente conversazionale di Air Canada ha dato informazioni false a dei viaggiatori e contro la compagnia è stata intentata con successo un'azione legale [1]. Segnala anche assistenti di programmazione che propongono librerie di codice inesistenti o poco sicure [1]. In uno scenario descritto dall'OWASP, degli attaccanti individuano i nomi di pacchetti spesso inventati dagli assistenti, pubblicano veri pacchetti dannosi con quei nomi e degli sviluppatori li integrano [1]. ## Fonti 1. OWASP, «LLM09:2025 Misinformation». https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultato il 3 novembre 2026) 2. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultato il 3 novembre 2026) 3. arXiv, «A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions», 9 novembre 2023. https://arxiv.org/abs/2311.05232 (consultato il 3 novembre 2026) 4. arXiv, «Hallucination is Inevitable: An Innate Limitation of Large Language Models», 22 gennaio 2024. https://arxiv.org/abs/2401.11817 (consultato il 3 novembre 2026) 5. arXiv, «Self-contradictory Hallucinations of Large Language Models: Evaluation, Detection and Mitigation», 25 maggio 2023. https://arxiv.org/abs/2305.15852 (consultato il 3 novembre 2026) --- Fonte originale: Cyberpedia, l'enciclopedia pubblica di cybersicurezza e IA pubblicata da Brain. Versione canonica: https://startbrain.io/cyberpedia/it/articles/avvocato-sentenze-false-chatgpt-mata-avianca/ Puoi riutilizzare liberamente questo testo con licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), a condizione di citare «Brain, Cyberpedia» con un link all'indirizzo qui sopra.