Cyberpediadi Brain

Far rileggere un contratto a un'IA: cosa individua, cosa le sfugge

Un assistente IA può individuare clausole a rischio in un contratto, ma ne omette e ne inventa. I limiti misurati e i gesti da adottare.

In questa pagina
  1. 1In 30 secondi
  2. 2Di cosa si tratta
  3. 3Domande dirette
  4. 4Come funziona
  5. 5Cosa fa Lei
  6. 6Le insidie
  7. 7Fonti
  8. 8Cita questo articolo

In 30 secondi

Dove succede
Quando si chiede a un assistente IA di individuare in un contratto le clausole a rischio[1].
Cosa può andare storto
Dei modelli rispondono no related clause anche se è presente una clausola pertinente[1], e un modello può produrre affermazioni giuridiche prive di fondamento[2].
Il riflesso
Non inserire informazioni sensibili in una richiesta a un modello pubblico[3], e far verificare i risultati da una persona quando la posta in gioco è importante[2].

Di cosa si tratta

Dei ricercatori hanno misurato la capacità di modelli di linguaggio di identificare, clausola per clausola, i rischi giuridici di contratti commerciali. Il loro banco di prova, ContractEval, ha testato 4 modelli proprietari e 15 modelli open source[1]. Concludono che la maggior parte dei modelli raggiunge un livello paragonabile a quello di assistenti legali alle prime armi[1].

Questo articolo spiega a un dipendente cosa mostrano questi lavori, cosa un assistente IA può omettere o inventare, e i gesti da adottare prima di affidargli un documento.

Domande dirette

Un assistente IA individua tutte le clausole di un contratto?

I lavori di ContractEval non permettono di affermarlo. Gli autori hanno utilizzato il dataset Contract Understanding Atticus Dataset (CUAD)[1]. Osservano che i modelli open source generano più spesso risposte no related clause, anche quando sono presenti clausole pertinenti[1]. Vi vedono un possibile segno di laziness nel ragionamento o di una scarsa fiducia del modello nell'estrarre il contenuto pertinente[1].

I modelli proprietari ottengono risultati migliori dei modelli open source in accuratezza e in efficacia delle risposte, anche se alcuni modelli open source restano competitivi su alcuni punti[1].

Una modalità di ragionamento rende l'analisi più affidabile?

Non necessariamente. Secondo ContractEval, la modalità di ragionamento (thinking) migliora l'efficacia delle risposte ma ne riduce l'accuratezza, probabilmente perché complica in eccesso compiti più semplici[1].

Un'IA può inventare testi o decisioni giudiziarie?

Sì. L'OWASP porta l'esempio di ChatGPT, che ha fabbricato false cause legali, con conseguenze importanti davanti a un tribunale[2]. L'OWASP chiama questo fenomeno un'allucinazione: il modello genera un contenuto che sembra esatto ma è inventato[2]. Un rapporto tecnico di Alex Dantart analizza questo problema delle allucinazioni dei modelli di linguaggio applicati al diritto, le sue cause e le sue manifestazioni[4].

Perché una risposta sbagliata sembra sicura di sé?

L'OWASP descrive la disinformazione di un modello come informazioni false o fuorvianti che sembrano credibili[2]. L'NCSC (Regno Unito) scriveva nel 2023 che i modelli hanno il difetto di sembrare convincenti, che abbiano ragione o no[3]. Aggiungeva che le loro risposte possono essere corrette solo in parte, soprattutto quando l'argomento è specialistico[3].

Si può incollare un contratto in un assistente pubblico?

L'NCSC raccomanda di non includere informazioni sensibili nelle richieste rivolte a modelli pubblici, e di non sottoporre loro richieste che creerebbero problemi se diventassero pubbliche[3]. Descrive anche la pratica che consiste nel copiare grandi quantità di testo, persino documenti interi, nella domanda per dare contesto, e non la raccomanda con informazioni sensibili su modelli pubblici[3].

Che fine fa ciò che scrivo nell'assistente?

Secondo l'NCSC, la richiesta è visibile all'organizzazione che fornisce il modello, viene conservata e sarà quasi certamente utilizzata un giorno per sviluppare il servizio o il modello[3]. Al momento in cui scriveva, l'NCSC precisava che un modello non aggiungeva automaticamente le informazioni delle richieste al proprio modello per gli altri utenti[3]. Osserva anche che delle richieste conservate online possono essere violate, divulgate o, più probabilmente, rese pubbliche per errore[3].

Esiste un quadro per valutare questi rischi?

Il NIST ha pubblicato il 26 gennaio 2023 il proprio AI Risk Management Framework, di uso volontario[5]. Il 26 luglio 2024 ha pubblicato NIST-AI-600-1, un profilo dedicato all'IA generativa, che può aiutare le organizzazioni a identificare i rischi propri di questi strumenti[5].

Come funziona

Secondo l'NCSC, un modello di linguaggio è stato addestrato su una grande quantità di testi e ne ricava un modello di probabilità basato sulle relazioni tra le parole[3]. L'OWASP spiega che le allucinazioni si verificano perché il modello colma le lacune dei propri dati di addestramento con regolarità statistiche, senza comprendere il contenuto[2]. Può allora produrre risposte che sembrano giuste ma sono prive di fondamento[2].

Una contromisura comune è la Retrieval-Augmented Generation (RAG). L'OWASP la raccomanda: consiste nel recuperare informazioni pertinenti e verificate da basi esterne affidabili durante la generazione della risposta, il che aiuta a limitare le allucinazioni[2]. Una rassegna della letteratura sulla RAG la presenta come una combinazione di modelli di linguaggio e di sistemi di ricerca di informazioni, destinata a rafforzare l'ancoraggio fattuale e ad attenuare le allucinazioni[6]. La stessa rassegna cita tra le difficoltà persistenti la qualità della ricerca di informazioni e le questioni di riservatezza[6]. Anche il rapporto di Alex Dantart esamina l'efficacia della RAG e ne espone i limiti[4].

Cosa fa Lei

  • Prima di incollare un testo, verifichi cosa contiene: l'NCSC raccomanda di non includere informazioni sensibili nelle richieste a un modello pubblico[3].
  • Legga le condizioni d'uso e l'informativa sulla riservatezza dello strumento prima di porgli domande sensibili: l'NCSC indica che devono essere ben comprese[3].
  • Per uno strumento fornito da un prestatore cloud, l'NCSC invita le organizzazioni a capire come vengono gestiti i loro dati: i ricercatori o i partner del fornitore vi hanno accesso, e a quali condizioni un dipendente del fornitore può vedere le richieste[3]?
  • Incroci le risposte con fonti esterne affidabili. L'OWASP raccomanda di incoraggiare questa verifica e di predisporre una supervisione umana e un controllo dei fatti, soprattutto per le informazioni critiche o sensibili[2].
  • Non scambi una risposta no related clause per la prova che nessuna clausola si applichi: ContractEval ha rilevato tali risposte anche se erano presenti clausole pertinenti[1].
  • Mantenga il controllo del giudizio. Il rapporto di Alex Dantart insiste sulla supervisione umana, che ritiene insostituibile, e propone un'IA «consultiva», strumento che amplifica il giudizio professionale invece di sostituirlo[4].

Le insidie

  • L'eccessiva fiducia. L'OWASP la chiama così: fidarsi troppo di un contenuto generato senza verificarne l'esattezza, il che aggrava l'effetto di un'informazione falsa quando entra in una decisione[2].
  • Un livello da principiante. Gli autori di ContractEval paragonano la maggior parte dei modelli ad assistenti legali alle prime armi e ritengono che i modelli open source abbiano bisogno di un adattamento mirato (fine-tuning) per essere corretti ed efficaci in situazioni giuridiche ad alta posta in gioco[1].
  • Una modalità di ragionamento scambiata per una garanzia di qualità: riduce l'accuratezza nei test di ContractEval[1].
  • Una risposta che suona giusta. L'NCSC osserva che le risposte convincenti possono essere corrette solo in parte[3].

Fonti

  1. arXiv, «ContractEval: Benchmarking LLMs for Clause-Level Legal Risk Identification in Commercial Contracts», 5 agosto 2025. https://arxiv.org/abs/2508.03080 (consultato il 14 novembre 2026)
  2. OWASP, «LLM09:2025 Misinformation», 10 aprile 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultato il 14 novembre 2026)
  3. NCSC (Royaume-Uni), «ChatGPT and large language models: what's the risk?», 14 marzo 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (consultato il 14 novembre 2026)
  4. arXiv, «Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para una integración responsable», 11 settembre 2025. https://arxiv.org/abs/2509.09467 (consultato il 14 novembre 2026)
  5. NIST, «AI Risk Management Framework», 12 luglio 2021. https://www.nist.gov/itl/ai-risk-management-framework (consultato il 14 novembre 2026)
  6. arXiv, «A Systematic Review of Key Retrieval-Augmented Generation (RAG) Systems: Progress, Gaps, and Future Directions», 25 luglio 2025. https://arxiv.org/abs/2507.18910 (consultato il 14 novembre 2026)