Cyberpediadi Brain

Uscite strutturate: far compilare uno schema all'IA

Come uno schema JSON trasforma un testo libero in campi precisi, cosa garantisce la funzione e i riflessi per controllare i valori.

In questa pagina
  1. 1In 30 secondi
  2. 2Di cosa si tratta
  3. 3Domande dirette
  4. 4Come funziona
  5. 5Cosa fa Lei
  6. 6Le trappole
  7. 7Fonti
  8. 8Cita questo articolo

In 30 secondi

Dove succede
Negli strumenti che chiedono a un'IA di sistemare un testo libero in dei campi, per esempio per ricavare da una frase il nome di un evento, la sua data e i suoi partecipanti[1].
Cosa garantisce
Una risposta conforme allo schema[2]. Microsoft[1] contrappone questa funzione alla vecchia modalità JSON, che garantiva un JSON valido senza poter assicurare il rispetto dello schema fornito.
Cosa resta possibile
Un campo dichiarato obbligatorio costringe il modello a fornire un valore[2], e il NIST[3] descrive dei contenuti falsi presentati con sicurezza.
Il riflesso
Autorizzare il valore vuoto per i campi che possono mancare[1], convalidare il risultato prima di usarlo, convalidarlo prima di farlo eseguire[4] e far rivedere da una persona quando la posta in gioco è alta[5].

Di cosa si tratta

Un'e-mail o un resoconto è un testo libero. Per ricavarne dei campi precisi, un'applicazione può imporre all'IA uno schema JSON. Microsoft[1] presenta le uscite strutturate (structured outputs) come una funzione che fa seguire al modello una definizione di JSON Schema fornita nella chiamata all'API, e tra i suoi usi cita l'estrazione di dati strutturati[1].

Uno schema di risposta precisa i nomi dei campi e il tipo di dato atteso per ciascuno[2]. Google[2] scrive che, con uno schema, la risposta del modello segue sempre lo schema definito[2]. Questo articolo separa due questioni: la forma della risposta e la correttezza del suo contenuto.

Domande dirette

Che cos'è un'uscita strutturata?

È una risposta dell'IA che segue uno schema fornito con la richiesta. Microsoft[1] la distingue dalla vecchia modalità JSON, che garantiva un JSON valido ma non poteva assicurare il rispetto dello schema. Google[2] precisa che la modalità JSON senza schema è solo un forte incoraggiamento e non dà il 100 % di JSON valido. Per ottenere il 100 % di JSON valido, la richiesta deve contenere sia uno schema di risposta sia il tipo application/json[2].

Uno schema rispettato significa valori esatti?

No. Il NIST[3] spiega che gli errori di contenuto derivano dalla progettazione dei modelli generativi: producono uscite che si avvicinano alla distribuzione statistica dei loro dati di addestramento, il che può dare uscite esatte come inesatte[3]. L'OWASP[5] descrive l'allucinazione come un contenuto che sembra esatto ma è inventato[5].

Cosa fa il modello quando l'informazione manca nel testo?

Secondo Google[2], i campi sono facoltativi per impostazione predefinita: il modello può compilarli o ignorarli. Si possono dichiarare obbligatori per costringerlo a fornire un valore. Se il contesto della richiesta è insufficiente, il modello risponde soprattutto in base ai dati con cui è stato addestrato[2]. Presso Microsoft[1], tutti i campi devono essere dichiarati obbligatori, e un campo facoltativo si emula con un tipo che accetta anche il valore null.

Si può far eseguire l'uscita così com'è?

No. L'OWASP[4] chiama questo difetto «Improper Output Handling»: una convalida insufficiente delle uscite del modello prima che passino ad altri componenti. Poiché il contenuto generato può essere guidato dalla richiesta, l'OWASP lo paragona a un accesso indiretto a funzioni supplementari[4]. Tra i suoi esempi: un'uscita inserita direttamente in un interprete dei comandi (funzioni exec o eval), che porta all'esecuzione di codice da remoto, e delle interrogazioni SQL generate ed eseguite senza parametrizzazione, che portano a un'iniezione SQL[4].

Quando far rivedere da una persona?

L'OWASP[5] propone una supervisione umana e una verifica dei fatti, soprattutto per le informazioni critiche o sensibili, con dei revisori formati a non affidarsi ciecamente all'IA[5]. Il NIST[3] porta l'esempio della sanità: un riassunto inventato di cartelle di pazienti potrebbe indurre dei medici a porre una diagnosi sbagliata o a raccomandare una cura sbagliata[3]. Aggiunge che il rischio è particolarmente importante da monitorare nelle applicazioni in cui l'IA alimenta decisioni dalle gravi conseguenze[3].

Come funziona

Azure Databricks[6] descrive la funzione come la generazione di risposte in un formato JSON definito, tramite un campo di formato della risposta nella richiesta di conversazione. La raccomanda per estrarre dati da un grande numero di documenti (per esempio classificare le recensioni di un prodotto in negative, positive o neutre), per le elaborazioni a lotti che richiedono un dato formato, e per trasformare dati non strutturati in dati strutturati[6]. Il suo esempio di schema estrae da un testo di ricerca il titolo, gli autori, il riassunto e le parole chiave[6].

I fornitori non riprendono tutto JSON Schema, solo un sottoinsieme. Presso Microsoft[1], uno schema può contare fino a 100 proprietà di oggetto e cinque livelli di annidamento. Le parole chiave pattern, minLength, maxLength, minimum e maximum non sono supportate[1]. Azure Databricks[6] fissa il massimo a 64 chiavi, indica di non applicare vincoli di lunghezza o di dimensione agli oggetti e agli array, e nota che uno schema molto annidato dà una generazione di qualità inferiore: consiglia di appiattirlo se possibile[6]. Precisa anche che le tecniche impiegate per migliorare la qualità cambiano il numero di gettoni consumati, quindi la fatturazione[6].

Presso Google[2], la risposta del modello usa il nome e la descrizione di ciascun campo dello schema. Google raccomanda nomi di campo chiari e una descrizione che definisca il ruolo di ciascuno[2]. Sconsiglia di ricopiare lo schema nell'istruzione: la qualità dell'uscita può risentirne[2]. Nota anche che l'uso dell'uscita strutturata su modelli Gemini affinati può diminuire la qualità del modello[2].

La ricerca lavora sullo stesso problema. Uno studio pubblicato su arXiv nel febbraio 2025[7] ha costruito un banco di prova di circa 40.000 schemi JSON diversi e constata che gli LLM più recenti faticano ancora a produrre una stringa JSON valida[7]. Un altro, del maggio 2025[8], misura separatamente l'esattezza dello schema e la fedeltà del contenuto[8].

Cosa fa Lei

Questi gesti riguardano chi imposta un'estrazione o usa il suo risultato.

  • Prevedere il valore vuoto. Per ogni campo la cui informazione può mancare nel testo, usare la possibilità descritta da Microsoft[1]: un tipo che accetta il valore null. Un campo obbligatorio costringe a un valore[2].
  • Dare un nome e una descrizione a ogni campo. Google[2] raccomanda nomi privi di ambiguità e un campo di descrizione per il ruolo di ciascun campo.
  • Convalidare il risultato. Se lo schema non può essere definito in anticipo, Google[2] raccomanda un validatore JSON lato client con un nuovo tentativo in caso di fallimento. L'OWASP[5] raccomanda di convalidare automaticamente le uscite chiave, soprattutto negli ambienti in cui la posta in gioco è alta[5]. Con il modello databricks-claude-opus-5, una richiesta può restituire un motivo di arresto di tipo filtro dei contenuti quando il modello rifiuta la richiesta, e l'uscita può allora non rispettare lo schema: Azure Databricks[6] indica di verificare questo motivo di arresto prima di analizzare l'uscita.
  • Non eseguire nulla senza controllo. L'OWASP[4] consiglia di trattare il modello come qualsiasi altro utente (approccio zero-trust) e di convalidare le sue risposte prima di trasmetterle alle funzioni dell'applicazione. Raccomanda anche interrogazioni parametrizzate per qualsiasi operazione su una base di dati che tocchi un'uscita del modello[4].
  • Confrontare con fonti affidabili. L'OWASP[5] incoraggia gli utenti a confrontare le uscite con fonti esterne attendibili.
  • Far rivedere quando la posta in gioco è alta, come nella domanda sulla revisione più sopra[5].

Le trappole

Una casella obbligatoria spinge verso un valore plausibile. Google[2] indica che un campo dichiarato obbligatorio costringe il modello a fornire un valore e che, in mancanza di contesto, risponde soprattutto in base ai suoi dati di addestramento[2]. Il NIST[3] nota che questi errori sono presentati con sicurezza: il rischio nasce quando gli utenti credono a un contenuto falso a causa del tono sicuro della risposta[3].

Una giustificazione non è una prova. Il NIST[3] rileva che i modelli forniscono a volte dei passaggi logici per spiegare una risposta anche quando questa risposta è falsa, il che può portare a fidarsi troppo di loro[3]. Un campo «spiegazione» compilato dal modello non prova quindi nulla.

Forma valida e contenuto fedele sono due misure. Nello studio del maggio 2025[8], un modello Mistral-7B affinato con decodifica vincolata raggiunge un'esattezza dello schema del 99,5 % e una similarità del contenuto del 94,0 %[8].

L'eccessiva fiducia aggrava l'errore. L'OWASP[5] definisce il ricorso eccessivo all'IA come una fiducia esagerata nel contenuto generato, senza verificarne l'esattezza, e nota che gli utenti possono allora integrare dati scorretti in decisioni o processi critici[5].

Un'uscita ben formata può restare pericolosa. L'OWASP[4] porta lo scenario di un utente che chiede, tramite una funzione di tipo conversazione, un'interrogazione SQL che elimini tutte le tabelle di una base di dati: se l'interrogazione prodotta dal modello non viene esaminata, tutte le tabelle vengono eliminate[4].

Fonti

  1. Microsoft, «How to use structured outputs with Azure OpenAI in Microsoft Foundry Models - Microsoft Foundry». https://learn.microsoft.com/en-us/azure/foundry/openai/how-to/structured-outputs (consultato il 14 novembre 2026)
  2. Google, «Structured output | Gemini Enterprise Agent Platform | Google Cloud Documentation». https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/capabilities/control-generated-output (consultato il 14 novembre 2026)
  3. NIST, «Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile». https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (consultato il 14 novembre 2026)
  4. OWASP, «LLM05:2025 Improper Output Handling», 10 aprile 2024. https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/ (consultato il 14 novembre 2026)
  5. OWASP, «LLM09:2025 Misinformation», 10 aprile 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (consultato il 14 novembre 2026)
  6. Microsoft, «Structured outputs on Azure Databricks - Azure Databricks». https://learn.microsoft.com/en-us/azure/databricks/machine-learning/model-serving/structured-outputs (consultato il 14 novembre 2026)
  7. arXiv, «Learning to Generate Structured Output with Schema Reinforcement Learning», 26 febbraio 2025. https://arxiv.org/abs/2502.18878 (consultato il 14 novembre 2026)
  8. arXiv, «SLOT: Structuring the Output of Large Language Models», 6 maggio 2025. https://arxiv.org/abs/2505.04016 (consultato il 14 novembre 2026)