Cyberpediavon Brain

Strukturierte Ausgaben: die KI ein Schema ausfüllen lassen

Wie ein JSON-Schema freien Text in präzise Felder verwandelt, was die Funktion garantiert und welche Reflexe beim Prüfen der Werte helfen.

Auf dieser Seite
  1. 1In 30 Sekunden
  2. 2Worum es geht
  3. 3Direkte Fragen
  4. 4So funktioniert es
  5. 5Was Sie tun
  6. 6Die Fallstricke
  7. 7Quellen
  8. 8Diesen Artikel zitieren

In 30 Sekunden

Wo es auftritt
In Werkzeugen, die eine KI bitten, freien Text in Felder einzuordnen, zum Beispiel um aus einem Satz den Namen einer Veranstaltung, ihr Datum und ihre Teilnehmenden zu ziehen[1].
Was garantiert wird
Eine Antwort, die dem Schema entspricht[2]. Microsoft[1] stellt diese Funktion dem früheren JSON-Modus gegenüber, der gültiges JSON garantierte, ohne die Einhaltung des vorgegebenen Schemas sicherstellen zu können.
Was möglich bleibt
Ein als Pflicht deklariertes Feld zwingt das Modell, einen Wert zu liefern[2], und das NIST[3] beschreibt falsche Inhalte, die mit Überzeugung vorgetragen werden.
Der Reflex
Den leeren Wert für Felder zulassen, die fehlen können[1], das Ergebnis prüfen, bevor man es verwendet, es prüfen, bevor man es ausführen lässt[4], und eine Person gegenlesen lassen, wenn viel auf dem Spiel steht[5].

Worum es geht

Eine E-Mail oder ein Bericht ist freier Text. Um daraus präzise Felder zu gewinnen, kann eine Anwendung der KI ein JSON-Schema vorgeben. Microsoft[1] stellt die strukturierten Ausgaben (structured outputs) als eine Funktion vor, die das Modell einer JSON-Schema-Definition folgen lässt, die im API-Aufruf mitgegeben wird, und nennt unter ihren Einsatzzwecken die Extraktion strukturierter Daten[1].

Ein Antwortschema legt die Namen der Felder und den erwarteten Datentyp jedes Feldes fest[2]. Google[2] schreibt, dass die Antwort des Modells mit einem Schema immer dem definierten Schema folgt[2]. Dieser Artikel trennt zwei Fragen: die Form der Antwort und die Richtigkeit ihres Inhalts.

Direkte Fragen

Was ist eine strukturierte Ausgabe?

Das ist eine KI-Antwort, die einem Schema folgt, das mit der Anfrage mitgegeben wird. Microsoft[1] grenzt sie vom früheren JSON-Modus ab, der gültiges JSON garantierte, aber die Einhaltung des Schemas nicht sicherstellen konnte. Google[2] präzisiert, dass der JSON-Modus ohne Schema nur ein starker Anreiz ist und keine 100 % gültiges JSON liefert. Um 100 % gültiges JSON zu erhalten, muss die Anfrage sowohl ein Antwortschema als auch den Typ application/json enthalten[2].

Heißt ein eingehaltenes Schema, dass die Werte stimmen?

Nein. Das NIST[3] erklärt, dass Inhaltsfehler aus der Konstruktion generativer Modelle folgen: Sie erzeugen Ausgaben, die sich der statistischen Verteilung ihrer Trainingsdaten annähern, was sowohl zutreffende als auch unzutreffende Ausgaben ergeben kann[3]. Die OWASP[5] beschreibt die Halluzination als einen Inhalt, der zutreffend wirkt, aber erfunden ist[5].

Was macht das Modell, wenn die Information im Text fehlt?

Laut Google[2] sind die Felder standardmäßig optional: Das Modell kann sie ausfüllen oder übergehen. Man kann sie als Pflicht deklarieren, um das Modell zu zwingen, einen Wert zu liefern. Reicht der Kontext der Anfrage nicht aus, antwortet das Modell vor allem anhand der Daten, mit denen es trainiert wurde[2]. Bei Microsoft[1] müssen alle Felder als Pflicht deklariert werden, und ein optionales Feld wird mit einem Typ nachgebildet, der auch den Wert null zulässt.

Kann man die Ausgabe unverändert ausführen lassen?

Nein. Die OWASP[4] nennt diesen Mangel „Improper Output Handling“: eine unzureichende Validierung der Modellausgaben, bevor sie an andere Komponenten weitergereicht werden. Da der erzeugte Inhalt durch die Anfrage gesteuert werden kann, vergleicht die OWASP das mit einem indirekten Zugriff auf zusätzliche Funktionen[4]. Zu ihren Beispielen gehören eine Ausgabe, die direkt in einen Befehlsinterpreter gelangt (Funktionen exec oder eval) und zur Ausführung von Code aus der Ferne führt, sowie erzeugte SQL-Abfragen, die ohne Parametrisierung ausgeführt werden und zu einer SQL-Injection führen[4].

Wann sollte eine Person gegenlesen?

Die OWASP[5] schlägt eine menschliche Aufsicht und eine Faktenprüfung vor, vor allem bei kritischen oder sensiblen Informationen, mit Prüfenden, die darin geschult sind, sich nicht blind auf die KI zu verlassen[5]. Das NIST[3] nennt das Beispiel des Gesundheitswesens: Eine erfundene Zusammenfassung von Patientenakten könnte Ärzte zu einer falschen Diagnose oder zur Empfehlung einer falschen Behandlung bringen[3]. Es fügt hinzu, dass das Risiko besonders genau zu beobachten ist in Anwendungen, in denen die KI folgenschwere Entscheidungen speist[3].

So funktioniert es

Azure Databricks[6] beschreibt die Funktion als die Erzeugung von Antworten in einem definierten JSON-Format, mithilfe eines Feldes für das Antwortformat in der Chat-Anfrage. Es empfiehlt sie, um Daten aus einer großen Zahl von Dokumenten zu extrahieren (zum Beispiel Produktbewertungen in negativ, positiv oder neutral einzuordnen), für Stapelverarbeitungen, die ein bestimmtes Format verlangen, und um unstrukturierte Daten in strukturierte Daten zu verwandeln[6]. Sein Schemabeispiel extrahiert aus einem Forschungstext den Titel, die Autoren, die Zusammenfassung und die Schlüsselwörter[6].

Die Anbieter übernehmen nicht ganz JSON Schema, sondern nur eine Teilmenge. Bei Microsoft[1] kann ein Schema bis zu 100 Objekteigenschaften und fünf Verschachtelungsebenen umfassen. Die Schlüsselwörter pattern, minLength, maxLength, minimum und maximum werden nicht unterstützt[1]. Azure Databricks[6] legt das Maximum auf 64 Schlüssel fest, gibt an, keine Längen- oder Größenbeschränkungen auf Objekte und Arrays anzuwenden, und vermerkt, dass ein stark verschachteltes Schema eine Erzeugung geringerer Qualität ergibt: Es rät, es nach Möglichkeit abzuflachen[6]. Es weist auch darauf hin, dass die Techniken zur Verbesserung der Qualität die Zahl der verbrauchten Token und damit die Abrechnung verändern[6].

Bei Google[2] verwendet die Antwort des Modells den Namen und die Beschreibung jedes Feldes des Schemas. Google empfiehlt klare Feldnamen und eine Beschreibung, die die Rolle jedes Feldes festlegt[2]. Es rät davon ab, das Schema in die Anweisung zu kopieren: Die Qualität der Ausgabe kann darunter leiden[2]. Es vermerkt außerdem, dass die Verwendung der strukturierten Ausgabe bei feinabgestimmten Gemini-Modellen die Qualität des Modells verringern kann[2].

Die Forschung arbeitet am selben Problem. Eine im Februar 2025 auf arXiv veröffentlichte Studie[7] hat einen Benchmark aus etwa 40.000 verschiedenen JSON-Schemas aufgebaut und stellt fest, dass die neuesten LLM noch Mühe haben, eine gültige JSON-Zeichenkette zu erzeugen[7]. Eine weitere, vom Mai 2025[8], misst die Genauigkeit des Schemas und die Treue des Inhalts getrennt[8].

Was Sie tun

Diese Schritte richten sich an alle, die eine Extraktion einrichten oder ihr Ergebnis verwenden.

  • Den leeren Wert vorsehen. Für jedes Feld, dessen Information im Text fehlen kann, die von Microsoft[1] beschriebene Möglichkeit nutzen: einen Typ, der den Wert null zulässt. Ein Pflichtfeld erzwingt einen Wert[2].
  • Jedes Feld benennen und beschreiben. Google[2] empfiehlt eindeutige Namen und ein Beschreibungsfeld für die Rolle jedes Feldes.
  • Das Ergebnis validieren. Kann das Schema nicht im Voraus definiert werden, empfiehlt Google[2] einen JSON-Validator auf der Clientseite mit einem neuen Versuch bei einem Fehlschlag. Die OWASP[5] empfiehlt, zentrale Ausgaben automatisch zu validieren, vor allem in Umgebungen, in denen viel auf dem Spiel steht[5]. Mit dem Modell databricks-claude-opus-5 kann eine Anfrage einen Stoppgrund vom Typ Inhaltsfilter zurückgeben, wenn das Modell die Anfrage ablehnt, und die Ausgabe hält das Schema dann möglicherweise nicht ein: Azure Databricks[6] gibt an, diesen Stoppgrund zu prüfen, bevor die Ausgabe analysiert wird.
  • Nichts ohne Kontrolle ausführen. Die OWASP[4] rät, das Modell wie jede andere Person zu behandeln (Zero-Trust-Ansatz) und seine Antworten zu validieren, bevor sie an die Funktionen der Anwendung weitergegeben werden. Sie empfiehlt außerdem parametrisierte Abfragen für jede Datenbankoperation, die eine Modellausgabe berührt[4].
  • Mit verlässlichen Quellen abgleichen. Die OWASP[5] ermutigt dazu, die Ausgaben mit vertrauenswürdigen externen Quellen zu vergleichen.
  • Gegenlesen lassen, wenn viel auf dem Spiel steht, wie in der Frage zum Gegenlesen weiter oben[5].

Die Fallstricke

Ein Pflichtfeld drängt zu einem plausiblen Wert. Google[2] gibt an, dass ein als Pflicht deklariertes Feld das Modell zwingt, einen Wert zu liefern, und dass es mangels Kontext vor allem anhand seiner Trainingsdaten antwortet[2]. Das NIST[3] vermerkt, dass diese Fehler mit Überzeugung vorgetragen werden: Das Risiko entsteht, wenn Personen einen falschen Inhalt wegen des selbstsicheren Tons der Antwort glauben[3].

Eine Begründung ist kein Beweis. Das NIST[3] hält fest, dass Modelle manchmal logische Schritte liefern, um eine Antwort zu erklären, selbst wenn die Antwort falsch ist, was dazu führen kann, ihnen zu sehr zu vertrauen[3]. Ein vom Modell ausgefülltes Feld „Erklärung“ beweist also nichts.

Gültige Form und treuer Inhalt sind zwei Messgrößen. In der Studie vom Mai 2025[8] erreicht ein feinabgestimmtes Mistral-7B-Modell mit eingeschränkter Dekodierung eine Schemagenauigkeit von 99,5 % und eine Inhaltsähnlichkeit von 94,0 %[8].

Übermäßiges Vertrauen verschärft den Fehler. Die OWASP[5] definiert den übermäßigen Rückgriff auf KI als ein übertriebenes Vertrauen in erzeugte Inhalte, ohne deren Richtigkeit zu prüfen, und vermerkt, dass Personen dann falsche Daten in kritische Entscheidungen oder Prozesse einbauen können[5].

Eine wohlgeformte Ausgabe kann gefährlich bleiben. Die OWASP[4] gibt das Szenario einer Person, die über eine Chat-Funktion eine SQL-Abfrage verlangt, die alle Tabellen einer Datenbank löscht: Wird die vom Modell erzeugte Abfrage nicht geprüft, werden alle Tabellen gelöscht[4].

Quellen

  1. Microsoft, „How to use structured outputs with Azure OpenAI in Microsoft Foundry Models - Microsoft Foundry“. https://learn.microsoft.com/en-us/azure/foundry/openai/how-to/structured-outputs (abgerufen am 14. November 2026)
  2. Google, „Structured output | Gemini Enterprise Agent Platform | Google Cloud Documentation“. https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/capabilities/control-generated-output (abgerufen am 14. November 2026)
  3. NIST, „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile“. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (abgerufen am 14. November 2026)
  4. OWASP, „LLM05:2025 Improper Output Handling“, 10. April 2024. https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/ (abgerufen am 14. November 2026)
  5. OWASP, „LLM09:2025 Misinformation“, 10. April 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (abgerufen am 14. November 2026)
  6. Microsoft, „Structured outputs on Azure Databricks - Azure Databricks“. https://learn.microsoft.com/en-us/azure/databricks/machine-learning/model-serving/structured-outputs (abgerufen am 14. November 2026)
  7. arXiv, „Learning to Generate Structured Output with Schema Reinforcement Learning“, 26. Februar 2025. https://arxiv.org/abs/2502.18878 (abgerufen am 14. November 2026)
  8. arXiv, „SLOT: Structuring the Output of Large Language Models“, 6. Mai 2025. https://arxiv.org/abs/2505.04016 (abgerufen am 14. November 2026)