Cyberpediaod Brain

Odpowiedzi ustrukturyzowane: AI wypełnia schemat

Jak schemat JSON zamienia swobodny tekst w precyzyjne pola, co gwarantuje ta funkcja i jakie odruchy pozwalają kontrolować wartości.

Na tej stronie
  1. 1W 30 sekund
  2. 2O co chodzi
  3. 3Pytania wprost
  4. 4Jak to działa
  5. 5Co robić
  6. 6Pułapki
  7. 7Źródła
  8. 8Zacytuj ten artykuł

W 30 sekund

Gdzie to się zdarza
W narzędziach, które każą AI umieścić swobodny tekst w polach, na przykład aby z jednego zdania wydobyć nazwę wydarzenia, jego datę i uczestników[1].
Co to gwarantuje
Odpowiedź zgodną ze schematem[2]. Microsoft[1] przeciwstawia tę funkcję dawnemu trybowi JSON, który gwarantował poprawny JSON, lecz nie mógł zapewnić zgodności z podanym schematem.
Co nadal jest możliwe
Pole zadeklarowane jako obowiązkowe zmusza model do podania wartości[2], a NIST[3] opisuje fałszywe treści przedstawiane z pewnością siebie.
Odruch
Dopuścić wartość pustą dla pól, których może zabraknąć[1], zweryfikować wynik przed jego użyciem, zweryfikować go przed uruchomieniem[4] i zlecić przejrzenie przez osobę, gdy stawka jest wysoka[5].

O co chodzi

E-mail lub sprawozdanie to tekst swobodny. Aby wydobyć z niego precyzyjne pola, aplikacja może narzucić AI schemat JSON. Microsoft[1] przedstawia odpowiedzi ustrukturyzowane (structured outputs) jako funkcję, która sprawia, że model stosuje się do definicji JSON Schema podanej w wywołaniu API, i wymienia wśród jej zastosowań wydobywanie danych ustrukturyzowanych[1].

Schemat odpowiedzi określa nazwy pól i typ danych oczekiwany dla każdego z nich[2]. Google[2] pisze, że przy użyciu schematu odpowiedź modelu zawsze stosuje się do zdefiniowanego schematu[2]. Ten artykuł rozdziela dwie kwestie: formę odpowiedzi i trafność jej treści.

Pytania wprost

Czym jest odpowiedź ustrukturyzowana?

To odpowiedź AI zgodna ze schematem podanym razem z zapytaniem. Microsoft[1] odróżnia ją od dawnego trybu JSON, który gwarantował poprawny JSON, ale nie mógł zapewnić zgodności ze schematem. Google[2] wyjaśnia, że tryb JSON bez schematu jest tylko silną zachętą i nie daje 100 % poprawnego JSON. Aby uzyskać 100 % poprawnego JSON, zapytanie musi zawierać jednocześnie schemat odpowiedzi i typ application/json[2].

Czy zgodność ze schematem oznacza dokładne wartości?

Nie. NIST[3] wyjaśnia, że błędy treści wynikają z konstrukcji modeli generatywnych: wytwarzają one wyniki przybliżające rozkład statystyczny danych treningowych, co może dawać zarówno wyniki dokładne, jak i niedokładne[3]. OWASP[5] opisuje halucynację jako treść, która wydaje się dokładna, lecz jest zmyślona[5].

Co robi model, gdy w tekście brakuje informacji?

Według Google[2] pola są domyślnie opcjonalne: model może je wypełnić lub pominąć. Można je zadeklarować jako obowiązkowe, aby zmusić model do podania wartości. Jeśli kontekst zapytania jest niewystarczający, model odpowiada głównie na podstawie danych, na których był trenowany[2]. W Microsoft[1] wszystkie pola muszą być zadeklarowane jako obowiązkowe, a pole opcjonalne odtwarza się za pomocą typu, który przyjmuje także wartość null.

Czy wynik można uruchamiać w niezmienionej postaci?

Nie. OWASP[4] nazywa tę wadę „Improper Output Handling”: niewystarczająca walidacja wyników modelu, zanim trafią one do innych komponentów. Ponieważ wygenerowana treść może być sterowana zapytaniem, OWASP porównuje to do pośredniego dostępu do dodatkowych funkcji[4]. Wśród jego przykładów jest wynik umieszczony bezpośrednio w interpreterze poleceń (funkcje exec lub eval), co prowadzi do zdalnego wykonania kodu, oraz zapytania SQL wygenerowane, a następnie wykonane bez parametryzacji, co prowadzi do wstrzyknięcia SQL[4].

Kiedy zlecać przejrzenie przez osobę?

OWASP[5] proponuje nadzór człowieka i sprawdzanie faktów, zwłaszcza przy informacjach krytycznych lub wrażliwych, z recenzentami przeszkolonymi tak, by nie polegali ślepo na AI[5]. NIST[3] podaje przykład zdrowia: zmyślone streszczenie dokumentacji pacjentów mogłoby skłonić lekarzy do postawienia błędnej diagnozy lub zalecenia błędnego leczenia[3]. Dodaje, że to ryzyko jest szczególnie ważne do monitorowania w zastosowaniach, w których AI zasila decyzje o poważnych konsekwencjach[3].

Jak to działa

Azure Databricks[6] opisuje tę funkcję jako generowanie odpowiedzi w zdefiniowanym formacie JSON za pomocą pola formatu odpowiedzi w zapytaniu konwersacyjnym. Zaleca ją do wydobywania danych z dużej liczby dokumentów (na przykład klasyfikowania opinii o produkcie na negatywne, pozytywne lub neutralne), do przetwarzania wsadowego wymagającego określonego formatu oraz do przekształcania danych nieustrukturyzowanych w dane ustrukturyzowane[6]. Jego przykładowy schemat wydobywa z tekstu badawczego tytuł, autorów, streszczenie i słowa kluczowe[6].

Producenci oprogramowania nie przejmują całego JSON Schema, tylko jego podzbiór. W Microsoft[1] schemat może mieć do 100 właściwości obiektu i pięć poziomów zagnieżdżenia. Słowa kluczowe pattern, minLength, maxLength, minimum i maximum nie są obsługiwane[1]. Azure Databricks[6] ustala maksimum na 64 klucze, wskazuje, że nie stosuje ograniczeń długości ani rozmiaru do obiektów i tablic, oraz zauważa, że bardzo zagnieżdżony schemat daje generowanie gorszej jakości: zaleca go w miarę możliwości spłaszczyć[6]. Podaje też, że techniki stosowane w celu poprawy jakości zmieniają liczbę zużywanych tokenów, a więc fakturowanie[6].

W Google[2] odpowiedź modelu korzysta z nazwy i opisu każdego pola schematu. Google zaleca jasne nazwy pól i opis określający rolę każdego z nich[2]. Odradza przepisywanie schematu do polecenia: jakość wyniku może na tym ucierpieć[2]. Zauważa też, że użycie odpowiedzi ustrukturyzowanej w dostrojonych modelach Gemini może obniżyć jakość modelu[2].

Badania dotyczą tego samego problemu. Opublikowane w lutym 2025 roku na arXiv badanie[7] zbudowało zestaw testowy złożony z około 40 000 różnych schematów JSON i stwierdza, że najnowsze LLM nadal mają trudności z wytworzeniem poprawnego ciągu JSON[7]. Inne, z maja 2025 roku[8], mierzy osobno dokładność schematu i wierność treści[8].

Co robić

Te działania dotyczą osoby, która konfiguruje wydobywanie danych lub korzysta z jego wyniku.

  • Przewidzieć wartość pustą. Dla każdego pola, którego informacji może zabraknąć w tekście, skorzystać z możliwości opisanej przez Microsoft[1]: typu, który przyjmuje wartość null. Pole obowiązkowe wymusza wartość[2].
  • Nazwać i opisać każde pole. Google[2] zaleca jednoznaczne nazwy i pole opisu dla roli każdego pola.
  • Zweryfikować wynik. Jeśli schematu nie da się zdefiniować z góry, Google[2] zaleca walidator JSON po stronie klienta z ponowną próbą w razie niepowodzenia. OWASP[5] zaleca automatyczną walidację kluczowych wyników, zwłaszcza w środowiskach o wysokiej stawce[5]. W przypadku modelu databricks-claude-opus-5 zapytanie może zwrócić przyczynę zatrzymania typu filtr treści, gdy model odrzuca żądanie, a wynik może wtedy nie być zgodny ze schematem: Azure Databricks[6] wskazuje, by sprawdzić tę przyczynę zatrzymania przed analizą wyniku.
  • Niczego nie uruchamiać bez kontroli. OWASP[4] radzi traktować model jak każdego innego użytkownika (podejście zero-trust) i weryfikować jego odpowiedzi, zanim zostaną przekazane funkcjom aplikacji. Zaleca też zapytania sparametryzowane przy każdej operacji na bazie danych, która dotyczy wyniku modelu[4].
  • Porównać z wiarygodnymi źródłami. OWASP[5] zachęca użytkowników do porównywania wyników z zaufanymi źródłami zewnętrznymi.
  • Zlecić przejrzenie przez osobę, gdy stawka jest wysoka, jak w pytaniu o przejrzenie wyżej[5].

Pułapki

Pole obowiązkowe skłania do wiarygodnej wartości. Google[2] wskazuje, że pole zadeklarowane jako obowiązkowe zmusza model do podania wartości, a w razie braku kontekstu odpowiada on głównie na podstawie swoich danych treningowych[2]. NIST[3] zauważa, że te błędy są przedstawiane z pewnością siebie: ryzyko powstaje, gdy użytkownicy wierzą w fałszywą treść z powodu pewnego tonu odpowiedzi[3].

Uzasadnienie nie jest dowodem. NIST[3] zwraca uwagę, że modele podają czasem kroki logiczne wyjaśniające odpowiedź, nawet gdy ta odpowiedź jest błędna, co może prowadzić do nadmiernego zaufania do nich[3]. Pole „wyjaśnienie” wypełnione przez model niczego więc nie dowodzi.

Poprawna forma i wierna treść to dwie miary. W badaniu z maja 2025 roku[8] model Mistral-7B dostrojony z dekodowaniem z ograniczeniami osiąga dokładność schematu 99,5 % i podobieństwo treści 94,0 %[8].

Nadmierne zaufanie pogłębia błąd. OWASP[5] określa nadmierne poleganie na AI jako przesadne zaufanie do wygenerowanej treści bez sprawdzania jej dokładności i zauważa, że użytkownicy mogą wtedy włączać błędne dane do decyzji lub krytycznych procesów[5].

Poprawnie zbudowany wynik może nadal być niebezpieczny. OWASP[4] podaje scenariusz użytkownika, który za pomocą funkcji typu konwersacja prosi o zapytanie SQL usuwające wszystkie tabele bazy danych: jeśli zapytanie wytworzone przez model nie zostanie zbadane, wszystkie tabele zostają usunięte[4].

Źródła

  1. Microsoft, „How to use structured outputs with Azure OpenAI in Microsoft Foundry Models - Microsoft Foundry”. https://learn.microsoft.com/en-us/azure/foundry/openai/how-to/structured-outputs (dostęp 14 listopada 2026)
  2. Google, „Structured output | Gemini Enterprise Agent Platform | Google Cloud Documentation”. https://docs.cloud.google.com/gemini-enterprise-agent-platform/models/capabilities/control-generated-output (dostęp 14 listopada 2026)
  3. NIST, „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile”. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (dostęp 14 listopada 2026)
  4. OWASP, „LLM05:2025 Improper Output Handling”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm052025-improper-output-handling/ (dostęp 14 listopada 2026)
  5. OWASP, „LLM09:2025 Misinformation”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (dostęp 14 listopada 2026)
  6. Microsoft, „Structured outputs on Azure Databricks - Azure Databricks”. https://learn.microsoft.com/en-us/azure/databricks/machine-learning/model-serving/structured-outputs (dostęp 14 listopada 2026)
  7. arXiv, „Learning to Generate Structured Output with Schema Reinforcement Learning”, 26 lutego 2025. https://arxiv.org/abs/2502.18878 (dostęp 14 listopada 2026)
  8. arXiv, „SLOT: Structuring the Output of Large Language Models”, 6 maja 2025. https://arxiv.org/abs/2505.04016 (dostęp 14 listopada 2026)