Cyberpediaod Brain
PLDEENESFRITNLPT

Jak działa duży model językowy

Asystent AI, taki jak ChatGPT, pisze wiarygodny tekst, którego nikt nie sprawdził. Co to zmienia dla Państwa odpowiedzi, danych i zasad.

W 30 sekund

Gdzie to się zdarza
Przy każdym pytaniu zadanym asystentowi AI, w narzędziu zatwierdzonym przez firmę lub nie.
Co robi model
Kontynuuje tekst, jak model autoregresyjny2.
Co może pójść źle
Błędna, ale wiarygodna odpowiedź, powierzone dane, które pojawią się gdzie indziej, polecenie ukryte w dokumencie, które przejmuje kontrolę nad narzędziem.
Odruch
Przeczytać ponownie i sprawdzić każdą ważną odpowiedź, nie wpisywać danych wrażliwych ani osobowych do narzędzia niezatwierdzonego i stosować firmową zasadę korzystania.
Jeśli to już się stało
Powiadomić firmowy dział bezpieczeństwa, nie czekając na ustalenie, czy dane rzeczywiście wyciekły.

O co chodzi

Duży model językowy (po angielsku LLM, od large language model) to silnik asystentów AI, które redagują, streszczają lub tłumaczą teksty. Nie zagląda do zbioru faktów. Jest trenowany na bardzo dużym korpusie tekstów i pisze, kontynuując to, co dostanie: GPT-3 opisano jako model autoregresyjny2.

Ten mechanizm wyjaśnia, co pracownik widzi na co dzień: płynne odpowiedzi, często trafne, czasem błędne, podane bardzo pewnym tonem. Wyjaśnia też, dlaczego trzeba sprawdzać to, co narzędzie napisze, i nie powierzać mu danych wrażliwych.

Pytania wprost

Czy asystent AI rozumie to, co pisze?

Można stwierdzić mierzalny wynik: model wytrenowany na dużym korpusie tekstów wykonuje zadania tłumaczenia, odpowiadania na pytania czy rachunków na liczbach trzycyfrowych na podstawie prostych przykładów podanych w treści polecenia2. Robi to bez ponownego trenowania: instrukcje i przykłady przechodzą wyłącznie przez tekst2.

Dlaczego czasem pisze nieprawdę?

Autorzy InstructGPT piszą, że powiększenie modelu nie sprawia, iż lepiej wykonuje on intencje użytkownika, oraz że duże modele mogą dawać odpowiedzi „untruthful, toxic, or simply not helpful to the user”3. Projekt OWASP umieszcza dezinformację („Misinformation”) wśród dziesięciu zagrożeń na swojej liście z 2025 roku dla aplikacji opartych na LLM8.

Czy wpisany przeze mnie tekst może pojawić się gdzie indziej?

To uznane zagrożenie. Lista OWASP z 2025 roku zawiera pozycję „Sensitive Information Disclosure”, czyli ujawnienie informacji wrażliwych, które dotyczy zarówno modelu, jak i otaczającej go aplikacji8. Raport NIST o atakach na uczenie maszynowe wymienia w słowach kluczowych naruszenie prywatności („privacy breach”), duże modele językowe i chatboty7. Uzasadnia to zasadę: to, co wpisze się w narzędziu niezatwierdzonym, opuszcza obszar kontrolowany przez firmę.

Czy dokument lub strona internetowa mogą wydawać polecenia narzędziu?

To zagrożenie, które OWASP stawia na czele swojej listy z 2025 roku, pod nazwą „Prompt Injection”, czyli wstrzykiwanie poleceń8. Model otrzymuje swoje instrukcje w postaci tekstu2. Zneutralizowany przykład znajduje się niżej.

Kto ustala zasady korzystania?

Firma. Wytyczne brytyjskiego NCSC są skierowane do dostawców systemów AI i zauważają, że systemy te mają nowe podatności, które należy uwzględniać obok zwykłych zagrożeń informatycznych5. Dla pracownika oznacza to listę zatwierdzonych narzędzi i wewnętrzną politykę organizacji.

1Jak to działa1 min

Transformer, przedstawiony w czerwcu 2017 roku, jest siecią opartą wyłącznie na mechanizmach uwagi, bez rekurencji i konwolucji1. Jego autorzy piszą, że lepiej się zrównolegla i wymaga znacznie mniej czasu na trenowanie1.

BERT, opublikowany w październiku 2018 roku, jest trenowany na tekście bez etykiet, z uwzględnieniem kontekstu po lewej i po prawej stronie każdego słowa, a następnie dostrajany do konkretnego zadania4. GPT-3, opublikowany w maju 2020 roku, to model autoregresyjny o 175 miliardach parametrów, dziesięciokrotnie większy niż jakikolwiek wcześniejszy model gęsty (nierozrzedzony)2.

Autorzy InstructGPT piszą, że takie modele nie są dostosowane do swoich użytkowników („not aligned with their users”)3. Aby model wykonywał polecenia, istnieje drugi etap. W przypadku InstructGPT adnotatorzy napisali wzorce pożądanego zachowania, potem uszeregowali odpowiedzi modelu, a model dostrojono metodą uczenia ze wzmocnieniem na podstawie tych ocen ludzi3. Opisany wynik: oceniający wolą odpowiedzi modelu o 1,3 miliarda parametrów od odpowiedzi GPT-3 (175 miliardów), a prawdziwość poprawia się3. Autorzy zaznaczają, że model „still makes simple mistakes”3.

2Co Państwo robią1 min
  • Każdą odpowiedź proszę traktować jak szkic. Przed przeniesieniem do dokumentu, e-maila lub decyzji proszę sprawdzić liczby, daty, nazwiska, odniesienia i cytaty w znanym Państwu źródle.
  • Proszę nie wpisywać do narzędzia niezatwierdzonego żadnych danych osobowych ani poufnych dokumentów. Jeśli narzędzia nie ma na liście firmy, proszę się powstrzymać od jego używania.
  • Przed wklejeniem do asystenta tekstu otrzymanego z zewnątrz proszę się zastanowić, czy może zawierać polecenia przeznaczone dla maszyny, i przeczytać wynik z tą myślą.
  • Proszę dawać narzędziu minimum dostępu. Pozycja OWASP „Excessive Agency” dotyczy systemów, którym przyznano pewną część inicjatywy8. Im więcej dostępu asystent ma do Państwa wiadomości lub plików, tym większy zasięg jego błędów.
  • W razie wątpliwości lub błędu proszę zgłosić to zespołowi bezpieczeństwa.

Przykład ilustracyjny, zneutralizowany: polecenie ukryte w dokumencie do streszczenia.

Fragment
[Ilustracja, tekst fikcyjny] Protokół ze spotkania kwartalnego...
[Fragment niewidoczny lub pisany małą czcionką: polecenie opisane
własnymi słowami, nakazujące asystentowi wysłanie treści rozmowy
na adres hxxps://przyklad[.]invalid]
3Pułapki1 min
  • Płynny tekst może być fałszywy: jakość redakcji nic nie mówi o jego poprawności.
  • Większy model nie rozwiązuje wszystkiego. Autorzy InstructGPT piszą, że rozmiar nie gwarantuje, iż model będzie wykonywał intencje użytkownika3.
  • Korpus treningowy ma znaczenie. Autorzy GPT-3 wskazują zbiory danych, na których model sobie nie radzi, oraz problemy metodologiczne związane z trenowaniem na dużych korpusach z internetu2.
  • Narzędzie wygodne, ale niezatwierdzone. Wymyka się zasadom, które firma ustaliła dla swoich narzędzi AI, a jego użytkownicy nie wiedzą, co dzieje się z wpisanymi danymi.
  • Ramy zarządzania ryzykiem AI NIST, opublikowane 26 stycznia 2023 roku, są przeznaczone do stosowania dobrowolnego, a strona podaje, że trwa ich rewizja6. NIST dodał do nich 26 lipca 2024 roku profil poświęcony generatywnej AI6. To punkty odniesienia oferowane organizacjom.
4Przypadki z praktyki1 min

Maj 2020: artykuły prasowe trudne do odróżnienia

W artykule przedstawiającym GPT-3, przesłanym 28 maja 2020 roku, autorzy stwierdzają, że model potrafi tworzyć artykuły prasowe, które ludzie oceniający z trudem odróżniają od artykułów napisanych przez osoby2. Podają, że omawiają konsekwencje tego ustalenia dla społeczeństwa2. Dla pracownika praktyczny wniosek jest prosty: wygląd tekstu nie dowodzi ani jego autora, ani jego poprawności.

Listopad 2023: wytyczne dotyczące zabezpieczania systemów AI

27 listopada 2023 roku NCSC publikuje w wersji 1.0 swoje wytyczne, podzielone na cztery etapy: projektowanie, rozwój, wdrażanie, eksploatację i utrzymanie5. Dotyczą systemów, które działają zgodnie z założeniami, pozostają dostępne i nie ujawniają danych wrażliwych nieupoważnionym osobom trzecim5. NIST ze swej strony publikuje w styczniu 2024 roku taksonomię ataków na uczenie maszynowe wraz ze słownikiem przeznaczonym dla czytelników niebędących specjalistami7. Jeśli chodzi o OWASP, projekt rozrósł się z małej grupy specjalistów ds. bezpieczeństwa w 2023 roku do ponad 600 ekspertów współtworzących go z ponad 18 krajów9.

Karta

Identyfikator
CP-256
Skrzydło
4. Sztuczna inteligencja
Kompetencja Brain
Zrozumieć AI (understand_ai)
Odruch Brain
air-037
Schemat
G3 · Przekrój anatomiczny
Języki
de, en, es, fr, it, nl, pl, pt
Źródła
Źródła sprawdzone 3 listopada 2026: 9
ŹródłaŹródła: 9
  1. arXiv, „Attention Is All You Need”, 12 czerwca 2017. https://arxiv.org/abs/1706.03762 (dostęp 3 listopada 2026)
  2. arXiv, „Language Models are Few-Shot Learners”, 28 maja 2020. https://arxiv.org/abs/2005.14165 (dostęp 3 listopada 2026)
  3. arXiv, „Training language models to follow instructions with human feedback”, 4 marca 2022. https://arxiv.org/abs/2203.02155 (dostęp 3 listopada 2026)
  4. arXiv, „BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding”, 11 października 2018. https://arxiv.org/abs/1810.04805 (dostęp 3 listopada 2026)
  5. NCSC (Royaume-Uni), „Guidelines for secure AI system development”, 27 listopada 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (dostęp 3 listopada 2026)
  6. NIST, „AI Risk Management Framework”. https://www.nist.gov/itl/ai-risk-management-framework (dostęp 3 listopada 2026)
  7. NIST, „Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations”, 2 stycznia 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (dostęp 3 listopada 2026)
  8. OWASP, „LLMRisks Archive”. https://genai.owasp.org/llm-top-10/ (dostęp 3 listopada 2026)
  9. OWASP, „OWASP Top 10 for Large Language Model Applications | OWASP Foundation”. https://owasp.org/projects/top-10-for-large-language-model-applications (dostęp 3 listopada 2026)

Zacytuj ten artykuł

Brain, „Jak działa duży model językowy”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/pl/articles/dzialanie-llm-nastepny-token/

BibTeX 
@misc{brain_cp256_pl_2026,
  author = {Brain},
  title = {Jak działa duży model językowy},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/pl/articles/dzialanie-llm-nastepny-token/},
  note = {CC BY 4.0}
}
Licencja CC BY 4.0