--- id: CP-256 slug: dzialanie-llm-nastepny-token lang: pl title: Jak działa duży model językowy description: Asystent AI, taki jak ChatGPT, pisze wiarygodny tekst, którego nikt nie sprawdził. Co to zmienia dla Państwa odpowiedzi, danych i zasad. canonical_url: https://startbrain.io/cyberpedia/pl/articles/dzialanie-llm-nastepny-token/ markdown_url: https://startbrain.io/cyberpedia/pl/articles/dzialanie-llm-nastepny-token.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, „Jak działa duży model językowy”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/pl/articles/dzialanie-llm-nastepny-token/ (CC BY 4.0) wing: 4 theme: understand_ai reflex: air-037 schema: G3 updated: "2026-11-03" translations: pl: https://startbrain.io/cyberpedia/pl/articles/dzialanie-llm-nastepny-token/ fr: https://startbrain.io/cyberpedia/fr/articles/fonctionnement-llm-jeton-suivant/ en: https://startbrain.io/cyberpedia/en/articles/how-llms-work-next-token/ de: https://startbrain.io/cyberpedia/de/articles/funktionsweise-llm-naechstes-token/ es: https://startbrain.io/cyberpedia/es/articles/funcionamiento-llm-siguiente-token/ it: https://startbrain.io/cyberpedia/it/articles/funzionamento-llm-token-successivo/ nl: https://startbrain.io/cyberpedia/nl/articles/werking-llm-volgende-token/ pt: https://startbrain.io/cyberpedia/pt/articles/funcionamento-llm-proximo-token/ sources: - "n": 1 title: Attention Is All You Need publisher: arXiv url: https://arxiv.org/abs/1706.03762 published: "2017-06-12" accessed: "2026-11-03" - "n": 2 title: Language Models are Few-Shot Learners publisher: arXiv url: https://arxiv.org/abs/2005.14165 published: "2020-05-28" accessed: "2026-11-03" - "n": 3 title: Training language models to follow instructions with human feedback publisher: arXiv url: https://arxiv.org/abs/2203.02155 published: "2022-03-04" accessed: "2026-11-03" - "n": 4 title: "BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding" publisher: arXiv url: https://arxiv.org/abs/1810.04805 published: "2018-10-11" accessed: "2026-11-03" - "n": 5 title: Guidelines for secure AI system development publisher: NCSC (Royaume-Uni) url: https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development published: "2023-11-27" accessed: "2026-11-03" - "n": 6 title: AI Risk Management Framework publisher: NIST url: https://www.nist.gov/itl/ai-risk-management-framework accessed: "2026-11-03" - "n": 7 title: "Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf published: "2024-01-02" accessed: "2026-11-03" - "n": 8 title: LLMRisks Archive publisher: OWASP url: https://genai.owasp.org/llm-top-10/ accessed: "2026-11-03" - "n": 9 title: OWASP Top 10 for Large Language Model Applications | OWASP Foundation publisher: OWASP url: https://owasp.org/projects/top-10-for-large-language-model-applications accessed: "2026-11-03" --- # Jak działa duży model językowy Duży model językowy (po angielsku LLM, od large language model) to silnik asystentów AI, które redagują, streszczają lub tłumaczą teksty. Nie zagląda do zbioru faktów. Jest trenowany na bardzo dużym korpusie tekstów i pisze, kontynuując to, co dostanie: GPT-3 opisano jako model autoregresyjny [2]. Ten mechanizm wyjaśnia, co pracownik widzi na co dzień: płynne odpowiedzi, często trafne, czasem błędne, podane bardzo pewnym tonem. Wyjaśnia też, dlaczego trzeba sprawdzać to, co narzędzie napisze, i nie powierzać mu danych wrażliwych. ## W 30 sekund - Gdzie to się zdarza: przy każdym pytaniu zadanym asystentowi AI, w narzędziu zatwierdzonym przez firmę lub nie. - Co robi model: kontynuuje tekst, jak model autoregresyjny [2]. - Co może pójść źle: błędna, ale wiarygodna odpowiedź, powierzone dane, które pojawią się gdzie indziej, polecenie ukryte w dokumencie, które przejmuje kontrolę nad narzędziem. - Odruch: przeczytać ponownie i sprawdzić każdą ważną odpowiedź, nie wpisywać danych wrażliwych ani osobowych do narzędzia niezatwierdzonego i stosować firmową zasadę korzystania. - Jeśli to już się stało: powiadomić firmowy dział bezpieczeństwa, nie czekając na ustalenie, czy dane rzeczywiście wyciekły. ## Pytania wprost ### Czy asystent AI rozumie to, co pisze? Można stwierdzić mierzalny wynik: model wytrenowany na dużym korpusie tekstów wykonuje zadania tłumaczenia, odpowiadania na pytania czy rachunków na liczbach trzycyfrowych na podstawie prostych przykładów podanych w treści polecenia [2]. Robi to bez ponownego trenowania: instrukcje i przykłady przechodzą wyłącznie przez tekst [2]. ### Dlaczego czasem pisze nieprawdę? Autorzy InstructGPT piszą, że powiększenie modelu nie sprawia, iż lepiej wykonuje on intencje użytkownika, oraz że duże modele mogą dawać odpowiedzi „untruthful, toxic, or simply not helpful to the user” [3]. Projekt OWASP umieszcza dezinformację („Misinformation”) wśród dziesięciu zagrożeń na swojej liście z 2025 roku dla aplikacji opartych na LLM [8]. ### Czy wpisany przeze mnie tekst może pojawić się gdzie indziej? To uznane zagrożenie. Lista OWASP z 2025 roku zawiera pozycję „Sensitive Information Disclosure”, czyli ujawnienie informacji wrażliwych, które dotyczy zarówno modelu, jak i otaczającej go aplikacji [8]. Raport NIST o atakach na uczenie maszynowe wymienia w słowach kluczowych naruszenie prywatności („privacy breach”), duże modele językowe i chatboty [7]. Uzasadnia to zasadę: to, co wpisze się w narzędziu niezatwierdzonym, opuszcza obszar kontrolowany przez firmę. ### Czy dokument lub strona internetowa mogą wydawać polecenia narzędziu? To zagrożenie, które OWASP stawia na czele swojej listy z 2025 roku, pod nazwą „Prompt Injection”, czyli wstrzykiwanie poleceń [8]. Model otrzymuje swoje instrukcje w postaci tekstu [2]. Zneutralizowany przykład znajduje się niżej. ### Kto ustala zasady korzystania? Firma. Wytyczne brytyjskiego NCSC są skierowane do dostawców systemów AI i zauważają, że systemy te mają nowe podatności, które należy uwzględniać obok zwykłych zagrożeń informatycznych [5]. Dla pracownika oznacza to listę zatwierdzonych narzędzi i wewnętrzną politykę organizacji. ## Jak to działa Transformer, przedstawiony w czerwcu 2017 roku, jest siecią opartą wyłącznie na mechanizmach uwagi, bez rekurencji i konwolucji [1]. Jego autorzy piszą, że lepiej się zrównolegla i wymaga znacznie mniej czasu na trenowanie [1]. BERT, opublikowany w październiku 2018 roku, jest trenowany na tekście bez etykiet, z uwzględnieniem kontekstu po lewej i po prawej stronie każdego słowa, a następnie dostrajany do konkretnego zadania [4]. GPT-3, opublikowany w maju 2020 roku, to model autoregresyjny o 175 miliardach parametrów, dziesięciokrotnie większy niż jakikolwiek wcześniejszy model gęsty (nierozrzedzony) [2]. Autorzy InstructGPT piszą, że takie modele nie są dostosowane do swoich użytkowników („not aligned with their users”) [3]. Aby model wykonywał polecenia, istnieje drugi etap. W przypadku InstructGPT adnotatorzy napisali wzorce pożądanego zachowania, potem uszeregowali odpowiedzi modelu, a model dostrojono metodą uczenia ze wzmocnieniem na podstawie tych ocen ludzi [3]. Opisany wynik: oceniający wolą odpowiedzi modelu o 1,3 miliarda parametrów od odpowiedzi GPT-3 (175 miliardów), a prawdziwość poprawia się [3]. Autorzy zaznaczają, że model „still makes simple mistakes” [3]. ## Co Państwo robią - Każdą odpowiedź proszę traktować jak szkic. Przed przeniesieniem do dokumentu, e-maila lub decyzji proszę sprawdzić liczby, daty, nazwiska, odniesienia i cytaty w znanym Państwu źródle. - Proszę nie wpisywać do narzędzia niezatwierdzonego żadnych danych osobowych ani poufnych dokumentów. Jeśli narzędzia nie ma na liście firmy, proszę się powstrzymać od jego używania. - Przed wklejeniem do asystenta tekstu otrzymanego z zewnątrz proszę się zastanowić, czy może zawierać polecenia przeznaczone dla maszyny, i przeczytać wynik z tą myślą. - Proszę dawać narzędziu minimum dostępu. Pozycja OWASP „Excessive Agency” dotyczy systemów, którym przyznano pewną część inicjatywy [8]. Im więcej dostępu asystent ma do Państwa wiadomości lub plików, tym większy zasięg jego błędów. - W razie wątpliwości lub błędu proszę zgłosić to zespołowi bezpieczeństwa. Przykład ilustracyjny, zneutralizowany: polecenie ukryte w dokumencie do streszczenia. ```text [Ilustracja, tekst fikcyjny] Protokół ze spotkania kwartalnego... [Fragment niewidoczny lub pisany małą czcionką: polecenie opisane własnymi słowami, nakazujące asystentowi wysłanie treści rozmowy na adres hxxps://przyklad[.]invalid] ``` ## Pułapki - Płynny tekst może być fałszywy: jakość redakcji nic nie mówi o jego poprawności. - Większy model nie rozwiązuje wszystkiego. Autorzy InstructGPT piszą, że rozmiar nie gwarantuje, iż model będzie wykonywał intencje użytkownika [3]. - Korpus treningowy ma znaczenie. Autorzy GPT-3 wskazują zbiory danych, na których model sobie nie radzi, oraz problemy metodologiczne związane z trenowaniem na dużych korpusach z internetu [2]. - Narzędzie wygodne, ale niezatwierdzone. Wymyka się zasadom, które firma ustaliła dla swoich narzędzi AI, a jego użytkownicy nie wiedzą, co dzieje się z wpisanymi danymi. - Ramy zarządzania ryzykiem AI NIST, opublikowane 26 stycznia 2023 roku, są przeznaczone do stosowania dobrowolnego, a strona podaje, że trwa ich rewizja [6]. NIST dodał do nich 26 lipca 2024 roku profil poświęcony generatywnej AI [6]. To punkty odniesienia oferowane organizacjom. ## Przypadki z praktyki ### Maj 2020: artykuły prasowe trudne do odróżnienia W artykule przedstawiającym GPT-3, przesłanym 28 maja 2020 roku, autorzy stwierdzają, że model potrafi tworzyć artykuły prasowe, które ludzie oceniający z trudem odróżniają od artykułów napisanych przez osoby [2]. Podają, że omawiają konsekwencje tego ustalenia dla społeczeństwa [2]. Dla pracownika praktyczny wniosek jest prosty: wygląd tekstu nie dowodzi ani jego autora, ani jego poprawności. ### Listopad 2023: wytyczne dotyczące zabezpieczania systemów AI 27 listopada 2023 roku NCSC publikuje w wersji 1.0 swoje wytyczne, podzielone na cztery etapy: projektowanie, rozwój, wdrażanie, eksploatację i utrzymanie [5]. Dotyczą systemów, które działają zgodnie z założeniami, pozostają dostępne i nie ujawniają danych wrażliwych nieupoważnionym osobom trzecim [5]. NIST ze swej strony publikuje w styczniu 2024 roku taksonomię ataków na uczenie maszynowe wraz ze słownikiem przeznaczonym dla czytelników niebędących specjalistami [7]. Jeśli chodzi o OWASP, projekt rozrósł się z małej grupy specjalistów ds. bezpieczeństwa w 2023 roku do ponad 600 ekspertów współtworzących go z ponad 18 krajów [9]. ## Źródła 1. arXiv, „Attention Is All You Need”, 12 czerwca 2017. https://arxiv.org/abs/1706.03762 (dostęp 3 listopada 2026) 2. arXiv, „Language Models are Few-Shot Learners”, 28 maja 2020. https://arxiv.org/abs/2005.14165 (dostęp 3 listopada 2026) 3. arXiv, „Training language models to follow instructions with human feedback”, 4 marca 2022. https://arxiv.org/abs/2203.02155 (dostęp 3 listopada 2026) 4. arXiv, „BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding”, 11 października 2018. https://arxiv.org/abs/1810.04805 (dostęp 3 listopada 2026) 5. NCSC (Royaume-Uni), „Guidelines for secure AI system development”, 27 listopada 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (dostęp 3 listopada 2026) 6. NIST, „AI Risk Management Framework”. https://www.nist.gov/itl/ai-risk-management-framework (dostęp 3 listopada 2026) 7. NIST, „Adversarial Machine Learning: A Taxonomy and Terminology of Attacks and Mitigations”, 2 stycznia 2024. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-2e2023.pdf (dostęp 3 listopada 2026) 8. OWASP, „LLMRisks Archive”. https://genai.owasp.org/llm-top-10/ (dostęp 3 listopada 2026) 9. OWASP, „OWASP Top 10 for Large Language Model Applications | OWASP Foundation”. https://owasp.org/projects/top-10-for-large-language-model-applications (dostęp 3 listopada 2026) --- Źródło oryginalne: Cyberpedia, publiczna encyklopedia cyberbezpieczeństwa i AI wydawana przez Brain. Wersja kanoniczna: https://startbrain.io/cyberpedia/pl/articles/dzialanie-llm-nastepny-token/ Możesz swobodnie wykorzystywać ten tekst na licencji CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), pod warunkiem podania „Brain, Cyberpedia” wraz z odnośnikiem do powyższego adresu.