---
id: CP-283
slug: jailbreak-ai-obchodzenie-zabezpieczen
lang: pl
title: "Jailbreak AI: obchodzenie zabezpieczeń"
description: "Jailbreak skłania model AI do zignorowania własnych zasad bezpieczeństwa. Skeleton Key, Crescendo, polecenia z sieci: co wiadomo, z datami i źródłami."
canonical_url: https://startbrain.io/cyberpedia/pl/articles/jailbreak-ai-obchodzenie-zabezpieczen/
markdown_url: https://startbrain.io/cyberpedia/pl/articles/jailbreak-ai-obchodzenie-zabezpieczen.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: "Brain, „Jailbreak AI: obchodzenie zabezpieczeń”, Cyberpedia, 2026. https://startbrain.io/cyberpedia/pl/articles/jailbreak-ai-obchodzenie-zabezpieczen/ (CC BY 4.0)"
wing: 4
theme: prompt_correctly
reflex: air-011
schema: G1
updated: "2026-11-14"
translations:
  pl: https://startbrain.io/cyberpedia/pl/articles/jailbreak-ai-obchodzenie-zabezpieczen/
  fr: https://startbrain.io/cyberpedia/fr/articles/jailbreak-llm-contourner-garde-fous/
  en: https://startbrain.io/cyberpedia/en/articles/llm-jailbreak-bypassing-guardrails/
  de: https://startbrain.io/cyberpedia/de/articles/jailbreak-llm-schutzmassnahmen-umgehen/
  es: https://startbrain.io/cyberpedia/es/articles/jailbreak-llm-eludir-salvaguardas/
  it: https://startbrain.io/cyberpedia/it/articles/jailbreak-ia-aggirare-misure-di-protezione/
  nl: https://startbrain.io/cyberpedia/nl/articles/jailbreak-ai-beveiligingen-omzeilen/
  pt: https://startbrain.io/cyberpedia/pt/articles/jailbreak-llm-contornar-salvaguardas/
  ja: https://startbrain.io/cyberpedia/ja/articles/llm-jailbreak-bypassing-guardrails/
sources:
  - "n": 1
    title: Mitigating Skeleton Key, a new type of generative AI jailbreak technique
    publisher: Microsoft
    url: https://www.microsoft.com/en-us/security/blog/2024/06/26/mitigating-skeleton-key-a-new-type-of-generative-ai-jailbreak-technique/
    published: "2024-06-26"
    accessed: "2026-11-14"
  - "n": 2
    title: How Microsoft discovers and mitigates evolving attacks against AI guardrails
    publisher: Microsoft
    url: https://www.microsoft.com/en-us/security/blog/2024/04/11/how-microsoft-discovers-and-mitigates-evolving-attacks-against-ai-guardrails/
    published: "2024-04-11"
    accessed: "2026-11-14"
  - "n": 3
    title: "\"Do Anything Now\": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models"
    publisher: arXiv
    url: https://arxiv.org/abs/2308.03825
    published: "2023-08-07"
    accessed: "2026-11-14"
  - "n": 4
    title: "Jailbroken: How Does LLM Safety Training Fail?"
    publisher: arXiv
    url: https://arxiv.org/abs/2307.02483
    published: "2023-07-05"
    accessed: "2026-11-14"
  - "n": 5
    title: "Great, Now Write an Article About That: The Crescendo Multi-Turn LLM Jailbreak Attack"
    publisher: arXiv
    url: https://arxiv.org/abs/2404.01833
    published: "2024-04-02"
    accessed: "2026-11-14"
  - "n": 6
    title: LLM01:2025 Prompt Injection
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm01-prompt-injection/
    published: "2024-04-10"
    accessed: "2026-11-14"
  - "n": 7
    title: Prompt injection is not SQL injection (it may be worse)
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection
    published: "2025-12-08"
    accessed: "2026-11-14"
---

# Jailbreak AI: obchodzenie zabezpieczeń

Jailbreak w generatywnej AI to złośliwe dane wejściowe użytkownika, które próbują obejść zamierzone zachowanie modelu. Microsoft [1] nazywa go także bezpośrednim atakiem przez wstrzyknięcie promptu. OWASP [6] wyjaśnia, że jailbreak jest formą wstrzyknięcia promptu, w której atakujący podaje dane skłaniające model do całkowitego zignorowania protokołów bezpieczeństwa.

Microsoft przedstawia Skeleton Key i Crescendo jako ujawnione badania [1][2]. Badanie poleceń jailbreak z sieci dotyczy natomiast poleceń rzeczywiście rozpowszechnianych w internecie [3].

## W 30 sekund

- Gdzie to się zdarza: w rozmowie z modelem AI, za pomocą jednego polecenia lub serii pytań, które następują po sobie [1][2].
- Czego chce atakujący: sprawić, by model wytworzył treść, której zwykle by odmówił, zmniejszając różnicę między tym, co model potrafi, a tym, na co się zgadza [5].
- Odruch: w razie odkrycia podatności w platformie AI Microsoft zachęca do stosowania zasad odpowiedzialnego ujawniania wobec właściciela platformy [2].
- Jeśli już się stało: w przypadku Skeleton Key Microsoft wskazuje, że atak jest wymierzony w sam model i nie daje dostępu do danych innego użytkownika [1].

## Pytania wprost

### Czym jest jailbreak AI?

To złośliwe dane wejściowe, które próbują odsunąć zamierzone zachowanie modelu. Według Microsoftu [1] udany jailbreak może obejść całość lub prawie całość zabezpieczeń odpowiedzialnej AI, które producent wbudował w model podczas trenowania.

### Czy jailbreak to to samo co wstrzyknięcie promptu?

Oba terminy są często używane zamiennie, zauważa OWASP [6]. Wstrzyknięcie promptu polega na manipulowaniu odpowiedziami modelu przez dobrane dane wejściowe, co może obejmować obejście środków bezpieczeństwa. Jailbreak jest jego formą [6].

### Czy jailbreak daje dostęp do danych innych osób?

Microsoft [1] pisze, że Skeleton Key to atak na sam model: nie pozwala uzyskać dostępu do danych innego użytkownika, przejąć kontroli nad systemem ani wykraść danych. W odniesieniu do Crescendo Microsoft [2] wskazuje, że ataki te nie zagrażały bezpośrednio prywatności innych użytkowników ani bezpieczeństwu systemu AI. Omijają one filtrowanie treści [2].

### Czy można całkowicie zapobiec temu typowi ataku?

OWASP [6] uznaje za niepewne, czy istnieją niezawodne metody zapobiegania wstrzyknięciu promptu. NCSC (Wielka Brytania) [7] uważa za bardzo możliwe, że takie ataki nigdy nie zostaną całkowicie ograniczone, ponieważ obecne modele nie narzucają żadnej granicy bezpieczeństwa między instrukcjami a danymi w prompcie.

## W skórze atakującego

Jailbreak ma zmniejszyć różnicę między tym, co model potrafi, a tym, na co się zgadza [5]. Atakujący ma zazwyczaj już uprawniony dostęp do modelu: Microsoft [1] zauważa, że Skeleton Key zakłada taki dostęp.

Badacze opisują kilka sposobów, by to osiągnąć.

- Polecenie, które prosi model o uzupełnienie swoich zasad zamiast ich zmiany. Skeleton Key prosi go, by odpowiadał na każde żądanie, z ostrzeżeniem zamiast odmowy [1].
- Rozmowa, która dryfuje krok po kroku. Crescendo zaczyna od ogólnego pytania, a potem podnosi ton, opierając się na odpowiedziach modelu [5]. Microsoft [2] precyzuje, że zwykle można to zrobić w mniej niż 10 wymianach.
- Przebrany tekst. OWASP [6] wymienia instrukcje zapisane w kilku językach lub zakodowane, na przykład w Base64 albo za pomocą emoji, by uniknąć filtrów.

Badacze Wei, Haghtalab i Steinhardt [4] podają dwa powody, dla których trenowanie bezpieczeństwa zawodzi. Pierwszy to konkurencja celów: możliwości modelu i jego cele bezpieczeństwa wchodzą w konflikt. Drugi to niedopasowane uogólnianie: trenowanie bezpieczeństwa nie obejmuje dziedziny, w której model ma jednak możliwości [4].

## Co widać na ekranie

W przypadku Skeleton Key prośba polega na tym, by model dodał ostrzeżenie zamiast odmawiać [1]. Ilustracja w parafrazie, bez polecenia nadającego się do użycia:

```text
Ilustracja (parafraza, nie rzeczywiste polecenie):
[Użytkownik prosi model, by dodał ostrzeżenie
zamiast odmawiać.]
```

Gdy atak się powiedzie, model oznajmia, że zaktualizował swoje zasady i będzie następnie spełniać żądania [1]. Odpowiedzi mają wtedy na początku żądane ostrzeżenie [1].

W przypadku Crescendo na ekranie nie pojawia się nic niepokojącego. Żadne pytanie z osobna nie jest zagrożeniem, a model nie widzi niczego nietypowego, ponieważ każdy krok opiera się na tym, co sam wytworzył w poprzednim [2]. Według badaczy Crescendo wchodzi w interakcję z modelem w sposób pozornie niewinny [5].

## Pod maską

NCSC (Wielka Brytania) [7] wyjaśnia, dlaczego porównanie z wstrzyknięciem SQL jest mylące. W SQL można oddzielić dane od instrukcji, na przykład za pomocą zapytań parametryzowanych. W modelu językowym istnieje tylko next token: nie ma rozróżnienia między danymi a instrukcjami [7].

Microsoft łączy kilka warstw obrony przeciw Skeleton Key i Crescendo.

- Filtrowanie danych wejściowych: Azure AI Content Safety wykrywa i blokuje dane o złośliwym zamiarze [1].
- Komunikat systemowy: polecenia, które precyzują modelowi, jak ma się zachowywać, w tym że każdą próbę podważenia zasad bezpieczeństwa należy odrzucić [1].
- Filtrowanie danych wyjściowych: filtr, który wykrywa i blokuje odpowiedzi naruszające kryteria bezpieczeństwa [1].
- Monitorowanie nadużyć: odrębny system AI, wytrenowany na przykładach wrogich, na który nie wpływają złośliwe instrukcje [1].
- Filtr wieloturowy: przeciw Crescendo Microsoft [2] dostosował swoje filtry tak, by badały całą poprzednią rozmowę. Przekazanie tego szerszego kontekstu istniejącym detektorom, bez ich ulepszania, wyraźnie zmniejszyło skuteczność Crescendo [2].

Od strony projektowej OWASP [6] wskazuje, że te środki mogą złagodzić skutki: ograniczenie zachowania modelu, walidacja formatów wyników, ograniczenie jego uprawnień do niezbędnego minimum, wymaganie zatwierdzenia przez człowieka dla działań wysokiego ryzyka oraz testy wrogie. NCSC (Wielka Brytania) [7] ostrzega przed blokowaniem znanych formuł, takich jak ignore previous instructions: sposobów przeformułowania ataku jest nieskończenie wiele. Radzi też zachować nieufność wobec produktów, które twierdzą, że potrafią zatrzymać wstrzyknięcie promptu, i przyglądać się raczej tym, które wyjaśniają, jak je ograniczają [7].

## Analizy incydentów

### Skeleton Key, ujawniony przez Microsoft 26 czerwca 2024

Microsoft [1] opisał wieloetapową technikę jailbreak nazwaną Skeleton Key, która sprawia, że model ignoruje swoje zabezpieczenia. Testy, przeprowadzone od kwietnia do maja 2024, wykazały, że działała na Meta Llama3-70b-instruct, Google Gemini Pro, OpenAI GPT 3.5 Turbo, OpenAI GPT 4o, Mistral Large, Anthropic Claude 3 Opus i Cohere Commander R Plus [1]. Wszystkie dotknięte modele odpowiedziały w pełni i bez cenzury na testowane zadania, z żądanym ostrzeżeniem na początku [1].

GPT-4 się oparł, chyba że prośba o zmianę zachowania znajdowała się w komunikacie systemowym zdefiniowanym przez użytkownika. Taka operacja odbywa się przez API lub narzędzia, które mają do niego bezpośredni dostęp, i nie jest możliwa w interfejsie większości programów korzystających z GPT-4 [1]. Microsoft przekazał swoje wyniki innym dostawcom przed publikacją, zaktualizował technologię stojącą za swoimi asystentami Copilot i dodał wykrywanie przez Prompt Shields w zarządzanych modelach Azure AI [1].

### Crescendo, opisane przez Microsoft w kwietniu 2024

11 kwietnia 2024 Microsoft [2] przedstawił Crescendo, jailbreak w wielu turach, który według niego może osiągnąć szeroki wachlarz złośliwych celów wobec najbardziej znanych modeli. Może też obejść wiele istniejących filtrów treści, jeśli się temu nie zaradzi [2]. Artykuł badawczy, złożony na arXiv 2 kwietnia 2024 przez Russinovicha, Salema i Eldana, testuje m.in. ChatGPT, Gemini Pro, Gemini-Ultra, LlaMA-2 70b, LlaMA-3 70b Chat i Anthropic Chat, z wysokimi wskaźnikami powodzenia na wszystkich ocenianych modelach i zadaniach [5]. Przedstawia też Crescendomation, narzędzie, które automatyzuje atak [5]. Praca została przyjęta na USENIX Security 2025 [5]. Microsoft [2] zaktualizował technologię stojącą za swoimi asystentami Copilot, by złagodzić jego skutek.

### 1 405 poleceń jailbreak z sieci, lata 2022 i 2023

Shen, Chen, Backes, Shen i Zhang [3] przeanalizowali 1 405 poleceń jailbreak z okresu od grudnia 2022 do grudnia 2023. Wskazują w nich 131 społeczności i zauważają, że polecenia te przenoszą się ze społeczności internetowych na strony agregujące. Według badania 28 kont użytkowników optymalizowało polecenia w sposób ciągły przez ponad 100 dni [3]. Na sześciu popularnych modelach przetestowanych za pomocą 107 250 pytań podzielonych na 13 zakazanych scenariuszy ich zabezpieczenia nie wytrzymują wszystkich tych poleceń we wszystkich scenariuszach. Pięć bardzo skutecznych poleceń osiąga wskaźnik powodzenia 0,95 na ChatGPT (GPT-3.5) i GPT-4, a najstarsze pozostaje w sieci od ponad 240 dni [3].

## Źródła

1. Microsoft, „Mitigating Skeleton Key, a new type of generative AI jailbreak technique”, 26 czerwca 2024. https://www.microsoft.com/en-us/security/blog/2024/06/26/mitigating-skeleton-key-a-new-type-of-generative-ai-jailbreak-technique/ (dostęp 14 listopada 2026)
2. Microsoft, „How Microsoft discovers and mitigates evolving attacks against AI guardrails”, 11 kwietnia 2024. https://www.microsoft.com/en-us/security/blog/2024/04/11/how-microsoft-discovers-and-mitigates-evolving-attacks-against-ai-guardrails/ (dostęp 14 listopada 2026)
3. arXiv, „"Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models”, 7 sierpnia 2023. https://arxiv.org/abs/2308.03825 (dostęp 14 listopada 2026)
4. arXiv, „Jailbroken: How Does LLM Safety Training Fail?”, 5 lipca 2023. https://arxiv.org/abs/2307.02483 (dostęp 14 listopada 2026)
5. arXiv, „Great, Now Write an Article About That: The Crescendo Multi-Turn LLM Jailbreak Attack”, 2 kwietnia 2024. https://arxiv.org/abs/2404.01833 (dostęp 14 listopada 2026)
6. OWASP, „LLM01:2025 Prompt Injection”, 10 kwietnia 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (dostęp 14 listopada 2026)
7. NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)”, 8 grudnia 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (dostęp 14 listopada 2026)

---

Źródło oryginalne: Cyberpedia, publiczna encyklopedia cyberbezpieczeństwa i AI wydawana przez Brain. Wersja kanoniczna: https://startbrain.io/cyberpedia/pl/articles/jailbreak-ai-obchodzenie-zabezpieczen/
Możesz swobodnie wykorzystywać ten tekst na licencji CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/), pod warunkiem podania „Brain, Cyberpedia” wraz z odnośnikiem do powyższego adresu.
