Jailbreak van AI: de beveiligingen omzeilen
Een jailbreak laat een AI-model zijn veiligheidsregels negeren. Skeleton Key, Crescendo, instructies van het web: wat bekend is, met datum en bron.
Op deze pagina
In 30 seconden
- Waar het gebeurt
- In een gesprek met een AI-model, via één enkele instructie of via een reeks vragen die op elkaar voortbouwen[1][2].
- Wat de aanvaller wil
- Het model inhoud laten produceren die het normaal zou weigeren, door de kloof te verkleinen tussen wat het model kan en wat het accepteert te doen[5].
- De reflex
- Als u een kwetsbaarheid ontdekt in een AI-platform, moedigt Microsoft aan de praktijken voor verantwoorde openbaarmaking te volgen bij de eigenaar van het platform[2].
- Als het al gebeurd is
- Bij Skeleton Key geeft Microsoft aan dat de aanval het model zelf als doelwit heeft en geen toegang geeft tot de gegevens van een andere gebruiker[1].
Waar gaat het over
Een jailbreak is in generatieve AI een kwaadaardige invoer van een gebruiker die probeert het beoogde gedrag van een model te omzeilen. Microsoft[1] noemt het ook een directe prompt-injectie-aanval. OWASP[6] preciseert dat de jailbreak een vorm van prompt-injectie is, waarbij de aanvaller invoer levert die het model ertoe brengt zijn veiligheidsprotocollen volledig te negeren.
Microsoft presenteert Skeleton Key en Crescendo als openbaar gemaakt onderzoek[1][2]. De studie over jailbreak-instructies van het web gaat daarentegen over instructies die daadwerkelijk online zijn verspreid[3].
Directe vragen
Wat is een jailbreak van AI?
Het is een kwaadaardige invoer die het beoogde gedrag van het model probeert opzij te zetten. Volgens Microsoft[1] kan een geslaagde jailbreak alle of bijna alle waarborgen voor verantwoorde AI omzeilen die de leverancier tijdens de training in het model heeft ingebouwd.
Is een jailbreak hetzelfde als een prompt-injectie?
De twee termen worden vaak door elkaar gebruikt, merkt OWASP[6] op. Prompt-injectie bestaat uit het manipuleren van de antwoorden van een model met gekozen invoer, wat het omzeilen van veiligheidsmaatregelen kan omvatten. De jailbreak is er een vorm van[6].
Geeft een jailbreak toegang tot de gegevens van anderen?
Microsoft[1] schrijft dat Skeleton Key een aanval op het model zelf is: ze geeft geen toegang tot de gegevens van een andere gebruiker, laat niet toe het systeem over te nemen en laat niet toe gegevens te exfiltreren. Over Crescendo geeft Microsoft[2] aan dat deze aanvallen niet rechtstreeks een bedreiging vormden voor de privacy van andere gebruikers of voor de veiligheid van het AI-systeem. Ze omzeilen de inhoudsfiltering[2].
Kan men dit soort aanval volledig voorkomen?
OWASP[6] acht het onzeker of er onfeilbare preventiemethoden tegen prompt-injectie bestaan. Het NCSC (Verenigd Koninkrijk)[7] acht het heel goed mogelijk dat deze aanvallen nooit volledig worden teruggebracht, omdat de huidige modellen in een prompt geen enkele veiligheidsgrens leggen tussen instructies en gegevens.
In de huid van de aanvaller
Een jailbreak beoogt de kloof te verkleinen tussen wat het model kan doen en wat het accepteert te doen[5]. De aanvaller heeft over het algemeen al legitieme toegang tot het model: Microsoft[1] merkt op dat Skeleton Key die toegang veronderstelt.
De onderzoekers beschrijven meerdere manieren om dat te bereiken.
- Een instructie die het model vraagt zijn regels aan te vullen in plaats van ze te wijzigen. Skeleton Key vraagt het op elk verzoek te antwoorden, met een waarschuwing in plaats van een weigering[1].
- Een gesprek dat stap voor stap afdwaalt. Crescendo begint met een algemene vraag en verhoogt daarna de toon, voortbouwend op de antwoorden van het model[5]. Microsoft[2] preciseert dat dit doorgaans in minder dan 10 uitwisselingen kan.
- Een vermomde tekst. OWASP[6] noemt instructies die in meerdere talen zijn geschreven of zijn gecodeerd, bijvoorbeeld in Base64 of met emoji's, om aan filters te ontsnappen.
De onderzoekers Wei, Haghtalab en Steinhardt[4] voeren twee redenen aan waarom de veiligheidstraining faalt. De eerste is concurrerende doelen: de capaciteiten van het model en zijn veiligheidsdoelen komen met elkaar in conflict. De tweede is ongeschikte generalisatie: de veiligheidstraining strekt zich niet uit tot een domein waarin het model wel capaciteiten heeft[4].
Wat u op het scherm ziet
Bij Skeleton Key bestaat het verzoek erin het model een waarschuwing te laten toevoegen in plaats van te weigeren[1]. Geparafraseerde illustratie, zonder bruikbare instructie:
Illustratie (parafrase, geen echte instructie):
[De gebruiker vraagt het model een waarschuwing toe te voegen
in plaats van te weigeren.]Als de aanval slaagt, geeft het model aan dat het zijn regels heeft bijgewerkt en zich daarna aan de verzoeken zal houden[1]. De antwoorden dragen dan de gevraagde waarschuwing als voorvoegsel[1].
Bij Crescendo verschijnt er niets alarmerends op het scherm. Elke vraag op zichzelf is geen bedreiging, en het model ziet niets ongewoons, omdat elke stap voortbouwt op wat het zelf in de vorige stap heeft geproduceerd[2]. Volgens de onderzoekers interageert Crescendo met het model op een ogenschijnlijk onschuldige manier[5].
Onder de motorkapIT-teams
Het NCSC (Verenigd Koninkrijk)[7] legt uit waarom de vergelijking met SQL-injectie misleidend is. Bij SQL kan men gegevens en instructies scheiden, bijvoorbeeld met geparametriseerde query's. In een taalmodel bestaat alleen de next token: er is geen onderscheid tussen gegevens en instructies[7].
Microsoft combineert meerdere verdedigingslagen tegen Skeleton Key en Crescendo.
- Invoerfiltering: Azure AI Content Safety detecteert invoer met kwaadaardige bedoelingen en blokkeert die[1].
- Systeembericht: instructies die het model preciseren hoe het zich moet gedragen, waaronder dat elke poging om de veiligheidsregels te ondermijnen moet worden genegeerd[1].
- Uitvoerfiltering: een filter dat antwoorden die de veiligheidscriteria schenden herkent en blokkeert[1].
- Bewaking van misbruik: een apart AI-systeem, getraind op adversariële voorbeelden, dat niet wordt beïnvloed door kwaadaardige instructies[1].
- Filter voor meerdere beurten: tegen Crescendo heeft Microsoft[2] zijn filters aangepast om het hele voorafgaande gesprek te onderzoeken. Die bredere context doorgeven aan bestaande detectoren, zonder die te verbeteren, heeft de doeltreffendheid van Crescendo duidelijk verminderd[2].
Wat het ontwerp betreft, wijst OWASP[6] erop dat deze maatregelen de impact kunnen verzachten: het gedrag van het model beperken, uitvoerformaten valideren, zijn rechten beperken tot het noodzakelijke minimum, menselijke goedkeuring eisen bij handelingen met een hoog risico en adversariële tests uitvoeren. Het NCSC (Verenigd Koninkrijk)[7] waarschuwt voor het blokkeren van bekende formules zoals ignore previous instructions: de manieren om een aanval te herformuleren zijn oneindig. Het raadt ook aan wantrouwend te zijn tegenover producten die beweren prompt-injectie te kunnen stoppen, en liever te kijken naar producten die uitleggen hoe zij die beperken[7].
IncidentanalysesEchte gevallen
Skeleton Key, openbaar gemaakt door Microsoft op 26 juni 2024
Microsoft[1] beschreef een jailbreaktechniek in meerdere stappen, Skeleton Key genaamd, die het model zijn beveiligingen laat negeren. De tests, uitgevoerd van april tot mei 2024, toonden aan dat ze werkte op Meta Llama3-70b-instruct, Google Gemini Pro, OpenAI GPT 3.5 Turbo, OpenAI GPT 4o, Mistral Large, Anthropic Claude 3 Opus en Cohere Commander R Plus[1]. Alle getroffen modellen antwoordden volledig en zonder censuur op de geteste taken, met de gevraagde waarschuwing als voorvoegsel[1].
GPT-4 hield stand, behalve wanneer het verzoek om het gedrag te wijzigen stond in een door de gebruiker gedefinieerd systeembericht. Die handeling verloopt via de API of via hulpmiddelen die er rechtstreeks toegang toe hebben, en is niet mogelijk in de interface van de meeste software die GPT-4 gebruikt[1]. Microsoft deelde zijn resultaten vóór publicatie met de andere leveranciers, werkte de technologie achter zijn Copilot-assistenten bij en voegde detectie door Prompt Shields toe aan de beheerde modellen van Azure AI[1].
Crescendo, beschreven door Microsoft in april 2024
Op 11 april 2024 presenteerde Microsoft[2] Crescendo, een jailbreak over meerdere beurten die volgens Microsoft een breed scala aan kwaadaardige doelen kan bereiken bij de bekendste modellen. Hij kan ook veel bestaande inhoudsfilters omzeilen als er niets aan wordt gedaan[2]. Het onderzoeksartikel, op 2 april 2024 op arXiv geplaatst door Russinovich, Salem en Eldan, test onder meer ChatGPT, Gemini Pro, Gemini-Ultra, LlaMA-2 70b, LlaMA-3 70b Chat en Anthropic Chat, met hoge slagingspercentages voor alle geëvalueerde modellen en taken[5]. Het presenteert ook Crescendomation, een tool die de aanval automatiseert[5]. Het werk is geaccepteerd voor USENIX Security 2025[5]. Microsoft[2] werkte de technologie achter zijn Copilot-assistenten bij om het effect te verzachten.
1.405 jailbreak-instructies gevonden op het web, 2022 en 2023
Shen, Chen, Backes, Shen en Zhang[3] analyseerden 1.405 jailbreak-instructies uit de periode van december 2022 tot december 2023. Ze vinden daarin 131 gemeenschappen en zien dat deze instructies van online gemeenschappen naar aggregatiewebsites migreren. Volgens de studie optimaliseerden 28 gebruikersaccounts instructies continu gedurende meer dan 100 dagen[3]. Bij zes populaire modellen, getest met 107.250 vragen verdeeld over 13 verboden scenario's, houden hun beschermingen niet stand tegen al deze instructies in alle scenario's. Vijf zeer doeltreffende instructies halen een slagingspercentage van 0,95 op ChatGPT (GPT-3.5) en GPT-4, en de oudste staat al meer dan 240 dagen online[3].
Bronnen
- Microsoft, “Mitigating Skeleton Key, a new type of generative AI jailbreak technique”, 26 juni 2024. https://www.microsoft.com/en-us/security/blog/2024/06/26/mitigating-skeleton-key-a-new-type-of-generative-ai-jailbreak-technique/ (geraadpleegd op 14 november 2026)
- Microsoft, “How Microsoft discovers and mitigates evolving attacks against AI guardrails”, 11 april 2024. https://www.microsoft.com/en-us/security/blog/2024/04/11/how-microsoft-discovers-and-mitigates-evolving-attacks-against-ai-guardrails/ (geraadpleegd op 14 november 2026)
- arXiv, “"Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models”, 7 augustus 2023. https://arxiv.org/abs/2308.03825 (geraadpleegd op 14 november 2026)
- arXiv, “Jailbroken: How Does LLM Safety Training Fail?”, 5 juli 2023. https://arxiv.org/abs/2307.02483 (geraadpleegd op 14 november 2026)
- arXiv, “Great, Now Write an Article About That: The Crescendo Multi-Turn LLM Jailbreak Attack”, 2 april 2024. https://arxiv.org/abs/2404.01833 (geraadpleegd op 14 november 2026)
- OWASP, “LLM01:2025 Prompt Injection”, 10 april 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (geraadpleegd op 14 november 2026)
- NCSC (Royaume-Uni), “Prompt injection is not SQL injection (it may be worse)”, 8 december 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (geraadpleegd op 14 november 2026)
Dit artikel citeren
Brain, “Jailbreak van AI: de beveiligingen omzeilen”, Cyberpedia, 2026. https:/
BibTeX
@misc{brain_cp283_nl_2026,
author = {Brain},
title = {Jailbreak van AI: de beveiligingen omzeilen},
year = {2026},
howpublished = {Cyberpedia},
url = {https://startbrain.io/cyberpedia/nl/articles/jailbreak-ai-beveiligingen-omzeilen/},
note = {CC BY 4.0}
}