Cyberpediavon Brain

Einen Vertrag von einer KI prüfen lassen: was sie erkennt, was sie übersieht

Ein KI-Assistent kann riskante Vertragsklauseln finden, übersieht aber welche und erfindet Inhalte. Gemessene Grenzen und die richtigen Schritte.

Auf dieser Seite
  1. 1In 30 Sekunden
  2. 2Worum es geht
  3. 3Direkte Fragen
  4. 4So funktioniert es
  5. 5Was Sie tun
  6. 6Die Fallstricke
  7. 7Quellen
  8. 8Diesen Artikel zitieren

In 30 Sekunden

Wo es vorkommt
Wenn man einen KI-Assistenten bittet, in einem Vertrag die riskanten Klauseln zu finden[1].
Was schiefgehen kann
Modelle antworten no related clause, obwohl eine einschlägige Klausel vorhanden ist[1], und ein Modell kann rechtliche Behauptungen ohne Grundlage erzeugen[2].
Der Reflex
Keine sensiblen Informationen in eine Anfrage an ein öffentliches Modell einfügen[3] und die Ergebnisse von einer Person prüfen lassen, wenn viel auf dem Spiel steht[2].

Worum es geht

Forschende haben gemessen, wie gut Sprachmodelle die rechtlichen Risiken von Handelsverträgen Klausel für Klausel erkennen. Ihr Prüfstand ContractEval testete 4 proprietäre und 15 Open-Source-Modelle[1]. Sie kommen zu dem Schluss, dass die meisten Modelle ein Niveau erreichen, das dem juristischer Assistenzkräfte am Anfang ihrer Laufbahn vergleichbar ist[1].

Dieser Artikel erklärt Beschäftigten, was diese Arbeiten zeigen, was ein KI-Assistent auslassen oder erfinden kann und welche Schritte sich empfehlen, bevor man ihm ein Dokument anvertraut.

Direkte Fragen

Findet ein KI-Assistent alle Klauseln eines Vertrags?

Die Arbeiten zu ContractEval erlauben diese Aussage nicht. Die Autoren verwendeten den Datensatz Contract Understanding Atticus Dataset (CUAD)[1]. Sie beobachten, dass Open-Source-Modelle häufiger Antworten no related clause erzeugen, auch wenn einschlägige Klauseln vorhanden sind[1]. Darin sehen sie ein mögliches Zeichen für laziness beim Schlussfolgern oder für ein geringes Vertrauen des Modells beim Extrahieren des relevanten Inhalts[1].

Proprietäre Modelle schneiden bei der Genauigkeit und der Effizienz der Antworten besser ab als Open-Source-Modelle, auch wenn einige Open-Source-Modelle in manchen Punkten konkurrenzfähig bleiben[1].

Macht ein Schlussfolgerungsmodus die Analyse zuverlässiger?

Nicht unbedingt. Laut ContractEval verbessert der Schlussfolgerungsmodus (thinking) die Effizienz der Antworten, verringert aber ihre Genauigkeit, wahrscheinlich weil er einfachere Aufgaben übermäßig verkompliziert[1].

Kann eine KI Texte oder Gerichtsentscheidungen erfinden?

Ja. OWASP nennt das Beispiel von ChatGPT, das falsche Rechtsfälle fabriziert hat, mit erheblichen Folgen vor Gericht[2]. OWASP nennt das eine Halluzination: Das Modell erzeugt einen Inhalt, der zutreffend wirkt, aber erfunden ist[2]. Ein technischer Bericht von Alex Dantart analysiert dieses Problem der Halluzinationen von Sprachmodellen im Recht, seine Ursachen und seine Erscheinungsformen[4].

Warum wirkt eine falsche Antwort so sicher?

OWASP beschreibt die Desinformation durch ein Modell als falsche oder irreführende Informationen, die glaubwürdig wirken[2]. Das britische NCSC schrieb 2023, Modelle hätten den Mangel, überzeugend zu wirken, ob sie nun recht haben oder nicht[3]. Es fügte hinzu, ihre Antworten könnten nur teilweise richtig sein, vor allem bei speziellen Themen[3].

Kann man einen Vertrag in einen öffentlichen Assistenten einfügen?

Das NCSC empfiehlt, keine sensiblen Informationen in Anfragen an öffentliche Modelle aufzunehmen und ihnen keine Anfragen zu stellen, die problematisch wären, wenn sie öffentlich würden[3]. Es beschreibt auch die Praxis, große Textmengen, ja ganze Dokumente, in die Frage zu kopieren, um Kontext zu liefern, und empfiehlt sie bei sensiblen Informationen auf öffentlichen Modellen nicht[3].

Was geschieht mit dem, was ich in den Assistenten schreibe?

Laut NCSC ist die Anfrage für die Organisation sichtbar, die das Modell bereitstellt, sie wird gespeichert und wird so gut wie sicher eines Tages zur Entwicklung des Dienstes oder des Modells verwendet[3]. Zum Zeitpunkt seines Beitrags stellte das NCSC klar, dass ein Modell die Informationen aus Anfragen nicht automatisch seinem Modell für andere Nutzende hinzufügte[3]. Es hält auch fest, dass online gespeicherte Anfragen gehackt, offengelegt oder, wahrscheinlicher, versehentlich öffentlich gemacht werden können[3].

Gibt es einen Rahmen, um diese Risiken zu bewerten?

Das NIST veröffentlichte am 26. Januar 2023 sein AI Risk Management Framework, dessen Anwendung freiwillig ist[5]. Am 26. Juli 2024 veröffentlichte es NIST-AI-600-1, ein Profil für generative KI, das Organisationen helfen kann, die Risiken dieser Werkzeuge zu erkennen[5].

So funktioniert es

Laut NCSC wurde ein Sprachmodell mit einer großen Menge an Texten trainiert und leitet daraus ein Wahrscheinlichkeitsmodell ab, das auf den Beziehungen zwischen Wörtern beruht[3]. OWASP erklärt, dass Halluzinationen entstehen, weil das Modell die Lücken seiner Trainingsdaten mit statistischen Mustern füllt, ohne den Inhalt zu verstehen[2]. Es kann dann Antworten erzeugen, die richtig wirken, aber ohne Grundlage sind[2].

Ein gängiges Gegenmittel ist die Retrieval-Augmented Generation (RAG). OWASP empfiehlt sie: Sie besteht darin, während der Erzeugung der Antwort relevante, geprüfte Informationen aus vertrauenswürdigen externen Datenbanken abzurufen, was hilft, Halluzinationen zu begrenzen[2]. Eine Literaturübersicht zur RAG stellt sie als Kombination aus Sprachmodellen und Systemen zur Informationsabfrage dar, die die faktische Verankerung stärken und Halluzinationen abschwächen soll[6]. Dieselbe Übersicht nennt als fortbestehende Schwierigkeiten die Qualität der Informationsabfrage und Fragen der Vertraulichkeit[6]. Auch der Bericht von Alex Dantart untersucht die Wirksamkeit der RAG und legt ihre Grenzen dar[4].

Was Sie tun

  • Prüfen Sie vor dem Einfügen eines Textes, was er enthält: Das NCSC empfiehlt, keine sensiblen Informationen in Anfragen an ein öffentliches Modell aufzunehmen[3].
  • Lesen Sie die Nutzungsbedingungen und die Datenschutzrichtlinie des Werkzeugs, bevor Sie ihm sensible Fragen stellen: Das NCSC gibt an, dass sie gut verstanden sein müssen[3].
  • Bei einem Werkzeug, das ein Cloud-Anbieter bereitstellt, fordert das NCSC Organisationen auf zu verstehen, wie ihre Daten verwaltet werden: Haben Forschende oder Partner des Anbieters Zugriff darauf, und unter welchen Bedingungen kann ein Mitarbeiter des Anbieters die Anfragen einsehen[3]?
  • Gleichen Sie die Antworten mit vertrauenswürdigen externen Quellen ab. OWASP empfiehlt, diese Überprüfung zu fördern und eine menschliche Aufsicht und Faktenkontrolle einzurichten, vor allem bei kritischen oder sensiblen Informationen[2].
  • Nehmen Sie eine Antwort no related clause nicht als Beweis dafür, dass keine Klausel zutrifft: ContractEval hat solche Antworten festgestellt, obwohl einschlägige Klauseln vorhanden waren[1].
  • Behalten Sie das Urteil in der Hand. Der Bericht von Alex Dantart betont die menschliche Aufsicht, die er für unersetzlich hält, und schlägt eine „beratende“ KI vor, ein Werkzeug, das das fachliche Urteil verstärkt, statt es zu ersetzen[4].

Die Fallstricke

  • Übermäßiges Vertrauen. So nennt OWASP, wenn man einem erzeugten Inhalt zu sehr vertraut, ohne seine Richtigkeit zu prüfen, was die Wirkung einer falschen Information verschlimmert, wenn sie in eine Entscheidung eingeht[2].
  • Anfängerniveau. Die Autoren von ContractEval vergleichen die meisten Modelle mit juristischen Assistenzkräften am Anfang ihrer Laufbahn und halten für Open-Source-Modelle eine gezielte Anpassung (Fine-Tuning) für nötig, damit sie in juristischen Situationen mit hohem Einsatz korrekt und effizient sind[1].
  • Ein Schlussfolgerungsmodus, der für ein Qualitätsversprechen gehalten wird: Er verringert die Genauigkeit in den Tests von ContractEval[1].
  • Eine Antwort, die richtig klingt. Das NCSC hält fest, dass überzeugende Antworten nur teilweise richtig sein können[3].

Quellen

  1. arXiv, „ContractEval: Benchmarking LLMs for Clause-Level Legal Risk Identification in Commercial Contracts“, 5. August 2025. https://arxiv.org/abs/2508.03080 (abgerufen am 14. November 2026)
  2. OWASP, „LLM09:2025 Misinformation“, 10. April 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (abgerufen am 14. November 2026)
  3. NCSC (Royaume-Uni), „ChatGPT and large language models: what's the risk?“, 14. März 2023. https://www.ncsc.gov.uk/blog-post/chatgpt-and-large-language-models-whats-the-risk (abgerufen am 14. November 2026)
  4. arXiv, „Inteligencia Artificial jurídica y el desafío de la veracidad: análisis de alucinaciones, optimización de RAG y principios para una integración responsable“, 11. September 2025. https://arxiv.org/abs/2509.09467 (abgerufen am 14. November 2026)
  5. NIST, „AI Risk Management Framework“, 12. Juli 2021. https://www.nist.gov/itl/ai-risk-management-framework (abgerufen am 14. November 2026)
  6. arXiv, „A Systematic Review of Key Retrieval-Augmented Generation (RAG) Systems: Progress, Gaps, and Future Directions“, 25. Juli 2025. https://arxiv.org/abs/2507.18910 (abgerufen am 14. November 2026)