KI-Antworten mit drei Quellen überprüfen

Eine generative KI kann falsche Fakten selbstsicher behaupten. So erkennen Sie, was zu prüfen ist, und gleichen es mit drei unabhängigen Quellen ab.

5 Min. Lesezeit
Aktualisiert am 3. November 2026
5 Quellen

In 30 Sekunden

Wo es vorkommt: Sobald eine KI-Antwort ein konkretes Faktum enthält (Zahl, Datum, Zitat, Rechtsverweis, Softwarename), das Sie weiterverwenden wollen.
Was der Angreifer will: Nicht unbedingt ist jemand beteiligt. Der Fehler stammt vom Modell, aber ein Angreifer kann erfundene Namen ausnutzen¹.
Der Reflex: Bevor Sie ein von einer KI genanntes Faktum weiterverwenden, gleichen Sie es mit drei unabhängigen Quellen ab und geben Sie nichts weiter, solange diese nicht übereinstimmen.
Wenn es schon passiert ist: Informieren Sie die Empfänger des Textes, korrigieren Sie ihn und melden Sie den Fall Ihrem Sicherheitsteam oder Ihrer Führungskraft, falls auf dieser Grundlage eine Entscheidung getroffen wurde.

Worum es geht

Ein generativer KI-Assistent antwortet in ruhigem Ton, ganz gleich, ob er recht hat oder nicht. Ein Datum, eine Zahl, der Name eines Gesetzes, ein Artikelverweis: Alles kann gut formuliert daherkommen und trotzdem falsch sein. Wer einen solchen Text in einer E-Mail, einem Bericht oder einer Entscheidung weiterverwendet, riskiert, den Fehler unter eigenem Namen weiterzugeben.

Diese Seite erklärt, woher solche Fehler kommen, und beschreibt dann eine einfache Methode: erkennen, was sich überprüfen lässt, es mit drei unabhängigen Quellen abgleichen und dann entscheiden oder jemand anderen um eine Einschätzung bitten.

Direkte Fragen

Warum behauptet eine KI falsche Dinge?

Das NIST nennt dieses Phänomen „Konfabulation“: die Erzeugung falscher oder fehlerhafter Inhalte, die mit Überzeugung präsentiert werden. Im Alltag spricht man von Halluzinationen oder Erfindungen². Dasselbe Dokument erklärt, dass diese Fehler aus der Konstruktion der Modelle folgen: Sie erzeugen Ausgaben, die der statistischen Verteilung ihrer Trainingsdaten nahekommen, etwa indem sie das nächste Wort eines Satzes vorhersagen². Diese Vorhersage kann ein zutreffendes Ergebnis liefern oder ein unzutreffendes und unstimmiges².

Die OWASP beschreibt denselben Mechanismus: Das Modell füllt die Lücken seiner Trainingsdaten mit statistischen Mustern, ohne den Inhalt zu verstehen, und kann daher Antworten erzeugen, die plausibel klingen, aber unbegründet sind¹. Verzerrungen in den Trainingsdaten und unvollständige Informationen tragen ebenfalls dazu bei¹.

In welchen Fällen ist das Risiko am höchsten?

Das NIST nennt offene Anfragen, die eine lange Antwort verlangen, sowie Bereiche, die besondere Fachkenntnis oder einen genauen Kontext erfordern². Ein Forschungsartikel zu Inferenzaufgaben nennt zwei Verzerrungen, die aus dem Training stammen: das Auswendiglernen von Sätzen und die über den gesamten Korpus gelernten Gebrauchsmuster. Die Autoren bezeichnen sie als wesentliche Quellen von Halluzinationen⁵.

Warum ist der selbstsichere Ton ein Problem?

Laut NIST entsteht das Risiko, wenn Nutzer falsche Inhalte glauben, oft wegen des selbstsicheren Tons der Antwort, und danach handeln oder sie verbreiten². Die OWASP nennt die Überabhängigkeit (Overreliance): Nutzer vertrauen erzeugten Inhalten übermäßig, ohne deren Richtigkeit zu prüfen, was die Wirkung von Falschinformationen verstärkt¹.

Kann eine KI Quellen erfinden?

Ja. Die OWASP führt das Beispiel eines ChatGPT an, das falsche Gerichtsverfahren erfunden hat, mit gravierenden Folgen vor Gericht¹. Die Seite nennt das Datum dieses Falls nicht. Die OWASP nennt außerdem Programmierassistenten, die nicht existierende Code-Bibliotheken vorschlagen¹. Ein Link, eine Urteilsnummer oder ein von einer KI genannter Paketname ist daher eine Behauptung, die zu prüfen ist, kein Beweis.

1Wie es funktioniert1 min

Übersichtsstudien beschreiben die Halluzination in mehreren Formen. Eine definiert sie als die Erzeugung plausibler, aber nicht faktischer Inhalte³. Eine andere beschreibt sie als Inhalt, der von der Anfrage des Nutzers abweicht, dem bereits erzeugten Kontext widerspricht oder vom gesicherten Wissen über die Welt abweicht⁴. Das NIST verwendet verwandte Begriffe: ein Inhalt, der von der Anfrage abweicht oder einer früheren Aussage derselben Unterhaltung widerspricht².

Für Beschäftigte heißt das: Der flüssige Stil eines Textes sagt nichts über seine Richtigkeit. Beide Übersichtsstudien halten fest, dass Halluzinationen im praktischen Einsatz eine Herausforderung für die Zuverlässigkeit darstellen³⁴.

Die OWASP zählt die Kreuzprüfung zu ihren Maßnahmen: Nutzer ermutigen, Ausgaben mit vertrauenswürdigen externen Quellen zu vergleichen, bei kritischen oder sensiblen Informationen eine menschliche Prüfung vorsehen und die Prüfenden schulen, damit sie sich nicht zu sehr auf die KI verlassen¹.

2Was Sie tun1 min

Die Methode besteht aus drei Schritten.

Erster Schritt: Isolieren Sie die überprüfbaren Aussagen. Unterstreichen Sie in der Antwort alles, was ein Dokument widerlegen könnte: Zahlen, Daten, Namen von Personen oder Organisationen, Zitate, Verweise auf Texte, Namen von Software oder Bibliotheken. Meinungen und allgemeine Umformulierungen brauchen keine gleichartige Prüfung.

Zweiter Schritt: Suchen Sie drei unabhängige Quellen, ohne den Umweg über die KI. Bevorzugen Sie Primärquellen: den Gesetzestext, die Seite des Anbieters, das Dokument der betroffenen Organisation. Die drei Quellen dürfen nicht voneinander abschreiben. Wenn zwei Artikel dieselbe Agenturmeldung wiedergeben, zählen sie als eine einzige Quelle. Öffnen Sie jeden Link selbst: Auch ein von der KI genannter Link ist eine Behauptung, die zu überprüfen ist.

Dritter Schritt: Entscheiden oder eskalieren. Bestätigen die drei unabhängigen Quellen das Faktum, können Sie es übernehmen und dabei die Primärquelle nennen, nicht die KI. Widersprechen sich die Quellen oder finden Sie keine, streichen Sie die Aussage. Ist sie für eine Entscheidung, einen Vertrag oder einen Inhalt für externe Leser wichtig, holen Sie die Einschätzung einer Fachperson ein. Die OWASP empfiehlt für kritische oder sensible Informationen eine menschliche Aufsicht¹.

3Die Fallstricke2 min

Quellen mit gleichem Ursprung: Drei Seiten, die dieselbe Pressemitteilung zitieren, liefern nur eine Bestätigung. Gehen Sie bis zum Ursprung zurück und zählen Sie ihn einmal.
Ein erfundener Link: Die OWASP nennt Fälle, in denen ein Modell nicht existierende Verweise oder Bibliotheken vorgeschlagen hat¹. Ein Link, der sich nicht öffnen lässt, bestätigt nichts.
Bestätigungsfehler: nur nach dem suchen, was zur Antwort passt. Suchen Sie auch nach dem, was ihr widerspricht, und formulieren Sie Ihre Suche, ohne die Begriffe der KI zu übernehmen.
Der sichere Ton: Das NIST hält fest, dass das in der Antwort gezeigte Selbstvertrauen dazu verleitet, ihr zu glauben². Eine ausführliche Antwort ist nicht richtiger als eine kurze.
Namen von Code-Paketen: Die OWASP beschreibt ein Szenario, in dem Angreifer die Bibliotheksnamen aufspüren, die Programmierassistenten häufig erfinden, und unter diesen Namen echte Schadpakete veröffentlichen. Entwickler, die dem Assistenten vertrauen, binden sie dann unwissentlich ein¹. Prüfen Sie bei Code vor der Installation, ob die Bibliothek existiert und wer sie veröffentlicht.
Die automatische Kontrolle als Garantie missverstanden: Die OWASP empfiehlt auch automatische Validierungsmechanismen für wichtige Ausgaben¹, doch sie ersetzen die menschliche Prüfung kritischer Informationen nicht.

Fehler setzen ohnehin keinen Angreifer voraus. Die OWASP beschreibt den Fall eines Unternehmens, das einen Chatbot für medizinische Diagnosen anbietet, ohne dessen Zuverlässigkeit sicherzustellen: Das Unternehmen wurde erfolgreich verklagt, ohne dass ein Angreifer eingegriffen hätte¹. Sie nennt außerdem einen Chatbot von Air Canada, der Reisenden falsche Auskünfte gegeben hat, und die Fluggesellschaft wurde erfolgreich verklagt¹. Die Seite datiert diese Fälle nicht.

Merkblatt

Kennung: CP-277
Flügel: 4. Künstliche Intelligenz
Brain-Kompetenz: Antworten prüfen (verify_output)
Brain-Reflex: air-028
Schema: G2 · Mythos gegen Realität
Sprachen: de, en, fr
Quellen: 5 Quellen geprüft am 3. November 2026

Quellen5 Quellen

OWASP, „LLM09:2025 Misinformation“. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (abgerufen am 3. November 2026)
NIST, „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile“. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (abgerufen am 3. November 2026)
arXiv, „A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions“. https://arxiv.org/abs/2311.05232 (abgerufen am 3. November 2026)
arXiv, „Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models“. https://arxiv.org/abs/2309.01219 (abgerufen am 3. November 2026)
arXiv, „Sources of Hallucination by Large Language Models on Inference Tasks“. https://arxiv.org/abs/2305.14552 (abgerufen am 3. November 2026)

Diesen Artikel zitieren

Brain, „KI-Antworten mit drei Quellen überprüfen“, Cyberpedia, 2026. https://startbrain.io/cyberpedia/de/articles/kreuzpruefung-ki-antworten-drei-quellen/

BibTeX

@misc{brain_cp277_de_2026,
  author = {Brain},
  title = {KI-Antworten mit drei Quellen überprüfen},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/de/articles/kreuzpruefung-ki-antworten-drei-quellen/},
  note = {CC BY 4.0}
}

Lizenz CC BY 4.0