--- id: CP-277 slug: kreuzpruefung-ki-antworten-drei-quellen lang: de title: KI-Antworten mit drei Quellen überprüfen description: Eine generative KI kann falsche Fakten selbstsicher behaupten. So erkennen Sie, was zu prüfen ist, und gleichen es mit drei unabhängigen Quellen ab. canonical_url: https://startbrain.io/cyberpedia/de/articles/kreuzpruefung-ki-antworten-drei-quellen/ markdown_url: https://startbrain.io/cyberpedia/de/articles/kreuzpruefung-ki-antworten-drei-quellen.md publisher: Brain (https://startbrain.io) license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) cite_as: Brain, „KI-Antworten mit drei Quellen überprüfen“, Cyberpedia, 2026. https://startbrain.io/cyberpedia/de/articles/kreuzpruefung-ki-antworten-drei-quellen/ (CC BY 4.0) wing: 4 theme: verify_output reflex: air-028 schema: G2 updated: "2026-11-03" translations: de: https://startbrain.io/cyberpedia/de/articles/kreuzpruefung-ki-antworten-drei-quellen/ fr: https://startbrain.io/cyberpedia/fr/articles/verification-croisee-sorties-ia-3-sources/ en: https://startbrain.io/cyberpedia/en/articles/cross-checking-ai-outputs-3-sources/ es: https://startbrain.io/cyberpedia/es/articles/verificacion-cruzada-respuestas-ia-tres-fuentes/ sources: - "n": 1 title: LLM09:2025 Misinformation publisher: OWASP url: https://genai.owasp.org/llmrisk/llm092025-misinformation/ accessed: "2026-11-03" - "n": 2 title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile" publisher: NIST url: https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf accessed: "2026-11-03" - "n": 3 title: "A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions" publisher: arXiv url: https://arxiv.org/abs/2311.05232 accessed: "2026-11-03" - "n": 4 title: "Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models" publisher: arXiv url: https://arxiv.org/abs/2309.01219 accessed: "2026-11-03" - "n": 5 title: Sources of Hallucination by Large Language Models on Inference Tasks publisher: arXiv url: https://arxiv.org/abs/2305.14552 accessed: "2026-11-03" --- # KI-Antworten mit drei Quellen überprüfen Ein generativer KI-Assistent antwortet in ruhigem Ton, ganz gleich, ob er recht hat oder nicht. Ein Datum, eine Zahl, der Name eines Gesetzes, ein Artikelverweis: Alles kann gut formuliert daherkommen und trotzdem falsch sein. Wer einen solchen Text in einer E-Mail, einem Bericht oder einer Entscheidung weiterverwendet, riskiert, den Fehler unter eigenem Namen weiterzugeben. Diese Seite erklärt, woher solche Fehler kommen, und beschreibt dann eine einfache Methode: erkennen, was sich überprüfen lässt, es mit drei unabhängigen Quellen abgleichen und dann entscheiden oder jemand anderen um eine Einschätzung bitten. ## In 30 Sekunden - Wo es vorkommt: sobald eine KI-Antwort ein konkretes Faktum enthält (Zahl, Datum, Zitat, Rechtsverweis, Softwarename), das Sie weiterverwenden wollen. - Was der Angreifer will: Nicht unbedingt ist jemand beteiligt. Der Fehler stammt vom Modell, aber ein Angreifer kann erfundene Namen ausnutzen [1]. - Der Reflex: Bevor Sie ein von einer KI genanntes Faktum weiterverwenden, gleichen Sie es mit drei unabhängigen Quellen ab und geben Sie nichts weiter, solange diese nicht übereinstimmen. - Wenn es schon passiert ist: Informieren Sie die Empfänger des Textes, korrigieren Sie ihn und melden Sie den Fall Ihrem Sicherheitsteam oder Ihrer Führungskraft, falls auf dieser Grundlage eine Entscheidung getroffen wurde. ## Direkte Fragen ### Warum behauptet eine KI falsche Dinge? Das NIST nennt dieses Phänomen „Konfabulation“: die Erzeugung falscher oder fehlerhafter Inhalte, die mit Überzeugung präsentiert werden. Im Alltag spricht man von Halluzinationen oder Erfindungen [2]. Dasselbe Dokument erklärt, dass diese Fehler aus der Konstruktion der Modelle folgen: Sie erzeugen Ausgaben, die der statistischen Verteilung ihrer Trainingsdaten nahekommen, etwa indem sie das nächste Wort eines Satzes vorhersagen [2]. Diese Vorhersage kann ein zutreffendes Ergebnis liefern oder ein unzutreffendes und unstimmiges [2]. Die OWASP beschreibt denselben Mechanismus: Das Modell füllt die Lücken seiner Trainingsdaten mit statistischen Mustern, ohne den Inhalt zu verstehen, und kann daher Antworten erzeugen, die plausibel klingen, aber unbegründet sind [1]. Verzerrungen in den Trainingsdaten und unvollständige Informationen tragen ebenfalls dazu bei [1]. ### In welchen Fällen ist das Risiko am höchsten? Das NIST nennt offene Anfragen, die eine lange Antwort verlangen, sowie Bereiche, die besondere Fachkenntnis oder einen genauen Kontext erfordern [2]. Ein Forschungsartikel zu Inferenzaufgaben nennt zwei Verzerrungen, die aus dem Training stammen: das Auswendiglernen von Sätzen und die über den gesamten Korpus gelernten Gebrauchsmuster. Die Autoren bezeichnen sie als wesentliche Quellen von Halluzinationen [5]. ### Warum ist der selbstsichere Ton ein Problem? Laut NIST entsteht das Risiko, wenn Nutzer falsche Inhalte glauben, oft wegen des selbstsicheren Tons der Antwort, und danach handeln oder sie verbreiten [2]. Die OWASP nennt die Überabhängigkeit (Overreliance): Nutzer vertrauen erzeugten Inhalten übermäßig, ohne deren Richtigkeit zu prüfen, was die Wirkung von Falschinformationen verstärkt [1]. ### Kann eine KI Quellen erfinden? Ja. Die OWASP führt das Beispiel eines ChatGPT an, das falsche Gerichtsverfahren erfunden hat, mit gravierenden Folgen vor Gericht [1]. Die Seite nennt das Datum dieses Falls nicht. Die OWASP nennt außerdem Programmierassistenten, die nicht existierende Code-Bibliotheken vorschlagen [1]. Ein Link, eine Urteilsnummer oder ein von einer KI genannter Paketname ist daher eine Behauptung, die zu prüfen ist, kein Beweis. ## Wie es funktioniert Übersichtsstudien beschreiben die Halluzination in mehreren Formen. Eine definiert sie als die Erzeugung plausibler, aber nicht faktischer Inhalte [3]. Eine andere beschreibt sie als Inhalt, der von der Anfrage des Nutzers abweicht, dem bereits erzeugten Kontext widerspricht oder vom gesicherten Wissen über die Welt abweicht [4]. Das NIST verwendet verwandte Begriffe: ein Inhalt, der von der Anfrage abweicht oder einer früheren Aussage derselben Unterhaltung widerspricht [2]. Für Beschäftigte heißt das: Der flüssige Stil eines Textes sagt nichts über seine Richtigkeit. Beide Übersichtsstudien halten fest, dass Halluzinationen im praktischen Einsatz eine Herausforderung für die Zuverlässigkeit darstellen [3][4]. Die OWASP zählt die Kreuzprüfung zu ihren Maßnahmen: Nutzer ermutigen, Ausgaben mit vertrauenswürdigen externen Quellen zu vergleichen, bei kritischen oder sensiblen Informationen eine menschliche Prüfung vorsehen und die Prüfenden schulen, damit sie sich nicht zu sehr auf die KI verlassen [1]. ## Was Sie tun Die Methode besteht aus drei Schritten. Erster Schritt: Isolieren Sie die überprüfbaren Aussagen. Unterstreichen Sie in der Antwort alles, was ein Dokument widerlegen könnte: Zahlen, Daten, Namen von Personen oder Organisationen, Zitate, Verweise auf Texte, Namen von Software oder Bibliotheken. Meinungen und allgemeine Umformulierungen brauchen keine gleichartige Prüfung. Zweiter Schritt: Suchen Sie drei unabhängige Quellen, ohne den Umweg über die KI. Bevorzugen Sie Primärquellen: den Gesetzestext, die Seite des Anbieters, das Dokument der betroffenen Organisation. Die drei Quellen dürfen nicht voneinander abschreiben. Wenn zwei Artikel dieselbe Agenturmeldung wiedergeben, zählen sie als eine einzige Quelle. Öffnen Sie jeden Link selbst: Auch ein von der KI genannter Link ist eine Behauptung, die zu überprüfen ist. Dritter Schritt: Entscheiden oder eskalieren. Bestätigen die drei unabhängigen Quellen das Faktum, können Sie es übernehmen und dabei die Primärquelle nennen, nicht die KI. Widersprechen sich die Quellen oder finden Sie keine, streichen Sie die Aussage. Ist sie für eine Entscheidung, einen Vertrag oder einen Inhalt für externe Leser wichtig, holen Sie die Einschätzung einer Fachperson ein. Die OWASP empfiehlt für kritische oder sensible Informationen eine menschliche Aufsicht [1]. ## Die Fallstricke - Quellen mit gleichem Ursprung: Drei Seiten, die dieselbe Pressemitteilung zitieren, liefern nur eine Bestätigung. Gehen Sie bis zum Ursprung zurück und zählen Sie ihn einmal. - Ein erfundener Link: Die OWASP nennt Fälle, in denen ein Modell nicht existierende Verweise oder Bibliotheken vorgeschlagen hat [1]. Ein Link, der sich nicht öffnen lässt, bestätigt nichts. - Bestätigungsfehler: nur nach dem suchen, was zur Antwort passt. Suchen Sie auch nach dem, was ihr widerspricht, und formulieren Sie Ihre Suche, ohne die Begriffe der KI zu übernehmen. - Der sichere Ton: Das NIST hält fest, dass das in der Antwort gezeigte Selbstvertrauen dazu verleitet, ihr zu glauben [2]. Eine ausführliche Antwort ist nicht richtiger als eine kurze. - Namen von Code-Paketen: Die OWASP beschreibt ein Szenario, in dem Angreifer die Bibliotheksnamen aufspüren, die Programmierassistenten häufig erfinden, und unter diesen Namen echte Schadpakete veröffentlichen. Entwickler, die dem Assistenten vertrauen, binden sie dann unwissentlich ein [1]. Prüfen Sie bei Code vor der Installation, ob die Bibliothek existiert und wer sie veröffentlicht. - Die automatische Kontrolle als Garantie missverstanden: Die OWASP empfiehlt auch automatische Validierungsmechanismen für wichtige Ausgaben [1], doch sie ersetzen die menschliche Prüfung kritischer Informationen nicht. Fehler setzen ohnehin keinen Angreifer voraus. Die OWASP beschreibt den Fall eines Unternehmens, das einen Chatbot für medizinische Diagnosen anbietet, ohne dessen Zuverlässigkeit sicherzustellen: Das Unternehmen wurde erfolgreich verklagt, ohne dass ein Angreifer eingegriffen hätte [1]. Sie nennt außerdem einen Chatbot von Air Canada, der Reisenden falsche Auskünfte gegeben hat, und die Fluggesellschaft wurde erfolgreich verklagt [1]. Die Seite datiert diese Fälle nicht. ## Quellen 1. OWASP, „LLM09:2025 Misinformation“. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (abgerufen am 3. November 2026) 2. NIST, „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile“. https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.600-1.pdf (abgerufen am 3. November 2026) 3. arXiv, „A Survey on Hallucination in Large Language Models: Principles, Taxonomy, Challenges, and Open Questions“. https://arxiv.org/abs/2311.05232 (abgerufen am 3. November 2026) 4. arXiv, „Siren's Song in the AI Ocean: A Survey on Hallucination in Large Language Models“. https://arxiv.org/abs/2309.01219 (abgerufen am 3. November 2026) 5. arXiv, „Sources of Hallucination by Large Language Models on Inference Tasks“. https://arxiv.org/abs/2305.14552 (abgerufen am 3. November 2026) --- Originalquelle: Cyberpedia, die öffentliche Enzyklopädie zu Cybersicherheit und KI von Brain. Kanonische Version: https://startbrain.io/cyberpedia/de/articles/kreuzpruefung-ki-antworten-drei-quellen/ Sie dürfen diesen Text unter der Lizenz CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) frei weiterverwenden, sofern Sie „Brain, Cyberpedia“ mit einem Link auf die obige Adresse nennen.