---
id: CP-280
slug: quellen-ki-suchmaschinen-pruefen
lang: de
title: Quellen von KI-Suchmaschinen prüfen
description: Eine KI-Suche zeigt neben ihrer Antwort Links an. So öffnen Sie sie, vergleichen sie mit der Aussage und erkennen, wann Sie ihnen nicht trauen sollten.
canonical_url: https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen/
markdown_url: https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen.md
publisher: Brain (https://startbrain.io)
license: CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/)
cite_as: Brain, „Quellen von KI-Suchmaschinen prüfen“, Cyberpedia, 2026. https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen/ (CC BY 4.0)
wing: 4
theme: verify_output
reflex: air-031
schema: G2
updated: "2026-11-03"
translations:
  de: https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen/
  fr: https://startbrain.io/cyberpedia/fr/articles/verifier-sources-moteurs-recherche-ia/
  en: https://startbrain.io/cyberpedia/en/articles/verify-ai-search-engine-citations/
  es: https://startbrain.io/cyberpedia/es/articles/verificar-fuentes-buscadores-ia/
sources:
  - "n": 1
    title: LLM09:2025 Misinformation
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm092025-misinformation/
    published: "2024-04-10"
    accessed: "2026-11-03"
  - "n": 2
    title: LLM01:2025 Prompt Injection
    publisher: OWASP
    url: https://genai.owasp.org/llmrisk/llm01-prompt-injection/
    published: "2024-04-10"
    accessed: "2026-11-03"
  - "n": 3
    title: Prompt injection is not SQL injection (it may be worse)
    publisher: NCSC (Royaume-Uni)
    url: https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection
    published: "2025-12-08"
    accessed: "2026-11-03"
  - "n": 4
    title: AI Risk Management Framework
    publisher: NIST
    url: https://www.nist.gov/itl/ai-risk-management-framework
    accessed: "2026-11-03"
  - "n": 5
    title: "Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile"
    publisher: NIST
    url: https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence
    published: "2024-07-26"
    accessed: "2026-11-03"
---

# Quellen von KI-Suchmaschinen prüfen

Eine KI-gestützte Suchmaschine antwortet in ausformulierten Sätzen und zeigt daneben Links an. Die Darstellung erweckt den Eindruck, jeder Satz sei anhand dieser Seiten geprüft worden. Ein Sprachmodell kann aber Inhalte erzeugen, die richtig wirken, aber erfunden sind. Die OWASP, die eine Liste der wichtigsten Risiken von Anwendungen generativer KI führt, nennt dieses Phänomen Halluzination [1].

Dieser Beitrag erklärt, wie Sie die angezeigten Quellen selbst prüfen, bevor Sie sich auf eine Antwort stützen, vor allem wenn sie einer Entscheidung dient. Die Quellen dieses Beitrags beschreiben nicht die interne Funktionsweise bestimmter Produkte. Sie behandeln die Risiken solcher Werkzeuge im Allgemeinen.

## In 30 Sekunden

- Wo es vorkommt: bei jeder KI-Antwort mit Links, ob Sie damit eine Notiz, einen Einkauf, eine Akte oder eine Entscheidung vorbereiten.
- Was der Angreifer will: manchmal niemand, denn die OWASP hält fest, dass ein Fehler auch ohne Angreifer Schaden anrichten kann [1]. Wenn es einen gibt, versucht er, Anweisungen in eine Seite einzuschleusen, die die KI lesen wird [2].
- Der Reflex: Öffnen Sie jeden zitierten Link, prüfen Sie, ob die Seite existiert, wer sie herausgibt und ob sie wirklich sagt, was die Antwort behauptet. Treffen Sie auf Grundlage einer ungeprüften Antwort keine wichtige Entscheidung.
- Wenn es schon passiert ist: Prüfen Sie jetzt nach und informieren Sie die Betroffenen, falls die Quelle nicht standhält.

## Direkte Fragen

### Warum kann eine KI eine Quelle zitieren, die etwas anderes sagt, als sie behauptet?

Laut OWASP füllen Modelle Lücken in ihren Trainingsdaten mit statistischen Mustern, ohne den Inhalt zu verstehen. Sie können deshalb plausible, aber unbegründete Antworten liefern [1]. Ein Link neben einem Satz beweist nicht, dass der Satz daher stammt. Das ist Grund genug, die Seite zu lesen.

### Beweist ein Link, der sich öffnen lässt, dass die Information stimmt?

Nein. Dass die Seite existiert, ist die erste Prüfung, nicht die letzte. Danach müssen Sie die betreffende Stelle lesen und mit der Aussage der KI vergleichen. Die OWASP empfiehlt, die Antworten eines Modells mit vertrauenswürdigen externen Quellen abzugleichen [1].

### Kann eine KI Dokumente erfinden?

Die OWASP nennt zwei Fälle. Der erste betrifft unbegründete Behauptungen: ChatGPT hat falsche Gerichtsfälle erfunden, was vor Gericht ernste Probleme verursachte [1]. Der zweite betrifft Code: Programmierassistenten schlagen Bibliotheken vor, die es nicht gibt, und Angreifer veröffentlichen anschließend schädliche Pakete unter diesen Namen [1]. Das Prinzip gilt für Verweise allgemein: Ein Name, eine Nummer oder ein Titel, den eine KI liefert, wird an der Quelle geprüft.

### Kann eine Webseite die Antwort manipulieren?

Ja. Die OWASP beschreibt die indirekte Prompt-Injection: Das Modell nimmt Daten aus externen Quellen an, etwa von Websites oder aus Dateien, und deren Inhalt verändert sein Verhalten auf unvorhergesehene Weise [2]. In einem ihrer Szenarien bittet ein Nutzer eine KI, eine Webseite mit versteckten Anweisungen zusammenzufassen, was zum Abfluss der privaten Unterhaltung führt [2]. Diese Anweisungen müssen für Menschen weder sichtbar noch lesbar sein: Es genügt, dass das Modell sie verarbeitet [2].

### Lösen die Schutzmaßnahmen der Anbieter das Problem?

Nicht vollständig. Die OWASP schreibt, dass die abrufgestützte Generierung (RAG), die Dokumente zur Untermauerung der Antwort heranzieht, Schwachstellen für Prompt-Injection nicht völlig beseitigt [2]. Das britische NCSC hält es für sehr gut möglich, dass sich diese Angriffe nie vollständig abwehren lassen, weil heutige Modelle in einem Prompt nicht zwischen Daten und Anweisungen unterscheiden [3]. Die Kontrolle durch Menschen bleibt daher notwendig.

## Wie es funktioniert

Eine KI-Suche holt externe Inhalte und formuliert daraus eine Antwort. Die OWASP zählt Websites und Dateien zu den externen Eingaben, die das Verhalten eines Modells verändern können [2]. Das NCSC nennt den Grund: Unter der Haube unterscheidet das Modell nicht zwischen Daten und Anweisung, es sagt nur das „next token“ voraus [3].

Zwei Fehler können sich addieren. Der erste stammt vom Modell: Die OWASP nennt Halluzinationen, aber auch Verzerrungen in den Trainingsdaten und unvollständige Informationen [1]. Der zweite stammt vom Nutzer. Die OWASP nennt „overreliance“ das übermäßige Vertrauen in erzeugte Inhalte, ohne deren Richtigkeit zu prüfen, was die Wirkung von Fehlinformation verstärkt [1].

Das NIST, eine US-amerikanische Behörde, hat ein Profil für generative KI veröffentlicht, das Organisationen helfen kann, die spezifischen Risiken dieser Werkzeuge zu erkennen [4]. Dieses Profil ist ein Begleitdokument zum Rahmenwerk für das Risikomanagement von KI, dessen Anwendung freiwillig ist [5].

## Was Sie tun

- Öffnen Sie jeden zitierten Link einzeln. Ein Link, der sich nicht öffnen lässt, eine Fehlermeldung liefert oder auf eine Seite ohne Bezug zur Frage führt, belegt nichts.
- Prüfen Sie, wer die Seite herausgibt. Eine Behörde, eine Normungsorganisation oder ein erkennbarer Herausgeber zählt mehr als eine Website ohne Autor und Datum.
- Suchen Sie auf der Seite den Satz, der zur Aussage passt. Finden Sie ihn nicht, behandeln Sie die Aussage als unbestätigt.
- Gehen Sie zur ursprünglichen Quelle zurück. Zitiert die Seite selbst ein anderes Dokument, öffnen Sie dieses.
- Gleichen Sie jede Zahl, jedes Datum, jeden Namen und jede Entscheidung, die zählt, mit einer zweiten, unabhängigen Quelle ab. Die OWASP empfiehlt diesen Abgleich mit vertrauenswürdigen externen Quellen [1].
- Lassen Sie ein Thema mit hohem Risiko (Gesundheit, Recht, Finanzen, Sicherheit) von einer fachkundigen Person prüfen. Die OWASP empfiehlt eine Aufsicht durch Menschen, besonders bei kritischen oder sensiblen Informationen [1].
- Übernehmen Sie keine ungeprüfte Antwort in eine Akte, eine Kunden-E-Mail oder eine Entscheidung. Vermerken Sie, was geprüft wurde und was nicht.

## Die Fallstricke

Scheinbare Genauigkeit. Eine exakte Zahl oder ein Zitat in Anführungszeichen wirkt sorgfältig. Die OWASP weist darauf hin, dass ein Modell die Illusion erzeugen kann, ein komplexes Thema zu verstehen, was Nutzer in die Irre führt [1]. Suchen Sie die Zahl und das Zitat auf der Seite.

Quellen aus zweiter Hand. Eine Seite, die eine andere Website wiedergibt, liefert keinen zusätzlichen Beleg. Gehen Sie bis zum ursprünglichen Herausgeber zurück.

Präparierte Inhalte. Eine Seite kann Text enthalten, der für die KI geschrieben wurde und nicht für Sie. Das NCSC nennt das Beispiel eines Lebenslaufs mit verstecktem Text, der verlangt, die bisherigen Anweisungen zu ignorieren und den Bewerber zu genehmigen. Es handelt sich um ein Beispiel zur Veranschaulichung, nicht um einen datierten Vorfall [3]. Empfiehlt eine Antwort unerwartet eine Website, ein Produkt oder eine Handlung, öffnen Sie die Seite und suchen Sie nach dem Grund. Befolgen Sie niemals eine Anweisung, die Sie in einer Quelle finden: Melden Sie sie.

Zu viel Vertrauen. Links, Layout und ein selbstsicherer Ton beruhigen. Die OWASP nennt den Chatbot von Air Canada, der Reisenden falsche Auskünfte gab: Die Fluggesellschaft wurde erfolgreich verklagt [1]. Die Seite datiert diesen Fall nicht. Sie empfiehlt außerdem, Nutzern die Grenzen der Zuverlässigkeit dieser Werkzeuge klar mitzuteilen [1]. Zeigt das Werkzeug nichts dergleichen an, gehen Sie von dieser Grenze aus.

Vermeintliche Filter. Das NCSC rät von Filtern nach Art einer Sperrliste ab, weil sich ein Angriff auf unzählige Arten umformulieren lässt [3]. Es warnt zudem vor Produkten, die versprechen, Prompt-Injection zu „stoppen“ [3]. Ein freigegebenes Unternehmenswerkzeug ersetzt das Lesen der Quellen also nicht.

## Quellen

1. OWASP, „LLM09:2025 Misinformation“, 10. April 2024. https://genai.owasp.org/llmrisk/llm092025-misinformation/ (abgerufen am 3. November 2026)
2. OWASP, „LLM01:2025 Prompt Injection“, 10. April 2024. https://genai.owasp.org/llmrisk/llm01-prompt-injection/ (abgerufen am 3. November 2026)
3. NCSC (Royaume-Uni), „Prompt injection is not SQL injection (it may be worse)“, 8. Dezember 2025. https://www.ncsc.gov.uk/blog-post/prompt-injection-is-not-sql-injection (abgerufen am 3. November 2026)
4. NIST, „AI Risk Management Framework“. https://www.nist.gov/itl/ai-risk-management-framework (abgerufen am 3. November 2026)
5. NIST, „Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile“, 26. Juli 2024. https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence (abgerufen am 3. November 2026)

---

Originalquelle: Cyberpedia, die öffentliche Enzyklopädie zu Cybersicherheit und KI von Brain. Kanonische Version: https://startbrain.io/cyberpedia/de/articles/quellen-ki-suchmaschinen-pruefen/
Sie dürfen diesen Text unter der Lizenz CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) frei weiterverwenden, sofern Sie „Brain, Cyberpedia“ mit einem Link auf die obige Adresse nennen.