Cyberpediavon Brain
DEENFR

Warum die KI nie zweimal gleich antwortet

Ein Sprachmodell kann dieselbe Frage unterschiedlich beantworten. Was Temperatur, Top-p und Top-k steuern und was Sie tun können.

In 30 Sekunden

Wo es vorkommt
In Werkzeugen zur Texterzeugung, bei jeder gestellten Frage. Microsoft gibt an, dass die Techniken auf seiner Seite für Reasoning-Modelle (gpt-5, o-Serie) nicht empfohlen werden1.
Was das Modell tut
Es wählt jedes Wort unter wahrscheinlichen Kandidaten aus. Eine flüssige und selbstsichere Antwort ist daher keine überprüfte Antwort.
Der Reflex
Stellen Sie die Frage erneut, vergleichen Sie die Antworten und prüfen Sie jede Tatsache und jede Zahl an der Quelle, bevor Sie sie verwenden.
Wenn es schon passiert ist
Wenn Sie eine Zahl oder ein Zitat ungeprüft übernommen haben, suchen Sie die Quelle heraus, bevor Sie das Dokument weitergeben.

Worum es geht

Stellen Sie einem KI-Assistenten zweimal dieselbe Frage, können die beiden Antworten voneinander abweichen, manchmal in einer Zahl, manchmal in der Sache. Die Maschine irrt sich nicht zwangsläufig und zögert auch nicht: Ein Sprachmodell sucht nach der wahrscheinlichsten Wortfolge, die sich aus dem vorangehenden Text ergibt1, und die Wahl des nächsten Wortes enthält einen Zufallsanteil, den man einstellen kann.

Diese Seite erklärt, woher dieser Zufall kommt, was die Einstellungen bedeuten, die man in den Werkzeugen findet (Temperatur, Top-p, Top-k), und was Beschäftigte mit dieser Schwankung anfangen: vergleichen, überprüfen und eine einzelne Antwort nie für einen Beweis halten.

Direkte Fragen

Warum gibt die KI bei jedem Versuch eine andere Antwort?

Weil das Modell keine fertige Antwort abruft. Microsoft beschreibt das Prinzip so: Das Modell versucht, die wahrscheinlichste Wortfolge nach dem vorgegebenen Text zu erzeugen1. Je nach gewählter Temperatur ist die Ausgabe mehr oder weniger zufällig1, sie kann sich also von Versuch zu Versuch ändern. Die Frage bleibt dieselbe, der eingeschlagene Weg nicht.

Was steuert die Temperatur?

Die Temperatur verändert die Ausgabe des Modells1. In der Dokumentation von Microsoft wird sie zwischen 0 und 2 eingestellt. Ein höherer Wert, zum Beispiel 0,7, macht die Ausgabe zufälliger und erzeugt stärker voneinander abweichende Antworten. Ein niedrigerer Wert, etwa 0,2, macht sie gezielter und konkreter1. Dieselbe Dokumentation nennt eine höhere Temperatur geeignet, um eine fiktive Geschichte zu schreiben, und empfiehlt für ein juristisches Dokument eine deutlich niedrigere Temperatur1.

Und Top-p?

Top-p (in der Dokumentation von Microsoft Top_probability) steuert ebenfalls, wie zufällig die Antwort ausfällt, aber auf andere Weise als die Temperatur1. Microsofts allgemeine Empfehlung lautet, jeweils einen der beiden Parameter zu ändern, nicht beide1. Ein Aufsatz von 2019 schlägt das Nucleus Sampling vor: Der Text wird aus dem dynamischen »Kern« der Wahrscheinlichkeitsverteilung gezogen, was Vielfalt zulässt und zugleich das unzuverlässige Ende der Verteilung ausschließt2.

Und Top-k?

Die hier zitierten Quellen behandeln Top-k nicht im Einzelnen: Eine von ihnen vergleicht es nur mit dem Nucleus Sampling und mit einer dritten Methode, dem Locally Typical Sampling, das nach Angaben seiner Autoren eine vergleichbare Qualität bietet und dabei entartete Wiederholungen durchgängig verringert3. Für Beschäftigte genügt es zu wissen, dass es diese Einstellungen gibt.

Warum schaltet man den Zufall nicht einfach ab?

Weil der Text dann dürftig wird. Der Aufsatz von 2019 stellt fest, dass es einen faden und seltsam repetitiven Text (»bland and strangely repetitive«) ergibt, wenn man immer den wahrscheinlichsten Text wählt2. Er hält auch fest, dass allein die Decodierstrategie die Textqualität bei exakt demselben Modell stark verändern kann2.

Beweist eine einmal richtige Antwort, dass die KI zuverlässig ist?

Nein. Microsoft sagt das über die eigenen Techniken: Auch bei richtiger Anwendung müssen die Antworten des Modells noch validiert werden, und eine gut aufgebaute Eingabe, die in einem Fall funktioniert hat, lässt sich nicht zwangsläufig auf andere Fälle übertragen1.

1Wie es funktioniert1 min

In jedem Schritt stehen dem Modell mehrere mögliche Wörter zur Verfügung, jedes mit einer Wahrscheinlichkeit. Es nimmt nicht immer das erste. Temperatur und Top-p regeln, wie sich diese Auswahl weitet oder verengt1. Bei einem niedrigen Wert ähneln sich die Antworten stärker. Bei einem hohen Wert weichen sie voneinander ab.

Diese Einstellungen hängen vom Werkzeug ab, das das Modell abfragt. Die Decodierstrategie verändert die Qualität des Textes, den ein und dasselbe Modell erzeugt2.

Manche Modelle, darunter InstructGPT, werden mit menschlichem Feedback feinabgestimmt4. Die Arbeit, aus der InstructGPT hervorging, geht von der Feststellung aus, dass größere Modelle die Absicht der Nutzer nicht besser befolgen und falsche, toxische oder schlicht nutzlose Ausgaben erzeugen können4. Ihre Autoren halten fest, dass das Modell die Wahrhaftigkeit verbessert, aber noch einfache Fehler macht4. Ein feinabgestimmtes Modell bleibt also fehlbar.

2Was Sie tun1 min
  • Stellen Sie die Frage zwei- oder dreimal erneut und vergleichen Sie. Widersprechen sich die Antworten bei einer Tatsache, einem Namen oder einer Zahl, ist keine der Versionen gesichert.
  • Betrachten Sie die Antwort als Entwurf. Prüfen Sie jede Tatsache und jede Zahl in einem Referenzdokument, bevor Sie sie in einem Schreiben oder Bericht verwenden.
  • Fragen Sie das Modell nach seinen Quellen und prüfen Sie diese anschließend. Microsoft erklärt, dass bei angeforderten Quellenangaben eine falsche Antwort zwei Fehler des Modells voraussetzt: die erfundene Antwort und die fehlerhafte Quellenangabe1. Das kann die Häufigkeit falscher Antworten verringern1.
  • Schließen Sie nicht auf die Zuverlässigkeit eines Werkzeugs, weil es einmal gut geantwortet hat. Testen Sie es an mehreren Fällen, auch an solchen, die es nicht kennt.
  • Reservieren Sie eine niedrige Temperatur für Aufgaben, die Genauigkeit verlangen, und eine höhere für kreative Aufgaben, sofern das Werkzeug Ihnen die Wahl lässt1.
3Die Fallstricke2 min

Die plausible, aber erfundene Antwort

Das Modell sucht die wahrscheinlichste Fortsetzung1. Eine Antwort kann daher gut formuliert und falsch sein. Microsoft weist darauf hin, dass eine Anweisung wie »Schreibe nur wahre Fakten« oder »Erfinde nichts« das Problem mitunter nicht behebt1.

Der selbstsichere Ton

Eine Studie von 2023 zu Modellen wie ChatGPT, GPT-4 und Claude verglich zwei Arten, das Vertrauen eines Modells zu messen5. Sie stellt fest, dass die Vertrauensstufen, die das Modell selbst nennt, im Allgemeinen besser kalibriert sind als seine internen Wahrscheinlichkeiten, und zwar auf den Testdatensätzen TriviaQA, SciQ und TruthfulQA, und dass sie den erwarteten Kalibrierungsfehler oft um 50 % relativ senken5. Die Studie geht von einem Grundsatz aus: Das Vertrauen eines zuverlässigen Systems soll die Wahrscheinlichkeit angeben, dass die Antwort richtig ist, damit man sich bei geringem Vertrauen auf eine Fachperson stützen kann5.

Nicht reproduzierbare Ergebnisse in einem Geschäftsprozess

Beruht ein Schritt eines Prozesses (zum Beispiel das Sortieren von Schreiben) auf einem Modell, können zwei Durchläufe bei derselben Eingabe zwei verschiedene Ergebnisse liefern. Eine an einem Tag bestandene Qualitätskontrolle garantiert nicht das Ergebnis des nächsten Tages, und ein beanstandetes Ergebnis lässt sich nicht zwangsläufig identisch reproduzieren. Das britische nationale Zentrum für Cybersicherheit (NCSC) empfiehlt Leitlinien, damit KI-Systeme wie vorgesehen funktionieren, und hält Sicherheit für eine grundlegende Anforderung während der gesamten Lebensdauer des Systems6. Für Beschäftigte lautet die praktische Regel: Eine Person prüft das Ergebnis, bevor es eine Wirkung entfaltet.

Das Einstellen der Temperatur garantiert keine Richtigkeit

Eine niedrigere Temperatur macht die Antworten gezielter1, nicht wahrer. Eine falsche Antwort kann sich bei jedem Versuch identisch wiederholen. Der Vergleich mehrerer Versuche hilft, Instabilität zu erkennen, aber nur die Prüfung an der Quelle stellt eine Tatsache fest.

Merkblatt

Kennung
CP-260
Flügel
4. Künstliche Intelligenz
Brain-Kompetenz
KI verstehen (understand_ai)
Brain-Reflex
air-042
Schema
G3 · Anatomischer Schnitt
Sprachen
de, en, fr
Quellen
6 Quellen geprüft am 3. November 2026
Quellen6 Quellen
  1. Microsoft, „Prompt engineering techniques - Microsoft Foundry“. https://learn.microsoft.com/en-us/azure/foundry/openai/concepts/prompt-engineering (abgerufen am 3. November 2026)
  2. arXiv, „The Curious Case of Neural Text Degeneration“, 22. April 2019. https://arxiv.org/abs/1904.09751 (abgerufen am 3. November 2026)
  3. arXiv, „Locally Typical Sampling“, 1. Februar 2022. https://arxiv.org/abs/2202.00666 (abgerufen am 3. November 2026)
  4. arXiv, „Training language models to follow instructions with human feedback“, 4. März 2022. https://arxiv.org/abs/2203.02155 (abgerufen am 3. November 2026)
  5. arXiv, „Just Ask for Calibration: Strategies for Eliciting Calibrated Confidence Scores from Language Models Fine-Tuned with Human Feedback“, 24. Mai 2023. https://arxiv.org/abs/2305.14975 (abgerufen am 3. November 2026)
  6. NCSC (Royaume-Uni), „Guidelines for secure AI system development“, 27. November 2023. https://www.ncsc.gov.uk/collection/guidelines-secure-ai-system-development (abgerufen am 3. November 2026)

Diesen Artikel zitieren

Brain, „Warum die KI nie zweimal gleich antwortet“, Cyberpedia, 2026. https://startbrain.io/cyberpedia/de/articles/temperatur-top-p-top-k-ki/

BibTeX 
@misc{brain_cp260_de_2026,
  author = {Brain},
  title = {Warum die KI nie zweimal gleich antwortet},
  year = {2026},
  howpublished = {Cyberpedia},
  url = {https://startbrain.io/cyberpedia/de/articles/temperatur-top-p-top-k-ki/},
  note = {CC BY 4.0}
}
Lizenz CC BY 4.0