Temperatur
Auch: Temperature · Sampling
Ein Einstellwert, der bestimmt, wie zufällig oder vorhersehbar ein Sprachmodell antwortet.
Bei niedriger Temperatur wählt das Modell fast immer die wahrscheinlichsten Tokens – die Antworten werden sachlich und wiederholbar. Bei hoher Temperatur kommen auch unwahrscheinlichere Tokens zum Zug – die Texte werden abwechslungsreicher, aber auch fehleranfälliger.
Für Datenauszüge und Klassifikation eignet sich eine niedrige, für Ideensammlungen und kreative Texte eine höhere Temperatur. In Chat-Oberflächen ist der Wert meist fest eingestellt, über APIs lässt er sich anpassen.
Allgemeine Information, keine Rechts- oder Fachberatung.