Loss-Funktion
Auch: Verlustfunktion · Loss function · Kostenfunktion
Eine Formel, die misst, wie weit die Vorhersage eines Modells vom gewünschten Ergebnis entfernt ist.
Die Loss-Funktion liefert für jede Vorhersage eine Zahl: je kleiner, desto besser. Das Training hat das Ziel, diesen Wert über alle Trainingsdaten hinweg zu minimieren.
Welche Loss-Funktion man wählt, bestimmt, was das Modell „wichtig“ findet. Bei Sprachmodellen misst sie zum Beispiel, wie gut das tatsächliche nächste Token vorhergesagt wurde.
Allgemeine Information, keine Rechts- oder Fachberatung.