Gradientenabstieg
Auch: Gradient Descent
Ein Optimierungsverfahren, das die Parameter schrittweise in die Richtung verändert, in der der Fehler am stärksten sinkt.
Man kann sich das wie einen Abstieg im Nebel vorstellen: Man tastet die Neigung des Geländes ab und macht einen Schritt bergab. Die Schrittgrösse heisst Lernrate – zu gross, und man springt über das Ziel; zu klein, und das Training dauert ewig.
In der Praxis werden Varianten wie stochastischer Gradientenabstieg oder Adam verwendet, die auf kleinen Datenpaketen arbeiten und schneller zum Ziel führen.
Allgemeine Information, keine Rechts- oder Fachberatung.