RLHF
Auch: Reinforcement Learning from Human Feedback
Reinforcement Learning from Human Feedback: Ein Modell lernt aus menschlichen Bewertungen, welche Antworten besser sind.
Menschen vergleichen mehrere Antworten eines Modells und markieren die bessere. Aus diesen Urteilen wird ein Bewertungsmodell trainiert, das dann per Reinforcement Learning das Sprachmodell in Richtung hilfreicher, ehrlicher und sicherer Antworten lenkt.
RLHF war ein Schlüssel für den Erfolg heutiger Chat-Assistenten. Varianten nutzen statt Menschen auch KI-Feedback oder klar formulierte Grundsätze.
Allgemeine Information, keine Rechts- oder Fachberatung.