Alignment
Auch: AI Alignment · Ausrichtung
Die Forschung und Praxis, KI-Systeme so auszurichten, dass sie im Sinne menschlicher Absichten und Werte handeln.
Ein „aligned“ Modell tut, was gemeint ist – nicht nur, was wörtlich gesagt wurde –, bleibt ehrlich und richtet keinen Schaden an. Methoden wie RLHF und festgelegte Grundsätze dienen diesem Ziel.
Je selbstständiger und leistungsfähiger KI-Systeme werden, desto wichtiger wird Alignment. Es gilt als eine der zentralen offenen Fragen der KI-Forschung.
Allgemeine Information, keine Rechts- oder Fachberatung.