Human-in-the-Loop
Auch: HITL · Mensch im Kreislauf · Menschliche Aufsicht
Ein Mensch prüft, korrigiert oder genehmigt die Ergebnisse eines KI-Systems an festgelegten Stellen.
Bei wichtigen oder riskanten Schritten – etwa einer Zahlung, einer Kundenkommunikation oder einer Personalentscheidung – entscheidet nicht die KI allein, sondern ein Mensch gibt frei.
Menschliche Aufsicht ist eine zentrale Anforderung vieler Regelwerke, darunter des EU AI Act für Hochrisiko-Systeme. Sie wirkt aber nur, wenn die prüfende Person genug Zeit, Information und Befugnis hat, auch Nein zu sagen.
Allgemeine Information, keine Rechts- oder Fachberatung.