Erklärbarkeit (Explainable AI)
Auch: XAI · Erklärbare KI · Black Box
Das Ziel, nachvollziehbar zu machen, warum ein KI-System zu einem bestimmten Ergebnis kommt.
Grosse neuronale Netze gelten als „Black Box“: Selbst Fachleute können oft nicht genau sagen, warum ein Modell so entschieden hat. Erklärbarkeits-Methoden zeigen etwa, welche Merkmale ein Ergebnis besonders beeinflusst haben.
Erklärbarkeit ist wichtig, wenn Entscheidungen Menschen betreffen – etwa bei Krediten, Versicherungen oder Bewerbungen – und eine Begründung verlangt wird.
Allgemeine Information, keine Rechts- oder Fachberatung.