Bias (Verzerrung)

Bias entsteht meist durch Trainingsdaten, die die Welt einseitig abbilden – etwa wenn ein Bewerbungsfilter aus früheren Entscheidungen lernt, in denen bestimmte Gruppen benachteiligt wurden. Auch Bildgeneratoren reproduzieren oft Stereotype.

Gegenmassnahmen sind vielfältige Daten, Tests auf unterschiedliche Gruppen, transparente Kriterien, menschliche Kontrolle und das bewusste Hinterfragen von Ergebnissen.