Red Teaming
Auch: Adversarial Testing
Gezielte Angriffs- und Missbrauchstests, mit denen Schwachstellen eines KI-Systems vor dem Einsatz gefunden werden.
Ein „Red Team“ versucht bewusst, ein System zu Fehlern, schädlichen Antworten oder Datenlecks zu bringen. Die Erkenntnisse fliessen in Training, Guardrails und Konfiguration ein.
Grosse Anbieter testen neue Modelle so vor der Veröffentlichung. Auch eigene KI-Anwendungen – etwa ein öffentlicher Kundenchat – sollten vor dem Livegang einem solchen Test unterzogen werden.
Allgemeine Information, keine Rechts- oder Fachberatung.