KI-Sicherheit
Auch: AI Safety · KI-Security
Massnahmen, die verhindern, dass KI-Systeme Schaden anrichten – durch Fehler, Missbrauch oder Angriffe.
Der Begriff umfasst zwei Seiten: „Safety“ meint, dass ein System sich auch in unerwarteten Situationen sicher verhält und nicht für gefährliche Zwecke missbraucht werden kann. „Security“ meint den Schutz vor Angriffen wie Prompt Injection, Datendiebstahl oder manipulierten Trainingsdaten.
Für Unternehmen bedeutet das: Rechte von KI-Systemen begrenzen, Eingaben und Ausgaben prüfen, Aktivitäten protokollieren und Sicherheitstests vor dem Einsatz durchführen.
Allgemeine Information, keine Rechts- oder Fachberatung.