Jailbreak
Auch: Jailbreaking
Der Versuch, die Sicherheitsregeln eines KI-Modells mit geschickten Eingaben zu umgehen.
Mit Rollenspielen, Umwegen, verschlüsselten Formulierungen oder sehr langen Prompts versuchen Nutzende, ein Modell zu Antworten zu bewegen, die es eigentlich verweigern soll.
Anbieter schliessen bekannte Lücken laufend; für Betreiber eigener KI-Anwendungen bleiben zusätzliche Schutzmechanismen und Tests wichtig.
Allgemeine Information, keine Rechts- oder Fachberatung.