Guardrails (Leitplanken)
Auch: Schutzmechanismen · Content Filter
Schutzmechanismen, die Ein- und Ausgaben eines KI-Systems prüfen und unerwünschte Inhalte oder Aktionen verhindern.
Guardrails filtern zum Beispiel vertrauliche Daten, beleidigende Inhalte oder Themen ausserhalb des Einsatzzwecks, prüfen Antworten auf Quellenbezug oder blockieren riskante Werkzeugaufrufe.
Sie werden zusätzlich zu den eingebauten Sicherheitsregeln des Modells eingesetzt und lassen sich auf die eigenen Anforderungen zuschneiden.
Allgemeine Information, keine Rechts- oder Fachberatung.