Prompt Injection

Bei der direkten Variante schreibt ein Angreifer etwa „Ignoriere alle bisherigen Anweisungen …“. Gefährlicher ist die indirekte Variante: Die Anweisung steckt in einer Webseite, E-Mail oder einem Dokument, das ein KI-Agent liest – und der Agent führt sie aus, zum Beispiel indem er Daten weitergibt.

Es gibt bisher keinen vollständigen Schutz. Wichtig sind deshalb minimale Berechtigungen, Trennung von vertrauenswürdigen und fremden Inhalten, Freigaben für heikle Aktionen und Überwachung.