Halluzination

Sprachmodelle erzeugen wahrscheinliche Texte, keine geprüften Fakten. Fehlt ihnen Wissen, können sie Quellen, Zahlen, Zitate oder Urteile erfinden, die echt klingen. Das Modell „lügt“ dabei nicht absichtlich – es hat kein eingebautes Wahrheitskonzept.

Gegenmittel sind RAG mit verlässlichen Quellen, Quellenangaben in Antworten, klare Anweisungen, im Zweifel „weiss ich nicht“ zu sagen, und vor allem menschliche Prüfung bei wichtigen Inhalten.