Inferenzkosten
Auch: Tokenpreise · KI-Kosten · Inference Cost
Die laufenden Kosten für die Nutzung eines KI-Modells – meist pro Token oder pro Bild, Minute oder Anfrage.
Bei API-Nutzung zahlt man typischerweise getrennt für Eingabe- und Ausgabe-Tokens; Ausgabe ist meist teurer. Lange Dokumente im Kontext, Reasoning-Modelle und Agenten mit vielen Schritten treiben die Kosten.
Sparhebel sind passende Modellgrössen, Caching wiederkehrender Inhalte, kürzere Kontexte und das gezielte Weiterleiten einfacher Anfragen an günstigere Modelle.
Allgemeine Information, keine Rechts- oder Fachberatung.