KI-Kosten im Betrieb: wie Sie Token-Kosten planen
KI-API-Kosten planen Sie pro Vorgang: Eingabe-Token mal Eingabepreis plus Ausgabe-Token mal Ausgabepreis, multipliziert mit der Zahl der Vorgänge im Monat. Mit einem echten Prompt gerechnet zeigt die Formel vor dem Bau, ob ein kleineres Modell, Caching oder Batch nötig ist.
Sprachmodelle über eine Schnittstelle zu nutzen, kostet keine Lizenz, aber Geld für jede einzelne Anfrage. Die Rechnung dafür lässt sich vor der ersten Zeile Code aufstellen: Sie brauchen einen typischen Prompt, eine typische Antwort, die Preise des Anbieters und die Zahl der Vorgänge.
Ob eine KI-Funktion für einen Ablauf überhaupt sinnvoll ist, klären Sie vorher. Typische Gründe, warum KI-Vorhaben scheitern, beschreibt der Beitrag Warum KI-Projekte scheitern; eine Gegenrechnung mit eingesparter Arbeitszeit zeigt der Beitrag zur ehrlichen Rechnung bei Automatisierung. Hier geht es um die laufenden Kosten der KI selbst.
Abrechnung
Wie Anbieter Eingabe- und Ausgabe-Token abrechnen
Anbieter wie Anthropic, OpenAI, Google und Mistral rechnen nach Token ab. Ein Token ist ein Textstück, das das Modell als Einheit verarbeitet, oft ein Wortteil. OpenAI nennt für englischen Text als Anhaltspunkt etwa vier Zeichen pro Token und weist darauf hin, dass andere Sprachen mehr Token pro Zeichen brauchen und damit teurer sind. Für deutsche Texte mit langen zusammengesetzten Wörtern sollten Sie deshalb nicht mit Werten für englischen Text planen, sondern zählen.
Bezahlt werden zwei Mengen getrennt:
Eingabe-Token: alles, was Sie an das Modell schicken. Dazu gehören Ihre Anweisungen (der Systemprompt), der Text des Nutzers, eingefügte Dokumente und bei Chats der gesamte bisherige Verlauf.
Ausgabe-Token: alles, was das Modell erzeugt. Ausgabe-Token kosten bei den meisten Modellen ein Mehrfaches der Eingabe-Token.
Die Preise stehen je Million Token auf den Preisseiten der Anbieter, bei US-Anbietern in US-Dollar, bei STACKIT AI Model Serving und dem IONOS AI Model Hub, die Modelle in europäischen Rechenzentren betreiben, in Euro. Weil sich diese Preise mit jeder neuen Modellgeneration ändern, rechnen wir unten mit Annahmen. Zum Zählen bieten Anthropic eine eigene Schnittstelle zur Token-Zählung und OpenAI einen Tokenizer an. Zählen Sie mit dem Modell, das Sie einsetzen wollen, denn jedes Modell zerlegt Text etwas anders.
Rechenweg
Eine Beispielrechnung pro Vorgang
Ein Beispiel mit angenommenen Zahlen: Eine Anwendung ordnet eingehende Kundenanfragen ein und schreibt einen Antwortentwurf. Jeder Vorgang schickt 8.000 Eingabe-Token, nämlich 2.000 Token Anweisungen, 1.000 Token Anfrage mit Kundendaten und 5.000 Token Auszüge aus dem Produkthandbuch. Das Modell antwortet mit 600 Token. Im Monat fallen 5.000 Vorgänge an. Die Preise sind frei gewählte Annahmen, damit die Rechnung nachvollziehbar bleibt; die echten Preise stehen auf den verlinkten Preisseiten.
| Kleines Modell (Annahme) | Großes Modell (Annahme) | |
|---|---|---|
| Eingabe-Token je Vorgang | 8.000 | 8.000 |
| Ausgabe-Token je Vorgang | 600 | 600 |
| Preis je Million Eingabe-Token | 0,50 Euro | 5,00 Euro |
| Preis je Million Ausgabe-Token | 2,00 Euro | 25,00 Euro |
| Eingabe je Vorgang | 8.000 × 0,50 Euro / 1 Mio. = 0,40 Cent | 8.000 × 5,00 Euro / 1 Mio. = 4,00 Cent |
| Ausgabe je Vorgang | 600 × 2,00 Euro / 1 Mio. = 0,12 Cent | 600 × 25,00 Euro / 1 Mio. = 1,50 Cent |
| Kosten je Vorgang | 0,52 Cent | 5,50 Cent |
| Kosten bei 5.000 Vorgängen im Monat | 26,00 Euro | 275,00 Euro |
Der Unterschied zwischen den Spalten liegt allein im Preis, die Token sind gleich. Ob das kleine Modell die Aufgabe gut genug löst, zeigt nur ein Test mit echten Anfragen. Für das Einordnen reicht oft ein kleines Modell, für einen Antwortentwurf in Ihrer Tonalität vielleicht nicht.
Rechnen Sie den Vorgang immer in der Einheit, in der Ihr Geschäft zählt: je Anfrage, je Dokument, je Kunde. Ein Beispiel von unserer Website: Die Plattform Cardeleine, laut Projektseite seit November 2021 und über vier Jahre laufend in Entwicklung, digitalisiert Visitenkarten unter anderem mit serverseitiger KI. Dort ist die passende Einheit die einzelne Karte: Kosten je Karte mal Karten im Monat ergeben die Planung.
Kostentreiber
Kontextlänge, Modellwahl und Wiederholungen
Die Beispielrechnung gilt für einen einzelnen Aufruf. Im Betrieb kommen drei Effekte dazu, die die Kosten vervielfachen können.
Kontext, der mitwächst
Ein Chat schickt bei jeder Runde den gesamten bisherigen Verlauf mit. Nehmen Sie 2.000 Token Anweisungen an und lassen Sie jede Runde aus Frage und Antwort 500 Token hinzufügen. Die Eingabe in Runde n beträgt dann 2.000 + 500 × (n − 1) Token. Über zehn Runden sind das 10 × 2.000 plus 500 × (0 + 1 + ... + 9), also 20.000 plus 500 × 45 = 22.500, zusammen 42.500 Eingabe-Token. Wer mit zehn Runden zu je 2.500 Token plant, kommt auf 25.000 und liegt um 17.500 Token zu niedrig. Dasselbe gilt für Dokumente: Ob Sie drei oder dreißig Abschnitte aus dem Handbuch einfügen, bestimmt die Eingabe stärker als die Frage des Nutzers.
Modellwahl und Denkschritte
Große Modelle kosten je Token ein Vielfaches dessen, was kleine Modelle kosten. Modelle mit Denkschritten erzeugen vor der Antwort zusätzlichen Text, den Anthropic und OpenAI als Ausgabe-Token abrechnen, auch wenn der Nutzer ihn nicht sieht. Planen Sie dafür ein eigenes Budget je Anfrage ein.
Wiederholungen und Agenten
Schlägt eine Antwort die Formatprüfung fehl und Ihre Anwendung fragt erneut, zahlen Sie den Vorgang zweimal. Agenten, die Werkzeuge aufrufen, schicken für jeden Schritt den wachsenden Verlauf erneut. Ein Vorgang mit fünf Werkzeugaufrufen besteht deshalb aus sechs Aufrufen an das Modell.
Lange Kontexte, Wechselkurs und Umsatzsteuer
Drei Posten fehlen in vielen Planungen, weil sie nicht in der Token-Formel stehen:
Zuschläge für sehr lange Eingaben: Einige Anbieter staffeln den Preis nach Länge der Anfrage. Google berechnet zum Beispiel für Gemini 2.5 Pro laut Preisseite einen höheren Preis je Token, sobald ein Prompt mehr als 200.000 Token umfasst. Wer ganze Handbücher in jede Anfrage packt, rechnet deshalb mit der Preisstufe für lange Prompts oder kürzt die Eingabe.
Wechselkurs: Die US-Anbieter nennen ihre Preise in US-Dollar. Rechnet die Kreditkarte in Euro ab, schwankt die Monatsrechnung mit dem Kurs, und manche Karten berechnen zusätzlich eine Gebühr für Fremdwährungen. Planen Sie mit einem vorsichtigen Kurs und prüfen Sie ihn einmal im Quartal.
Umsatzsteuer: Rechnungen von Anbietern ohne Sitz in Deutschland an ein Unternehmen weisen meist keine deutsche Umsatzsteuer aus. Nach § 13b UStG schuldet dann Ihr Unternehmen die Steuer (Reverse Charge) und meldet sie in der Umsatzsteuer-Voranmeldung, bei vollem Vorsteuerabzug ohne Mehrkosten. Ohne hinterlegte Umsatzsteuer-Identifikationsnummer im Konto des Anbieters kann dagegen Umsatzsteuer auf der Rechnung stehen. Die Einordnung für Ihr Unternehmen klärt Ihre Steuerberatung.
Sparhebel
Caching, kleinere Modelle, Batch
Der wirksamste Hebel ist Caching. Bleibt der Anfang eines Prompts gleich, etwa Anweisungen und Handbuchauszüge, speichert der Anbieter ihn zwischen und berechnet ihn beim nächsten Aufruf günstiger.
Bei Anthropic kosten Lesezugriffe auf den Cache bei den meisten Modellen ein Zehntel des Eingabepreises, das Schreiben in den Cache mit fünf Minuten Lebensdauer das 1,25-Fache. Die Mindestlänge, ab der gecacht wird, legt die Dokumentation je Modell fest. Bei OpenAI ist Caching für unterstützte Modelle automatisch aktiv; Rabatt, Mindestlänge und Lebensdauer hängen auch dort vom Modell ab. Für das große Modell aus der Beispielrechnung heißt das bei einem Zehntel für Lesezugriffe: Von 8.000 Eingabe-Token sind 7.000 gleichbleibend. Diese kosten 7.000 × 5,00 Euro / 1 Mio. × 0,1 = 0,35 Cent, die übrigen 1.000 Token 0,50 Cent. Die Eingabe sinkt von 4,00 auf 0,85 Cent, der Vorgang von 5,50 auf 2,35 Cent, der Monat bei 5.000 Vorgängen von 275,00 auf 117,50 Euro. Die Rechnung lässt die Schreibkosten weg: Läuft der Cache ab, weil fünf Minuten lang keine Anfrage kam, fällt das teurere Schreiben erneut an.
Der zweite Hebel ist die Modellwahl je Aufgabe. Ein kleines Modell sortiert vor, das große bekommt nur die Fälle, die es braucht. Der dritte Hebel ist die Batch-Verarbeitung für alles, was nicht sofort fertig sein muss, etwa nächtliche Auswertungen. Anthropic, OpenAI und Google berechnen dafür die Hälfte des normalen Preises, die Ergebnisse kommen innerhalb von 24 Stunden.
Ab sehr großen Mengen kann ein eigenes Modell auf gemieteter Hardware günstiger sein. Wann das zutrifft, rechnet der Beitrag Self-Hosted KI: wann es sich wirklich rechnet durch.
Überwachung
Kosten überwachen im Betrieb
Geplante Kosten halten nur, wenn Sie die tatsächlichen Kosten sehen. Vier Maßnahmen gehören in jede KI-Funktion:
Ausgabe begrenzen. Setzen Sie bei jedem Aufruf den Parameter max_tokens auf das, was die Aufgabe braucht. Ein Antwortentwurf mit 600 Token braucht keine Grenze bei 8.000.
Verbrauch je Aufruf speichern. Die Antworten der Schnittstellen enthalten die Zahl der Eingabe-, Ausgabe- und Cache-Token. Speichern Sie diese Werte mit Funktion und Kunde, dann sehen Sie, welche Funktion was kostet.
Grenzen je Nutzer. Begrenzen Sie Anfragen je Nutzer und Stunde, damit ein Skript oder eine Schleife nicht über Nacht das Monatsbudget verbraucht.
Budgetwarnungen einrichten. Hinterlegen Sie in der Konsole des Anbieters ein Ausgabenlimit und eine Benachrichtigung, und vergleichen Sie die Monatsrechnung mit Ihrer Planung.
Vergleichen Sie diese Zahlen jeden Monat mit der Planung aus der Beispielrechnung. Weicht der Verbrauch je Vorgang ab, liegt es meist an einem der Kostentreiber oben: längere Eingaben als angenommen, mehr Wiederholungen oder ein anderes Modell.
Kurz beantwortet
Häufige Fragen
-
Ein Token ist die Einheit, in der Sprachmodelle Text lesen und erzeugen, meist ein Wort oder ein Wortteil. Wie ein Text zerlegt wird, hängt vom Modell ab. Abgerechnet wird pro Million Token, getrennt nach Eingabe und Ausgabe.
-
In den meisten Fällen, weil die Zerlegung vieler Modelle auf englischen Text abgestimmt ist; OpenAI weist ausdrücklich darauf hin, dass andere Sprachen mehr Token pro Zeichen brauchen. Wie groß der Unterschied ist, hängt von Modell und Text ab. Zählen Sie deshalb mit echten deutschen Beispielen.
-
Erst ab großen und gleichmäßigen Mengen, denn Hardware, Strom und Betrieb kosten auch dann, wenn niemand eine Anfrage stellt. Bei wenigen tausend Vorgängen im Monat ist die Schnittstelle eines Anbieters fast immer günstiger, weil die Grundkosten eigener Hardware dann auf wenige Anfragen verteilt werden. Ein eigenes Modell kann trotzdem nötig sein, wenn Daten das Haus nicht verlassen dürfen.
-
Mit drei Grenzen: einer Obergrenze für die Ausgabe je Aufruf, einem Limit für Anfragen je Nutzer und einem Ausgabenlimit mit Warnung beim Anbieter. Dazu protokollieren Sie den Verbrauch je Funktion, damit Sie Ausreißer innerhalb von Tagen sehen und nicht erst auf der Monatsrechnung.
Kostenbeispiele zum Nachrechnen
Nachgerechnete Kostenbeispiele, einen Messplan für Antwortzeiten und Hinweise zur Modellwahl enthält der Report AI-Integration im Mittelstand (PDF, 29 Seiten, 1.490 Euro).
Nachweise
Quellen und Stand
Stand: 05.06.2026. Alle Preise in der Beispielrechnung sind Annahmen; die gültigen Preise stehen auf den Preisseiten der Anbieter. Der Hinweis zur Umsatzsteuer ist keine Steuerberatung.
Artikel teilen