TL;DR: Tokens sind die Abrechnungseinheit von KI-Modellen. Du zahlst für Input (was du sendest) und Output (was das Modell antwortet). Bei KI-Agenten explodieren die Kosten, weil Schleifen, Tool-Calls und Chatverlauf den Kontext bei jedem Durchlauf aufblähen. Die Lösung: bewusstes Kontextmanagement statt alles in den Prompt zu kippen.
Viele unterschätzen, wie teuer KI-Agenten wirklich werden können. Nicht der einzelne Prompt ist das Problem — sondern Schleifen, Tool-Calls, Kontextfenster, Fehlerkorrekturen und automatisierte Workflows, die im Hintergrund immer weiter Tokens verbrauchen.
Dieser Artikel erklärt, was Tokens sind, warum sie Geld kosten und warum sie die Grundlage jedes praktischen KI-Modells bilden — und was das für dein Budget bedeutet, wenn du KI im Unternehmen einsetzt.
Was sind Tokens?
Wenn du ChatGPT, Claude oder ein anderes Sprachmodell nutzt, wirkt es so, als würdest du eine Frage stellen und eine Antwort bekommen. Technisch passiert etwas anderes: Das Modell sieht keine Sätze wie wir. Es sieht eine Kette aus Tokens.
Ein Token ist ein kleiner Textbaustein:
- Manchmal ein ganzes Wort:
Kosten - Manchmal ein Wortteil:
Auto+mati+sierung - Manchmal ein Leerzeichen plus Wort:
funktioniert - Manchmal ein einzelnes Zeichen:
?
Aus dem Satz „Wie funktioniert ein LLM?” wird keine Frage aus vier Wörtern. Daraus wird eine Reihe kleiner Einheiten, die das Modell einzeln verarbeiten muss.
Als Faustregel: 1.000 Tokens entsprechen etwa 750 Wörtern im Deutschen. Ein durchschnittlicher Blogartikel hat 2.000–4.000 Tokens. Ein ganzes PDF kann zehntausende Tokens haben.
Warum kosten Tokens Geld?
Hier beginnt der entscheidende Punkt. Jedes Token muss im Modell in Zahlen übersetzt werden. Diese Zahlen wandern durch viele Rechenschichten — und in jeder Schicht prüft das Modell per Attention-Mechanismus, welche anderen Tokens im Kontext für dieses Token wichtig sind.
Stell dir vor: Jedes Token schaut auf jedes andere Token im Text.
- Bei einem kurzen Prompt mit 10 Tokens ist das überschaubar.
- Bei einer langen E-Mail mit 800 Tokens wird es aufwändiger.
- Bei einem ganzen PDF mit zehntausenden Tokens wird es richtig teuer.
Mehr Tokens = mehr Rechenaufwand = höhere Kosten. Das ist kein Preismodell, das KI-Anbieter sich ausgedacht haben — es spiegelt den tatsächlichen Ressourcenverbrauch wider.
Die zwei Seiten der Kosten: Input und Output
KI-Kosten bestehen immer aus zwei Komponenten:
Input-Tokens — alles, was du dem Modell gibst:
- Deine Frage
- Der System-Prompt
- Rollenbeschreibungen und Beispiele
- Der bisherige Chatverlauf
- Dokumente, Tabellen, Auszüge aus deiner Wissensdatenbank
Output-Tokens — alles, was das Modell zurückschreibt:
- Die generierte Antwort
- Code-Blöcke
- Tabellen und Erklärungen
Das Modell schreibt dabei nicht einen fertigen Absatz auf einmal. Es erzeugt ein Token nach dem anderen. Erst berechnet es: Welches Token ist jetzt am wahrscheinlichsten? Dann hängt es dieses Token an, berechnet das nächste, und so weiter.
Eine kurze Antwort kostet wenig Output-Tokens. Eine ausführliche Antwort mit Code, Tabellen und detaillierten Erklärungen kostet deutlich mehr.
Der versteckte Kostentreiber
In vielen realen Anwendungen ist der Input der versteckte Kostentreiber — nicht die sichtbare Antwort, sondern der ganze Kontext im Hintergrund.
Ein Beispiel: Du baust einen KI-Assistenten für dein Unternehmen. Ein Nutzer stellt eine simple Frage:
„Was steht in unserem Angebot zu Kündigungsfristen?”
Das klingt nach 10 Tokens. Aber im Hintergrund schickst du mit:
- Die letzten 10 Chatnachrichten → 800 Tokens
- System-Prompt mit Regeln → 500 Tokens
- Drei relevante Dokumentauszüge → 2.400 Tokens
- Beispiele für den gewünschten Antwort-Stil → 300 Tokens
Plötzlich besteht diese eine kleine Frage aus 4.000 Input-Tokens. Und wenn das 1.000 Nutzer am Tag machen, merkst du den Unterschied sofort auf der Rechnung.
Warum KI-Agenten besonders teuer werden
Bei KI-Agenten verschärft sich das Problem. Ein Agent arbeitet in einer Schleife: Aufgabe analysieren → Tool aufrufen → Ergebnis verarbeiten → nächsten Schritt planen → wieder ein Tool aufrufen.
Bei jeder Iteration wird der gesamte bisherige Kontext mitgeschickt. Nach 10 Schritten enthält jeder Call:
- Den Original-Auftrag
- Alle vorherigen Tool-Aufrufe und deren Ergebnisse
- Alle bisherigen Überlegungen des Modells
- Den System-Prompt (jedes Mal)
Das ist Token-Explosion: Die Kosten wachsen nicht linear, sondern beschleunigt — weil der akkumulierte Kontext bei jedem Schritt schwerer wird.
Ein schlecht gebauter Agent kann pro Task 0,50–2,00 € verbrennen. Ein optimierter Agent schafft denselben Task für 0,01–0,05 €.
Was gute KI-Systeme anders machen
Gute KI-Systeme kippen nicht einfach alles in den Prompt. Sie wählen aus:
1. Nur relevante Informationen senden
Statt die komplette Wissensdatenbank mitzuschicken, holen intelligente Systeme nur die passenden Ausschnitte. Das nennt sich RAG (Retrieval Augmented Generation): Statt 10.000 Tokens zu senden, schickst du vielleicht nur 800 wirklich relevante Tokens.
Das spart Geld, es spart Zeit — und es macht Antworten oft sogar besser, weil weniger irrelevanter Kontext im Weg liegt.
2. Unnötige Wiederholungen kürzen
Chatverlauf, der für die aktuelle Frage irrelevant ist, muss nicht mitgeschickt werden. Gute Systeme komprimieren oder filtern den Kontext aktiv.
3. Wissen, Regeln und Aufgabe trennen
Statt alles in einen riesigen System-Prompt zu packen, strukturieren durchdachte Architekturen den Kontext in Schichten:
- Persistentes Wissen: Wird per RAG bei Bedarf abgerufen
- Regeln: Kompakt, als System-Prompt
- Aktuelle Aufgabe: Nur der relevante Kontext für diesen einen Call
4. Das richtige Modell pro Aufgabe
Nicht jede Aufgabe braucht das teuerste Modell. Klassifizierung und einfache Routinen laufen auf einem günstigen Modell. Komplexes Reasoning bekommt das leistungsfähigere Modell. Diese Strategie heißt Model-Tiering und kann die Kosten um 60–90 % senken.
Geschwindigkeit als Bonus
Mehr Tokens kosten nicht nur mehr Geld — sie brauchen auch mehr Zeit. Wenn du einen sehr langen Kontext mitschickst, muss das Modell mehr verarbeiten, bevor es mit der Antwort beginnt.
Deshalb fühlen sich manche KI-Systeme träger an. Nicht unbedingt, weil das Modell schlecht ist — sondern weil zu viel Kontext unkontrolliert in jede Anfrage gepackt wird.
Kontextoptimierung ist also gleichzeitig Kosten- und Performance-Optimierung.
Drei Dinge, die du dir merken solltest
-
KI-Modelle verarbeiten Text nicht als Wörter, sondern als Tokens. Jedes Token kostet Rechenzeit und Geld.
-
Du bezahlst für Input und Output. In Business-Systemen ist der Input oft der größere Posten — wegen Systemprompt, Chatverlauf und Kontextdokumenten.
-
Kontextmanagement ist wichtiger als Prompt-Magie. Ein guter KI-Workflow fragt nicht „Wie bekomme ich alles in den Prompt?” — er fragt: „Was braucht das Modell jetzt wirklich, um sauber zu entscheiden?”
Genau dieser Unterschied entscheidet darüber, ob ein KI-System nur in der Demo funktioniert — oder ob es im Alltag schnell, bezahlbar und zuverlässig bleibt.
So geht es weiter
Wenn du die Grundlagen verstanden hast und deine Token-Kosten konkret senken willst, findest du im Praxis-Guide Tokens sparen bei ChatGPT & Claude alle Strategien — von Prompt Caching über Model-Tiering bis Context Engineering.
Und wenn du wissen willst, wie KI-Agenten technisch funktionieren und warum sie in Schleifen arbeiten, lies den Überblick KI-Agenten: Was sie sind, was sie können und wie du sie einsetzt.
