Jeder kann einen KI-Agenten bauen. Doch die monatliche Rechnung danach zeigt, wer ihn gebaut hat.

KI-Architektur / Kosten / Meinung

· 9 Min. Lesezeit

Alle sind heute KI-Experten. Doch zwischen einer optimierten und einer improvisierten Architektur liegen Kostenunterschiede vom 3- bis 60-Fachen — monatlich, auf unbestimmte Zeit. Was ein Demo nie zeigt und was Sie vor der Unterschrift fragen sollten.

Wir erleben einen seltsamen Moment. Nie gab es so viele KI-Expertinnen und -Experten, und nie war es billiger, einer zu werden.

Man eröffnet ein Konto, schreibt einen Prompt, bekommt ein Ergebnis, das gut aussieht. Man wiederholt das ein paarmal, lernt, welche Formulierungen funktionieren, baut sich ein Vokabular auf. Zwei Monate später gibt es ein aktualisiertes Profil und ein Angebot.

Das Unangenehme ist nicht, dass Menschen das tun. Das Unangenehme ist, dass es funktioniert — bis zu einem sehr genauen Punkt.

Es funktioniert im Demo. Es funktioniert bei den ersten paar hundert Durchläufen. Es funktioniert nicht mehr, wenn das System in Produktion geht, täglich läuft und eine monatliche Rechnung erzeugt.

Dann kommt die Frage, die zu Beginn niemand gestellt hat: Warum kostet das so viel?

Was ein Demo nie zeigt

Ein Demo läuft ein paarmal, vor ein paar Menschen, auf ein paar ausgewählten Beispielen.

Ein Produktionssystem läuft tausendfach im Monat, auf echten Daten, mit Wiederholungen, Hintergrundjobs und Fällen, die niemand vorhergesehen hat. Jeder dieser Durchläufe kostet Geld.

Hier zeigt sich der grundlegende Unterschied zwischen jemandem, der ein Modell zu fragen weiß, und jemandem, der ein System zu bauen weiß: Token-Verbrauch ist nicht proportional zur Antwortqualität. Er ist proportional zur Architektur.

Untersuchungen zu gängigen agentischen Workflows zeigen, dass zwischen 50 % und 99 % des Token-Verbrauchs redundant sind. Die Verschwendung steckt nicht im Modell. Sie steckt in schlecht strukturierten Tool-Aufrufen, in System-Prompts, die bei jedem Schritt vollständig neu gesendet werden, und in Reasoning-Schleifen, die niemand begrenzt hat.

Wer nie ein verteiltes System gebaut hat, sieht diese Schleifen nicht. Nicht aus mangelnder Intelligenz, sondern weil er nie zuvor dafür bezahlen musste.

Die Zahlen, die Sie vor der Unterschrift kennen sollten

Hier hört die Diskussion auf, eine Meinungsfrage zu sein.

Prompt-Optimierung bringt 20 % bis 50 % Kostensenkung. Architekturänderungen bringen 60 % bis 90 %. Die AWS-Forschung, auf der diese Zahlen beruhen, sagt das direkt, und Praktiker bestätigen es: Teams verbringen Wochen damit, Prompt-Bibliotheken zu polieren, während die Architektur darunter still das Geld verbrennt, das ein paar Tage echtes Engineering beseitigen würden.

Prompt Caching allein kann Input-Token-Kosten um bis zu 90 % senken. Eine Auswertung über drei große Anbieter maß Reduktionen von 41 % bis 80 % bei agentischen Workloads. Es ist eine der einfachsten verfügbaren Optimierungen — und eine der am seltensten genutzten, weil sie voraussetzt zu verstehen, wie ein Prompt strukturiert wird, nicht nur, was man hineinschreibt.

Der Wechsel von einer stochastischen zu einer deterministischen Architektur senkt die Betriebskosten im Maßstab um das 15- bis 60-Fache. Ein Agent, bei dem das Modell bei jedem Schritt jeder Ausführung aufgerufen wird, kostet grundlegend anders als ein System, bei dem das Modell nur dort aufgerufen wird, wo es zählt, und der Rest im Code läuft.

Zwischen einer optimierten und einer nicht optimierten Pipeline liegt ein Kostenverhältnis vom 3- bis 7-Fachen, und 60–80 % der Inferenzkosten in Enterprise-Deployments gehen auf das Prompt-Token-Volumen zurück.

Also ja — zehnmal teurer ist eine vernünftige Schätzung. In manchen Fällen ist sie optimistisch.

Der Kontext macht es dringlicher: 68 % der Unternehmen nennen unvorhersehbare Compute-Kosten als wichtigste Hürde beim Skalieren von Agenten, laut Gartners KI-Infrastrukturbericht 2026. Nicht ein Mangel an Ideen. Die Rechnung.

Vier Stellen, an denen Geld verloren geht und die ein Laie nicht sieht

1. Vollständig neu gesendeter Kontext bei jedem Aufruf. Systemanweisungen, Tool-Definitionen, Referenzdokumentation — dieselben Inhalte, bei jeder Anfrage, jedes Mal erneut bezahlt. Eine optimierte Projektdatei senkte den Verbrauch von 1.125 auf 274 Tokens pro Aufruf. Gleiches Ergebnis, ein Viertel der Kosten.

2. Sämtlicher Traffic über das leistungsstärkste Modell. Eine E-Mail zu klassifizieren und einen 40-seitigen Vertrag zu analysieren brauchen nicht dieselbe Leistungsfähigkeit. Routing nach Aufgabe ist eine Architekturentscheidung, die in keinem Prompt auftaucht.

3. Unbegrenzte Schleifen. Agentische Systeme brachten einen Fehlermodus hervor, den es bei Einzelaufrufen nicht gab: unbegrenzter Token-Verbrauch in mehrstufigen Reasoning-Schleifen. Ein Token-Budget pro Aufgabe ist eine Codezeile. Sein Fehlen kann eine vierstellige Rechnung sein.

4. Kontext „sicherheitshalber" aufgebläht. Anthropic hat Context Rot dokumentiert: Mit wachsender Token-Zahl im Prompt sinkt die Recall-Genauigkeit des Modells. Große Kontexte kosten nicht nur mehr — sie liefern auch schlechter. Wer glaubt, „mehr Kontext bedeutet bessere Antworten", zahlt doppelt: einmal in Geld, einmal in Qualität.

Beachten Sie, was alle vier gemeinsam haben. Keines ist ein Formulierungsproblem. Alle sind Designprobleme.

Warum ein Nicht-Ingenieur das nicht sehen kann

Es ist keine Frage von Intelligenz oder Fleiß. Es ist eine Frage dessen, was man zuvor gebaut hat.

Wer als Ingenieur ein System skaliert hat, erkennt instinktiv ein Muster, das sich tausendfach am Tag wiederholt, weil er schon einmal dafür bezahlt hat. Er weiß, was Caching bedeutet, weil er dieselbe Problemklasse zehn Jahre vor den LLMs gelöst hat. Er weiß den deterministischen vom probabilistischen Teil zu trennen, weil er Systeme gebaut hat, in denen Zuverlässigkeit zählte.

Wer über die Chat-Oberfläche in die KI eingestiegen ist, hat diese mentale Bibliothek nicht. Er sieht das Modell, nicht das System darum herum. Und die realen Kosten eines KI-Systems stecken nicht im Modell — sie stecken in allem, was es umgibt.

Die Ironie dieser Epoche: Nie war es leichter, etwas zu produzieren, das wie eine Lösung aussieht, und nie zählte mehr, ob es im Maßstab trägt.

Fünf Fragen an jeden, der Ihnen eine KI-Implementierung anbietet

Sie müssen nicht technisch sein, um sie zu stellen. Sie müssen nur zuhören, was geantwortet wird.

„Wie handhaben Sie wiederholten Kontext zwischen Aufrufen?" Enthält die Antwort nicht das Wort Caching oder ein Äquivalent, werden Ihre Kosten um ein Mehrfaches höher sein als nötig.

„Welches Modell läuft bei welcher Art von Aufgabe?" Lautet die Antwort „ein Modell für alles", zahlen Sie Spitzentarife für Routinearbeit.

„Welches Token-Limit hat eine Ausführung, und was passiert bei Überschreitung?" Gibt es keine präzise Antwort, gibt es kein Limit.

„Welcher Teil des Ablaufs läuft im Code und welcher durch das Modell?" Läuft alles durch das Modell, liegt hier der Unterschied vom 15- bis 60-Fachen.

„Wie sehe ich die Kosten pro Prozess, monatlich?" Sehen Sie die Kosten pro Dokument oder pro Transaktion nicht, können Sie nie wissen, ob sich das System lohnt.

Ein Ingenieur beantwortet alle fünf in wenigen Minuten, ohne Zögern. Wer KI aus Prompts gelernt hat, wird in Allgemeinplätze ausweichen.

Was es konkret heißt, mit Ingenieuren zu arbeiten

Bei Visual AI Labs bauen wir KI-Systeme ausgehend von der Frage, die die meisten erst bei der dritten Rechnung stellen: Was kostet das, wenn es zehntausendmal im Monat läuft?

Architektur vor Prompt. Wir entscheiden, was im Code und was durch das Modell läuft, bevor die erste Anweisung geschrieben wird. Der deterministische Teil bleibt im Code, wo er günstig und vorhersehbar ist.

Caching und Kontextmanagement, von Anfang an eingeplant — nicht nachgerüstet, wenn die Rechnung kommt.

Modell-Routing, jede Aufgabe auf der Leistungsstufe, die sie braucht, nicht auf der höchsten verfügbaren.

Token-Budgets und Limits pro Ausführung, mit Warnungen vor den Schwellen, nicht danach.

Modellagnostische Architektur, damit ein Anbieterwechsel eine Konfiguration ist und kein Refactor.

Kosten pro Prozess, monatlich sichtbar. Was ein verarbeitetes Dokument kostet, eine gelöste Anfrage, eine Transaktion. Ohne das können Sie nicht wissen, ob das System Geld bringt oder kostet.

Dazu, was zur Sicherheit statt zu den Kosten gehört: technische Zugriffsgrenzen, eine eigene Identität pro Agent, vollständige Audit-Trails und vor dem Start definierte Eskalation.

Wir liefern schnell, ohne die Systeme zu ersetzen, die bei Ihnen bereits funktionieren.

Ein letzter Gedanke

Wir schreiben das nicht, um anderen Inkompetenz zu unterstellen. Wir schreiben es, weil sich der Unterschied zwischen einer gut gebauten und einer improvisierten Implementierung nicht am Launch-Tag zeigt. Er zeigt sich sechs Monate später, in einer Kostenposition, die stetig steigt und die niemand erklären kann.

Ein KI-System ist am Ende immer noch ein Softwaresystem. Es gelten dieselben Regeln wie immer: Die Architektur entscheidet über die Kosten, nicht die Syntax.

Die gute Nachricht: Es lässt sich fast immer reparieren. Die meisten hohen Rechnungen sind nicht unvermeidlich — sie sind das Ergebnis von Designentscheidungen, die sich ändern lassen, ohne dass Nutzende etwas verlieren.

Schreiben Sie uns auf der Kontaktseite mit einer kurzen Beschreibung dessen, was läuft und was es monatlich kostet. Wir melden uns mit einer ehrlichen Einschätzung, wo Geld verloren geht — und ob sich ein Eingriff lohnt.

Schreiben Sie uns auf der Kontaktseite → →

Keine Verpflichtungen. Auch wenn die Antwort lautet „Ihr System ist in Ordnung".

Visual AI Labs — Agentur für Softwareentwicklung und KI-Integration. Wir bauen KI-Systeme mit einer auf Kosten im Maßstab ausgelegten Architektur: Caching, Modell-Routing, Token-Budgets, Trennung von deterministisch und probabilistisch sowie sichtbare Kosten pro Prozess.

Quellen: AWS, via AI cost optimization — why architecture beats prompt engineering (Stand Sept. 2026); Gartner — KI-Infrastrukturbericht 2026; Anthropic — Forschung zu Context Rot; Glean — How to optimize token efficiency in agentic systems (2026); Stevens Institute — Caching-Analyse 2026; McKinsey — Enterprise-KI-Bericht 2026

Contact