Ein Chief Financial Officer sitzt an einem Montagmorgen in seinem Büro und öffnet das Dashboard der IT-Ausgaben. Die Zahlen für das laufende Quartal zeigen eine Abweichung, die er nicht einordnen kann: Die Kosten für künstliche Intelligenz sind um 40 Prozent höher als geplant. Niemand hat ihn vor dieser Entwicklung gewarnt – keine Prognose, keine Risikoanalyse, kein Hinweis in den wöchentlichen Statusberichten.
Die Szene ist kein Einzelfall. Sie wiederholt sich in immer mehr Unternehmen. KI-Projekte entpuppen sich als Kostenfalle, die erst spät sichtbar wird. Ein neuer Report des Softwarehauses Mavvirk zeichnet ein deutliches Bild: Fast die Hälfte aller befragten Organisationen musste KI-bedingte Ausgaben-Überraschungen bereits im Vorstand diskutieren. Ein Viertel hat laufende oder geplante KI-Initiativen wegen unvorhergesehener Kosten gestoppt oder verschoben.
Die Zahlen des Mavvirk-Reports
Mavvirk, ein Anbieter für Kostenmanagement-Software, hat für seinen „State of AI Cost Governance Report 2026“ insgesamt 396 Unternehmen aus verschiedenen Branchen befragt. Zwei Drittel der Befragten geben an, dass unerwartete KI-Kosten mindestens eine Geschäftsentscheidung materiell beeinflusst haben. Ein Drittel musste einen Notfall-Stopp für neue Ausgaben verhängen, um die steigenden Rechnungen einzudämmen.
Besonders auffällig ist, dass die Kostenprobleme nicht allein aus den Preisen für KI-Modelle entstehen. Sundeep Goel, CEO von Mavvirk, sagt im Report: „KI verändert grundlegend, wie Infrastruktur verbraucht wird und wie sich Kosten ansammeln. Was früher planbare IT-Ausgaben waren, ist heute dynamisch, verteilt und schwer zuzuordnen.“ Ausgaben für KI verteilen sich über viele Einzelposten – von Developer-Tools über Datenplattformen bis hin zu autonomen Agenten, die quasi endlos Rechenleistung konsumieren. Viele Firmen haben keine Werkzeuge, um diese Ausgaben sauber zu erfassen.
Weil niemand die Gesamtkosten überblickt, kann auch niemand den Return on Investment (ROI) belastbar berechnen. Ray Rike, CEO von Benchmarkit, sagt im Report: „Alle reden über KI und ROI, aber ROI ist Mathematik. Man kann keine Rendite berechnen, wenn man die Kosten nicht kennt.“ Daran scheitern viele Projekte: Sie werden nicht zu Ende gedacht, weil niemand die langfristigen Kosten verantwortlich budgetiert hat.
Warum KI-Kosten schwer zu kontrollieren sind
Die Gründe für die Überraschungen liegen in der Fragmentierung der KI-Landschaft. Unternehmen nutzen eine Vielzahl von Diensten: einzelne LLM-Modelle, Datenpipelines, Vektordatenbanken, Inferenz-Server und immer häufiger auch agentische Workflows, die mehrere Schritte autonom abarbeiten. Jeder dieser Bausteine erzeugt eigene Kosten – und die Summe ist kaum im Voraus abzuschätzen.
Rita Sallam, Chief of Research für Daten und Analytik bei Gartner, weist auf einen Widerspruch hin: Während die reinen Modellpreise (etwa Kosten pro Token) sinken, steigen die Gesamtkosten pro Aufgabe. Der Grund: Agentische Systeme verlangen zunehmend komplexere Denkprozesse, die deutlich mehr Rechenschritte benötigen – und die Rechnung dafür wächst exponentiell. „Die Preisgestaltung verlagert sich auf nutzungsbasierte Modelle, was die Kosten für komplexe, autonome Workflows in die Höhe treibt und häufig die Einsparungen übersteigt, die sie eigentlich erzeugen sollten“, erklärt sie gegenüber CIO Dive.
Hinzu kommt, dass viele Entscheidungsträger erst spät von den hohen Ausgaben erfahren. Die Sichtbarkeit ist schlecht, weil die Kosten nicht einem einzelnen Projekt zugeordnet werden können, sondern über verschiedene Konten und Teams verstreut sind. Das erinnert an ein bekanntes Problem aus der Cloud-Ära: Auch dort überschritten Budgets oft die Planung, weil Speicher- und Transfergebühren nicht im Blick waren. Daten von Wasabi Technologies aus dem letzten Jahr zeigen, dass fast zwei Drittel der Unternehmen ihr Cloud-Speicherbudget überschritten – wegen unvorhergesehener Nutzung und Egress-Fees.
FinOps: Ein Ansatz aus der Cloud-Welt
Aus der Cloud-Welt gibt es einen etablierten Lösungsansatz: FinOps. Was ursprünglich entwickelt wurde, um Cloud-Kosten zu kontrollieren, wird zunehmend auch auf KI angewandt. FinOps steht für ein Bündel aus Prozessen, Tools und kulturellen Praktiken, die Finanzen, Technik und Business zusammenbringen, um Ausgaben transparent zu machen und zu optimieren. Der Grundgedanke ist simpel: Erst wer die Kosten versteht, kann sie steuern.
Mittlerweile reagieren auch die großen Cloud-Anbieter auf den Druck. Google Cloud, AWS und Microsoft haben in den vergangenen Monaten einige Speicher- und Transfergebühren reduziert, um Kunden zu entlasten. Das hilft, löst das Grundproblem aber nicht. Denn die KI-Kosten entstehen nicht nur in der Cloud-Infrastruktur, sondern auch in den Modellausgaben selbst, die sich nur schwer standardisieren lassen.
Rita Sallam vom Gartner fordert deshalb einen Perspektivwechsel: „Unternehmen sollten die KI-Kostenoptimierung als architektonische Anforderung betrachten, nicht als nachträgliche Finanzübung.“ Das bedeutet, schon bei der Entwicklung über Kostenaspekte nachzudenken – nicht erst, wenn die Rechnung kommt. Modellwahl, Pipelinedesign und Nutzungspolitik müssen frühzeitig auf Kosteneffizienz ausgelegt sein.
Gegenmaßnahmen: Modelle, Routen, Bildung
Sallam empfiehlt, einfache Anfragen zu preisgünstigeren Modellen zu routen, anstatt immer das teuerste Reasoning-Modell zu verwenden. „Man sollte keine Ferrari nehmen, wenn ein Kia auch reicht.“ Es geht nicht um Leistungsverzicht, sondern um wirtschaftlichen Einsatz. Ein kleines, domänenspezifisches Sprachmodell kann oft genauso gute Ergebnisse liefern wie ein großes, universelles Modell – zu einem Bruchteil der Kosten.
Darüber hinaus betont Sallam, wie wichtig es ist, die KI-Fähigkeiten der Mitarbeiter zu fördern. „Die Nutzer müssen die finanziellen Konsequenzen ihres KI-Einsatzes verstehen. Es bringt nichts, wenn sie das teuerste Reasoning-Modell nutzen, um das Wetter zu checken.“ Sie fordert verbindliche Schulungen zu „KI-Token-Finanzkompetenz“. Wenn die Belegschaft versteht, dass jede Anfrage reale Kosten erzeugt, stellt sich ein achtsameres Nutzungsverhalten ein.
Die Empfehlungen der Experten lassen sich zu einem Drei-Punkte-Plan zusammenfassen: Erstens, die Kostenarchitektur fest ins Design integrieren. Zweitens, ein Governance-Rahmenwerk schaffen, das technische und finanzielle Aspekte abdeckt. Drittens, die Mitarbeiter aktiv schulen und in die Verantwortung nehmen.
Was du jetzt in deinem Unternehmen tun kannst
Die Entwicklung betrifft nicht nur Großkonzerne – auch mittelständische Unternehmen, die gerade mit KI experimentieren, stehen vor den gleichen Herausforderungen. Wenn du in deinem Unternehmen für IT-Strategie oder Finanzen zuständig bist, gibt es konkrete Schritte, die du sofort einleiten kannst. Beginne damit, eine Inventur deiner KI-Systeme zu erstellen: Welche Modelle werden genutzt? Welche Workflows laufen auf welcher Infrastruktur? Wer hat Zugriff auf welche Ressourcen? Ohne diese Grundlagen bleibt jede Kostendiskussion Stückwerk.
Setze klare Budgetgrenzen und implementiere Monitoring-Tools, die dir Echtzeitdaten über die KI-Ausgaben liefern. Es gibt spezialisierte Lösungen, die Token-Verbrauch und Modellkosten transparent machen und Alarme bei Abweichungen auslösen. Scheue dich nicht davor, Projekte zu verlangsamen, wenn die Wirtschaftlichkeit nicht stimmt. Ein Viertel der Unternehmen hat bereits KI-Initiativen pausiert oder gestoppt – das ist keine Niederlage, sondern eine bewusste Entscheidung.
Am Ende braucht es eine kulturelle Veränderung. KI verursacht Kosten wie jede andere Technologie. Wer diese Realität akzeptiert, plant realistisch. Die Zahlen aus dem Mavvirk-Report zeigen: KI erfordert finanzielle Disziplin, sonst übersteigen die Ausgaben den Nutzen.
Quelle: ciodive.com
