Die Unternehmen geraten wegen der Kosten der KI in Panik - die Rückkehr des CFO in den Kreislauf

In einfachen Worten

Nach zwei Jahren FOMO rechnen große Unternehmen ab: Ihre KI-Rechnungen (OpenAI, Anthropic, Azure OpenAI, AWS Bedrock) übersteigen die ursprünglichen Prognosen um ein Vielfaches. Ergebnis: Der CFO übernimmt wieder die Kontrolle, nutzlose PoCs werden gestrichen und die Modelle werden Zeile für Zeile verglichen.

Der Fall

Laut The Economist (Juni 2026) sind die KI-Ausgaben in Unternehmen in den Jahren 2025-2026 weiter stark gestiegen, aber ein Großteil der Anwendungsfälle erreicht laut den befragten IT-Leitern nicht die Schwelle für eine positive ROI. Drei Gründe werden häufig genannt:

1. Die Kosten pro Token sind nicht die eigentliche Ausgabe. Die eigentlichen Kosten sind die menschlichen Ressourcen im Loop: Überprüfung, Korrektur, Orchestrierung, Governance. Beobachtetes Verhältnis in der Praxis: typischerweise das 3- bis 5-fache der Bruttokosten des Modells.
2. Der Kontext schmälert die Margen. Der Wechsel von einem kurzen zu einem langen Fenster (mit RAG) vervielfacht die Rechnung um eine Größenordnung für denselben Anwendungsfall.
3. Multi-Modell erhöht die Orchestrierung. Eine bewährte Praxis - einfache Aufgaben an Haiku/Nano zu leiten - hat ihren Preis in Infrastrukturkomplexität, die nur wenige IT-Leiter wirklich beherrschen.

Die Umsetzung erfolgt in zwei Formen: (a) teilweise Rückverlagerung auf Open-Weight-Modelle (Llama, Qwen, DeepSeek) - der selbstgehostete Anteil wächst schnell in den KI-Workloads von Unternehmen; (b) Verträge mit Schwellenwerten mit den Anbietern - Microsoft verhandelt nun Mindestpreise für seine Großkunden.

Unter der Haube

• Wichtigste Kennzahl: die "Kosten pro erfolgreicher Aufgabe" - nicht die abgerechneten Tokens, sondern die durchschnittlichen Kosten eines Lieferobjekts, das die Überprüfung besteht.
• Intelligenter Router: signifikante Kostensenkung (oft 30-50%), wenn eine vorgeschaltete Klassifizierungsschicht standardmäßig auf ein kleines Modell leitet (LiteLLM, Portkey, Anthropics eigenes Tiering).
• Prompt-Cache: untergenutzt - bis zu -75% bei wiederholtem System-Prompt (Anthropic Prompt-Cache).

Und was jetzt?

Drei Konsequenzen. Erstens: Die Phase "Lassen wir die Entwickler wählen" ist vorbei, die Finanzen übernehmen wieder. Zweitens: Die Verkäufer, die einen messbaren ROI nachweisen können (keine Folien mit "Produktivität +30%"), machen das Rennen. Drittens: Jetzt ist die Zeit der Open-Weight-Modelle - nicht aus ideologischen, sondern aus wirtschaftlichen Gründen. Zu beobachten: die Abwanderungsrate von OpenAI bei seinen 500 größten Kunden Ende 2026.