Les entreprises s'affolent des coûts de l'IA - le retour du CFO dans la boucle

In plain terms

Après deux ans de FOMO, les grandes entreprises font le compte : leurs factures IA (OpenAI, Anthropic, Azure OpenAI, AWS Bedrock) dépassent de plusieurs fois les projections initiales. Résultat : le CFO reprend la main, on tue des PoCs qui ne rapportent rien, et on met en concurrence les modèles ligne à ligne.

L'affaire

Selon The Economist (juin 2026), les dépenses IA en entreprise ont continué à croître fortement en 2025-2026, mais une proportion majoritaire des cas d'usage ne passe pas le seuil du ROI positif selon les DSI interrogés. Trois causes reviennent :

1. Le coût token n'est pas la vraie dépense. Le vrai coût est le humain-in-the-loop : review, correction, orchestration, gouvernance. Ratio observé sur le terrain : typiquement 3 à 5× le coût brut du modèle.
2. Le contexte tue les marges. Passer d'une fenêtre courte à une fenêtre longue (avec RAG) multiplie la facture d'un ordre de grandeur pour le même use case.
3. Le multi-modèle explose l'orchestration. Une bonne pratique - router les tâches simples vers Haiku/Nano - se paie en complexité d'infra que peu de DSI maîtrisent vraiment.

Le passage à l'acte prend deux formes : (a) rapatriement partiel sur des modèles open-weights hébergés (Llama, Qwen, DeepSeek) - la part self-hosted progresse rapidement dans les workloads IA d'entreprise ; (b) contrats à seuil avec les fournisseurs - Microsoft négocie désormais des tarifs plancher pour ses grands comptes.

Under the hood

• Métrique clé : le "cost per successful task" - pas les tokens facturés, mais le coût moyen d'un livrable qui passe la review.
• Router intelligent : baisse de coût significative (souvent 30-50%) quand une couche de classification en amont dirige vers un petit modèle par défaut (LiteLLM, Portkey, Anthropic's own tiering).
• Cache prompt : sous-utilisé - jusqu'à -75% sur le prompt système répété (Anthropic prompt cache).

So what

Trois conséquences. Un : la phase « laissons les devs choisir » est finie, la finance rentre. Deux : les vendeurs qui savent démontrer un ROI mesurable (pas des slides « productivité + 30% ») raflent la mise. Trois : c'est le moment de l'open-weight - pas idéologiquement, économiquement. À surveiller : le taux d'attrition inbound d'OpenAI sur ses 500 plus gros comptes fin 2026.