企業はAIコストに慌てふためく — CFOが再び意思決定の場に復帰

エコノミストはデータルームで見られるものを文書化している：LLMの請求書が急増し、CFOが主導権を握る。無限のPoCがコストを伴い、ROIが各AIプロジェクトの命綱となっている。

率直に言って

2年間のFOMOの後、大企業は決算を下す：彼らのAI請求書（OpenAI、Anthropic、Azure OpenAI、AWS Bedrock）は当初の見積もりを数倍上回っている。その結果、CFOが主導権を握り、ROIを生まないPoCを廃止し、モデルを1行ごとに競わせるようになる。

事の顛末

The Economist（2026年6月）によると、企業のAI支出は2025-2026年にも引き続き急増したが、DSIへの聞き取り調査では、使用事例の大半がプラスのROIを満たしていないという。主な原因は3つ挙げられる：

1. トークン単価は本当のコストではない。真のコストは人間の介在（レビュー、修正、オーケストレーション、ガバナンス）だ。現場で観測される比率は、通常、モデルの粗コストの3～5倍に及ぶ。
2. コンテキストが利益を圧迫する。短いウィンドウから長いウィンドウ（RAG付き）に移行すると、同じユースケースでも請求額が1桁上がる。
3. マルチモデルがオーケストレーションを複雑化させる。単純なタスクをHaiku/Nanoに振り分けるという良い習慣が、多くのDSIが十分に把握できていないインフラの複雑さと引き換えになる。

具体的な対策は2つの形を取る：（a）部分的にオープン重みモデル（Llama、Qwen、DeepSeek）のセルフホスティングに切り替える――企業のAIワークロードにおけるセルフホスト比率が急速に上昇中；（b）しきい値付き契約をベンダーと結ぶ――Microsoftは大口顧客に対し、最低価格を交渉するようになった。

内部構造

• 重要指標：「成功タスク当たりのコスト」――請求トークン数ではなく、レビューを通過した成果物1件当たりの平均コスト。
• インテリジェントルーター：分類レイヤーで事前に小規模モデル（LiteLLM、Portkey、Anthropic独自の階層化）に振り分けることで、コストが大幅に削減（多くの場合30～50%）。
• プロンプトキャッシュ：未活用――繰り返されるシステムプロンプトで最大75%の削減効果（Anthropicのプロンプトキャッシュ）。

結論

3つの帰結がある。1つ目：「開発者に選ばせよう」のフェーズは終わり、財務部が主導権を握る。2つ目：ROIを実測できるベンダー（生産性+30%のスライドではない）が市場を席巻する。3つ目：オープン重みモデルの時代が来た――思想的な理由ではなく、経済的な理由で。注目すべきは、2026年末までにOpenAIの上位500顧客のうち、インバウンド離脱率がどう推移するかだ。