企業はAIコストに慌てる — CFOが再び意思決定の場に復帰

ザ・エコノミストはデータルームで見られるものを記録している：LLMの請求書が急増し、CFOが主導権を握る。無限のPoCがコストを伴い、ROIが各AIプロジェクトの命綱となる。

率直に言って

2年にわたるFOMOの後、大企業は決算を下す：彼らのAI請求書（OpenAI、Anthropic、Azure OpenAI、AWS Bedrock）は当初の見積もりをはるかに上回っている。その結果、CFOが主導権を握り、何の利益も生まないPoCを廃止し、モデルを1行ごとに競わせるようになる。

事の顛末

The Economist（2026年6月）によると、企業のAI支出は2025-2026年にも引き続き急増したが、DSIへの聞き取り調査によれば、使用事例の大半がプラスのROIを達成できていないという。主な原因は3つ挙げられる：

1. トークン単価は本当のコストではない。本当のコストは人間の介在（レビュー、修正、オーケストレーション、ガバナンス）だ。現場で観測される比率は、通常、モデルの粗コストの3〜5倍に及ぶ。
2. コンテキストが利益を圧迫する。短いウィンドウから長いウィンドウ（RAG付き）に移行すると、同じユースケースでも請求額が1桁上がる。
3. マルチモデルがオーケストレーションを爆発させる。単純なタスクをHaiku/Nanoにルーティングするという良い習慣が、多くのDSIが完全に把握できていないインフラの複雑さという代償を払うことになる。

具体的な対策は2つの形を取る：（a）部分的な自社ホスティングモデル（Llama、Qwen、DeepSeek）への回帰 — 企業のAIワークロードにおけるセルフホスト比率が急速に上昇中；（b）しきい値付き契約 — Microsoftは大口顧客に対し、最低価格を交渉し始めている。

内部構造

• 重要指標：「成功タスク当たりのコスト」 — 請求トークン数ではなく、レビューを通過した成果物1件当たりの平均コスト。
• インテリジェントルーティング：「前段の分類層でデフォルトの小型モデル（LiteLLM、Portkey、Anthropic独自の階層化）に振り分ける」ことで、コストが大幅に削減（多くの場合30〜50%）。
• プロンプトキャッシュ：「繰り返されるシステムプロンプト」の未活用 — Anthropicのプロンプトキャッシュで最大75%削減。

結論

3つの帰結がある。1つ目：「開発者に選ばせよう」のフェーズは終わり、財務部が主導権を握る。2つ目：ROIを実測できる（単なる「生産性+30%」のスライドではない）ベンダーが市場を席巻する。3つ目：オープンウェイトの時代が来た — イデオロギーではなく、経済的な理由で。注目すべきは、2026年末時点でのOpenAIの上位500顧客の解約率だ。