企业对人工智能的成本感到恐慌 - 首席财务官重返决策圈

简单来说

经过两年的FOMO，大型企业开始盘点：它们的AI账单（OpenAI、Anthropic、Azure OpenAI、AWS Bedrock）超出初始预测数倍。结果：CFO重新掌控局面，杀死无收益的PoCs，并逐行将模型投入竞争。

事件

据《经济学人》（2026年6月）报道，2025-2026年企业的AI支出仍在强劲增长，但根据受访的IT主管称，大多数用例未能达到正ROI阈值。三个原因反复出现：

1. 代币成本不是真正的支出。 真正的成本是人在回路中：审查、修正、编排、治理。现场观察到的比率：通常是模型原始成本的3到5倍。
2. 上下文消耗利润。 从短窗口过渡到长窗口（使用RAG）会将同一用例的账单提高一个数量级。
3. 多模型爆炸性增加编排复杂度。 一个良好实践——将简单任务路由到Haiku/Nano——以少数IT主管真正掌握的基础设施复杂度为代价。

行动转变有两种形式：(a)部分回收到托管的开放权重模型（Llama、Qwen、DeepSeek）——企业AI工作负载中的自托管部分正在快速增长；(b)与供应商签订阈值合同——微软现在为其大客户谈判最低价格。

幕后

• 关键指标：每成功任务的成本——不是计费的代币，而是通过审查的可交付成果的平均成本。
• 智能路由器：在前端分类层将流量默认指向小型模型（LiteLLM、Portkey、Anthropic自有分层）时，成本显著降低（通常为30-50%）。
• 提示缓存：使用不足——重复系统提示可节省高达75%（Anthropic提示缓存）。

结论

三个后果。一：让开发人员自由选择的阶段结束，财务介入。二：能够展示可衡量ROI（而非“生产力提高30%”幻灯片）的销售商赢得市场。三：现在是开放权重的时机——经济上，而非意识形态上。需关注：2026年底OpenAI在其500个最大客户中的流失率。