迁移生产代理到 GPT-5.6：速度提升 2.2 倍，成本降低 27% - 真实事后分析

简单来说

ploy.ai团队将GPT-5.4的代理迁移到生产环境的GPT-5.6，并发布了原始数据：延迟减少2.2倍，成本减少27%，完成率提高8个百分点。事后分析比营销基准更有用。

事实

2026年7月12日在ploy.ai/blog上发布的文章涵盖了一个真实的迁移过程：一个商业代理（搜索+资格审查+电子邮件）每天处理约40,000个请求。在5天内逐步切换，A/B测试harness，完整的遥测数据。

分析

有三个具体的教训值得记住：

1. 延迟的提升主要来自模型，而不是harness。相同的代理跟踪在中位数上运行速度提高了2.2倍，在P99上提高了3.1倍。这与OpenAI关于serving优化的公告一致（推测解码+KV缓存重用）。
2. 成本的提升部分是虚幻的。每个token的价格降低了，但新版本倾向于生成更长的输出（约+18%）。净-27%主要来自代理回合的缩短（迭代次数减少），而不是单个token的价格。
3. 完成率的提高来自更好的工具调用。在多步骤工作流中，GPT-5.6犯的工具错误更少，重试次数也更少。这是一个由模型引起的harness收益，而不是原始智能的提高。

幕后

harness需要三个修改才能切换：(1)调整系统提示（需要更少的明确指导，因为模型需要更少），(2)加强工具调用的解析器（新的调用格式更严格），(3)重新校准重试阈值（失败减少→阈值降低）。

如果不固定目标延迟，总计算预算不会降低——否则，诱惑是利用它来添加步骤。

场景

• 广泛采用（60%）：大多数生产代理将在2026年Q4之前切换到5.6，动力来自延迟/成本/tool-calling的三重奏。
• 部分采用（30%）：那些有微调的5.4模型的人在等待5.6的微调流水线。
• 观望（10%）：那些有强大供应商锁定（Azure早期层，年度合同）的人在等待续订。

所以呢

对于准备切换的团队：harness的A/B测试5天是不可协商的。收益是真实的，但取决于你的harness——没有捷径。对于管理者：真正的KPI是每个成功工作流的成本，而不是每个token的成本。差异可能是两倍。

需要关注

迁移到Claude Cowork或Gemini 3的团队的事后分析——缺乏客观基线。即将到来的5.6微调流水线（OpenAI宣布“夏季”）。