Anthropic 发布了其扩展代理的使用手册:层次、代币和可靠执行

持续追踪 : Le coût du token entre dans le budget : quotas, CFO et rationnement de l'IA· 连载 2/3

构建仅限订阅用户 Jul 15, 2026 at 12:344加入收藏

Anthropic 发布了其扩展代理的使用手册:层次、代币和可靠执行
Illustration : Léa Fontaine

两位来自Anthropic的工程师分享了实战经验:对于需要扩展的代理,限制因素不再是模型,而是harness。三大支柱:层、预算、执行。

用简单的语言来说 Anthropic 的两位工程师——Angela Jiang 和 Katelyn Lesse——发表了关于在客户端工业化 AI 代理时的经验教训。核心信息:限制规模扩展的不是模型,而是围绕它的架构。三大支柱:将堆栈分解为层,严格遵守令牌预算,保证执行。

背景

2025 年的主流观点是:“模型会解决问题”。Anthropic 的经验反馈将关注点转向 2026 年:在长时间代理工作流中,可靠性来自于架构,而非模型。这与我们的观点一致:每个令牌的成本在运营支出中下降,Adam Mosseri 提到每位工程师的令牌上限(Meta),而 Uber 和 Microsoft 在预算失控时停止了 AI 许可。

数据

  • 主要来源:Angela Jiang 和 Katelyn Lesse(Anthropic)的发表,由 Tech in Asia 在 2026 年 7 月 15 日报道。
  • 报道的关键信息:企业的 AI 可扩展性依赖于分层架构、令牌策略和可靠执行——而不仅仅是更好的模型。

幕后

“分层架构”模式在实践中,将三个职责分开:

  1. 编排 - 决定哪个代理运行,多少令牌预算和什么截止日期。这是拒绝运行的层,如果预算被超支。
  2. 执行 - 执行每个工具调用,带有重试、超时、输出验证和幂等性。没有这些,一个“在演示中运行”的代理会在生产中成为一个事件。
  3. 状态 - 持久化需要在轮次之间存活的内容:工件和决策,而非整个对话上下文。上下文是有成本的,因此需要节省。

令牌预算是结构性约束:如果一个代理可以在每次运行中消耗 50 万个令牌,并且每天运行 1000 次,成本很快会超过一名初级工程师的薪水。因此,预算是在架构层面制定的——而非在提示层面。

场景与风险

  • 短期:没有令牌预算上限的团队将被 CFO 追上(token-budget-caps 文档已经记录了 Uber、Microsoft 和 Mosseri 的案例)。
  • 产品风险:过渡到可靠执行需要仪表盘——跟踪、回放、每次运行的成本——这大多数演示代理都忽略了。许多 POC 将无法承受这种仪表盘成本。

结论

对于 2026 年负责代理项目的工程主管来说,第一阶段不再是提示工程。而是预算和跟踪。在添加功能之前,先仪表化每次运行的成本。否则,与财务部的对话将在最不合时宜的时候到来——当代理终于开始运行的时候。

内容仅限会员访问

免费创建账户,即可访问我们的全部内容和每周评论。

本文由人工智能撰写,并经人工编辑审核。

我们的编辑部
Your Linux servers, as a desktop.
TermalOSSponsored
Ops, reimagined

Your Linux servers, as a desktop.

Agentless SSH monitoring, a full remote desktop and an AI ops copilot — no agents to install. Everything stays on your machine.

SSHMonitoringAI Ops
Get early access
这篇文章对您有帮助吗?

7 人赞了这篇文章

A
Aiko Nakamura高级软件工程师
🇨🇳 高级工程师,大规模平台。撰写关于用AI构建的内容。
分享:
评论 (4)

登录后即可参与讨论。

HistoryBuff 15 Jul 2026 · 09:07

Comment ça marche avec plusieurs APIs ?

Dr. J. 15 Jul 2026 · 08:27

Intéressant, mais comment adapter ça à des modèles plus petits et spécialisés ?

GreenThumb 15 Jul 2026 · 10:42

Des modèles plus petits pourraient suivre ces principes, mais les contraintes de ressources seraient différentes.

TravelTom 15 Jul 2026 · 08:17

Comment le budget de tokens influence-t-il la capacité de l'agent à gérer des tâches complexes et multi-étapes ?

CriticAtHeart 15 Jul 2026 · 07:59

Intéressant, mais comment éviter que la complexité du système ne nuise à la performance ?

事件时间线

Le coût du token entre dans le budget : quotas, CFO et rationnement de l'IA

  1. 1工程师的烧钱速度可能很快就赶上他的工资14/07/2026
  2. 2Anthropic 发布了其扩展代理的使用手册:层次、代币和可靠执行15/07/2026
  3. 3AI bills faster than the cloud alerts: $14,000 in one day, $6,531 in 24 hours16/07/2026
Your Linux servers, as a desktop.
TermalOSSponsored
Ops, reimagined

Your Linux servers, as a desktop.

Agentless SSH monitoring, a full remote desktop and an AI ops copilot — no agents to install. Everything stays on your machine.

Get early access
主题
浏览
信息