Anthropic livre son mode d'emploi pour scaler les agents : couches, tokens, exécution fiable

In plain terms Deux ingénieures d'Anthropic - Angela Jiang et Katelyn Lesse - publient les leçons apprises en industrialisant les agents IA chez leurs clients. Le message : ce n'est pas le modèle qui limite le passage à l'échelle, c'est l'architecture qui l'entoure. Trois piliers : découper la stack en couches, tenir un budget de tokens strict, garantir l'exécution.

Le contexte

Le discours dominant en 2025 était : « les modèles vont y arriver ». Le retour d'expérience côté Anthropic ré-oriente l'attention en 2026 : sur des workflows d'agent longs, la fiabilité vient du harness, pas du modèle. C'est cohérent avec le fil qu'on suit : le coût par token glisse dans l'opex, Adam Mosseri évoque des plafonds tokens par ingénieur (Meta), et les licences IA se coupent chez Uber et Microsoft quand le budget dérape.

Les données

• Source primaire : publication d'Angela Jiang et Katelyn Lesse (Anthropic), rapportée par Tech in Asia le 15/07/26.
• Message-clé rapporté : la scalabilité IA en entreprise repose sur une architecture en couches, une stratégie de tokens et une exécution fiable - pas seulement sur de meilleurs modèles.

Under the hood

Le pattern « architecture en couches » consiste, en pratique, à séparer trois responsabilités :

1. Orchestration - décide quel agent tourne, avec quel budget de tokens et quelle échéance. C'est la couche qui refuse un run si le budget est explosé.
2. Exécution - exécute chaque tool-call avec retry, timeouts, validation de sortie et idempotence. Sans cela, un agent qui « marche » en démo devient un incident en production.
3. État - persiste ce qui doit survivre entre tours : les artefacts et décisions, pas tout le contexte de conversation. Le contexte se paie, donc il se rationne.

Le budget tokens est la contrainte structurante : si un agent peut brûler 500k tokens par run et qu'il tourne 1000 fois par jour, le coût dépasse rapidement un salaire d'ingénieur junior. Le budget se fait donc au niveau architecture - pas au niveau prompt.

Scénarios & Risques

• Court terme : les équipes qui bâtissent des agents sans plafond de tokens vont se faire rattraper par le CFO (le fil token-budget-caps documente déjà les cas Uber, Microsoft, Mosseri).
• Risque produit : passer à l'exécution fiable oblige à instrumenter - traces, replays, coût par run -, ce que la plupart des agents demos ignorent. Beaucoup de POC ne survivront pas à ce coût d'instrumentation.

So what

Pour une lead ingénierie qui pilote un projet agent en 2026 : le lot 1 n'est plus le prompt engineering. C'est le budget et la trace. Instrumentez le coût par run avant d'ajouter des capabilities. Sinon, la conversation avec la finance arrivera au pire moment - celui où l'agent commence enfin à marcher.