코드 모드 프로덕션: "26개 도구 호출, 하나의 스크립트, $0.02"가 도구 루프의 종말을 알린다

에이전트 스웜(Agent Swarm)은 지금까지 가장 깨끗한 프로덕션 측정을 발표합니다: Code Mode는 기존 도구 루프에 비해 모델에 무관한 약 99.2%의 달러 비용 절감을 제공합니다. 클라우드플레어(99.9% 토큰 절감)와 앤트로픽(Drive→Salesforce에서 98.7%)이 이를 약속했지만, 이제 실제 워크로드에서 재현되었습니다.

간단히 말해. 에이전트가 매 턴마다 어떤 도구를 호출해야 할지 추측하게 놔두는 대신, typed SDK를 제공하고 모델이 도구 호출을 조정하는 짧은 스크립트를 작성하도록 합니다. 결과: 토큰 약 99% 감소, 지연 시간 크게 단축, 그리고 중간 규모 워크플로우에서 비용이 $2에서 $0.02로 떨어집니다.

Agent Swarm은 지금까지 가장 명확한 측정을 발표했습니다: 「26 tool calls, one script, $0.02」. 동일한 프로덕션 파이프라인에서 기존 툴 루프는 도구 정의와 반환을 전달하기 위해 약 117만 개의 컨텍스트 토큰을 소비합니다. Code Mode는 typed SDK를 전달하고 모델이 TypeScript 또는 Python 조각을 작성하도록 하며, Cloudflare의 V8 샌드박스에서 이를 실행합니다. 결과는 추정치가 아닙니다: $0.02가 실제로 측정되었으며, 툴 루프에서는 $2+가 들었습니다.

이 수치는 두 가지 이전 벤치마크와 일치합니다. Cloudflare는 2026년 4월 워커 런타임에서 99.9%의 토큰 감소(1,000 vs 117만)를 발표했습니다. Anthropic은 Drive→Salesforce 시나리오에서 98.7% 감소(15만 → 2,000 토큰)를 기록했습니다. 세 실험 모두 모델에 관계없이 약 2자릿수 감소로 수렴합니다. 컨텍스트가 폭발하느냐 마느냐에 달렸기 때문입니다: 비용 절감은 모델에 무관합니다. 보너스로 지연 시간도 30~40% 감소합니다(에이전트 왕복 제거).

내부 메커니즘. 이 패턴은 「모든 도구 설명 → 도구 선택 → 결과 반환 → 반복」 루프를 두 가지 프리미티브로 대체합니다: search(query)(도구 또는 엔티티 찾기)와 execute(script)(호출을 조정하는 코드 실행). typed SDK가 프리미티브보다 중요합니다. SDK는 모델에 매 턴마다 API를 재설명할 필요 없이 API 표면을 제공하기 때문입니다. 샌드박스는 필수입니다(Cloudflare의 격리된 V8, 기타에서는 Starlark 등 잠금 버전) - 게이트웨이 측에서 임의의 코드를 실행하는 방식입니다.

측정에서 숨기지 않은 한계: 1~2회 호출의 초단순 워크플로우는 혜택을 보지 못합니다 - SDK 프롬프트의 고정 비용이 우위를 차지하기 때문입니다. 샌드박스 실행 비용(격리, 할당량, 킬 스위치)이 듭니다. 실패도 더 연관됩니다: 스크립트 오류는 전체 파이프라인을 중단시키지만, 툴 루프는 단계별로 복구할 수 있습니다.

결론. 2024~2025년에 구축된 툴 루프는 더 이상 비단순 워크플로우에 필요하지 않습니다. LangGraph 등 오케스트레이터는 이 패턴을 지원하거나 가격 비교에서 사라질 것입니다. 프로덕션에서 에이전트를 운영하는 팀: 한 달간 토큰/미션 비율을 측정해 보세요 - 미션당 10만+ 토큰을 사용한다면, 마이그레이션은 일주일 안에 비용을 회수할 수 있습니다. MCP plumbing이 killer app을 찾았습니다.