Anthropic liefert seine Anleitung zum Skalieren von Agenten: Schichten, Tokens, zuverlässige Ausführung

In einfachen Worten Zwei Ingenieurinnen von Anthropic - Angela Jiang und Katelyn Lesse - veröffentlichen die Lehren aus der Industrialisierung von KI-Agenten bei ihren Kunden. Die Botschaft: Es ist nicht das Modell, das die Skalierung begrenzt, sondern die Architektur, die es umgibt. Drei Säulen: Die Stack in Schichten aufteilen, ein striktes Token-Budget einhalten, die Ausführung garantieren.

Der Kontext

Die vorherrschende Meinung im Jahr 2025 war: „Die Modelle werden es schaffen“. Die Erfahrung von Anthropic lenkt die Aufmerksamkeit im Jahr 2026 um: Bei langen Agenten-Workflows kommt die Zuverlässigkeit vom Harness, nicht vom Modell. Dies ist konsistent mit dem Ansatz, den wir verfolgen: Die Kosten pro Token verschieben sich in die Opex, Adam Mosseri spricht von Token-Obergrenzen pro Ingenieur (Meta), und KI-Lizenzen werden bei Uber und Microsoft gekappt, wenn das Budget aus dem Ruder läuft.

Die Daten

• Primäre Quelle: Veröffentlichung von Angela Jiang und Katelyn Lesse (Anthropic), berichtet von Tech in Asia am 15/07/26.
• Wichtigste gemeldete Nachricht: Die Skalierbarkeit von KI in Unternehmen basiert auf einer schichtbasierten Architektur, einer Token-Strategie und einer zuverlässigen Ausführung - nicht nur auf besseren Modellen.

Under the hood

Das Muster „Schichtarchitektur“ besteht in der Praxis aus der Trennung von drei Verantwortlichkeiten:

1. Orchestrierung - entscheidet, welcher Agent läuft, mit welchem Token-Budget und welcher Frist. Dies ist die Schicht, die einen Lauf ablehnt, wenn das Budget überschritten wird.
2. Ausführung - führt jeden Tool-Aufruf mit Wiederholung, Timeouts, Ausgangsvalidierung und Idempotenz aus. Ohne dies wird ein Agent, der in der Demo „funktioniert“, in der Produktion zu einem Vorfall.
3. Zustand - speichert, was zwischen den Runden überleben muss: die Artefakte und Entscheidungen, nicht den gesamten Konversationskontext. Der Kontext hat seinen Preis, daher wird er rationiert.

Das Token-Budget ist die strukturierende Einschränkung: Wenn ein Agent 500k Tokens pro Lauf verbrennen kann und 1000 Mal pro Tag läuft, übersteigen die Kosten schnell das Gehalt eines Junior-Ingenieurs. Das Budget wird daher auf Architektur-Ebene festgelegt - nicht auf Prompt-Ebene.

Szenarien & Risiken

• Kurzfristig: Teams, die Agenten ohne Token-Budget-Obergrenze aufbauen, werden vom CFO eingeholt (der Thread token-budget-caps dokumentiert bereits die Fälle Uber, Microsoft, Mosseri).
• Produktrisiko: Der Übergang zu zuverlässiger Ausführung erfordert Instrumentierung - Spuren, Wiedergaben, Kosten pro Lauf -, was die meisten Demo-Agenten ignorieren. Viele POCs werden diesen Instrumentierungskosten nicht standhalten.

So what

Für eine Ingenieursleitung, die 2026 ein Agentenprojekt leitet: Der erste Schritt ist nicht mehr das Prompt-Engineering. Es ist das Budget und die Spur. Instrumentieren Sie die Kosten pro Lauf bevor Sie Fähigkeiten hinzufügen. Andernfalls wird das Gespräch mit der Finanzabteilung zum schlimmsten Zeitpunkt kommen - wenn der Agent endlich zu laufen beginnt.