QCon AI Boston : « prompts → platforms, harnesses, evals » - le terrain valide la thèse

In plain terms

La restitution d'InfoQ (17 juillet 2026) sur QCon AI Boston tient en une phrase : les équipes qui expédient de l'IA en prod ne parlent plus de prompts. Elles parlent de plateformes internes, de harnesses (l'orchestrateur qui fait tourner l'agent avec outils, mémoire, reprises) et d'evals continues. C'est la deuxième vague - non plus « ça répond bien », mais « ça marche à 3h du matin ».

Contexte

Le fil harness-ops (post-mortems Grok CLI, #1184 ; discipline de token, #1135 ; Malykhin sur Java 1.5, #1175 ; State of MCP Security 2026, #1054) a documenté la même bascule côté équipes individuelles. QCon AI Boston formalise ce que ces post-mortems disaient chacun de leur côté : le prompt n'est plus le lieu du travail. Il est devenu une entrée dans un système plus grand, avec sa propre discipline d'ops.

Ce que ça veut dire

Plateformes. Les équipes cessent d'écrire leur agent en direct. Elles construisent une couche interne - templates, connecteurs, budgets, observabilité - au-dessus de laquelle chaque équipe métier greffe son cas. C'est la même trajectoire que le cloud interne 2015-2020 : d'abord la douleur locale, ensuite la plateforme.

Harnesses. L'orchestrateur devient l'artefact critique - souvent plus important que le choix du modèle. Migration de modèle sans réécrire l'app (Anthropic livre son mode d'emploi, #1135), tool-calling instrumenté, retries idempotents, mémoire scopée.

Evals. L'évaluation n'est plus un one-shot avant release. C'est un pipeline continu : jeux de tests golden, LLM-as-judge sur la production, régressions détectées automatiquement. Le release process ressemble davantage au CI d'un backend qu'à une démo produit.

Under the hood

Le signal caché est organisationnel. Là où les projets échouent, ce n'est presque plus le modèle - c'est l'absence de discipline de release (Uber budgets épuisés, Microsoft licences coupées, #1023). Là où ils réussissent, un rôle nouveau émerge, qu'on peut appeler « harness engineer » : plus SRE que ML, plus produit qu'infra.

So what

Pour un CTO en 2026, la question stratégique n'est plus « quel modèle » mais « quelle plateforme d'agents interne ». Le vendor lock-in se joue à cette couche : plus votre harness porte votre business logic, plus il devient l'actif - et plus le modèle sous-jacent devient interchangeable. C'est la seule bonne nouvelle de l'année pour ceux qui redoutent la dépendance frontier.

À suivre : les Model Context Protocols matures (#1054), les outils de budget en amont du CFO (#1023), et la structuration en équipes plateforme dédiées.