WeChat's Xiaowei-Agent läuft auf einem geheimen 617B MoE – Tencents stiller Vorstoß an die Front

WeLM, das Modell, das WeChat's KI-Agent antreibt, hat sich leise auf 617 Milliarden Parameter mit einem nicht offengelegten Decodierungsmechanismus skaliert. Keine Benchmarks, keine Papers – nur eine Milliarde Nutzer-Einsätze.

In einfachen Worten: Tencents KI-Agent Xiaowei, der in WeChat grautestet wird, läuft auf WeLM – einem sparsamen Mixture-of-Experts-Modell, das still und leise auf 617 Milliarden Parameter angewachsen ist. Keine öffentlichen Benchmarks. Keine Papers. Nur ein großangelegter Grautest auf einer der meistgenutzten Messaging-Plattformen der Welt.

Die Fakten

Laut Enthüllungen des WeChat-AI-Teams, berichtet von Pandaily, hat WeLM in seiner sparsamen MoE-Version 617 Milliarden Parameter erreicht und aktiviert dabei 23 Milliarden Parameter pro Token. Tencent hat WeLM nie veröffentlicht. Das Modell treibt Xiaowei an, den integrierten KI-Assistenten von WeChat – derzeit in Grautests über die Basis von über 1,3 Milliarden monatlich aktiven Nutzern hinweg.

Unsere Einschätzung

Die „Leaderboard-first“-Narrative des LLM-Wettlaufs lässt Modelle wie WeLM außer Acht: Modelle mit Frontier-Skala, Produktionsreife, vollständig geschlossen und gestützt durch einen Verteilungsvorteil, den kein API-first-Labor erreichen kann. Alibaba konkurriert mit Qwen über Benchmarks und offene Gewichte. Tencent konkurriert über Embeddings.

Im Detail: Sparse MoE-Architekturen aktivieren nur einen Teil der Parameter pro Token – WeLM aktiviert 23 Milliarden seiner 617 Milliarden pro Inferenzschritt. Das entspricht in Rechenleistung etwa einem dichten Modell mit ~23 Milliarden Parametern, was erklärt, wie ein Modell dieser nominalen Größe in einer verbraucherorientierten Chat-Schnittstelle mit für Messaging akzeptabler Latenz laufen kann.

Die im Bericht erwähnte „versteckte Decodierungsmechanik“ bezieht sich wahrscheinlich auf spekulatives Decodieren oder eine frühzeitige Exit-Routing-Strategie, optimiert für Latenz – die Art von Inferenz-Engineering, die keine Papers schreibt, aber Produkte schnell macht.

Beobachtung

Jede öffentliche Offenlegung von WeLM-Benchmarks; ob Tencent WeLM mit offenen Gewichten veröffentlicht (unwahrscheinlich); wie Xiaowei im Vergleich zu ChatGPT und Kimi abschneidet, wenn der Grautest ausgeweitet wird.