GPUs unterausgelastet zu 5 %: Elice, Nota, Lablup bieten die koreanische Antwort auf eine globale Engpass-Situation

In einfachen Worten

Eine von CAST AI veröffentlichte Studie vom 31. Juli, die von ETNews übernommen wurde, beziffert die durchschnittliche Nutzung der GPUs auf 5 % in etwa 23.000 Kubernetes-Clustern, die bei den drei großen Cloud-Anbietern (AWS, Azure, GCP) betrieben werden, wenn Kubernetes nicht optimiert ist. Drei südkoreanische Herausgeber - Elice, Nota, Lablup - antworten am selben Tag mit ihren Produktlösungen. Mit anderen Worten: Die GPU-Capex wird bereits bezahlt, die Nutzung hinkt weltweit hinterher; Südkorea ist das erste Land, das Herausgeber veröffentlicht, die sich auf die Behebung des Problems spezialisiert haben.

Die Tatsache im Kontext

ETNews, 31. Juli 2026. Der Artikel aggregiert zwei Ebenen: eine GLOBALE Zahl (die CAST AI-Studie, 5 % durchschnittliche Nutzung gemessen an ~23.000 K8s-Clustern, die bei AWS/Azure/GCP betrieben werden, wenn Kubernetes nicht optimiert ist) und eine LOKALE ANTWORT (drei südkoreanische Herausgeber, die jeweils einen Ansatz zur Behebung des Problems anbieten). Unmittelbarer Kontext für Südkorea: Die Regierung hat Ende Juli ein Paket über 950 Mrd. $ mit den USA abgeschlossen, darunter ein GPU-Capex-Paket (Vera Rubin, Plan für 10.000 Karten im folgenden Geschäftsjahr laut ETNews vom 19. Juli). Das Land kauft massiv ein, während eine globale Zahl daran erinnert, dass nicht orchestrierter Compute verschwendete Capex ist.

Unter der Haube

Drei technische Ansätze, die Elice, Nota und Lablup abdecken:

• Batching und Scheduling - Die individuelle Inferenz unterutilisiert systematisch eine A100/H200; es wird dynamisches Batching (wie vLLM) und Multi-Tenancy benötigt.
• Model Routing - Viele Lasten benötigen nicht das große Modell; ein Router, der auf ein kleineres Modell oder eine quantisierte Variante umschaltet, gewinnt 20-40 %.
• KV-Cache-Management - Lange Kontexte explodieren den Speicher; Kompression und intelligente Persistenz vermeiden die Unterutilisierung der Slots.

Elice (Plattformen für Bildung/Unternehmen), Nota (Modellkompression) und Lablup (Multi-Tenant-Orchestrierung Backend.AI) sind die drei Seiten derselben Orchestrierungsgleichung.

Und was jetzt?

Zwei Fäden konvergieren. Token-Budget-Caps - Der CFO sieht nicht den Preis des Tokens, er sieht die GPU-Rechnung. Ein GPU mit 5 % Nutzung ist dasselbe wie ein Token zum 20-fachen des Marktpreises. APAC-AI-POC - Südkorea ist nicht besonders bei der Auslastung, aber es ist das erste Land, das Herausgeber veröffentlicht, die sich auf die Behebung des Problems spezialisiert haben. Der Übergang von POC zu Produktion stockt an der Orchestrierung, nicht am Modell. Zu beobachten: Adoption von Nutzungsbenchmarks über die akademische MFU hinaus, Veröffentlichung gleichwertiger Studien außerhalb der US-Cloud (Alibaba Cloud, Tencent, On-Premise-Unternehmen) und ob die südkoreanischen Hyperscaler (NHN Cloud, KT Cloud) diese nativen Stacks integrieren.