La GPU subutilizadas al 5 %: Elice, Nota, Lablup proponen la respuesta coreana a un cuello de botella mundial

Un estudio de CAST AI sobre ~23 000 clústeres Kubernetes (AWS/Azure/GCP): 5 % de uso promedio de GPU. Tres editores coreanos responden el mismo día. El factor estructural no es más *compute*, es mejor *compute*.

En términos sencillos

Un estudio de CAST AI publicado el 31 de julio y difundido por ETNews cuantifica en un 5 % el uso promedio de los GPUs en aproximadamente 23 000 clusters de Kubernetes explotados en los tres grandes clouds (AWS, Azure, GCP) cuando Kubernetes no está optimizado. Tres editores coreanos —Elice, Nota y Lablup— responden el mismo día con sus soluciones de producto. En otras palabras: el capex de GPU ya se paga, su uso es bajo en todo el mundo; Corea es el primero en publicar editores posicionados en la solución.

El hecho, en contexto

ETNews, 31 de julio de 2026. El artículo agrega dos niveles: una cifra GLOBAL (el estudio de CAST AI, 5 % de uso promedio medido en ~23 000 clusters de K8s explotados en AWS/Azure/GCP cuando Kubernetes no está optimizado) y una RESPUESTA LOCAL (tres editores coreanos que proponen cada uno un enfoque para la solución). Contexto inmediato para Corea: el gobierno cerró a finales de julio un paquete de 950 mil millones de dólares con Estados Unidos, que incluye un apartado de capex de GPU (Vera Rubin, plan de 10 000 tarjetas en el ejercicio siguiente según ETNews del 19 de julio). El país compra masivamente mientras una cifra global recuerda que el compute no orquestado es capex desperdiciado.

Bajo el capó

Tres enfoques técnicos que cubren Elice, Nota y Lablup:

• Batch y scheduling — la inferencia individual subutiliza sistemáticamente una A100/H200; se necesita dynamic batching (como vLLM) y multi-tenant.
• Enrutamiento de modelos — mucha carga no requiere el modelo grande; un router que redirige a un modelo más pequeño o una variante cuantizada recupera entre un 20-40 %.
• Gestión de caché KV — los contextos largos saturan la memoria; la compresión y persistencia inteligentes evitan la subutilización de los slots.

Elice (plataformas de formación/empresa), Nota (compresión de modelos) y Lablup (orquestación multi-tenant Backend.AI) son las tres caras de la misma ecuación de orquestación.

¿Y qué?

Dos hilos convergen. Límites de presupuesto por token — el CFO no ve el precio del token, ve la factura del GPU. Un GPU al 5 % de uso es lo mismo que un token con un precio 20 veces superior al de mercado. APAC-AI-poc — Corea no es particular en la tasa de uso, pero es el primero en publicar editores posicionados en la solución. El paso de POC a producción tropieza con la orquestación, no con el modelo. A vigilar: adopción de benchmarks de uso más allá del MFU académico, publicación de estudios equivalentes fuera de los clouds estadounidenses (Alibaba Cloud, Tencent, on-prem empresarial), y si los hyperscalers coreanos (NHN Cloud, KT Cloud) integran estas stacks de forma nativa.