GPUの使用率が5%：Elice、Nota、Lablupが世界的な不足に対する韓国の回答を提案

日本の研究によると、AWS/Azure/GCP上の約23,000のKubernetesクラスターを対象としたCAST AIの調査で、平均GPU使用率が5%であった。3社の韓国企業が同日に反応した。構造的なレバレッジは、コンピューティングの量ではなく、コンピューティングの質の向上にある。

簡単に言えば

CAST AIによる7月31日公開の調査によると、最適化されていないKubernetesを使用するAWS、Azure、GCPの約23,000のクラスターにおけるGPU平均利用率は5%にとどまっている。同日に韓国の3社（Elice、Nota、Lablup）がそれぞれのソリューションを発表した。つまり、GPUの設備投資は既に行われているが、世界中で利用率が低い状態が続いており、韓国はその解決策を提供するベンダーを初めて発表した国となった。

事実と背景

ETNews、2026年7月31日。記事は2つのレベルを集約している。1つはグローバルな数字（CAST AIの調査、最適化されていないKubernetesを使用するAWS/Azure/GCPの約23,000のクラスターにおける平均5%の利用率）、もう1つはローカルな対応（3社の韓国ベンダーがそれぞれ解決策を提案）。韓国の直近の背景として、政府は7月末に米国と総額9,500億ドルのパッケージを締結し、そのうちGPU設備投資（Vera Rubin、ETNews7月19日記事によると次年度に1万枚のGPU導入計画）が含まれている。同国は大規模な設備投資を行う一方で、グローバルな数字が非最適化のコンピューティングは設備投資の無駄遣いであることを改めて示している。

技術的詳細

韓国の3社（Elice、Nota、Lablup）がカバーする3つの技術的アプローチ：

• バッチ処理とスケジューリング - 個別の推論ではA100/H200が常に過小利用される。動的バッチ処理（vLLMのような）とマルチテナント化が必要。
• モデルルーティング - 全ての負荷が大規模モデルを必要とするわけではない。ルーターが小規模モデルや量子化モデルに切り替えることで、20-40%のリソース回収が可能。
• KVキャッシュ管理 - 長いコンテキストはメモリを圧迫する。圧縮とスマートな永続化により、メモリスロットの過小利用を防ぐ。

Elice（トレーニング/エンタープライズプラットフォーム）、Nota（モデル圧縮）、Lablup（マルチテナントオーケストレーションBackend.AI）は、同じオーケストレーション方程式の3つの側面を表す。

結論

2つの流れが収束する。Token-budget-caps - CFOはトークンの価格ではなく、GPUの請求額を見ている。利用率5%のGPUは、実質的に市場価格の20倍のトークン価格と同等。APAC-AI-poc - 韓国は利用率自体が特殊なわけではないが、解決策を提供するベンダーを初めて発表した国である。POCからプロダクションへの移行のボトルネックはモデルではなく、オーケストレーションにある。注目すべき点：MFU（Model FLOPs Utilization）を超えた利用率ベンチマークの採用、米国クラウド（Alibaba Cloud、Tencent、オンプレミス企業）以外での同等の調査発表、韓国のハイパースケーラー（NHN Cloud、KT Cloud）がこれらのスタックをネイティブに統合するかどうか。