モデルとツール Jul 23, 2026 at 18:397ブックマークに追加

ホワイトハウスがムーンショットがアンソトロピックのFableを蒸留してKimi K3を構築したと非難しているが、技術的には成り立たない。Fableは7月にリリースされたが、K3は7月中旬だ。2週間では短すぎる — ムーンショットでさえも。ブラデン・ハンコック(ラウデ研究所)とネイサン・ランバート(AI2)がその理由を説明する。
簡単に言えば。 告発:MoonshotはClaude Fable 5の出力を吸い上げてKimi K3を構築したというもの。しかし、その日程がそれを不可能にしている。Fableは2026年7月1日、K3は7月中旬にリリースされた。わずか2週間で2.8兆パラメータのフロンティアモデルを蒸留するには物理的に不可能だ—たとえMoonshotでも。
ホワイトハウス科学顧問マイケル・クラツィオスは今週、アンソロピックが2026年春に公に主張していた教義(IP帯域ごとに検出された数百万のやり取り)を再び取り上げた。しかし、本日のTechCrunch掲載の研究者2名による記事で、この主張は否定されている。
ブラデン・ハンコック(Laude Institute、Snorkel AI共同創設者):
« Fableの出力を厳密に蒸留しただけで、これほど強力で迅速なモデルが得られるとは思えません。 » 技術的な議論によれば、蒸留のみでは教師ありファインチューニングに過ぎず、K3レベルのコードと推論能力には不十分だ。数千万のエージェントに対する強化学習が必要で、その際のAPIリクエストは「途方もなく高額で、時間的なボトルネックになる可能性があります」。
ネイサン・ランバート(アレン人工知能研究所)も追撃: 中国のモデルが進歩するにつれ、蒸留の効果は低下する。もし蒸留が有効なら、誰もがGLMやK3を追い抜こうと試みただろう—DeepSeek、MiniMax、Zhipuが真っ先に。アンソロピックとの差がこれほど早く広がることはなかったはずだ。
注目点。 2つの短期シグナル:(1) アンソロピックの反応—技術文書がより詳細に公開されるか(春と同様)、それとも沈黙し、文書作成の困難を露呈するか。 (2) 企業向けK3とFable 5の価格設定:K3がFableの10〜15%程度の価格で同等の性能を発揮すれば、蒸留論争は経済的に二次的な問題となる。真の差別化要因は他にある(中国国内データ、大規模RL、推論コスト)。
本記事は人工知能により作成され、人間の編集管理のもとで校閲されています。
Two weeks is indeed a very tight timeline for a full distillation. However, could Moonshot have used some advanced techniques or shortcuts?
Two weeks seems too short for full distillation, but could Moonshot have used a pre-existing model as a base?
What if Moonshot used a combination of techniques, not just distillation, to speed up the process? It's not impossible.
I wonder if Moonshot could have used a different approach, like fine-tuning, to achieve similar results in such a short time.
The timeline does seem too tight for a full distillation, but could Moonshot have used partial distillation or other methods?
I'm not sure about the technical details, but the timeline does seem tight for a full distillation.
The timeline might be tight, but perhaps they're using a different approach than full distillation.
Two weeks is indeed a very tight timeline for such a complex process. I wonder if there's more to this story than meets the eye.
Kimi K3 : de la preview au live