Mooncake、Moonshot AI（Kimi）と清華大学の研究協力から誕生

Moonshot AIは、大規模AIモデルであるKimi K-Seriesなどの展開における「メモリウォール」課題に対処する重要な解決策であるMooncakeの起源を明らかにした。このプロジェクトは、Moonshot AIの主力AI製品であるKimiと、中国のAI・コンピューティング分野で知られた一流大学である清華大学の研究協力から直接生まれたものである。

「メモリウォール」とは、プロセッサ速度とメモリアクセス遅延の乖離を指し、推論時のキーバリュー（KV）キャッシュに膨大なメモリを要する大規模言語モデルのサービングで深刻なボトルネックとなる問題である。Mooncakeはこの問題を緩和し、Kimi K-Seriesのようなモデルをリアルタイムで効率的にサービングすることを可能にする。

中国のAI分野でグローバルリーダーと競う有力企業であるMoonshot AIは、自社の拡大するモデルエコシステムを支えるためにこの取り組みを開始した。清華大学との協力により、システム最適化とAIインフラの学術的専門知識を活用した。

GitHub（github.com/kvcache-ai/Mooncake）でのオープンソース化後、Mooncakeは内部研究成果から世界中の開発者の貢献により活気づくオープンソースプロジェクトへと変貌した。kvcache-ai組織のもとでホストされ、AIサービング技術の革新を促進している。

この進化は、AI展開の実用的課題に取り組む産学連携の力を示しており、モデルサイズの増大に伴うスケーラブルな推論ソリューションへの道を開いている。