Kimi K3の重み公開を検証──1.56TB・96シャード、16/896と活性104Bは矛盾しない
結論 Moonshot AI は Kimi K3 のモデル重みを2026年7月27日に公開しました。Hugging Face リポジトリには Safetensors 形式の 96シャードがあり、インデックスに記録されたテンソル本体の合計は 1,560,860,324,864バイト(1.5609 TB、約1.4197 TiB)です。Hugging Face の画面表示「1.56 TB」と一致します。 一方、公開直後の記事で混同しやすい点が3つあります。 **16/896=約1.79%**は、ルーテッドエキスパートの選択率です。 **104.2B/2.78T=約3.75%**は、総パラメータに対する活性パラメータの比率です。 公式の「64アクセラレータ以上」は効率を重視した推奨構成であり、ロードできる最小台数ではありません。AMD は 8基の MI355Xによる単一インスタンスの動作検証を公開しています。 したがって、「16/896なのに活性率が3.7%で食い違う」という理解は正確ではありません。分母が異なる2つの指標であり、数値は矛盾していません。 なお、ここでいう「full model weights」はモデル全体の重みがそろっているという意味です。ルーテッドエキスパートはネイティブ MXFP4 で公開されており、全パラメータの非量子化 bf16 版が公開されたという意味ではありません。 公開物から確認できる仕様 公式モデルカードと技術レポートが示す主な仕様は次のとおりです。 項目 公開値 総パラメータ 2.78T(モデルカードでは丸めて2.8T) 活性パラメータ 104.2B(モデルカードでは丸めて104B) デコーダー層 93層 Dense / MoE層 1 / 92 Attention構成 KDA 69層+Gated MLA 24層 hidden dimension 7,168 Latent MoE dimension 3,584 expert intermediate dimension 3,072 ルーテッドエキスパート 896個、各トークンで16個を選択 共有エキスパート 2個 視覚エンコーダー MoonViT-V2、401M 最大コンテキスト 1,048,576トークン 公開時の量子化 ルーテッドエキスパートをMXFP4、推論時の対応活性をMXFP8 技術レポートは重みと同時に公開済みです。「詳細は技術レポート待ち」ではありません。ただし、104.2Bのコンポーネント別集計表までは掲載されていないため、以下の内訳は公開設定と実装コードからの概算です。 ...