Kimi K3の重み公開を検証──1.56TB・96シャード、16/896と活性104Bは矛盾しない
Photo by Tyler on Unsplash

Kimi K3の重み公開を検証──1.56TB・96シャード、16/896と活性104Bは矛盾しない

結論 Moonshot AI は Kimi K3 のモデル重みを2026年7月27日に公開しました。Hugging Face リポジトリには Safetensors 形式の 96シャードがあり、インデックスに記録されたテンソル本体の合計は 1,560,860,324,864バイト(1.5609 TB、約1.4197 TiB)です。Hugging Face の画面表示「1.56 TB」と一致します。 一方、公開直後の記事で混同しやすい点が3つあります。 **16/896=約1.79%**は、ルーテッドエキスパートの選択率です。 **104.2B/2.78T=約3.75%**は、総パラメータに対する活性パラメータの比率です。 公式の「64アクセラレータ以上」は効率を重視した推奨構成であり、ロードできる最小台数ではありません。AMD は 8基の MI355Xによる単一インスタンスの動作検証を公開しています。 したがって、「16/896なのに活性率が3.7%で食い違う」という理解は正確ではありません。分母が異なる2つの指標であり、数値は矛盾していません。 なお、ここでいう「full model weights」はモデル全体の重みがそろっているという意味です。ルーテッドエキスパートはネイティブ MXFP4 で公開されており、全パラメータの非量子化 bf16 版が公開されたという意味ではありません。 公開物から確認できる仕様 公式モデルカードと技術レポートが示す主な仕様は次のとおりです。 項目 公開値 総パラメータ 2.78T(モデルカードでは丸めて2.8T) 活性パラメータ 104.2B(モデルカードでは丸めて104B) デコーダー層 93層 Dense / MoE層 1 / 92 Attention構成 KDA 69層+Gated MLA 24層 hidden dimension 7,168 Latent MoE dimension 3,584 expert intermediate dimension 3,072 ルーテッドエキスパート 896個、各トークンで16個を選択 共有エキスパート 2個 視覚エンコーダー MoonViT-V2、401M 最大コンテキスト 1,048,576トークン 公開時の量子化 ルーテッドエキスパートをMXFP4、推論時の対応活性をMXFP8 技術レポートは重みと同時に公開済みです。「詳細は技術レポート待ち」ではありません。ただし、104.2Bのコンポーネント別集計表までは掲載されていないため、以下の内訳は公開設定と実装コードからの概算です。 ...

2026年7月28日 · ひとりユニコーン
Kimi K3が示した『オープンウェイトのフロンティア』──2.8兆パラメータMoE、Intelligence Index 57、そして7/27の重み公開
Photo by Taylor Vick on Unsplash

Kimi K3が示した『オープンウェイトのフロンティア』──2.8兆パラメータMoE、Intelligence Index 57、そして7/27の重み公開

「中国のオープンウェイトはフロンティアの一歩後ろ」という前提が、2026-07-16に崩れました。中国のAIラボ Moonshot AI(月之暗面)が同日、フラッグシップの Kimi K3 をWebとAPIで公開し、独立ベンチマークで米国の最上位モデル群に肩を並べる数値を出したためです。しかも重みは公開予定です。 何が起きたのか Moonshot AIは2026-07-16、2.8兆パラメータのMixture-of-Experts(MoE、専門家混合)モデル Kimi K3 を発表し、WebサイトとAPIで即日利用可能にしました(Simon Willison 2026-07-16)。独立評価機関 Artificial Analysis の集計では、Kimi K3 の Intelligence Index は57点で、「Opus 4.8 および GPT-5.5 と同等、ただし Fable 5 と GPT-5.6 Sol には及ばない」と位置づけられました(Artificial Analysis 2026-07-16)。 この57点という数値そのものより重要なのは、それが公開予定の重み(オープンウェイト)を持つモデルの数字だという点です。Artificial Analysis は「Moonshot AIが2.8兆パラメータのモデルの重みを公開する計画を表明しており、実現すれば最上位のオープンウェイトモデルになる」と述べています。重みの公開は 2026-07-27 に予定されていると複数の一次報道が伝えています(Simon Willison 2026-07-16、the-decoder 2026-07-16)。 つまり「クローズドな米国モデルとほぼ同等の知能を、1週間後には誰でもダウンロードして自前のGPUで動かせるようになる」という構図です。ここに今回の騒ぎの核心があります。 アーキテクチャ:2.8兆パラメータの「疎な」巨人 Kimi K3 は総パラメータ2.8兆で、Simon Willison はこれを「最初のオープンな3兆クラスモデル」と表現しています(Simon Willison 2026-07-16)。ただし2.8兆すべてが毎回動くわけではありません。MoE構成では、トークンごとに一部の専門家(expert)だけが起動します。Kimi K3 は 896個の専門家のうち16個をトークンごとに活性化し、注意機構には Kimi Delta Attention を採用しています(Artificial Analysis 2026-07-16)。 このスパース性(疎性)がMoEの経済的な肝です。トークンあたりの活性化割合 $r$ を専門家数で近似すると、 $$ r \approx \frac{16}{896} \approx 0.018 $$となり、総パラメータのおよそ1.8%しか各トークンの計算に関与しません。総容量2.8兆で知識を蓄えつつ、実効的な計算コストは活性パラメータぶんに抑える——大規模オープンウェイトが現実的に配布・推論可能なのは、この疎性設計あってのことです。 ...

2026年7月17日 · ひとりユニコーン
緑のコードが流れるディスプレイ AIコーディングセキュリティ
Photo by wesfly on Unsplash

1,600万件の問い合わせと月之暗面──下院がCursorに5月13日までの回答を迫った理由

何が起きているのか 2026年4月29日、米下院ホームランドセキュリティ委員会のAndrew Garbarino委員長(共和・ニューヨーク州)と、対中共産党特別委員会のJohn Moolenaar委員長(共和・ミシガン州)は、AIコーディング環境「Cursor」を提供するAnysphere社、および民泊大手Airbnbに対し、中国製AIモデルの利用実態を問う書簡を共同で送付した(Committee on Homeland Security 2026年4月29日)。 引き金となったのは、2026年3月19日にAnysphereがリリースした新コーディングモデル「Composer 2」が、中国・北京拠点のMoonshot AI(月之暗面)の「Kimi K2.5」をベースに構築されていたという事実だ(agentmarketcap 2026年4月5日)。Anysphereは当初これを公表しておらず、外部開発者がAPIレスポンスから内部モデル識別子を発見したことで明るみに出た。 下院書簡が要求するのは、中国エンティティとの取引・通信記録、モデル選定の意思決定プロセス、関係従業員による対面ブリーフィングの3点を中心とする情報開示である(Semafor 2026年4月29日)。回答期限「2026年5月13日」については日本語・英語双方の二次報道で一致して伝えられているが、議会公式PDFが本記事執筆時点でアクセス制限のため直接確認できておらず、本記事ではあくまで二次報道に基づく日付として扱う。 本件は単一の規制問題にとどまらない。AnthropicのClaude蒸留攻撃レポート(2026年2月)、ホワイトハウス科学技術政策局のメモランダムNSTM-4(2026年4月)、そしてMoonshot AIの最新ラウンドで200億ドル評価に達した資本市場の動向(2026年5月)が、同じ「米中AIサプライチェーン」という座標軸の上に並んでいる。 Composer 2の出自:API識別子が暴いたもの 問題の発端は技術的に単純だ。Cursor Composer 2が2026年3月19日に発表された直後、開発者コミュニティはAPIレスポンスのヘッダに含まれるモデルパスを精査した。そこに記録されていたのが次の文字列である(agentmarketcap 2026年4月5日)。 a c c o u n t s / a n y s p h e r e / m o d e l s / k i m i - k 2 p 5 - r l - 0 3 1 7 - s 5 1 5 - f a s t 「kimi-k2p5」がKimi K2.5の内部表記、「rl」が強化学習でファインチューンしたバリアントを指すというのが技術ブログでの一般的な解釈だ。「0317」「s515」については日付やトレーニングステップ番号と読まれているが、これらは外部からの推定の域を出ない。Anysphereは後に、Composer 2がKimi K2.5をベースとし、Fireworks AIを介した商用ライセンス契約のもとで運用していると説明した(agentmarketcap 2026年4月5日)。同社VPの説明として伝えられているのは、計算リソースの約75%は自社のRL学習パイプラインに、残り25%がベースモデルに割り当てられたという内訳だ(公式ブログではなくインタビュー由来の数字)。 ...

2026年5月9日 · ひとりユニコーン
Cursor Composer 2とKimi K2.5の関係
Photo by Microsoft Copilot on Unsplash

Cursor Composer 2の正体──中国Moonshot AIの「Kimi K2.5」がベースモデルだった

2026年3月19日、AIコーディングツール大手のCursorが新モデル「Composer 2」を発表しました。公式ブログでは「フロンティア・レベルのコーディング知能」と紹介され、外部モデルへの言及は一切ありませんでした。 ところが発表から24時間も経たないうちに、開発者のFynn氏がCursorのAPIレスポンスの中にkimi-k2p5-rl-0317-s515-fastというモデルIDを発見。中国のAIスタートアップMoonshot AI(月之暗面)が開発したオープンソースモデル「Kimi K2.5」がベースモデルであることが明るみに出ました。Cursorは事実を認め、経営陣が「ブログでの言及漏れはミスだった」と謝罪しています(TechCrunchの記事『Cursor admits its new coding model was built on top of Moonshot AI’s Kimi』2026年3月22日)。 本記事では、発覚の経緯、技術的な構成、ライセンス問題、そして米国スタートアップが中国製オープンモデルを選ぶ背景を解説します。 発覚の経緯:APIレスポンスに残された「kimi」の文字列 Composer 2の正体が判明したのは、高度なリバースエンジニアリングではなく、CursorのOpenAI互換APIが返すレスポンスに含まれていた生のモデルIDがきっかけです。 開発者のFynn氏がAPIエンドポイントをデバッグしていたところ、レスポンスにkimi-k2p5-rl-0317-s515-fastという文字列が含まれていることに気付きました(Security Boulevardの記事『Moonshot AI Governance Breakdown: Lessons from the Cursor-Kimi K2.5 Incident』2026年3月)。これはCursorの内部名称ではなく、Moonshot AIのKimi K2.5を明確に示すIDです。 Fynn氏は「at least rename the model ID(せめてモデルIDを変えろ)」とSNSに投稿。Cursorがベースモデルの出自を隠す意図があったかどうかはともかく、モデルIDがそのまま外部に露出していたこと自体が、開発プロセスの杜撰さを示しています。 Cursorの公式回答:計算リソースの75%は独自開発 指摘を受け、CursorのVP of Developer EducationであるLee Robinson氏と共同創設者のAman Sanger氏が事実を認めました。 Robinson氏はX(旧Twitter)で「Composer 2はオープンソースのベースから始まった。最終モデルに費やされた計算リソースのうち、ベースモデル由来は約1/4に過ぎない」と説明しています。 項目 内容 ベースモデル Moonshot AIのKimi K2.5(オープンソース) 計算リソース配分 約25%がベースモデル、約75%がCursor独自のトレーニング 独自の技術的改良 継続的な事前学習(Continued Pretraining)+ 4倍規模の強化学習(RL) モデル提供経路 Fireworks AIの推論・RL基盤を経由 Sanger氏はTechCrunchの取材に対し「初期ブログでKimiベースであることに触れなかったのはミスだった。次期モデルでは修正する」と回答。X上では「多くのベースモデルをパープレキシティ評価で比較した結果、Kimi K2.5が最も強力だった」とモデル選定の理由を説明しています。 Kimi K2.5の技術仕様:1兆パラメータのMoEモデル Moonshot AIが2026年1月26日にリリースしたKimi K2.5は、オープンソースモデルの中で最高水準の性能を持つモデルです(Hugging Face公式ページおよびGitHubリポジトリによる)。 ...

2026年3月24日 · ひとりユニコーン
お問い合わせ: [email protected]