DeepSeek V4解剖──1.6兆パラメータ・KVキャッシュ90%削減・蒸留論争の実態
何が起きたのか 2026年4月24日、中国のAIスタートアップDeepSeekは最新モデル「DeepSeek V4」のプレビュー版をオープンソースで公開した(DeepSeek API公式ドキュメント・Bloomberg 2026年4月24日)。2025年1月のDeepSeek V3/R1が世界に衝撃を与えてから約1年、V4はアーキテクチャを根本から再設計し、100万トークンのコンテキスト処理・推論FLOPs73%削減・KVキャッシュ90%削減という数字を引っ提げて登場した。 同時に、Anthropicが発表した蒸留(Distillation)告発と米政府の警告がV4公開と時期を重ねた。「フロンティアモデルに迫る」という主張の実態と、それを取り巻く知的財産紛争を一次ソースに基づいて整理する。 モデルラインナップと基本スペック V4はMixture-of-Experts(MoE)アーキテクチャを採用した2モデル構成で、どちらもMITライセンスのオープンウェイトとして公開されている(Hugging Face公式モデルカード 2026年4月24日)。 仕様 V4-Pro V4-Flash 総パラメータ数 1兆6,000億(1.6T) 2,840億(284B) アクティブパラメータ数 490億(49B) 130億(13B) コンテキスト長 100万トークン 100万トークン ライセンス MITライセンス MITライセンス 主な用途 高度な推論・コーディング・長文脈エージェント 高速応答・要約・ルーティング MoEの特性上、推論時に全パラメータを動かすわけではない。V4-Proはトークン1つを処理する際に490億パラメータのみを使う。 $$\frac{49\text{B(アクティブ)}}{1{,}600\text{B(総計)}} \approx 3.1\%$$つまり1.6兆という数字は「理論的な表現力の上限」であり、1回の推論で使う計算量はGPT-5.3クラスの高密度モデルとは別次元で少ない。この非対称性がDeepSeekの価格優位の根本にある。 技術的イノベーション:長文脈と効率性の追求 V4の核心は、トランスフォーマーの根本的な課題である「文脈が長くなるほど計算量が二乗オーダーで増大する」問題への解法にある。 ハイブリッドAttention機構 V4は2種類のAttention手法を組み合わせたハイブリッド構成を採用している(NVIDIA技術ブログ・ArXiv IQ技術レポート 2026年4月24日)。技術分析記事では「Compressed Sparse Attention(CSA)」「Heavily Compressed Attention(HCA)」という呼称が使われているが、DeepSeekの一次技術文書での正式表記は現時点で独立検証が困難なため、概念の説明として参照されたい。 圧縮スパース注意(CSA相当):系列方向にKVエントリを動的に圧縮しつつ、注意を向けるブロックを動的に選択することで計算負荷を削減 強力圧縮注意(HCA相当):KVエントリを大幅に圧縮し、長文脈全体を俯瞰的に把握するための機構 この組み合わせにより、前世代のDeepSeek V3.2との比較で推論FLOPs 73%削減・KVキャッシュメモリ90%削減を達成した(WCCFTech・NVIDIAブログ 2026年4月24日)。 $$\text{V4-Pro KVキャッシュ削減率} = 1 - 0.10 = 90\%\text{(対V3.2比)}$$100万トークンの文脈を扱う際のメモリ負荷が10分の1になることの意味は大きい。従来、長文脈モデルのAPI提供はGPUメモリコストの高さから採算が取りにくかった。90%削減によって、この問題が大幅に緩和される。 訓練と最適化の新機軸 層間接続の強化(mHC相当):大規模モデルにおける層間の信号伝播を安定化させ、表現力を向上させる手法(「Manifold-Constrained Hyper-Connections」という呼称は二次情報源に基づく) Muon Optimizer:従来のAdamWに代わる最適化手法。大規模訓練の効率を向上させる(HuggingFace公式モデルカード) FP4 + FP8混合精度:MoEのエキスパートパラメータにFP4精度を採用し、それ以外にFP8を用いることでメモリ使用量と推論コストを削減 ハードウェア面では、NVIDIA Blackwell(GB200 NVL72)上でのテストにおいて150トークン/秒/ユーザー超のスループットを達成している(NVIDIA技術ブログ 2026年4月24日)。 正確な価格比較:キャッシュヒットと標準価格を区別する DeepSeekの価格設定は確かに競争力があるが、数字の読み方に注意が必要だ。DeepSeek公式APIドキュメントはキャッシュヒット時の割引価格と標準価格(キャッシュミス時)を明確に区別している。 ...