Recursive Flintの動作要件──公式recは48GB以上のMac、総39.8B・活性2.5BのコーディングMoEの量子化サイズ・文脈長・自己申告ベンチを一次資料で整理
Photo by Vishnu Kalanad on Unsplash

Recursive Flintの動作要件──公式recは48GB以上のMac、総39.8B・活性2.5BのコーディングMoEの量子化サイズ・文脈長・自己申告ベンチを一次資料で整理

この記事でわかること Flintは、米Recursive Superintelligence, Inc.が出した初のモデルです。手元で動かすコーディングエージェント向けのMoEで、重みはApache 2.0で公開されています 自分の機材で動くかの目安がわかります。公式ランタイムrecは48GB以上のApple Silicon Mac(M4 Pro / M5 Pro / M5 Max)が条件です。rec用の公式INT4重みは約22.6GB、Unslothの4bit GGUFは約25GBで別の配布物です。24GB機なら3bit版を短い文脈で使う形になります 文脈長が資料によって512kと262,144トークンに分かれていることと、配布設定・rec・ホスト型で実際に使われている数字がわかります SWE-bench Pro v2 89.7%などのベンチマークはRecursive自身の測定で、本稿で確認した範囲では第三者の再現は見当たらないことがわかります ホスト型APIの規約では、入力と出力の学習利用を認めることが利用条件になっています(別途の書面合意や第三者経由の設定で条件は変わります)。重みのApache 2.0とは別のルールです Recursiveは2026年10月21日(UTC)、初のモデル「Flint」を公開しました。総パラメータ39.8B、1トークンあたりの活性は約2.5BのMoE(Mixture of Experts)です。重みはHugging FaceでApache 2.0として配布されています(Recursive『Introducing Flint』2026-10-21、Hugging Face RecursiveSI/flint)。 ノートPCでコーディングエージェントとして使えるかどうかは、メモリ量でほぼ決まります。公式のrecはM4 Pro / M5 Pro / M5 Max・統合メモリ48GB以上のMacでしか重みを落としません。それ以外の機材では、公式ドキュメントが案内するOllama用モデルや、Unslothなどの量子化版(GGUF)を使い、文脈長をメモリに合わせて動かすことになります。 1. 何が起きたか Recursiveは「再帰的に自己改善する超知能で知識発見を自動化する」ことを掲げるスタートアップで、CEOはRichard Socher氏です。Flintは同社が初めて外に出したモデルです。公式ブログはFlintを「ローカルのハードウェアで速くエージェント的にコーディングするために作ったMoEモデル」と説明しています(Recursive 2026-10-21)。 公開物は次の3つです。 重み: Hugging FaceのRecursiveSI/flintにBF16のチェックポイント(15シャード、合計79.6GB)とSGLang用の配信キット ローカル推論エンジンrec: GitHubのrecursive-oss/recでApache-2.0。Apple Silicon向けに最適化されています 規約: 2026年10月21日付の「Model Terms」。ホスト型サービスとソフトウェアに適用されます(Recursive Model Terms) 日本には株式会社Recursive(recursiveai.co.jp)という別の企業があります。Flintの発表元はrecursive.comを運営するRecursive Superintelligence, Inc.で、法人名もドメインも異なります。Hugging Face上の組織名はRecursiveSIです。 2. 一次資料の対応表 本記事では実機での測定はしていません。数字はすべて次の資料から取りました。確認日はいずれも2026-10-22です。 主張・数字 一次資料 種別 確認日 総39.8B・活性約2.5B、49層(dense 2+MoE 47)、ルーティング専門家256中6+共有専門家1 Hugging Face RecursiveSI/flint / config.json 公式モデルカード 2026-10-22 文脈長262,144トークン(max_position_embeddings) 同上 公式モデルカード 2026-10-22 文脈長は最大512k、推奨は256k以内 Introducing Flint 公式ブログ 2026-10-22 M4 Pro MacBook Proで125 tok/s超、64GBのNVIDIA RTX Sparkで150 tok/s超(短い文脈) 同上 公式ブログ(公称値) 2026-10-22 Terminal-Bench 2.1 54.9%、SWE-bench Pro v2 89.7%、SWE-bench Verified 74.2% モデルカード 開発元による測定 2026-10-22 recの要件はM4 Pro / M5 Pro / M5 Max、統合メモリ48GB以上、空き容量約30GB docs.recursive.com /edge/rec / GitHub recursive-oss/rec 公式ドキュメント 2026-10-22 rec用の公式INT4重みは5シャード合計22,568,912,600バイト(約22.57GB)、max_context 262,144、min_ram_bytes 48GiB recursive-oss/rec packaging/flint-int4-mlx.json 公式配布manifest 2026-10-22 Ollama用の公式パッケージflint:40b-a2b-qat-int4 docs.recursive.com /edge/ollama 公式ドキュメント 2026-10-22 4bit GGUF(UD-Q4_K_XL)25.05GB、3bit(UD-Q3_K_XL)18.5GB Unsloth docs: Flint / unsloth/flint-GGUF コミュニティ 2026-10-22 ホスト型APIの入出力は学習に使う(利用条件) Model Terms 公式規約 2026-10-22 2026年5月に評価額46.5億ドルで6.5億ドルを調達 TechCrunch 2026-10-21 報道 2026-10-22 AWSとの4.1億ドル・複数年契約(2026年7月28日発表) AWS press release 2026-07-28 公式発表 2026-10-22 3. 誰が・何を・いつ(一次資料の数字) 構成: 総39.8B、活性約2.5B モデルカードの数字は「総39.8B、1トークンあたり活性約2.5B」です。活性の数え方には注記があり、出力ヘッドを含み、入力埋め込み行列の全体は含めません。本体だけなら約2.2Bです。「40B-A2.5B」は丸めた呼び名だと明記されています(Hugging Face RecursiveSI/flint)。報道の「40B」はこの丸めた値です。 ...

2026年10月22日 · ひとりユニコーン
ローカルLLMとは──重み・量子化・実行ソフトで手元推論が成り立つ仕組みと、何が外に出ないか
Photo by Harrison Broadbent on Unsplash

更新 ローカルLLMとは──重み・量子化・実行ソフトで手元推論が成り立つ仕組みと、何が外に出ないか

この記事の日付について。 2026-09-27に調査・執筆し、公開日の2026-10-04に、Ollama公式FAQ(プライバシー・ollama ps・クラウド無効化の記述)、Ollamaのクラウドモデル一覧とドキュメント、Ollama library qwen3.6 tags、Qwen3-8Bの設定ファイルとモデルカード(コンテキスト長)、筆者環境の ollama list / ollama show の表示を一次資料で再確認して更新しました。本文中の「2026-09-27確認」は執筆時、「2026-10-04確認」は公開前の再確認の日付です。筆者環境の計測値は、断りがない限り2026-09-27の記録です。2026-10-11に第7節・第10節・第11節とよくある質問6項目を追記しました(「2026-10-11確認」はその日の確認です)。 この記事でわかること ローカルLLMの定義と、ChatGPTのようなクラウドLLMとの違い Ollama・LM Studioを使うとき、入力が手元に留まる範囲と、通信が発生する操作 重み・量子化・実行ソフトの3つで、手元の推論が成り立つ仕組み 自分のPCで動くかを、パラメータ数とビット数から見積もる計算方法 ローカルLLMが向く作業と、向かない作業 ローカルLLMとは、大規模言語モデル(LLM)の推論を自分のPCや自社サーバーの上で実行する使い方です。モデルの重みファイルを手元に置き、実行ソフトがそれを読み込んで文章を生成します。 ChatGPTとの違いは「どこで計算するか」です。クラウドLLMは入力を提供元のサーバーへ送って処理します。ローカルLLMは、モデルを取得したあとなら通信なしで応答できます。LM Studioの公式ドキュメントは、ダウンロード済みモデルとのチャットで入力した内容は端末の外に出ないと明記しています(LM Studio Docs『Offline Operation』2026-09-27確認)。動かせるかどうかは、主にメモリ量で決まります。小型の量子化モデルなら一般的なPCも候補になります。ただし必要量は重みだけでなくKVキャッシュや実行バッファでも変わるため、空きメモリと実際のロード状態を確認します。 1. ローカルLLMとは──「ローカル」は推論の実行場所を指す LLMを使う処理は、大きく「学習」と「推論」に分かれます。学習は大量の計算資源で重みを作る工程です。推論は、できあがった重みに文章を入力して続きを出させる工程です。 ローカルLLMの「ローカル」は、このうち推論をどこで実行するかを指します。学習まで手元で行う必要はありません。Qwen・Gemma・Llamaのように、開発元が重みを公開しているモデル(オープンウェイトモデル)をダウンロードして使うのが一般的です。 そのため「ローカルLLM」という名前のモデルがあるわけではありません。同じQwen3-8Bでも、自分のPCで動かせばローカル、クラウドのAPI経由で使えばクラウドです。 2. 一次資料の対応表 この記事の事実関係は、次の一次資料と筆者の運用記録から取っています。 主張 一次資料 種別 確認日 ローカル実行時、Ollamaはプロンプトやデータを見ない。既定の待ち受けは localhost の11434番ポート Ollama FAQ 公式ドキュメント 2026-09-27(プライバシーの記述は2026-10-04再確認) Ollamaはモデルをインターネットから取得する。モデルの保存場所、既定で5分間メモリに保持 Ollama FAQ 公式ドキュメント 2026-09-27 Ollamaのクラウド機能は OLLAMA_NO_CLOUD=1 で無効化できる Ollama FAQ 公式ドキュメント 2026-10-04 Ollamaのクラウドモデルには公開重みのモデルも並ぶ Ollama cloud models、Ollama docs: Cloud 公式ライブラリ・ドキュメント 2026-10-04 Ollamaの既定コンテキスト長はVRAM量で4k/32k/256kに変わる。ollama ps の列の意味 Ollama docs: Context length 公式ドキュメント 2026-09-27 LM Studioはモデル取得後はオフラインで動き、入力と文書は端末外に出ない。通信が要る5つの操作 LM Studio Docs『Offline Operation』 公式ドキュメント 2026-09-27 llama.cppは1.5〜8ビットの整数量子化、CPUとGPUの併用推論に対応。MITライセンス GitHub ggml-org/llama.cpp GitHub 2026-09-27 Qwen3-8Bは8.2Bパラメータ、36層、KVヘッド8、Apache 2.0。コンテキスト長は標準32,768トークン、YaRN併用で131,072トークン Hugging Face Qwen/Qwen3-8B、config.json モデルカード・設定ファイル 2026-09-27(コンテキスト長は2026-10-04確認) qwen3:8b の標準タグはq4_K_Mで5.2GB、q8_0は8.9GB、fp16は16GB Ollama library qwen3 tags 公式ライブラリ 2026-09-27 DGX Sparkでのモデル重みのサイズ・メモリ配分・生成速度 筆者の作業記録(2026-03-15、2026-08-04) 運用記録 2026-09-27 CPUのみの動作、Apple M系の対応、生成速度とメモリ帯域の関係 Ollama docs: macOS、llama.cpp Discussion #4167、Apple Newsroom 公式ドキュメント・GitHub・公式発表 2026-10-11 Qwen・Llama 3.3・Gemmaの商用利用条件、Ollamaのコーディング連携 各モデルのLICENSE、Gemma Terms of Use、Ollama docs: Integrations ライセンス文書・公式ドキュメント 2026-10-11 企画段階では、DGX Spark上でネットワークを遮断した状態の動作と、ollama ps・生成速度を新たに測る予定でした。この記事の公開時点では、その測定はまだ行えていません。そのため後半の数字は、過去の作業記録にある値と、一次資料からの計算値に限っています。 ...

初回公開 2026年10月4日 · 更新 2026年10月11日 · ひとりユニコーン
ローカルLLMおすすめはメモリ量で決まる──8・16・24・32GB以上の候補をOllamaの実サイズとDGX Spark運用記録で絞る
Photo by Franck V. on Unsplash

ローカルLLMおすすめはメモリ量で決まる──8・16・24・32GB以上の候補をOllamaの実サイズとDGX Spark運用記録で絞る

この記事の日付について。 2026-09-26に調査・執筆し、公開日の2026-10-04に、Ollama公式ライブラリのタグ別サイズ(gemma4・qwen3.6・qwen3・qwen3.8・qwen3-next)、Ollama公式FAQの ollama ps の説明、筆者環境の ollama list / ollama show の表示を再確認して更新しました。本文中の「2026-09-26確認」は執筆時、「2026-10-04確認」は公開前の再確認の日付です。筆者環境の計測値は、断りがない限り2026-09-26の記録です。 この記事でわかること 手元のメモリが8GB・16GB・24GB・32GB以上のとき、Ollamaでそのまま使える日本語向けの候補がどれか 候補をモデル名の「B数」ではなく、Ollamaで落ちてくる実ファイルのサイズで選ぶ理由 DGX Spark(統合メモリ128GB)で実際に使い続けているモデルと、品質不足でやめた構成の記録 Gemma 4・Qwen3.6・Qwen3のライセンスと、商用利用の根拠URL 今日中に動かし始めるための最短のコマンドと、コンテキスト長の落とし穴 結論から書きます。32GB以上のメモリがあるなら、筆者が日常運用している qwen3.6:35b-a3b(23〜24GB)が最初に試す候補です。24GBなら gemma4:26b(16〜19GB)か qwen3.6:27b(18〜19GB)、16GBでは gemma4:12b(7.7〜8.0GB)か qwen3:14b(9.3GB)、8GBでは qwen3:8b(5.2GB)か qwen3:4b(2.5GB)が現実的な線です。サイズはいずれもOllama公式ライブラリの表示値です(2026-10-04確認)。 ただし、ファイルサイズがメモリより小さいことは動作の保証になりません。実行時にはKVキャッシュや作業用のバッファも必要で、短いコンテキストから試して ollama ps で配置を確かめる前提の候補です。筆者が実機で品質まで確かめたのは32GB以上の帯だけで、8〜24GB帯の候補は公式サイズから選んだ段階です。どこまでが実測で、どこからが公式値からの逆算かは、表ごとに明記します。 1. 選び方の基準──「何B」ではなく「何GB」で決める ローカルLLMの紹介記事は、モデルを「7B」「27B」のようなパラメータ数で並べがちです。しかし、手元のPCに載るかどうかの大部分を決めるのは、量子化したあとのファイルサイズと、会話中に増えるKVキャッシュの合計です。これに実行時のバッファや、画像入力を使う場合の処理分が加わります。同じ「26B」でも、16ビットなら57.7GB、4ビット(Q4_0)なら14.4GBと4倍の開きがあります(Google AI for Developers『Gemma 4 model overview』最終更新2026-07-08)。 この記事では、次の4点で候補を絞りました。 メモリに載るか: Ollama公式ライブラリに表示されるタグ別サイズが、手元のメモリより十分小さいこと 日本語が使えるか: 開発元のモデルカードが多言語対応を明記していること。実測できたものは実測結果を優先 Ollamaで1コマンドで取れるか: 公式ライブラリにタグがあり、ollama pull だけで始められること 商用で使えるか: ライセンスが開発元の一次資料で確認でき、商用利用を妨げる独自条項がないこと 「量子化」は、モデルの重みを16ビットから8ビットや4ビットに丸めて小さくする処理です。Ollamaの標準タグは多くが4ビット前後に量子化済みで、q8_0 や bf16 の付いたタグはより大きく、元の精度に近い版です。たとえば qwen3.6:27b は標準で18〜19GB、q8_0 で30GB、bf16 で56GBです(Ollama library qwen3.6 tags 2026-10-04確認)。 2. 一次資料の対応表 この記事の数字は、次の一次資料と筆者の作業記録から取っています。 主張 一次資料 種別 確認日 gemma4の各タグのサイズ(e2b 4.6〜7.5GB、e4b 6.6〜9.5GB、12b 7.7〜8.0GB、26b 16〜19GB、31b 19〜20GB)とコンテキスト長 Ollama library gemma4 tags 公式ライブラリ 2026-10-04 qwen3.6の各タグのサイズ(27b 18〜19GB、35b-a3b 23〜24GB、q8_0/bf16版を含む) Ollama library qwen3.6 tags 公式ライブラリ 2026-10-04 qwen3の各タグのサイズ(4b 2.5GB、8b 5.2GB、14b 9.3GB) Ollama library qwen3 公式ライブラリ 2026-10-04 Gemma 4の5サイズと、BF16・SFP8・Q4_0別の重みのメモリ量 Google AI for Developers『Gemma 4 model overview』 公式ドキュメント 2026-09-26 Gemma 4はApache 2.0、事前学習140超・そのまま使える35超の言語 Hugging Face google/gemma-4-26B-A4B-it、Google Open Source Blog 2026-04-02 モデルカード・公式ブログ 2026-09-26 Qwen3.6-35B-A3B・Qwen3.6-27BはApache 2.0 Hugging Face Qwen/Qwen3.6-35B-A3B、Qwen/Qwen3.6-27B モデルカード 2026-09-26 Qwen3-8BはApache 2.0、100超の言語と方言に対応 Hugging Face Qwen/Qwen3-8B モデルカード 2026-09-26 Ollamaの既定コンテキスト長はVRAM量で4k/32k/256kに変わる Ollama docs: Context length 公式ドキュメント 2026-09-26 llama.cppはMITライセンス、1.5〜8ビットの整数量子化に対応 GitHub ggml-org/llama.cpp GitHub 2026-09-26 DGX Sparkでの速度・品質の実測、登録モデルとサイズ、ローカルLLMでの記事生成をやめた経緯 筆者の作業記録(2026-04-03、2026-07-14、2026-08-04、2026-09-08) 実測・運用記録 2026-09-26 Ollamaのqwen3.6のページには、ライセンスの記載がありませんでした(2026-09-26確認)。ライセンスはHugging Faceのモデルカードで確認しています。 ...

2026年10月4日 · ひとりユニコーン
【DGX Spark実機】動画生成AIをローカルで動かす手順──専有VRAMのないGB10(128GB・aarch64)にLTX-2.3を入れ、10秒動画を116秒で出すまで
Photo by Clint Patterson on Unsplash

【DGX Spark実機】動画生成AIをローカルで動かす手順──専有VRAMのないGB10(128GB・aarch64)にLTX-2.3を入れ、10秒動画を116秒で出すまで

この記事でわかること 専有VRAMという区分を持たない統合メモリ機(DGX Spark / GB10・128GB・aarch64)でも、LTX-2.3のローカル動画生成は動きます。本記事の所要時間はすべて筆者環境での一次実測であり、第三者が検証できる公開情報源はありません。再現条件は2026-07-18計測、LTX-2.3 22B distilled 1.1、量子化fp8-cast、24fps、Image-to-Videoで、1本あたり512×960・10秒(241フレーム)が116秒、704×1216・10秒(241フレーム)が182秒でした 導入に必要なディスクは重みだけで約71.5GB(SI表記)。aarch64向けのwheelは公式に明記されていませんが、PyPIのltx-pipelinesとtorch 2.13.0はそのまま入りました ComfyUI-LTXVideoが書く「32GB+ VRAM」という要件が、統合メモリ機では何に対応するのか。実測のMemFree推移の落ち込みで答えます 導入時に実際に出た3つのエラー(循環インポート・SiglipVisionModel・metaテンソル)と、システムごと落ちたOOMの原因・対処 LTX-2.3の重みライセンスと商用利用の線引き(年間売上1,000万ドルの閾値) 1. なぜローカルなのか、この記事は誰向けか クラウドの動画生成サービスは、たたむときは一斉にたたまれます。OpenAIはSoraをローンチから約半年で終了し、ディズニーとの提携も解消しました(/posts/openai-sora-shutdown-disney-deal/)。従量課金とアップロード制限に加えて、そもそもサービスが来年もある保証がない。これがローカル実行を選ぶ実務的な理由です。 この記事は次の条件に当てはまる人向けです。 Linux + NVIDIA GPU環境を自分で管理できる 重み約71.5GBを置けるディスクがある 1本あたり2〜4分の待ちを許容できる そして、この記事が特に扱うのは専有VRAMを持たない統合メモリ機です。DGX Spark(GB10)やApple Silicon系のように、CPUとGPUが同じ物理メモリを共有する構成では、「VRAM 16GB / 24GB / 32GB」という一般的な物差しがそのまま使えません。ここが検索上位のページで空白になっている部分です。 なお本記事はモデル比較記事ではありません。LTX-2.3が他の動画生成モデルより良いかどうかは扱わず、「入れて回す」ことだけを扱います。 2. 検証環境 項目 値 確認方法 機材 NVIDIA DGX Spark(GB10 Blackwell) ─ メモリ ユニファイドメモリ128GB表記(メーカー公称値) 筆者環境の実行ログのMemFree最大値は110.8GBでした。OSから見えるメモリ総量(/proc/meminfoのMemTotal)は今回記録しておらず、本記事では総量の値を用いません 専有VRAM なし(CPU/GPUが同一メモリを共有) ─ アーキテクチャ ARM64(aarch64) ─ カーネル Linux 6.14.0-1015-nvidia 筆者環境のuname -r出力 Python 3.12 筆者環境のvenvパスlib/python3.12/ PyTorch 2.13.0(cu13系wheel) 筆者環境のpip show torch/導入ログ CUDA関連 cuda-toolkit 13.0.3.0 / nvidia-cuda-runtime 13.0.96 / nvidia-cudnn-cu13 9.20.0.48 / triton 3.7.1 筆者環境のpip list | grep -E 'cuda|cudnn|triton'の解決結果 パイプライン PyPI ltx-pipelines 1.0.0(ltx-core 1.0.0同梱) 導入ログ モデル LTX-2.3 22B distilled 1.1 + spatial upscaler x2 1.1 + Gemma-3-12B(テキストエンコーダ) ─ 量子化 QuantizationPolicy.fp8_cast() 実行ログquantization=fp8-cast 検証日 導入・実測とも2026-07-18。資料の再確認は2026-09-08 ─ この表のカーネル・Python・PyTorch・CUDA関連の各バージョンは、いずれも筆者環境で実際に解決された構成の記録であり、公開情報源で第三者が検証できる性質のものではありません。ディストリビューション名とバージョン文字列は今回の記録に残っていないため、カーネル版のみを載せます。x86 + 単体GPUの比較機は手元にないので、他環境との横並び比較はこの記事では行いません。 ...

2026年9月8日 · ひとりユニコーン
テキスト重み55.7GBがUnsloth 4bitで15.9GBに──Muse Glimmer 30Bの24GB動作とMetaベンチの留保
Photo by Evan Lee on Unsplash

テキスト重み55.7GBがUnsloth 4bitで15.9GBに──Muse Glimmer 30Bの24GB動作とMetaベンチの留保

何が起きたのか Metaは2026年8月10日、300億パラメータ(公称。モデルカード表記では約29.6B)のオープンウェイトモデル「Muse Glimmer」をApache 2.0ライセンスで公開しました。なおMetaはライセンスとは別に、アクセス・利用へ適用されるUsage Policyを公開しています(後述)。公式リサーチブログは冒頭でこのモデルを「a 30-billion-parameter model optimized for always-on local agent workflows」と定義しており、汎用チャットではなく常時稼働のローカルエージェントを名指しした位置づけになっています(Meta AI Research 2026-08-10)。 学習方法についても公式ブログは踏み込んでおり、「We trained Muse Glimmer on Muse Spark’s outputs using logit distillation, leveraging a similar data mix as the teacher」と記述しています。上位モデルMuse Sparkのロジットを教師とした蒸留モデルであることが明記されている点は、後述するベンチマークの偏りを読むうえで効いてきます。 配布は Hugging Face 経由で、llama.cpp・MLX・ExecuTorch への統合が予告されました。このうち llama.cpp 対応は公開当日の2026年8月10日にマージ済みで、build b10353 以降で利用できます(meta-models/Muse-Glimmer-30B-GGUF)。言語については「more than 100 languages」のデータで学習したとされていますが、全言語で評価済みではなく、手厚くサポートされない言語では性能が落ち得るとモデルカードのLimitationsに明記されています。 本稿では「30Bが単一のコンシューマGPUで常時稼働する」という主張が、どの数値によって成立しているのかを、重みサイズとKVキャッシュの両側から検証します。そのうえで、勝っているベンチと負けているベンチがきれいに割れている点を確認します。 55.7GBから15.9GBへ──量子化の刻み方 公式ブログは、フル精度で「over 55 GB」の重みがK-Quant圧縮で「under 20 GB」に収まると述べています。Metaが24GB VRAM向けとして検証・配布する公式GGUFはK-Quant-17GB(実サイズ16.8GB)です(meta-models/Muse-Glimmer-30B-GGUF)。これとは別に、第三者のUnslothが独自の量子化ビルドを公開しており、ビット幅ごとの刻みはそちらで確認できます(unsloth/Muse-Glimmer-30B-GGUF)。 量子化 サイズ UD-IQ2_XXS(2bit) 10.7 GB UD-Q3_K_XL(3bit) 13.4 GB UD-Q4_K_XL(4bit) 15.9 GB UD-Q5_K_M(5bit) 19.2 GB UD-Q6_K_XL(6bit) 26.3 GB Q8_0(8bit) 29.6 GB BF16 55.7 GB 注意が要るのは、この55.7GBが何のサイズかという点です。UnslothのBF16 GGUFは合計55.7GBですが、これは視覚エンコーダを含まないテキストモデルのサイズです。モデル全体は約29.6Bパラメータで、公式のBF16 safetensorsは合計約59.6GB(meta-models/Muse-Glimmer-30B)。両者の約3.9GBの差は、主に別配布される約1.8Bパラメータの視覚エンコーダに対応します。「24GB級のGPU1枚」を一次的に裏付けているのはUnslothの15.9GBではなく、Metaが24GB向けとして検証している公式K-Quant-17GB(16.8GB)のほうです。 ...

2026年8月11日 · ひとりユニコーン
33Bの動画モデルが最小42.5GBに縮んだ──MiniMax-H3の重み公開と、日本が『除外地域』に入っていないライセンス
Photo by Peter Stumpf on Unsplash

33Bの動画モデルが最小42.5GBに縮んだ──MiniMax-H3の重み公開と、日本が『除外地域』に入っていないライセンス

何が起きたのか MiniMax が動画生成モデル MiniMax-H3 の重みを Hugging Face で公開しました。日付は 3 つに分けて読む必要があります。H3 というモデル自体は 2026 年 7 月 31 日に MiniMax プラットフォームの API と Hailuo アプリで先行してローンチされており、ライセンス文書に記載された日付は 8 月 2 日、そして 8 月 3 日に公開されたのが「オープンウェイト」です。公式モデルカード(Hugging Face MiniMaxAI/MiniMax-H3)によると、H3 は 33B パラメータの dense・単一ストリーム Transformer で、テキスト・画像・動画・音声を入力に取り、4〜15 秒・最大 2K・24FPS の映像と 32kHz ステレオ音声を同時に生成します。推論精度は BF16 です。 ただし、この「最大 2K」はシステム全体の仕様です。今回ローカルに降りてきた中核の H3-Base について、モデルカードは「Generates audio and video based on the H3-Context-IR output, producing results at 768p resolution」と書いています。2K 化を担う H3-Regenerate-2K については「Due to the complexity of the system, this module is not yet open-sourced. We will release it once it is ready」と明記されており、今回のオープンウェイト公開には含まれていません。公式品質の 2K を得る経路は、現時点では MiniMax の API 側に残っています。 ...

2026年8月4日 · ひとりユニコーン
アーキ据え置きでDeepSWEが7.3→54.4──DeepSeek-V4-Flash-0731の重みをMITで開き、304Bと284Bの差を潰す
Photo by Tyler on Unsplash

アーキ据え置きでDeepSWEが7.3→54.4──DeepSeek-V4-Flash-0731の重みをMITで開き、304Bと284Bの差を潰す

何が起きたのか DeepSeek が DeepSeek-V4-Flash-0731 の重みを Hugging Face 上で MIT ライセンスとして公開しました(Hugging Face deepseek-ai/DeepSeek-V4-Flash-0731)。モデルカードは冒頭で、これが「the official release of DeepSeek-V4-Flash, superseding the preview version」であると明記しています。API 側は先行して切り替わっており、DeepSeek 公式 API ドキュメントには「The deepseek-v4-flash model has been updated to DeepSeek-V4-Flash-0731. The calling method remains unchanged」と記載されています(DeepSeek API Docs News)。API のパブリックベータ投入は 2026-07-31 と報じられています(TechNode 2026-07-31)。 今回のリリースで技術的に興味深いのは、モデル構造を変えていないという点です。モデルカードは 0731 が DeepSeek-V4-Flash-DSpark と同じ構造だと述べ、TechNode も DeepSeek の説明として「keeps the same structure and size as the preview version but has been retrained」と伝えています。つまりベンチマークの伸びは、アーキテクチャ変更ではなく訓練・ポストトレーニングの成果として提示されています。 そして伸び幅が尋常ではありません。Terminal Bench 2.1 が 61.8 から 82.7、DeepSWE に至っては 7.3 から 54.4 です。 ...

2026年8月1日 · ひとりユニコーン
Kimi K3の重み公開を検証──1.56TB・96シャード、16/896と活性104Bは矛盾しない
Photo by Tyler on Unsplash

Kimi K3の重み公開を検証──1.56TB・96シャード、16/896と活性104Bは矛盾しない

結論 Moonshot AI は Kimi K3 のモデル重みを2026年7月27日に公開しました。Hugging Face リポジトリには Safetensors 形式の 96シャードがあり、インデックスに記録されたテンソル本体の合計は 1,560,860,324,864バイト(1.5609 TB、約1.4197 TiB)です。Hugging Face の画面表示「1.56 TB」と一致します。 一方、公開直後の記事で混同しやすい点が3つあります。 **16/896=約1.79%**は、ルーテッドエキスパートの選択率です。 **104.2B/2.78T=約3.75%**は、総パラメータに対する活性パラメータの比率です。 公式の「64アクセラレータ以上」は効率を重視した推奨構成であり、ロードできる最小台数ではありません。AMD は 8基の MI355Xによる単一インスタンスの動作検証を公開しています。 したがって、「16/896なのに活性率が3.7%で食い違う」という理解は正確ではありません。分母が異なる2つの指標であり、数値は矛盾していません。 なお、ここでいう「full model weights」はモデル全体の重みがそろっているという意味です。ルーテッドエキスパートはネイティブ MXFP4 で公開されており、全パラメータの非量子化 bf16 版が公開されたという意味ではありません。 公開物から確認できる仕様 公式モデルカードと技術レポートが示す主な仕様は次のとおりです。 項目 公開値 総パラメータ 2.78T(モデルカードでは丸めて2.8T) 活性パラメータ 104.2B(モデルカードでは丸めて104B) デコーダー層 93層 Dense / MoE層 1 / 92 Attention構成 KDA 69層+Gated MLA 24層 hidden dimension 7,168 Latent MoE dimension 3,584 expert intermediate dimension 3,072 ルーテッドエキスパート 896個、各トークンで16個を選択 共有エキスパート 2個 視覚エンコーダー MoonViT-V2、401M 最大コンテキスト 1,048,576トークン 公開時の量子化 ルーテッドエキスパートをMXFP4、推論時の対応活性をMXFP8 技術レポートは重みと同時に公開済みです。「詳細は技術レポート待ち」ではありません。ただし、104.2Bのコンポーネント別集計表までは掲載されていないため、以下の内訳は公開設定と実装コードからの概算です。 ...

2026年7月28日 · ひとりユニコーン
お問い合わせ: [email protected]