
この記事のまとめ
96GB以上のUMAマシンが一番バランスがいい。
【2026年】DS4Flash(DeepSeek V4 Flash)をローカルで動かす完全ガイド!96〜128GB VRAMを最大活用
「DeepSeek V4 Flash を自分のマシンで動かしたい。でもVRAMが足りない…」
そんな悩みを解決するのが DS4Flash。DeepSeek V4 Flash をローカル環境で動かすために ギリギリまで量子化 したGGUFモデルだ。Vitalik ButerinがGGUF版をリクエストして話題になったこのモデル、実は96〜128GBのVRAMがあれば、llama.cpp で完全ローカル動作する。
この記事では、DGX Spark(128GB)やMac Studio、GMKtec EVO-X2といったハイエンドマシンでDS4Flashを動かす方法を、メモリ最大活用の設定含めて完全解説する。
まず結論:DS4Flashは96GB以上の統一メモリがあれば実用的に動く
| 質問 | 答え |
|---|---|
| DS4Flashって何? | DeepSeek V4 Flashをq2/reap+q4で超量子化したGGUFモデル |
| 必要なVRAMは? | 96〜128GB。統一メモリ(UMA)環境が最適 |
| どんなマシンで動く? | DGX Spark / Mac Studio / GMKtec EVO-X2 など |
| 速度は? | 20〜40 tokens/s。チャットなら実用十分 |
| セットアップ難易度は? | llama.cppが使えれば30分程度 |
| なぜ量子化が重要? | フルモデルは約700GB。量子化で96GBに圧縮 |
DS4Flashとは
DS4Flashは、DeepSeek社がリリースしたDeepSeek V4 Flashを、ローカル実行向けに量子化したGGUFモデルだ。
コア技術:q2/reap + q4 二段階量子化
通常のDeepSeek V4 Flashは MoE(Mixture of Experts)アーキテクチャで、総パラメータは約700GB(FP16換算)。これをそのままローカルに載せるのは事実上不可能だ。
そこで登場するのが q2/reap + q4 の二段階量子化:
| 量子化方式 | 圧縮率 | 品質への影響 | 用途 |
|---|---|---|---|
| **q2(reap)** | 約90%削減 | 軽微。MoEルーター部分が特に効く | モデル全体のベース量子化 |
| **q4** | 約75%削減 | ほぼ無視できる | アテンション層など重要部分に適用 |
| **2bit + 4bit ハイブリッド** | 約85%削減 | 実用上問題なし | DS4Flashの中核技術 |
この組み合わせにより、700GB級のモデルを96GBまで圧縮しながら、実用的な品質を維持している。
なぜVitalik Buterinがリクエストしたか
2026年5月、イーサリアム共同創設者のVitalik Buterinが「ローカルで動くDeepSeek V4 FlashのGGUF版が欲しい」とXでポスト。これに応えて、ローカルLLM実践者の 0xSero が量子化版をすぐにアップロードしたことで話題になった。
Vitalik自身がDGX Spark(128GB統一メモリ)を愛用しており、「自宅のマシンでClaude級のモデルを動かしたい」というニーズが、DS4Flashの開発を加速させた。
必要なハードウェア:96〜128GBの統一メモリが鍵
DS4Flashを動かすには、96GB以上のVRAM(または統一メモリ) が必須条件だ。通常のGPU(RTX 5090で32GB)では絶対に動かない。
対応マシン一覧
| マシン | メモリ | VRAM割当可能量 | 想定速度 | 価格帯 |
|---|---|---|---|---|
| DGX Spark | 128GB統一 | 最大110GB(Linux) | 30〜40 tok/s | 約$3,000 |
| Mac Studio(M3 Ultra) | 128GB統一 | 最大96GB | 25〜35 tok/s | 約$5,000〜 |
| GMKtec EVO-X2 | 128GB LPDDR5X | 最大110GB(Linux) | 20〜30 tok/s | 約$2,000 |
| Ryzen AI Max+ 395 搭載機 | 128GB統一 | 最大110GB | 20〜30 tok/s | 約$1,500〜 |
| MacBook Pro(M3 Max) | 128GB統一 | 最大96GB | 20〜25 tok/s | 約$6,000〜 |
| 自作PC + 2x RTX 3090 | 48GBx2 | 96GB | 35〜45 tok/s | 約$3,000〜 |
統一メモリ(UMA)が最適な理由
DS4Flashのような超大規模量子化モデルは、CPUとGPUの両方から同じメモリにアクセスできる統一メモリアーキテクチャ(UMA) で真価を発揮する。
| 方式 | メリット | デメリット |
|---|---|---|
| **UMA(DGX Spark / Mac / EVO-X2)** | 128GB全部をVRAM的に使える。セットアップが簡単 | 帯域が専用GPUより低い |
| **マルチGPU(RTX 3090 x2)** | 専用VRAMで高速。帯域が広い | SLI/NVLinkが必要。消費電力が大きい |
| **eGPU(OCuLink + RTX 4090)** | デスクトップ級GPUのVRAMを使える | 帯域制限あり。24GBしかない |
結論:96GB以上のUMAマシンが一番バランスがいい。 特にDGX SparkとGMKtec EVO-X2は価格と性能のバランスが最強だ。
メモリ最大活用設定:128GB中110GBをVRAMに割り当てる
これが 「メモリを最大限活用したやつ」 の核心部分だ。
Linux環境では、UMAマシンのBIOS設定 + GRUBブートオプションを調整することで、128GB中の110GBをVRAMとして割り当てることができる。
Linux(Ubuntu)での設定手順
Step 1: BIOSでGTT(Graphics Translation Table)設定を確認
1. マシンを再起動し、DEL/F2キーを連打してBIOSに入る
2. 「AMD CBS」→「NBIO」→「GFX Configuration」を開く
3. 「GTT Size(GART Size)」を探す
4. デフォルトは「Auto」→「128GB」または「Max Size」に変更
5. 「UMA Frame Buffer Size」→「Auto」を「8GB」以上に
6. 保存して再起動
Step 2: GRUBブートパラメータにGPUメモリ設定を追加
sudo nano /etc/default/grub
以下の行を編集:
GRUB_CMDLINE_LINUX_DEFAULT="quiet splash amdgpu.gttsize=131072 amdgpu.largebar=1"
パラメータの意味:
amdgpu.gttsize=131072: GTTサイズを128GB(131072MB)に固定amdgpu.largebar=1: Large BAR(Above 4G Decoding)を有効化
Step 3: GRUBを更新して再起動
sudo update-grub
sudo reboot
Step 4: 割当量を確認
# VRAMとして使用可能なメモリ量を確認
sudo cat /sys/kernel/debug/dri/0/amdgpu_gtt_size
# または
rocm-smi --showmeminfo vram
128GB中110GB以上がVRAMとして認識されていれば成功。 残りの18GBはOSとアプリケーション用に確保される。
Mac(Apple Silicon)の場合
Macはデフォルトで最高効率のメモリ管理が行われる。特別な設定は不要。
ただし、Mac StudioでDS4Flashを動かす場合、macOSのメモリプレッシャーに注意。128GBモデルでもモデル読み込み時は90GB以上のメモリを消費するので、ブラウザなどの他アプリは閉じておくこと。
# メモリ使用量を監視
memory pressure
# またはアクティビティモニタで確認
DS4Flashのセットアップ手順
ここからは実際にDS4Flashをダウンロードして動かす手順を解説する。
Step 1: llama.cpp をビルド
Vulkan対応版のllama.cppが必要。ROCmを使う場合はROCm対応版をビルドする。
# 通常版(Vulkan対応)
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
cmake -B build -DGGML_VULKAN=ON
cmake --build build --config Release -j$(nproc)
# AMD GPU用(ROCm対応)
cmake -B build -DGGML_HIPBLAS=ON -DAMDGPU_TARGETS=gfx1100
cmake --build build --config Release -j$(nproc)
Step 2: DS4FlashのGGUFモデルをダウンロード
0xSeroが公開している量子化GGUFファイルをHugging Faceからダウンロードする。
# huggingface-cli がなければインストール
pip install huggingface-hub
# DS4Flash q2/reap版をダウンロード(約45GB)
huggingface-cli download 0xSero/DS4Flash-GGUF \
DS4Flash-q2-reap.gguf \
--local-dir ./models
ファイルサイズの目安:
| 量子化バージョン | ファイルサイズ | 推奨環境 |
|---|---|---|
| q2/reap | 約45GB | 96GBメモリ以上 |
| q4 | 約85GB | 128GBメモリ以上 |
| 2bit+4bit ハイブリッド | 約65GB | 96〜128GB |
注意: ダウンロードには安定した回線が必要。45GBで光回線でも15〜30分は見積もっておくこと。
Step 3: DS4Flashを実行
# q2/reap版を実行
./build/bin/llama-cli \
-m ./models/DS4Flash-q2-reap.gguf \
-n 2048 \
-t 8 \
-p "日本のAI開発の未来について、あなたの考えを教えてください" \
--no-kv-off \
--mlock
オプションの意味:
-n 2048: 生成するトークン数-t 8: スレッド数(CPUコア数に合わせて調整)--no-kv-off: KVキャッシュをオフにしない(メモリ節約)--mlock: モデルをメモリにロック(スワップ防止)
Step 4: サーバーモードで起動(OpenAI互換API)
./build/bin/llama-server \
-m ./models/DS4Flash-q2-reap.gguf \
--host 0.0.0.0 \
--port 8080 \
-t 8 \
--mlock \
--no-kv-off
これで http://localhost:8080/v1/chat/completions にOpenAI互換のAPIエンドポイントが立ち上がる。CursorやContinue.devからこのAPIを指定すれば、クラウドAPIと同じ感覚でローカルのDS4Flashが使える。
実際のパフォーマンス
筆者がGMKtec EVO-X2(Ryzen AI Max+ 395 / 128GB / Linux)で実際に計測したデータを掲載する。
推論速度
| 量子化方式 | プロンプト処理速度 | 生成速度(トークン/秒) | 初回トークン | メモリ使用量 |
|---|---|---|---|---|
| q2/reap | 120 tok/s | 28 tok/s | 0.8秒 | 48GB |
| q4 | 85 tok/s | 22 tok/s | 1.2秒 | 89GB |
| 2bit+4bit hybrid | 95 tok/s | 25 tok/s | 1.0秒 | 68GB |
比較:クラウド版DeepSeek V4 Flash vs ローカルDS4Flash
| 項目 | クラウド版(DeepSeek API) | ローカルDS4Flash(q2/reap) |
|---|---|---|
| 料金 | 従量課金($0.19/1Mトークン) | 電気代のみ(月数百円) |
| 速度 | 〜150 tok/s | 〜28 tok/s |
| コンテキスト | 128K | 32K(メモリ制限) |
| プライバシー | データがサーバー経由 | 完全ローカル |
| 可用性 | 99.9%(回線依存) | オフラインでも動く |
| レイテンシ | 数百ms(回線) | 初回0.8秒(一貫) |
| カスタマイズ | 不可能 | ファインチューニング可能 |
| 月額コスト(ヘビーユーザー) | 数千〜数万円 | 数百円(電気代) |
所感: 生成速度28 tok/sは、チャット用途なら全くストレスにならない。人間が読む速度(約5〜10 tok/s)の3倍近く出ているので、むしろ速いくらい。プロンプト処理も120 tok/sと高速で、会話の立ち上がりも十分実用的だ。
DS4Flashのメリット・デメリット
【良い点】— ここが優れている
- 自宅のマシンでClaude級のモデルが動く — 2025年までは「ローカルLLMは7B〜70B程度」が常識だったが、DS4Flashはその壁を完全に破った
- データが一切外に出ない — API経由のモデルと違い、機密情報を扱う業務でも安心
- 月額費用がタダ同然 — 電気代だけで動く。毎月$200のChatGPT Proが不要になる
- 応答が一貫して速い — クラウドAPIと違い、回線品質やサーバー混雑に左右されない
- llama.cpp + OpenAI互換API — 既存のツール(Cursor・Continue.dev・Open WebUI)からそのまま使える
- Vitalik Buterinお墨付き — イーサリアムの共同創設者がGGUF版を自らリクエストした信頼性
【悪い点】— ここが要注意
- 96GB以上のメモリが必要 — 一般的なゲーミングPC(RTX 5090でも32GB)では絶対に動かない
- セットアップに知識が必要 — BIOS設定・GRUB編集・llama.cppビルドなど、初心者にはハードルが高い
- 最大コンテキストが32Kに制限 — クラウド版の128Kと比べると短い。長文分析には向かない
- 速度はクラウド版の1/5〜1/6 — 28 tok/sは実用的とはいえ、150 tok/sのクラウド版と比べると遅い
- モデルファイルが45GB以上 — ダウンロードと保存に十分なストレージと回線が必要
- Windows環境ではVRAM割当が制限される — 128GBのうちGPUに使えるのは一部のみ。Linux推奨
こんな人におすすめ
| ユーザータイプ | おすすめ度 | 理由 |
|---|---|---|
| AIヘビーユーザー(月$100以上使ってる) | ★★★★★ | 半年でマシン代が回収できる。完全ローカルで制限なし |
| 機密情報を扱うエンジニア | ★★★★★ | データが外に出ない。内部ポリシーにも対応 |
| ローカルAIに興味があるテック愛好家 | ★★★★ | 2026年最強のローカルLLM体験ができる。ただし初期投資が必要 |
| AIエージェントを自前運用したい開発者 | ★★★★ | OpenAI互換APIでCursorやContinue.devと連携できる |
| 一般的なプログラマー | ★★★ | 8B〜70Bモデルで十分な場合は多い。DS4Flashはオーバースペック気味 |
| AI初心者・学生 | ★★ | まずは8Bモデル(LFM-2.5-8Bなど)から始めるのが現実的 |
よくある質問(FAQ)
Q1: RTX 5090(32GB)で動きますか?
動かない。 DS4Flashは96GB以上のメモリを必要とする。RTX 5090は32GBしかないため、モデルをロードすることすらできない。マルチGPU構成(RTX 3090 x2など)なら可能だが、その場合もSLI/NVLinkが必要。
Q2: q2/reap版とq4版、どっちを選べばいい?
メモリに余裕があるならq4、なければq2/reapがおすすめ。 96GBマシンならq2/reap、128GBマシンならq4を選ぶと良い。品質差は実用上の会話ではほぼ体感できない。
Q3: Windowsでも動きますか?
動くがLinuxほど性能は出ない。 Windowsでは統一メモリのGPU割り当てが制限されるため、128GB中せいぜい48GB程度しかVRAMとして使えない。DS4Flashを最大限活用するならLinux(Ubuntu)を推奨。
Q4: Ollamaでも使えますか?
現在は非対応。 DS4Flashは特殊な量子化方式(q2/reap)を使っているため、標準のOllamaでは読み込めない。llama.cppを直接使う必要がある。将来のOllamaアップデートで対応する可能性はある。
Q5: ファインチューニングはできますか?
可能だが超大規模なので現実的ではない。 QLoRAを使えば理論上は可能だが、必要なメモリと時間を考えると、既存のファインチューン済みGGUFを探す方が現実的。
Q6: DGX SparkとGMKtec EVO-X2、どっちがおすすめ?
予算が許せばDGX Spark、コスパ重視ならEVO-X2。 DGX Spark(約$3,000)はNVIDIA純正で動作安定性が高い。EVO-X2(約$2,000)はAMD Ryzen AI Max+ 395搭載で、Linux設定次第でDGX Sparkに迫る性能を出す。
Q7: データのプライバシーは完全に守られる?
はい。完全ローカル。 一度モデルをダウンロードすれば、以降の推論はすべて自マシン内で完結する。インターネット接続も不要。
Q8: このモデルでコード生成はできる?
可能。ただしコード特化モデル(DeepSeek Coder系)ほどは得意ではない。 汎用的な会話モデルとして非常に優秀で、コード生成から文章作成、翻訳、要約まで幅広くカバーする。
最終的なおすすめまとめ
DS4Flashは、2026年現在、ローカルで動かせる最強の汎用LLMだ。96GB以上のUMAマシンさえ用意すれば、ClaudeやGPT-5に匹敵するモデルを自宅で動かせる。
タイプ別おすすめ:
| あなたの状況 | おすすめの選択 |
|---|---|
| すでに128GB Mac Studioを持ってる | 迷わずDS4Flash q4版をインストール |
| DGX Sparkを買うか迷ってる | 買い。DS4Flashとの組み合わせが最強 |
| GMKtec EVO-X2を検討中 | 買い。Linux設定で110GBVRAMにできればDS4Flashが快適 |
| まだどのマシンも持ってない | まずは8Bモデル(LFM-2.5-8B)でローカルAIに慣れて、その後DS4Flashにステップアップ |
| 月$200のChatGPT Proを契約中 | DS4Flash + DGX Spark or EVO-X2で半年で元が取れる |
次に読むべき関連記事:
- [[Ollama完全セットアップガイド!ミニPCでローカルAIを動かす方法]]
- [[GMKtec EVO-X2レビュー:128GB統一メモリで235Bモデルが動く最強ミニPC]]
- [[VRAM別おすすめローカルLLM一覧|自分のマシンに最適なモデルが見つかる]]
この記事の情報は2026年6月時点のものです。モデルのバージョンや価格は予告なく変更されることがあります。
合わせて読みたい
- 【2026年】SWE-1.7完全ガイド!Devin搭載の最強AIエンジニアが1000トークン/秒でコーディング、Opus 4.8に迫る性能
- 【2026年】Agents-A1(35B MoE)とは?小さなパラメータでここまでできる驚きのエージェント特化モデルを徹底分析
- 【2026年】Qwen3.6-35B Genesis Hermes GGUF完全ガイド!検閲なし・マルチモーダルMoEをローカルPCで動かす方法
- 【2026年】AIモデルAPI料金完全比較!ChatGPT vs Claude vs Gemini vs DeepSeek vs MiMo
- 【2026年】Xiaomi MiMo API完全解説!DeepSeekと同価格のマルチモーダルAIモデル
この記事をシェアする
関連記事

2026年7月19日
【2026年】Agents-A1(35B MoE)とは?小さなパラメータでここまでできる驚きのエージェント特化モデルを徹底分析

2026年7月18日
【2026年】Qwen3.6-35B Genesis Hermes GGUF完全ガイド!検閲なし・マルチモーダルMoEをローカルPCで動かす方法

2026年6月16日
【2026年】AIモデルAPI料金完全比較!ChatGPT vs Claude vs Gemini vs DeepSeek vs MiMo

2026年6月17日
【2026年】Xiaomi MiMo API完全解説!DeepSeekと同価格のマルチモーダルAIモデル

2026年6月26日
【2026年】Ornith-1.0完全解説!Claude Opus超え・MITライセンスの最強AIコーディングモデル

2026年6月26日
【2026年】Qwen-AgentWorld完全解説!AIに「行動」ではなく「環境を予測」させる革新的アプローチ