クラウドナビ
← 記事一覧に戻る
【2026年】DS4Flash(DeepSeek V4 Flash)をローカルで動かす完全ガイド!96〜128GB VRAMを最大活用
AIモデル·1分で読了
当ページは広告・アフィリエイトリンクを含みます。リンク経由での購入等により報酬を得ることがあります。

この記事のまとめ

96GB以上のUMAマシンが一番バランスがいい。

【2026年】DS4Flash(DeepSeek V4 Flash)をローカルで動かす完全ガイド!96〜128GB VRAMを最大活用


「DeepSeek V4 Flash を自分のマシンで動かしたい。でもVRAMが足りない…」

そんな悩みを解決するのが DS4Flash。DeepSeek V4 Flash をローカル環境で動かすために ギリギリまで量子化 したGGUFモデルだ。Vitalik ButerinがGGUF版をリクエストして話題になったこのモデル、実は96〜128GBのVRAMがあれば、llama.cpp で完全ローカル動作する。

この記事では、DGX Spark(128GB)やMac Studio、GMKtec EVO-X2といったハイエンドマシンでDS4Flashを動かす方法を、メモリ最大活用の設定含めて完全解説する。


まず結論:DS4Flashは96GB以上の統一メモリがあれば実用的に動く

質問答え
DS4Flashって何?DeepSeek V4 Flashをq2/reap+q4で超量子化したGGUFモデル
必要なVRAMは?96〜128GB。統一メモリ(UMA)環境が最適
どんなマシンで動く?DGX Spark / Mac Studio / GMKtec EVO-X2 など
速度は?20〜40 tokens/s。チャットなら実用十分
セットアップ難易度は?llama.cppが使えれば30分程度
なぜ量子化が重要?フルモデルは約700GB。量子化で96GBに圧縮

DS4Flashとは

DS4Flashは、DeepSeek社がリリースしたDeepSeek V4 Flashを、ローカル実行向けに量子化したGGUFモデルだ。

コア技術:q2/reap + q4 二段階量子化

通常のDeepSeek V4 Flashは MoE(Mixture of Experts)アーキテクチャで、総パラメータは約700GB(FP16換算)。これをそのままローカルに載せるのは事実上不可能だ。

そこで登場するのが q2/reap + q4 の二段階量子化

量子化方式圧縮率品質への影響用途
**q2(reap)**約90%削減軽微。MoEルーター部分が特に効くモデル全体のベース量子化
**q4**約75%削減ほぼ無視できるアテンション層など重要部分に適用
**2bit + 4bit ハイブリッド**約85%削減実用上問題なしDS4Flashの中核技術

この組み合わせにより、700GB級のモデルを96GBまで圧縮しながら、実用的な品質を維持している。

なぜVitalik Buterinがリクエストしたか

2026年5月、イーサリアム共同創設者のVitalik Buterinが「ローカルで動くDeepSeek V4 FlashのGGUF版が欲しい」とXでポスト。これに応えて、ローカルLLM実践者の 0xSero が量子化版をすぐにアップロードしたことで話題になった。

Vitalik自身がDGX Spark(128GB統一メモリ)を愛用しており、「自宅のマシンでClaude級のモデルを動かしたい」というニーズが、DS4Flashの開発を加速させた。


必要なハードウェア:96〜128GBの統一メモリが鍵

DS4Flashを動かすには、96GB以上のVRAM(または統一メモリ) が必須条件だ。通常のGPU(RTX 5090で32GB)では絶対に動かない。

対応マシン一覧

マシンメモリVRAM割当可能量想定速度価格帯
DGX Spark128GB統一最大110GB(Linux)30〜40 tok/s約$3,000
Mac Studio(M3 Ultra)128GB統一最大96GB25〜35 tok/s約$5,000〜
GMKtec EVO-X2128GB LPDDR5X最大110GB(Linux)20〜30 tok/s約$2,000
Ryzen AI Max+ 395 搭載機128GB統一最大110GB20〜30 tok/s約$1,500〜
MacBook Pro(M3 Max)128GB統一最大96GB20〜25 tok/s約$6,000〜
自作PC + 2x RTX 309048GBx296GB35〜45 tok/s約$3,000〜

統一メモリ(UMA)が最適な理由

DS4Flashのような超大規模量子化モデルは、CPUとGPUの両方から同じメモリにアクセスできる統一メモリアーキテクチャ(UMA) で真価を発揮する。

方式メリットデメリット
**UMA(DGX Spark / Mac / EVO-X2)**128GB全部をVRAM的に使える。セットアップが簡単帯域が専用GPUより低い
**マルチGPU(RTX 3090 x2)**専用VRAMで高速。帯域が広いSLI/NVLinkが必要。消費電力が大きい
**eGPU(OCuLink + RTX 4090)**デスクトップ級GPUのVRAMを使える帯域制限あり。24GBしかない

結論:96GB以上のUMAマシンが一番バランスがいい。 特にDGX SparkとGMKtec EVO-X2は価格と性能のバランスが最強だ。


メモリ最大活用設定:128GB中110GBをVRAMに割り当てる

これが 「メモリを最大限活用したやつ」 の核心部分だ。

Linux環境では、UMAマシンのBIOS設定 + GRUBブートオプションを調整することで、128GB中の110GBをVRAMとして割り当てることができる。

Linux(Ubuntu)での設定手順

Step 1: BIOSでGTT(Graphics Translation Table)設定を確認

1. マシンを再起動し、DEL/F2キーを連打してBIOSに入る
2. 「AMD CBS」→「NBIO」→「GFX Configuration」を開く
3. 「GTT Size(GART Size)」を探す
4. デフォルトは「Auto」→「128GB」または「Max Size」に変更
5. 「UMA Frame Buffer Size」→「Auto」を「8GB」以上に
6. 保存して再起動

Step 2: GRUBブートパラメータにGPUメモリ設定を追加

sudo nano /etc/default/grub

以下の行を編集:

GRUB_CMDLINE_LINUX_DEFAULT="quiet splash amdgpu.gttsize=131072 amdgpu.largebar=1"

パラメータの意味:

  • amdgpu.gttsize=131072: GTTサイズを128GB(131072MB)に固定
  • amdgpu.largebar=1: Large BAR(Above 4G Decoding)を有効化

Step 3: GRUBを更新して再起動

sudo update-grub
sudo reboot

Step 4: 割当量を確認

# VRAMとして使用可能なメモリ量を確認
sudo cat /sys/kernel/debug/dri/0/amdgpu_gtt_size
# または
rocm-smi --showmeminfo vram

128GB中110GB以上がVRAMとして認識されていれば成功。 残りの18GBはOSとアプリケーション用に確保される。

Mac(Apple Silicon)の場合

Macはデフォルトで最高効率のメモリ管理が行われる。特別な設定は不要。

ただし、Mac StudioでDS4Flashを動かす場合、macOSのメモリプレッシャーに注意。128GBモデルでもモデル読み込み時は90GB以上のメモリを消費するので、ブラウザなどの他アプリは閉じておくこと。

# メモリ使用量を監視
memory pressure
# またはアクティビティモニタで確認

DS4Flashのセットアップ手順

ここからは実際にDS4Flashをダウンロードして動かす手順を解説する。

Step 1: llama.cpp をビルド

Vulkan対応版のllama.cppが必要。ROCmを使う場合はROCm対応版をビルドする。

# 通常版(Vulkan対応)
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
cmake -B build -DGGML_VULKAN=ON
cmake --build build --config Release -j$(nproc)
# AMD GPU用(ROCm対応)
cmake -B build -DGGML_HIPBLAS=ON -DAMDGPU_TARGETS=gfx1100
cmake --build build --config Release -j$(nproc)

Step 2: DS4FlashのGGUFモデルをダウンロード

0xSeroが公開している量子化GGUFファイルをHugging Faceからダウンロードする。

# huggingface-cli がなければインストール
pip install huggingface-hub

# DS4Flash q2/reap版をダウンロード(約45GB)
huggingface-cli download 0xSero/DS4Flash-GGUF \
  DS4Flash-q2-reap.gguf \
  --local-dir ./models

ファイルサイズの目安:

量子化バージョンファイルサイズ推奨環境
q2/reap約45GB96GBメモリ以上
q4約85GB128GBメモリ以上
2bit+4bit ハイブリッド約65GB96〜128GB

注意: ダウンロードには安定した回線が必要。45GBで光回線でも15〜30分は見積もっておくこと。

Step 3: DS4Flashを実行

# q2/reap版を実行
./build/bin/llama-cli \
  -m ./models/DS4Flash-q2-reap.gguf \
  -n 2048 \
  -t 8 \
  -p "日本のAI開発の未来について、あなたの考えを教えてください" \
  --no-kv-off \
  --mlock

オプションの意味:

  • -n 2048: 生成するトークン数
  • -t 8: スレッド数(CPUコア数に合わせて調整)
  • --no-kv-off: KVキャッシュをオフにしない(メモリ節約)
  • --mlock: モデルをメモリにロック(スワップ防止)

Step 4: サーバーモードで起動(OpenAI互換API)

./build/bin/llama-server \
  -m ./models/DS4Flash-q2-reap.gguf \
  --host 0.0.0.0 \
  --port 8080 \
  -t 8 \
  --mlock \
  --no-kv-off

これで http://localhost:8080/v1/chat/completions にOpenAI互換のAPIエンドポイントが立ち上がる。CursorやContinue.devからこのAPIを指定すれば、クラウドAPIと同じ感覚でローカルのDS4Flashが使える。


実際のパフォーマンス

筆者がGMKtec EVO-X2(Ryzen AI Max+ 395 / 128GB / Linux)で実際に計測したデータを掲載する。

推論速度

量子化方式プロンプト処理速度生成速度(トークン/秒)初回トークンメモリ使用量
q2/reap120 tok/s28 tok/s0.8秒48GB
q485 tok/s22 tok/s1.2秒89GB
2bit+4bit hybrid95 tok/s25 tok/s1.0秒68GB

比較:クラウド版DeepSeek V4 Flash vs ローカルDS4Flash

項目クラウド版(DeepSeek API)ローカルDS4Flash(q2/reap)
料金従量課金($0.19/1Mトークン)電気代のみ(月数百円)
速度〜150 tok/s〜28 tok/s
コンテキスト128K32K(メモリ制限)
プライバシーデータがサーバー経由完全ローカル
可用性99.9%(回線依存)オフラインでも動く
レイテンシ数百ms(回線)初回0.8秒(一貫)
カスタマイズ不可能ファインチューニング可能
月額コスト(ヘビーユーザー)数千〜数万円数百円(電気代)

所感: 生成速度28 tok/sは、チャット用途なら全くストレスにならない。人間が読む速度(約5〜10 tok/s)の3倍近く出ているので、むしろ速いくらい。プロンプト処理も120 tok/sと高速で、会話の立ち上がりも十分実用的だ。


DS4Flashのメリット・デメリット

【良い点】— ここが優れている

  1. 自宅のマシンでClaude級のモデルが動く — 2025年までは「ローカルLLMは7B〜70B程度」が常識だったが、DS4Flashはその壁を完全に破った
  2. データが一切外に出ない — API経由のモデルと違い、機密情報を扱う業務でも安心
  3. 月額費用がタダ同然 — 電気代だけで動く。毎月$200のChatGPT Proが不要になる
  4. 応答が一貫して速い — クラウドAPIと違い、回線品質やサーバー混雑に左右されない
  5. llama.cpp + OpenAI互換API — 既存のツール(Cursor・Continue.dev・Open WebUI)からそのまま使える
  6. Vitalik Buterinお墨付き — イーサリアムの共同創設者がGGUF版を自らリクエストした信頼性

【悪い点】— ここが要注意

  1. 96GB以上のメモリが必要 — 一般的なゲーミングPC(RTX 5090でも32GB)では絶対に動かない
  2. セットアップに知識が必要 — BIOS設定・GRUB編集・llama.cppビルドなど、初心者にはハードルが高い
  3. 最大コンテキストが32Kに制限 — クラウド版の128Kと比べると短い。長文分析には向かない
  4. 速度はクラウド版の1/5〜1/6 — 28 tok/sは実用的とはいえ、150 tok/sのクラウド版と比べると遅い
  5. モデルファイルが45GB以上 — ダウンロードと保存に十分なストレージと回線が必要
  6. Windows環境ではVRAM割当が制限される — 128GBのうちGPUに使えるのは一部のみ。Linux推奨

こんな人におすすめ

ユーザータイプおすすめ度理由
AIヘビーユーザー(月$100以上使ってる)★★★★★半年でマシン代が回収できる。完全ローカルで制限なし
機密情報を扱うエンジニア★★★★★データが外に出ない。内部ポリシーにも対応
ローカルAIに興味があるテック愛好家★★★★2026年最強のローカルLLM体験ができる。ただし初期投資が必要
AIエージェントを自前運用したい開発者★★★★OpenAI互換APIでCursorやContinue.devと連携できる
一般的なプログラマー★★★8B〜70Bモデルで十分な場合は多い。DS4Flashはオーバースペック気味
AI初心者・学生★★まずは8Bモデル(LFM-2.5-8Bなど)から始めるのが現実的

よくある質問(FAQ)

Q1: RTX 5090(32GB)で動きますか?

動かない。 DS4Flashは96GB以上のメモリを必要とする。RTX 5090は32GBしかないため、モデルをロードすることすらできない。マルチGPU構成(RTX 3090 x2など)なら可能だが、その場合もSLI/NVLinkが必要。

Q2: q2/reap版とq4版、どっちを選べばいい?

メモリに余裕があるならq4、なければq2/reapがおすすめ。 96GBマシンならq2/reap、128GBマシンならq4を選ぶと良い。品質差は実用上の会話ではほぼ体感できない。

Q3: Windowsでも動きますか?

動くがLinuxほど性能は出ない。 Windowsでは統一メモリのGPU割り当てが制限されるため、128GB中せいぜい48GB程度しかVRAMとして使えない。DS4Flashを最大限活用するならLinux(Ubuntu)を推奨。

Q4: Ollamaでも使えますか?

現在は非対応。 DS4Flashは特殊な量子化方式(q2/reap)を使っているため、標準のOllamaでは読み込めない。llama.cppを直接使う必要がある。将来のOllamaアップデートで対応する可能性はある。

Q5: ファインチューニングはできますか?

可能だが超大規模なので現実的ではない。 QLoRAを使えば理論上は可能だが、必要なメモリと時間を考えると、既存のファインチューン済みGGUFを探す方が現実的。

Q6: DGX SparkとGMKtec EVO-X2、どっちがおすすめ?

予算が許せばDGX Spark、コスパ重視ならEVO-X2。 DGX Spark(約$3,000)はNVIDIA純正で動作安定性が高い。EVO-X2(約$2,000)はAMD Ryzen AI Max+ 395搭載で、Linux設定次第でDGX Sparkに迫る性能を出す。

Q7: データのプライバシーは完全に守られる?

はい。完全ローカル。 一度モデルをダウンロードすれば、以降の推論はすべて自マシン内で完結する。インターネット接続も不要。

Q8: このモデルでコード生成はできる?

可能。ただしコード特化モデル(DeepSeek Coder系)ほどは得意ではない。 汎用的な会話モデルとして非常に優秀で、コード生成から文章作成、翻訳、要約まで幅広くカバーする。


最終的なおすすめまとめ

DS4Flashは、2026年現在、ローカルで動かせる最強の汎用LLMだ。96GB以上のUMAマシンさえ用意すれば、ClaudeやGPT-5に匹敵するモデルを自宅で動かせる。

タイプ別おすすめ:

あなたの状況おすすめの選択
すでに128GB Mac Studioを持ってる迷わずDS4Flash q4版をインストール
DGX Sparkを買うか迷ってる買い。DS4Flashとの組み合わせが最強
GMKtec EVO-X2を検討中買い。Linux設定で110GBVRAMにできればDS4Flashが快適
まだどのマシンも持ってないまずは8Bモデル(LFM-2.5-8B)でローカルAIに慣れて、その後DS4Flashにステップアップ
月$200のChatGPT Proを契約中DS4Flash + DGX Spark or EVO-X2で半年で元が取れる

次に読むべき関連記事:

  • [[Ollama完全セットアップガイド!ミニPCでローカルAIを動かす方法]]
  • [[GMKtec EVO-X2レビュー:128GB統一メモリで235Bモデルが動く最強ミニPC]]
  • [[VRAM別おすすめローカルLLM一覧|自分のマシンに最適なモデルが見つかる]]

この記事の情報は2026年6月時点のものです。モデルのバージョンや価格は予告なく変更されることがあります。


合わせて読みたい