
この記事のまとめ
「最新の大きなAIモデルを、自分のPCで自由に動かしたい」
【2026年】Qwen3.6-35B Genesis Hermes GGUF完全ガイド!検閲なし・マルチモーダルMoEをローカルPCで動かす方法
「最新の大きなAIモデルを、自分のPCで自由に動かしたい」 「でもクラウドはお金がかかるし、検閲も気になる…」
そんなあなたに、2026年いま話題のモデルがあります。Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V3-GGUF です。
これは、Alibabaの Qwen3.6 をベースに、「検閲なし(Uncensored)」+「Hermesエージェント特化」+「GGUF形式(ローカルPCで動く)」 に仕上げたモデル。画像も読めるマルチモーダル(MoE)です。
この記事では、初心者の方にもわかるように、このモデルの特徴と、自宅PCで実際に動かす方法を全部解説します。
この記事でわかること
- Qwen3.6-35B Genesis Hermes とは何か
- なぜ「検閲なし」が嬉しいのか
- ローカルPCで動かすために必要なスペック
- llama.cpp / Ollama でのセットアップ手順
- おすすめの量子化(軽量に動かすコツ)
- 関連ハードウェア(末尾にリンク)
Qwen3.6-35B Genesis Hermes とは?
簡単に言うと、「Alibabaの最新MoEモデル Qwen3.6 を、より使いやすく・自由にしたローカル向け版」 です。
3つのポイント
① 検閲なし(Uncensored) 通常の公開モデルには「特定の話題を答えない」フィルターが入っています。このモデルはその制限を外した「Uncensored」版。研究や開発用途で、より自由に使えます。
② Hermes エージェント特化 NousResearch の Hermes データセットでファインチューニングされており、「AIが道具を使う(関数呼び出し・エージェント動作)」が得意 です。自動化やツール連携をやりたい方に最適。
③ GGUF形式=ローカルPCで動く GGUF は llama.cpp などの推論ソフトが読める形式。クラウド不要で、自分のPCにモデルを置いて動かせます。
基本スペック
| 項目 | 値 |
|---|---|
| 総パラメータ | 35B(350億) |
| 活性パラメータ | 3B(MoE) |
| 形式 | GGUF(llama.cpp等対応) |
| 対応 | テキスト+画像(マルチモーダル) |
| ライセンス | apache-2.0 |
| 推奨量子化 | APEX quant(RTX 3060 12GB向け) |
MoE(混合専門家)モデルなので、総パラメータは35Bでも、実際に計算されるのは約3B分。だから「巨大モデルの知識」を持ちつつ、「軽く動く」のが特徴です。
なぜローカルで動かすのか?
クラウドAPI(ChatGPT等)と違って、ローカルモデルには明確なメリットがあります。
- プライバシー:入力データが外部に送られない
- ランニングコスト0円:API課金なしで何回でも使える
- カスタマイズ自由:自分好みに調整できる
- オフライン動作:ネットがなくても使える
特に「検閲なし」であるこのモデルは、自分のルールで自由に使いたい開発者 に向いています。
必要なスペック
ローカルで快適に動かすための目安です。
| 量子化 | 必要VRAM | 目安GPU |
|---|---|---|
| Q4_K_M(推奨) | 約12GB | RTX 3060 / 4070 |
| Q5_K_M | 約16GB | RTX 4060Ti / 4070Ti |
| Q8 / F16 | 約24GB+ | RTX 4090 |
筆者環境(i9-14900F + RTX 4070 Super 12GB)で、Q4_K_M 量子化なら快適に動作確認済みです。
関連ハードウェアは記事末尾にリンクをまとめています。
セットアップ手順(llama.cpp)
初心者の方でも最短で動かせる手順です。
手順1:モデルをダウンロード
HuggingFace から GGUF ファイルを取得します。推奨は Q4_K_M 量子化(軽量・高精度のバランス)。
# HuggingFace CLI の場合
hf download LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V3-GGUF \
--include "*Q4_K_M*"
手順2:llama.cpp を用意
git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp && make
手順3:起動(チャットモード)
./llama-cli -m ./モデル.gguf -ngl 99 -p "こんにちは"
-ngl 99 は GPU を最大活用するオプション。VRAM が足りない場合は数値を下げてください。
画像も読める(マルチモーダル)
このモデルは画像入力に対応しています。llama.cpp のマルチモーダル対応ビルドを使えば、写真を読ませて解説させることも可能です。
./llama-mtmd-cli -m ./モデル.gguf --mmproj ./mmproj.gguf -i 画像.png
おすすめの使い方(筆者が考えた活用法)
単に「チャットする」だけでなく、このモデルの強みを活かした使い方を3つ提案します。
① ローカルAIエージェントの中核にする Hermes特化なので、関数呼び出しやツール連携が得意。Hermes Agent 等のエージェントフレームワークと組み合わせると、自分専用の自動化アシスタントが作れます。
② プライベートな研究・開発 検閲なしなので、通常の公開モデルでは答えにくい専門的な実験・分析にも使えます。
③ オフラインの執筆・アイデア出し ネットなしで動くので、移動中や通信制限下でも高性能なAIアシスタントとして使えます。
注意点(正直なデメリット)
メリットばかり書くと信頼を失うので、デメリットも正直に。
- VRAM 12GB でも動くが、出力速度はGPU依存:RTX 3060だと少し遅め
- マルチモーダルは追加ファイル(mmproj)が必要
- Uncensored 故の責任:自由に使える分、倫理的な使い方は自己管理が必要
- 日本語は得意だが、英語・中国語の方が精度が高い傾向
よくある質問(FAQ)
Q1. 無料で使える?
はい、モデル自体は apache-2.0 ライセンスで公開されており無料です。llama.cpp もオープンソースです。
Q2. Mac でも動く?
はい、llama.cpp は Apple Silicon に対応しています。メモリ容量(RAM)が十分なら動きます。
Q3. 8GB VRAM でも動かせる?
Q2_K 等の軽量量子化なら可能ですが、35Bクラスなので最低12GB以上を推奨します。
Q4. ChatGPT より賢い?
タスクによります。特定用途(エージェント・ローカル・プライバシー重視)では有利ですが、総合的な会話品質は上位クラウドモデルに劣る場合もあります。
Q5. 画像は本当に読める?
はい、マルチモーダル対応のビルドと mmproj ファイルを用意すれば読み込めます。
まとめ
Qwen3.6-35B Genesis Hermes GGUF は、「検閲なし・Hermes特化・ローカル動作」を全部満たす2026年注目のモデル です。
- Alibaba Qwen3.6 ベースの MoE(35B総/3B活性)
- 検閲なしで自由に使える
- 画像も読めるマルチモーダル
- 12GB VRAM あれば自宅PCで快適に動作
ローカルAIを本気でやりたい方、プライバシーを守りたい方、自分専用のエージェントを作りたい方には、今すぐ試すべき一択です。
以下に関連ハードウェアのリンクをまとめました。動作確認済みの構成から選べば失敗しません。
関連記事
合わせて読みたい
- 【2026年】DS4Flash(DeepSeek V4 Flash)をローカルで動かす完全ガイド!96〜128GB VRAMを最大活用
- 【2026年】SWE-1.7完全ガイド!Devin搭載の最強AIエンジニアが1000トークン/秒でコーディング、Opus 4.8に迫る性能
- 【2026年】Agents-A1(35B MoE)とは?小さなパラメータでここまでできる驚きのエージェント特化モデルを徹底分析
- 【2026年】AIモデルAPI料金完全比較!ChatGPT vs Claude vs Gemini vs DeepSeek vs MiMo
- 【2026年】Xiaomi MiMo API完全解説!DeepSeekと同価格のマルチモーダルAIモデル
この記事をシェアする
関連記事

2026年7月19日
【2026年】Agents-A1(35B MoE)とは?小さなパラメータでここまでできる驚きのエージェント特化モデルを徹底分析

2026年6月16日
【2026年】AIモデルAPI料金完全比較!ChatGPT vs Claude vs Gemini vs DeepSeek vs MiMo

2026年6月17日
【2026年】Xiaomi MiMo API完全解説!DeepSeekと同価格のマルチモーダルAIモデル

2026年6月25日
【2026年】DS4Flash(DeepSeek V4 Flash)をローカルで動かす完全ガイド!96〜128GB VRAMを最大活用

2026年6月26日
【2026年】Ornith-1.0完全解説!Claude Opus超え・MITライセンスの最強AIコーディングモデル

2026年6月26日
【2026年】Qwen-AgentWorld完全解説!AIに「行動」ではなく「環境を予測」させる革新的アプローチ