クラウドナビ
← 記事一覧に戻る
【2026年】Qwen3.6-35B Genesis Hermes GGUF完全ガイド!検閲なし・マルチモーダルMoEをローカルPCで動かす方法
AIモデル📢 PR·1分で読了
#Qwen#GGUF#ローカルAI#MoE#Uncensored
当ページは広告・アフィリエイトリンクを含みます。リンク経由での購入等により報酬を得ることがあります。

この記事のまとめ

「最新の大きなAIモデルを、自分のPCで自由に動かしたい」

【2026年】Qwen3.6-35B Genesis Hermes GGUF完全ガイド!検閲なし・マルチモーダルMoEをローカルPCで動かす方法


「最新の大きなAIモデルを、自分のPCで自由に動かしたい」 「でもクラウドはお金がかかるし、検閲も気になる…」

そんなあなたに、2026年いま話題のモデルがあります。Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V3-GGUF です。

これは、Alibabaの Qwen3.6 をベースに、「検閲なし(Uncensored)」+「Hermesエージェント特化」+「GGUF形式(ローカルPCで動く)」 に仕上げたモデル。画像も読めるマルチモーダル(MoE)です。

この記事では、初心者の方にもわかるように、このモデルの特徴と、自宅PCで実際に動かす方法を全部解説します。


この記事でわかること

  • Qwen3.6-35B Genesis Hermes とは何か
  • なぜ「検閲なし」が嬉しいのか
  • ローカルPCで動かすために必要なスペック
  • llama.cpp / Ollama でのセットアップ手順
  • おすすめの量子化(軽量に動かすコツ)
  • 関連ハードウェア(末尾にリンク)

Qwen3.6-35B Genesis Hermes とは?

簡単に言うと、「Alibabaの最新MoEモデル Qwen3.6 を、より使いやすく・自由にしたローカル向け版」 です。

3つのポイント

① 検閲なし(Uncensored) 通常の公開モデルには「特定の話題を答えない」フィルターが入っています。このモデルはその制限を外した「Uncensored」版。研究や開発用途で、より自由に使えます。

② Hermes エージェント特化 NousResearch の Hermes データセットでファインチューニングされており、「AIが道具を使う(関数呼び出し・エージェント動作)」が得意 です。自動化やツール連携をやりたい方に最適。

③ GGUF形式=ローカルPCで動く GGUF は llama.cpp などの推論ソフトが読める形式。クラウド不要で、自分のPCにモデルを置いて動かせます。

基本スペック

項目
総パラメータ35B(350億)
活性パラメータ3B(MoE)
形式GGUF(llama.cpp等対応)
対応テキスト+画像(マルチモーダル)
ライセンスapache-2.0
推奨量子化APEX quant(RTX 3060 12GB向け)

MoE(混合専門家)モデルなので、総パラメータは35Bでも、実際に計算されるのは約3B分。だから「巨大モデルの知識」を持ちつつ、「軽く動く」のが特徴です。


なぜローカルで動かすのか?

クラウドAPI(ChatGPT等)と違って、ローカルモデルには明確なメリットがあります。

  • プライバシー:入力データが外部に送られない
  • ランニングコスト0円:API課金なしで何回でも使える
  • カスタマイズ自由:自分好みに調整できる
  • オフライン動作:ネットがなくても使える

特に「検閲なし」であるこのモデルは、自分のルールで自由に使いたい開発者 に向いています。


必要なスペック

ローカルで快適に動かすための目安です。

量子化必要VRAM目安GPU
Q4_K_M(推奨)約12GBRTX 3060 / 4070
Q5_K_M約16GBRTX 4060Ti / 4070Ti
Q8 / F16約24GB+RTX 4090

筆者環境(i9-14900F + RTX 4070 Super 12GB)で、Q4_K_M 量子化なら快適に動作確認済みです。

関連ハードウェアは記事末尾にリンクをまとめています。


セットアップ手順(llama.cpp)

初心者の方でも最短で動かせる手順です。

手順1:モデルをダウンロード

HuggingFace から GGUF ファイルを取得します。推奨は Q4_K_M 量子化(軽量・高精度のバランス)。

# HuggingFace CLI の場合
hf download LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V3-GGUF \
  --include "*Q4_K_M*"

手順2:llama.cpp を用意

git clone https://github.com/ggml-org/llama.cpp
cd llama.cpp && make

手順3:起動(チャットモード)

./llama-cli -m ./モデル.gguf -ngl 99 -p "こんにちは"

-ngl 99 は GPU を最大活用するオプション。VRAM が足りない場合は数値を下げてください。


画像も読める(マルチモーダル)

このモデルは画像入力に対応しています。llama.cpp のマルチモーダル対応ビルドを使えば、写真を読ませて解説させることも可能です。

./llama-mtmd-cli -m ./モデル.gguf --mmproj ./mmproj.gguf -i 画像.png

おすすめの使い方(筆者が考えた活用法)

単に「チャットする」だけでなく、このモデルの強みを活かした使い方を3つ提案します。

① ローカルAIエージェントの中核にする Hermes特化なので、関数呼び出しやツール連携が得意。Hermes Agent 等のエージェントフレームワークと組み合わせると、自分専用の自動化アシスタントが作れます。

② プライベートな研究・開発 検閲なしなので、通常の公開モデルでは答えにくい専門的な実験・分析にも使えます。

③ オフラインの執筆・アイデア出し ネットなしで動くので、移動中や通信制限下でも高性能なAIアシスタントとして使えます。


注意点(正直なデメリット)

メリットばかり書くと信頼を失うので、デメリットも正直に。

  • VRAM 12GB でも動くが、出力速度はGPU依存:RTX 3060だと少し遅め
  • マルチモーダルは追加ファイル(mmproj)が必要
  • Uncensored 故の責任:自由に使える分、倫理的な使い方は自己管理が必要
  • 日本語は得意だが、英語・中国語の方が精度が高い傾向

よくある質問(FAQ)

Q1. 無料で使える?

はい、モデル自体は apache-2.0 ライセンスで公開されており無料です。llama.cpp もオープンソースです。

Q2. Mac でも動く?

はい、llama.cpp は Apple Silicon に対応しています。メモリ容量(RAM)が十分なら動きます。

Q3. 8GB VRAM でも動かせる?

Q2_K 等の軽量量子化なら可能ですが、35Bクラスなので最低12GB以上を推奨します。

Q4. ChatGPT より賢い?

タスクによります。特定用途(エージェント・ローカル・プライバシー重視)では有利ですが、総合的な会話品質は上位クラウドモデルに劣る場合もあります。

Q5. 画像は本当に読める?

はい、マルチモーダル対応のビルドと mmproj ファイルを用意すれば読み込めます。


まとめ

Qwen3.6-35B Genesis Hermes GGUF は、「検閲なし・Hermes特化・ローカル動作」を全部満たす2026年注目のモデル です。

  • Alibaba Qwen3.6 ベースの MoE(35B総/3B活性)
  • 検閲なしで自由に使える
  • 画像も読めるマルチモーダル
  • 12GB VRAM あれば自宅PCで快適に動作

ローカルAIを本気でやりたい方、プライバシーを守りたい方、自分専用のエージェントを作りたい方には、今すぐ試すべき一択です。

以下に関連ハードウェアのリンクをまとめました。動作確認済みの構成から選べば失敗しません。


関連記事


合わせて読みたい