ローカルAI

Google DeepMindが2026年10月6日に公開したEmbeddingGemma 2を、公式ブログとモデルカードの数値で整理しました。テキスト・コード・画像・動画・音声を768次元の共通空間に写像する仕組み、270M〜740Mのサイズ選択、Google公表のベンチマーク（MTEB Code 68.76→78.68ほか）、MRLによる次元圧縮（最大6倍）、sentence-transformers/Ollama/llama.cppでの動かし方、float16禁止や再正規化といった実装の落とし穴までを解説します。

Qwen-Image-2.1（7B・2026年9月20日公開）をComfyUIで使う完全ガイド。透過PNG(RGBA)をテキストから直接生成できる主要オープンモデル唯一の存在で、背景除去が不要になります。必要なファイルとVRAMの目安、公式テンプレートのサンプラー設定（steps 25 / cfg 1 / euler / simple）、ネイティブ2K出力、最大10枚の参照画像、KVキャッシュ設定、非商用限定ライセンスの注意点まで初心者向けに解説します。

5.9GBで27B級を動かすTernary Bonsai 2 27B（PrismML・Apache 2.0）の完全ガイド。必要メモリの計算（重み＋KVキャッシュ＋visionタワー）、Apple SiliconのMLXとWindows・LinuxのGGUFの2系統、純正llama.cppと現行Ollamaでは動かない理由、セットアップ手順、要件を満たすMac mini・ミニPC・GPUまで。

GitHub 6,400スター超えのODS（Osmantic Deployment System）を解説。1行のインストールでOllama級推論・Open WebUI・Hermes Agent・n8n・Whisper/Kokoro・Qdrant・ComfyUIを一括導入し、GPU/統合メモリ（Strix Halo・DGX Spark対応）から最適モデルを自動選択。v2.6.0一次確認のtier表付き（2026年9月13日確認）。

AnthropicのGreg Diamosが、Intel Xeon 1コアだけて3.65MパラメータのMoE言語モデルを学習。9時間で基本推論が創発した全成果を、論文から徹底解説します。

RoboflowのRF-DETRはCOCOでSOTAを達成したリアルタイム物体検出モデル（ICLR 2026採択）。Nano 2.3msでYOLO11-Nを15ポイント以上上回り、検出・セグメンテーション・キーポイントを統一APIで操作。YOLOとの徹底比較と3ステップの使い方、Apache 2.0ライセンスの解説。

Z.ai（ジップAI）が2026年8月26日に発表したGLM-5.3-Flash（320B総/18B活性・ネイティブマルチモーダル・1Mコンテキスト・MITライセンス）をローカル実行する完全ガイド。Claude Opus 4.8に迫るコーディング性能をAPI価格10分の1で実現。Unsloth動的量子化GGUF（1bit 93GB・2bit 109GB・3bit 120GB・4bit 200GB）でDGX Spark・GMKtec EVO-X3等の128GBマシンで動作。llama.cpp（glm5nextブランチ）のセットアップ4ステップ・必要スペック表・ローカル実行に適したハードウェア環境（DGX Spark / Ryzen AI Max+ 395ミニPC / Mac Studio / データセンターGPU）を解説。

NVIDIAがIFA 2026で発表した無料ツール「NVIDIA PAIR（Personal AI Router）」を図と動画つきで解説。同じLAN上のPC（RTX 20系以降・DGX Spark・Mac M4以降）を自動検出し、AI推論リクエストを空いているGPUへ自動ルーティング。Ollama/LM Studio対応でアプリ再設定は不要。Hermes Agent×5サブエージェントの公式デモ動画、10分でできるセットアップ5ステップ、ペアリング（6桁PIN）、ポート、対応デバイス表、「GPU合体ではない」注意点までを初心者向けに整理。

2026年9月3日、Unsloth AIが「Unsloth GGUFsをHermesでワンクリックローカル実行できる」と発表（700いいね）。Qwen3.8-27B（16.2GB・17GB RAMで動作）・Qwen3.8-Flash・DeepSeek-V4-Flashに対応。HermesのLocal Models機能がllama.cpp導入・量子化選択・メモリ管理を自動化し、「Install runtime → Download → Use」の4ステップで完了。クラウドAPI不要・アカウント不要・データがPCの外に出ない。

peonist-aiが公開したhalogen-flash-serverを紹介。AMD Strix Halo（gfx1151）とQwen3.8-Flash-Next専用に全カーネルを特化させたLLM推論サーバーで、最良の競合より約3.8倍高速（32Kプロンプトで31.1秒）。5.53bpwの精度維持・OpenAI互換API・1行podman起動を解説します。

LLM推論エンジンFreeTokenにマージされたPR #311を解説。Qwen3.8-Flash-NextのPLE n-gramテーブル（FP8で47.7GiB）をRAMにプリロードせず、ディスクから必要な行だけをio_uring/O_DIRECTで読み込む方式。H100でデコード-2.6%・プリフィルほぼ同等の性能を維持。

Qwen3.8-Flash-Next（総パラメータ125B・活性化6Bの次世代MoE）をローカルで動かすためのGGUF量子化別の必要メモリと推奨PC構成を解説。UD-IQ1_S（72GB）〜UD-Q4_K_XL（111GB）の7種類の量子化と、96GB〜192GB RAM＋RTX 4060 Ti〜RTX 5090の構成例。llama.cppセットアップ手順も。

Ornith-1.5-9B-OBLITERATEDは、安全アラインメントを外科手術的に除去した9Bモデル。解放率94%（ストック12%）。Q4_K_M 5.4GBならRTX 4060 8GBで快適に動作。量子化・必要スペック・セットアップ手順を解説。

Processing-in-Memory（PIM）技術の進化で、未改造の市販DRAMだけでLLM推論を高速化できる時代が近づいています。MVDRAM（7.29倍高速化・30.5倍省エネ）・RACAM（GPU比102倍）・DeepSeek Engram（静的知識のシステムDRAMオフロード）を解説。HBM依存度の低下とDRAM需要・価格への影響も。

FlashML開発のエッジネイティブMoE推論エンジン「FreeToken」を解説。GPU・CPU・ホストメモリを統合し、290B+のフロンティア級オープンウェイトMoE（DeepSeek-V4-Flash等）をゲーミングPCで実行。帯域幅適応型CPU-GPU同時実行・LRU Expertキャッシュ・FTWフォーマット。RTX 30/40/50対応、Apache-2.0、arXiv論文付き。

AI開発企業Markov（YC S26）が公開したCAD特化コンピューターユースデータセット「CAD 1000 Hours」を解説。1,021時間・597ワークフロー・AutoCAD/SOLIDWORKS等10ソフトの操作録画に、タスク・完成品・評価基準までセット。関連ベンチマークAutoCAD-Benchで判明したGPT-5.6 Sol完答率46%という最新AIの実力まで。

高性能オープンモデル「Ornith-1.5-9B」から拒否反応を除去した無検閲LLM「Huihui-Ornith-1.5-9B-abliterated」を徹底解説。9Bパラメータ・MITライセンスで、Q4量子化ならVRAM 8GBで動作。transformers/GGUF/LM Studioでの動かし方、量子化別の必要GPU、正直な注意点まで。

ローカルAIを動かす自作PCの土台に最適な、MSI PRO B850-P WIFI（AM5マザー）とMAG A850GL（850W電源）を画像つきで徹底解説。PCIe 5.0 x16とDDR5 256GB対応、PCIe 5.0 16ピン電源で将来のGPU増設に強い。AIで何ができるかを正直に解説し、おすすめ構成とセットアップ手順を紹介。

Unslothが公開したQwen3.8-27BのGGUF量子化版を完全解説。ダウンロード430万超の人気モデル。UD-Q4_K_M(16.5GB)が定番、VRAM12GBならUD-IQ3_S、8GBならUD-IQ2_S。ファイル全一覧・必要なPCスペック・LM Studio/Ollamaでの動かし方・画像認識のmmproj・Qwen公式ベンチマークまで初心者向けに徹底ガイド。

Hugging Faceのsoyaakinohara/qwen3.8-27b-abliterated-3.69bpw-12GB-MTP.ggufを徹底解説。無検閲のQwen3.8-27B（AEON-7版）をRidge式混合量子化で11.73GBに圧縮。GDN経路はQ8_0で保護しFFNだけ圧縮する賢い設計で、MTP内蔵・draft-mtp対応のllama.cppで実測37トークン/秒。RTX 4070 Super 12GBクラスがターゲット。起動コマンド・LM Studio/Ollamaでの使い方・注意点まで完全網羅。

HuggingFaceの「Huihui-DeepSeek-V4-Flash-0731-abliterated-GGUF」を初心者向けにレビュー。DeepSeek V4 Flash 0731の無検閲版をGGUF形式でローカル実行する方法（llama.cpp）、アブリタレーションの概念、量子化ファイルの選び方、そして安全フィルタリング削減の重要な注意点まで詳しく解説。研究・教育目的の推奨と責任ある使用を明記。

dealignaiが公開したQwen3.8-27Bベースの無検閲モデル「Qwen3.8-CRACK」を徹底解説。ネイティブな画像・動画理解に対応し、RX 570 8GBのような低VRAMでも動作可能。アーキテクチャ(GatedDeltaNet/262K/MTP)、Hugging Faceの実際の配布一覧(GGUF/MLX)、ベンチマーク(HarmBench/MMLU)、ローカル実行方法、安全・倫理・法的注意点まで完全網羅。

ÆON FORGEが公開したQwen3.8-27Bベースの無検閲モデル「Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED」を徹底解説。アブリタレーションで拒否ゼロ、知能も向上。ベースのQwen3.8-27Bのスペック、BF16/NVFP4/GGUF/MLXなどの配布形式、ローカルでの動かし方、安全・倫理・法的注意点まで完全網羅。

NVIDIA RTX PRO 6000（96GB GDDR7 / Blackwell）のクラウドレンタル価格をRunPod基準で全プロバイダ比較。最安$0.50/hrからSecure $2.09/hrまで4倍以上の価格差を、安さ重視・安定性重視の使い分け付きで完全解説。

中国最大のフリマ「闲鱼（Goofish）」の基本から、改造NVIDIA GPU（魔改显卡）の探し方、検索キーワード、海外からの購入手順、詐欺・不良品を避けるチェックリストまで完全解説。RTX 3080 24GB化・2080 Ti 22GB化などの実例付き。

最低6GBのVRAMで動くオープンソースAI生成スイートWan2GPを完全解説。動画・画像・音声・TTSを1つで生成。何がすごいのか・対応モデル・インストール方法・使い方を初心者向けに。

ローカルでAIモデルを動かして訓練できる初のデスクトップアプリ Unsloth Desktop を完全解説。6つの主要機能・対応ハードウェア・インストール方法・Claude Code接続方法・メリットデメリットまで初心者向けに。

Unsloth が Meta の Muse Glimmer 30B にデイゼロ対応！18GB RAM で実行可能な Dynamic 量子化の選び方、推奨設定（temperature・top_p）、Unsloth Desktop と llama.cpp での実行方法、ファインチューニング、ベンチマークまで完全解説。

Meta Superintelligence Labs が発表したローカルAIエージェント専用の30Bオープンウェイトモデル「Muse Glimmer」を完全解説。Apache 2.0・20GB未満に量子化・DFlash投機的デコードで最大3.1倍高速化。性能・使い方・デモまでまとめました。

アノテーションたった1枚でコンベア上のじゃがいもをリアルタイム計数するAIシステムを解説。SAM 2でラベル自動生成、YOLO11 nanoで検出・計数する仕組み、GitHubコードの内容、農家での活用アイデア、セットアップ手順をまとめました。

KTransformers を初心者向けに徹底解説。CPU-GPU連携で24GB VRAMでもDeepSeek-R1級の巨大MoEを動かせる仕組み、必要ハードウェア（GPU/RAM）、インストール手順、おすすめ構成をまとめました。