計算式を教えて

必要メモリ ≒ 重み + KVキャッシュ + 推論オーバーヘッド(約2GB)。重み = パラメータ数 × (bit/8) × 補正係数（4bit=0.62 / 8bit=1.1 / 16bit=2.0）。KVキャッシュ ≒ ctx_K × (0.06 + 0.0035 × paramsB) GB の経験式で近似しています。

判定 ✓△✗ の基準は？

占有率（必要メモリ ÷ 利用可能メモリ）で判定。Macは Unified Memory のうち推論に回せる割合を75%、PCのGPU専用VRAMは92%として算出。✓余裕：占有70%以下／△ギリギリ：100%以下／✗厳しい：100%超。

MoE モデル（Mixtral・DeepSeek V3）の扱いは？

MoEはアクティブパラメータが少なくても、重みはすべてメモリに載せる必要があります。Mixtral 8x7B なら 47B 分の重みをロードします。本ツールはMoEを「総量」で計算しています。

推定の精度は？

量子化方式（Q4_K_M / GPTQ / AWQ / GGUF / MLX）や推論エンジン（Ollama / llama.cpp / LM Studio / MLX）によって ±15-20% のブレがあります。あくまで目安としてご利用ください。実際に動かすときは少し余裕を見ておくのが安全です。

Mac の Unified Memory 設定は変えられる？

はい。`sudo sysctl iogpu.wired_limit_mb=数値` でMetal/MLXに割り当てる上限を引き上げられます。32GB以下のMacでは70-75%が安全域、64GB以上のMacなら85%程度まで上げられることが多いです。本ツールは保守的に75%で固定しています。

おすすめの推論エンジンは？

Mac は Ollama（手軽）か MLX（Apple Silicon特化で速い）、PC（NVIDIA GPU）は Ollama か llama.cpp直、GUIなら LM Studio が定番。Apple Silicon は MLX で同じモデルが llama.cpp比1.5-2倍速いケースもあります。

TOOL

ローカルLLMを整える。

自分のマシンで Llama・Qwen・Gemma・Mixtral などの主要モデルが動くかをひと目で判定。量子化・コンテキスト長を切り替えて、必要メモリと余裕度を比較できます。

💻 エンジニア 🤖 RAG / AI設計

TLDR — 30秒で分かる

自分のマシンで Llama・Qwen・Gemma が動く？量子化（4bit/8bit/16bit）とコンテキスト長を切替えて即判定。

主な機能を見る

14モデルの動作可否判定
量子化（4/8/16bit）切替
コンテキスト長切替
GPU・RAM・Apple Silicon対応

あなたのマシンのメモリ

プラットフォーム

Mac (Unified Memory) PC GPU専用VRAM

量子化

4bit（標準・推奨） 8bit（品質重視） 16bit（無圧縮）

コンテキスト長

4K（チャット） 8K（標準） 32K（長文） 128K（超長文）

VERDICT

判定中…

DETAILS

モデル別の必要メモリ

モデル	代表例	16bit	8bit	4bit	必要合計	占有率	判定
1B	Llama 3.2-1B / Qwen 2.5-0.5B/1.5B	—	—	—	—	—	—
3B	Llama 3.2-3B / Gemma 2-2B / Phi-3.5-mini	—	—	—	—	—	—
8B	Llama 3.1-8B / Qwen 2.5-7B / Mistral 7B	—	—	—	—	—	—
9B	Gemma 2-9B	—	—	—	—	—	—
12B	Mistral Nemo 12B	—	—	—	—	—	—
14B	Qwen 2.5-14B / Phi-3-medium	—	—	—	—	—	—
22B	Mistral Small 22B	—	—	—	—	—	—
27B	Gemma 2-27B	—	—	—	—	—	—
32B	Qwen 2.5-32B / QwQ-32B / DeepSeek Coder 33B	—	—	—	—	—	—
8x7B (MoE)	Mixtral 8x7B	—	—	—	—	—	—
70B	Llama 3.3-70B / Qwen 2.5-72B	—	—	—	—	—	—
8x22B (MoE)	Mixtral 8x22B	—	—	—	—	—	—
405B	Llama 3.1-405B	—	—	—	—	—	—
671B (MoE)	DeepSeek V3	—	—	—	—	—	—

※ 単位は GB。必要合計 = 重み + KVキャッシュ + 推論オーバーヘッド（約2GB）。占有率 = 必要合計 ÷ 利用可能メモリ。量子化方式や推論エンジンの違いで ±15-20% のブレがあります（目安）。

よくある質問

Q. 計算式を教えて: A. 必要メモリ ≒ 重み + KVキャッシュ + 推論オーバーヘッド(約2GB)。重み = パラメータ数 × (bit/8) × 補正係数（4bit=0.62 / 8bit=1.1 / 16bit=2.0）。KVキャッシュ ≒ ctx_K × (0.06 + 0.0035 × paramsB) GB の経験式で近似しています。
Q. 判定 ✓△✗ の基準は？: A. 占有率（必要メモリ ÷ 利用可能メモリ）で判定。Macは Unified Memory のうち推論に回せる割合を75%、PCのGPU専用VRAMは92%として算出。✓余裕：占有70%以下／△ギリギリ：100%以下／✗厳しい：100%超。
Q. MoE モデル（Mixtral・DeepSeek V3）の扱いは？: A. MoEはアクティブパラメータが少なくても、重みはすべてメモリに載せる必要があります。Mixtral 8x7B なら 47B 分の重みをロードします。本ツールはMoEを「総量」で計算しています。
Q. 推定の精度は？: A. 量子化方式（Q4_K_M / GPTQ / AWQ / GGUF / MLX）や推論エンジン（Ollama / llama.cpp / LM Studio / MLX）によって ±15-20% のブレがあります。あくまで目安としてご利用ください。実際に動かすときは少し余裕を見ておくのが安全です。
Q. Mac の Unified Memory 設定は変えられる？: A. はい。`sudo sysctl iogpu.wired_limit_mb=数値` でMetal/MLXに割り当てる上限を引き上げられます。32GB以下のMacでは70-75%が安全域、64GB以上のMacなら85%程度まで上げられることが多いです。本ツールは保守的に75%で固定しています。
Q. おすすめの推論エンジンは？: A. Mac は Ollama（手軽）か MLX（Apple Silicon特化で速い）、PC（NVIDIA GPU）は Ollama か llama.cpp直、GUIなら LM Studio が定番。Apple Silicon は MLX で同じモデルが llama.cpp比1.5-2倍速いケースもあります。

RELATED TOOLS

続けて整える

AI・同カテゴリ

埋め込みサイズを整える

OpenAI・Cohere・Voyage・BGE などのベクトル次元・ストレージ・コストを比較。RAG設計の容量見積もりに。

開く

AI・同カテゴリ

LLM料金を整える

プロンプトを貼ると GPT-4o・Claude Sonnet 4.5・Gemini 2.5 Pro など主要 LLM の API 料金が一発で並ぶ。USD/JPY・バッチ・キャッシュ割引・月次予測まで。

開く

AI・関連

コンテキスト窓を整える

Claude 200K・GPT-4o 128K・Gemini 2.5 Pro 2M・Llama 4 10M。主要LLMの窓を一覧比較。「私の50KトークンPDFはどのモデルに入る？」が一発で。

開く