FOR LOCAL AI

AIで選ぶ

ローカルで AI（大規模言語モデル・画像生成）を動かすときは、GPU の VRAM（ビデオメモリ）の容量が選び方の軸になります。容量ごとに、今買える GPU をまとめました。

「何 GB あればどのモデルが動くか」の目安は、出典（各ツール・モデルの公式情報）を確認してから追加します。

初めての人向け: つまずきやすい用語

パラメータ数（例: 7B・14B）: モデルの「大きさ」。数字が大きいほど賢くなりやすい反面、VRAMをたくさん使う。Bは10億（billion）の略。
量子化（Q4・Q8など）: モデルの中身を間引いて軽くする処理。数字が小さいほど軽く・速くなるが、やや精度が落ちる。Ollamaや各配布サイトでは量子化済みのファイルが配られていることが多い。
GGUF: 量子化したモデルを1つのファイルにまとめた形式。Ollama・LM Studio・text-generation-webUIなど、多くのローカル実行ツールで読み込める。
コンテキスト長: 一度に読み書きできる文章の長さの上限。長い会話や長い文書を扱うほど、表の目安より多くのVRAMが必要になる。
知識カットオフ: 学習データの基準時点。これより後に起きた出来事は基本的に知らない（ローカルLLMに最近のニュースを聞いても答えられないのはこのため）。公式に時期を明記しているモデルだけ下の表に記載。

チャット・推論・プログラミング支援・画像生成など、目的ごとに代表的なモデルと必要VRAMの目安をまとめました。モデル名の後ろの数字（7B・14Bなど）が大きいバージョンほど高性能ですが、VRAMも多く必要です。

モデル	必要VRAMの目安	知識カットオフ	補足
Llama 3.1 (8B)	5GB〜	2023年12月	Meta製。Ollama上で最もダウンロードされている定番モデル（迷ったらまずこれ、という位置づけ）。多言語対応・ツール呼び出しにも対応。	対応GPUを見る →
Phi-3 Mini (3.8B)	3GB〜	2023年10月	Microsoft製の軽量モデル。VRAMが少ないGPU（8GB未満）でも動かせる定番の選択肢。	対応GPUを見る →
Mistral NeMo (12B)	8GB〜	2024年4月	Mistral AIとNVIDIAが共同開発。128K〜という非常に長いコンテキスト長が特徴で、長い文章・長い会話を扱いやすい。画像入力には非対応。	対応GPUを見る →

出典: Ollama公式ライブラリ（llama3.1:8b）、Ollama公式ライブラリ（phi3:3.8b）、Ollama公式ライブラリ（mistral-nemo:12b）

モデル	必要VRAMの目安	知識カットオフ	補足
Gemma 4 (12B)	8GB〜	2025年1月	テキストと画像の両方を入力できるモデル（マルチモーダル）。Google製。	対応GPUを見る →
Qwen 3.5 (9B)	8GB〜	（未確認）	Alibaba製。多言語対応で日本語の精度も比較的高い。知識カットオフは公式ページに明記が見当たらず未確認。	対応GPUを見る →

出典: Ollama公式ライブラリ（gemma4:12b）、Ollama公式ライブラリ（qwen3.5:9b）

モデル	必要VRAMの目安	知識カットオフ	補足
gpt-oss (20B)	14GB〜	2024年6月	OpenAIが初めて公開したオープンウェイトモデル。考える過程（Chain of Thought）を全て見られる、ツール呼び出しなどエージェント用途向け。Apache 2.0ライセンス。	対応GPUを見る →
DeepSeek-R1 (14B)	9GB〜	（未確認）	答えを出す前の「考え中」の過程を表示する推論特化モデル。数学・プログラミングに強い。知識カットオフは公式に非公開（非公式な報告は2023年後半〜2024年半ばなどまちまちで未確認）。	対応GPUを見る →
DeepSeek-R1 (32B)	20GB〜	（未確認）		対応GPUを見る →

出典: Ollama公式ライブラリ（gpt-oss:20b）、Ollama公式ライブラリ（deepseek-r1:14b）、Ollama公式ライブラリ（deepseek-r1:32b）

モデル	必要VRAMの目安	知識カットオフ	補足
Qwen2.5 Coder (14B)	9GB〜	（未確認）	コード生成・修正に特化。GitHub Copilotのようにエディタと連携させて使うことが多い。知識カットオフは公式ページに明記が見当たらず未確認。	対応GPUを見る →
Qwen2.5 Coder (32B)	20GB〜	（未確認）		対応GPUを見る →

出典: Ollama公式ライブラリ（qwen2.5-coder:14b）、Ollama公式ライブラリ（qwen2.5-coder:32b）

モデル	必要VRAMの目安	知識カットオフ	補足
FLUX.1 [dev]（量子化版・GGUF Q4〜Q5）	8GB〜	（未確認）	Stable Diffusion系のUI（Forge・ComfyUI等）で動かす高品質な画像生成モデル。量子化なしのフル精度版は24GB以上必要。画像生成モデルのため「知識カットオフ」は該当なし。	対応GPUを見る →

出典: Hugging Face（black-forest-labs/FLUX.1-dev）モデルカード