【ローカルAI】ハードウェア選定ガイド——予算別にどこまで動く？失敗しない買い方

はじめに——「グラボを買う前に読んでほしい」話
まず知っておきたい——VRAMと量子化の基本
予算別・何が動くか
コスパの裏技——MoEモデル
GPUは必須なのか？——CPUでも動く、ただし速度は桁違い
もう1つの選択肢——Mac mini M4とDGX Spark
所感——「最初からハイエンドを買わない」
まとめ
関連リンク

はじめに——「グラボを買う前に読んでほしい」話

ローカルAIに興味を持つと、必ずぶつかるのがハードウェア選定の問題です。「何を買えばいいの？」「GPUは必須？」——正直、最初は誰もが迷います。この記事では、予算別にどこまでのローカルLLMが動くのかを整理します。無駄な出費を避けるためのガイドです。

まず知っておきたい——VRAMと量子化の基本

ローカルLLMで最重要なのはVRAM（グラフィックメモリ）です。簡単な計算式があります。

パラメータ数（B）× 0.6〜1.0 = 必要なVRAM量（GB）の目安

例えば、7B（70億パラメータ）のモデルなら約4〜7GB、14Bなら約8〜14GBが必要です。

もう1つのキーワードが量子化。AIの精度を少し下げてファイルサイズを小さくする技術です。例えるなら「ダイエット」のようなもの。体重（サイズ）は少し減るが、基本的な動き（性能）は変わらない。4bitや8bit量子化を使えば、限られたVRAMでも大きなモデルを動かせます。

予算別・何が動くか

予算帯	主役のGPU	動くモデル	用途
20万円台	RTX 4060 Ti 16GB（約7万円）	Qwen3-14B、7Bクラス	入門・日常会話・文書作成（応答速度は実用的）
40万円台	RTX 5070 Ti / 5080	Qwen3-32Bクラス	コーディング・推論
ハイエンド	RTX 5090（32GB）	70Bクラス（4bit量子化）	本格利用・RAG
Apple Silicon	M4 Max / M3 Ultra	70B〜100B級も可（統合メモリ最大256GB）	大容量モデルをそのまま載せられる

DevelopersIOのVRAM別モデル選定ガイドでは、こんな整理になっています。

8GB：Qwen3-1.7B、Qwen 7B（4bit）→ 軽い用途・実験
16GB：gpt-oss-20b、Qwen3-14B（8bit）→ 個人開発・コード補完
24GB：Llama 70B（4bit）→ 本格利用・RAG
48GB+：Llama 405B（8bit）→ 大規模プロダクション

コスパの裏技——MoEモデル

「16GBのVRAMでも30Bクラスの性能が出る」——そんな裏技があります。それがMoE（Mixture of Experts）モデルです。

例えるなら、30億人の専門家がいるが、毎回3億人だけ集めるイメージ。総パラメータ数は30Bでも、実際に稼働するのは3Bだけ。だから16GBのVRAMでも30Bクラスの性能が出ます。Qwen3-30B-A3Bやgpt-oss-120bなどが代表例です。

「個人で動かせて、それなりに賢い」——この帯のスイートスポットです。

GPUは必須なのか？——CPUでも動く、ただし速度は桁違い

意外と知られていませんが、推論（テキスト生成）はCPUのみでも実行できます。量子化モデルなら、一般的なCPUだけでも動作します。

ただし、1つ注意点があります。LM Studioなど主要なローカルLLMツールは、CPUのAVX2命令セットへの対応が必須です（公式システム要件で明記）。AVX2は2013年頃以降のCPU（Intel Core第4世代Haswell以降・AMD Excavator以降）に搭載されている命令セットで、それより古いCPUでは「invalid instruction（不正な命令）」エラーで動かないことがあります。手持ちのPCが古い場合は、「CPU名 + AVX2」で検索して対応を確認しましょう。

ただし、ここは正直に書きます。VRAM（GPU）を使う場合とCPUを使う場合では、速度に圧倒的な差があります。同じモデルを動かしても、体感で数倍から十数倍の差が出ることも珍しくありません。

CPU実行：1秒間に数トークン（数文字）程度。文章1つを生成するのに数十秒かかる。試すには十分だが、実用には我慢が必要
VRAM実行（GPU）：1秒間に数十〜数百トークン。ChatGPTに近い体感速度で、ストレスなく使える

「動くか動かないか」の観点ではCPUでもOKですが、「快適に使えるか」の観点ではGPU（VRAM）の有無が天と地ほどの差になります。まずは手持ちのPCでCPU実行を試して、体感を確かめてからGPU投資を検討する——これが無駄な出費を避ける正しい順番です。

もう1つの選択肢——Mac mini M4とDGX Spark

最近のローカルAI界隈でコスパ最強として人気を集めているのがMac mini（M4）です。

Appleシリコンのメモリ帯域幅の高さがLLM実行と相性抜群
統一メモリ（ユニファイドメモリ）により、GPUがメモリを直接使える
デスクトップながら消費電力が低く、静か
エントリー構成でもローカルLLMの入門機として十分な性能

WindowsゲーミングPCのように高価なGPUを積むより、Mac mini 1台で手軽に始められる——それが今のトレンドです。

もう1つ、AI専用デスクトップという選択肢もあります。NVIDIAのDGX Sparkなど、AI実行に特化した小型デスクトップが登場しました。これは超高性能ですが、価格は100万円近くになります。個人の入門用途としてはかなり高額です。

ただし、この分野はこれから各社が参入してくると見られています。AI専用デスクトップは確実に普及していく分野だと思います。競争が進めば価格は下がる可能性が高いので、今すぐ必要でなければMac mini M4で始めて、AI専用機の価格がこなれてから検討する——というのが現実的な戦略です。値下がりを待ちつつ、登場が楽しみなジャンルです。

所感——「最初からハイエンドを買わない」

ローカルLLMの世界は半年ごとに常識が変わります。2026年3月にはQwen3.5シリーズが登場して、9BクラスがGPT-5並みとも言われています。つまり、半年後には今の常識がひっくり返る可能性がある。だから最初からハイエンドを買わずに、20万円台で入門して体感するのが賢い選択だと思います。

私はまず手持ちのPCでCPU実行から始めて、現在はLM StudioでQwen 3.5-9Bを動かしています。CPU実行とVRAM実行の速度差は、実際に体感すると本当に圧倒的です。まずは手持ちのPCで試して、体感を確かめてから投資するのがおすすめです。

まとめ

項目	内容
最小構成	手持ちのPC＋CPU実行（0円）
入門おすすめ	RTX 4060 Ti 16GB（約7万円）＋Qwen3-14B
コスパ裏技	MoEモデル（Qwen3-30B-A3B等）
失敗しないコツ	最初からハイエンドを買わない