ローカル LLM に必要な PC スペック：メモリ容量で決まる「動かせるモデル」の目安【中小企業のためのローカル生成 AI 導入ガイド 第 2 回】
公開日
この記事を共有
連載「中小企業のためのローカル生成 AI 導入ガイド」（全 5 回）
- 第 1 回 ローカル生成 AI とは？クラウド AI との違いと向いている業務
- 第 2 回 必要な PC スペック：メモリ容量で決まる「動かせるモデル」（この記事）
- 第 3 回 GEEKOM A9 Mega で社内 LLM サーバーを始める
- 第 4 回 社内文書に答える AI（RAG）を小さく始める
- 第 5 回 安全に使い続けるための運用ルールとチェックリスト
第 1 回では、ローカル生成 AI の考え方と向いている業務を整理しました。第 2 回は、実際に PC を選ぶときのポイントです。一般的な業務用 PC では CPU の性能が重視されますが、ローカルで大規模言語モデル（LLM）を動かす PC では、まずメモリ容量を確認します。モデル全体をメモリに読み込めるかどうかで、使えるモデルが決まるためです。
モデルの大きさを表す「パラメータ数」と「量子化」
LLM の名前に付いている「8B」「70B」などは、モデルのパラメータ数を表します。B は billion（10 億）の略で、8B なら約 80 億、70B なら約 700 億です。パラメータ数が大きいほど回答の質が高くなる傾向がありますが、そのぶん必要なメモリと処理時間が増えます。
そこで広く使われているのが量子化です。モデルの数値を 16bit から 8bit や 4bit などに減らして、ファイルサイズとメモリ使用量を抑えます。AMD の解説では、ローカル環境で最も一般的なのは 4bit 量子化（llama.cpp の Q4_K_M 形式など）とされています。量子化の方式によって回答の質への影響は異なるため、実際の業務に近い入力で確認することが大切です。
容量の感覚をつかむ例として、Ollama の公式資料には、70B のモデル（llama3:70b）を読み込んだ状態で 42GB と表示される例が掲載されています。
モデル以外にもメモリを使う：文脈の長さと同時利用
必要なメモリは、モデルのファイルサイズだけでは決まりません。
- 文脈の長さ（コンテキスト長）：一度に扱える文章の量です。長い資料を読み込ませたり、会話を長く続けたりするほど、追加のメモリが必要になります。
- 同時に処理するリクエスト数：Ollama の資料では、同時に処理するリクエスト数を増やすと、その数に応じて必要なメモリも増えると説明されています。部署で共有する場合は、利用人数を見込んで余裕を持たせます。
- OS や他のアプリ：Windows や業務アプリ、文書検索の仕組み（第 4 回）もメモリを使います。
GPU が使えるメモリ：独立 GPU と「共有メモリ」
LLM の処理は、CPU よりも GPU で行うほうが一般に高速です。独立したグラフィックスカードを使う場合、モデルはカードに搭載された専用メモリ（VRAM）に読み込まれるため、VRAM の容量が上限になります。
一方、ミニPCなどに多い CPU 内蔵の GPU は、本体のメモリを CPU と共有して使います。AMD Ryzen AI Max+ シリーズでは、この共有メモリの一部を GPU 専用に割り当てる「可変グラフィックスメモリ（Variable Graphics Memory）」という機能があり、AMD は次のように説明しています。
- メモリ 128GB の構成では、最大 96GB を GPU 専用に割り当てられる（GPU が扱えるメモリは合計 112GB）。
- メモリ 64GB の構成では、最大 48GB を GPU 専用に割り当てられる。
- GPU に割り当てた分は、CPU 側で使えるメモリから差し引かれる。
また、処理速度にはメモリの帯域（データを読み書きする速さ）も影響します。AMD は、Ryzen AI Max+ プラットフォームの帯域を 256GB/s とし、下位の構成に比べて 1 秒あたりに生成できる文字数（トークン数）がおおむね 2 倍になるとしています。
メモリ容量別：動かせるモデルの目安
AMD は、自社のプロセッサーとメモリ容量の組み合わせごとに、推奨するモデルの例を公表しています（4bit 量子化、公表時点の例）。
| 構成 | AMD が示すモデルの例 | 想定される使い方 |
|---|---|---|
| Ryzen AI 9 300 シリーズ・メモリ 16GB | Google Gemma 3 4B | 個人での簡単な対話・要約の試用 |
| Ryzen AI 9 300 シリーズ・メモリ 32GB | Google Gemma 3 12B | より質の高い回答を試す（速度とのトレードオフあり） |
| Ryzen AI Max+ シリーズ・メモリ 64GB | Google Gemma 3 27B | 中規模モデルでの業務検証 |
| Ryzen AI Max+ 395・メモリ 128GB | 最大 128B（1,280 億パラメータ）級の 4bit モデル、FP16 なら最大 32B 級 | 大きなモデル、長い文脈、複数モデルの併用 |
※AMD の公表資料をもとにした目安です。実際に動作するかどうかや処理速度は、モデル、ソフトウェア、ドライバー、設定によって変わります。
参考として、GEEKOM が公開した検証では、Ryzen AI Max+ 395・メモリ 128GB の環境で大きなモデルを 256K トークンの文脈長で動かした際、メモリ使用量は約 110GB でした（第 3 回で詳しく紹介します）。大きなモデルを長い文脈で使う場合、128GB の構成でも余裕が大きいわけではないことが分かります。
CPU・NPU・ストレージの考え方
- CPU：文書の読み込みや前処理、アプリの動作を担います。GPU にモデルが収まらない場合、CPU 側での処理になり速度が大きく下がります。
- NPU：AI 処理用の演算器ですが、搭載されていてもすべての AI ソフトが自動的に使うわけではありません。使いたいソフトが対応しているかを確認します。
- ストレージ：モデルのファイルは 1 つで数十 GB になることがあります。GEEKOM の検証記事では、1 つのモデルのために 110GB 以上（推奨 130GB）の空き容量が必要とされていました。複数のモデルを比べる場合は、1TB 以上を目安に余裕を持たせると安心です。
GEEKOM 法人ストアの取扱いモデルでの考え方
| 製品 | メモリ | 検討しやすい段階 |
|---|---|---|
| GT1 MEGA（Core Ultra 9 185H） | DDR5 32GB（スロット式・最大 64GB） | 小さなモデルで使い勝手を確かめる |
| A9 MAX（Ryzen AI 9 HX 470） | DDR5 32GB（スロット式） | 小さなモデルでの試用、業務アプリとの併用 |
| A9 MEGA（Ryzen AI Max+ 388） | LPDDR5x-8000 64GB（オンボード） | 中規模モデルでの部門内検証 |
| A9 MEGA（Ryzen AI Max+ 395） | LPDDR5x-8000 128GB（オンボード） | 大きなモデル、長い文脈、複数モデルの比較 |
A9 MEGA のメモリは基板に実装されているため、購入後に増やすことはできません。「最初は小さく試したいが、うまくいけば大きなモデルも使いたい」という場合は、検証用と本番用で機種を分けて考える方法もあります。
まとめ
ローカル LLM の PC 選びは、「どの大きさのモデルを、どのくらいの文脈長で、何人で使うか」からメモリ容量を決めるのが基本です。CPU 内蔵 GPU の場合は、GPU に割り当てられるメモリの上限も確認しましょう。
次回は「第 3 回 GEEKOM A9 Mega で社内 LLM サーバーを始める」です。
GEEKOM 法人ストアでは、各製品の仕様書（PDF）を資料ダウンロードページで公開しています。想定している用途や利用人数をお知らせいただければ、構成の比較やお見積りのご相談にも対応いたします。なお、AI ソフトウェアやモデルの動作環境は各ソフトの提供元でご確認ください。
