GPUなし（CPUだけ）でローカルLLMは動く？｜同じパソコンでGPUを切って測ると、速さは約10分の1だった

「グラボのないパソコンでも、ローカルLLMは動くの？」

この記事は、GPU（グラフィックボード）のないパソコンや、GPUのVRAMが少ないパソコンで、ローカルLLM（自分のパソコンで動かす文章AI）を試したい人のための記事です。そもそもパソコンを買い替えるべきかは、AIのためにパソコンを買い替えるべき？にまとめています。

2026年11月1日に、筆者のパソコン（Core i7-13700F・メモリ32GB・RTX 4070）で、LM StudioのGPUを使わない設定で測りました。

あなたならどれで十分か

持っているパソコン	ローカルLLMは	筆者の記録
GPUなし・メモリ16GB以上	小さいモデルなら試せる	CPUだけで1.2Bが約28トークン/秒
GPUなしで8Bを使いたい	動くが、待ち時間が長い	CPUだけで8Bが約8トークン/秒
GPUあり（VRAMに収まる）	速く動く	RTX 4070で8Bが約80トークン/秒
ふだんの調べもの・文章	ローカルでなくてよい	ChatGPTなどはサービスのサーバーで動く

CPUの速さは、パソコンによって違います。筆者が測ったのは、デスクトップ用のCore i7-13700Fの1台だけです。

なぜそう言えるか：文章を出す計算をCPUが受け持つ

ローカルLLMは、文章を1トークンずつ作るたびに、モデルのたくさんの数値を使って計算します。GPUは、この計算を一度にたくさん進めるのが得意です。GPUを使わない設定にすると、同じ計算をCPUが受け持つので、時間がかかります。

LM Studioのコマンドでは、GPUに載せる割合を「off（GPUを使わない）」から「max（すべてGPU）」まで選べます。今回は、同じモデル・同じ頼み方で、この設定だけを変えました。

実際に試した結果

モデル（ファイル）	GPUを使ったとき	CPUだけ
1.2B（約1.3GB）	1秒あたり約240トークン	1秒あたり27.3〜29.1トークン
8B（約4.9GB）	1秒あたり約78〜86トークン	1秒あたり8.4トークン

注意：トークンは、AIが文章を区切って扱う単位です。GPUを使ったときの値は、同じ日に同じパソコンで測った別の回の値です。

CPUだけで8Bを動かしたときは、256トークンの答えに約32〜33秒かかりました。1.2Bは、209トークンの答えに約9〜10秒でした。また、8BをCPUで動かすと、モデルをメモリに置くため、使えるメモリが約11GBから約6GBに減りました。

買うときに見る場所

• GPUの有無とVRAM：速さが要るなら、GPUのあるパソコンを選びます。VRAMの目安はAIに必要なVRAMは何GB？、GPUの型番の比べ方はRTX 4060・4070・4090はAIで何が違う？
• メモリの量：CPUだけで動かすときは、モデルをメモリに置きます。LM Studioの公式は、メモリ16GB以上をすすめています
• CPUの対応：LM Studioの公式の要件では、WindowsではAVX2という命令に対応したCPUが必要です

よくある勘違い

• ローカルLLMには、必ずGPUが要る → CPUだけでも動きました。ただし遅くなります
• CPUだけなら、メモリは関係ない → CPUで動かすと、モデルをメモリに置くので、メモリをたくさん使います
• 小さいモデルなら、GPUなしでも同じ速さ → 1.2Bでも、GPUのときの約8分の1でした

よくある質問

Q. 自分のノートパソコンでも、同じくらいの速さで動きますか？

A. 筆者はデスクトップのCPU 1台でしか測っていないので、分かりません。まずは小さいモデル（数GB未満）から試して、待ち時間を見てください。始め方はLM Studioの始め方にまとめています。

Q. 小さいモデルで、どこまでできますか？

A. 1.2Bのモデルに要約・事実・メールを頼んだ結果は、軽いローカルLLM（1.2B）でどこまでできる？にまとめています。

GPUがなくても、ローカルLLMは動きます。ただ、同じパソコンでは速さが約10分の1になったので、試すなら小さいモデルから始め、速さが要るならGPUのあるパソコンを考えます。

次に読む記事

参考

• LM Studio Docs「System Requirements」https://lmstudio.ai/docs/app/system-requirements （2026年11月1日に確認）