「自分のパソコンで動くAIと、ChatGPT。同じことを頼んだら、どれくらい違うの？」
この記事は、ローカルLLM（自分のパソコンで動かす文章AI）を試そうか迷っている人が、ChatGPTとの違いを、同じ頼み方の結果で確かめるための記事です。ローカルLLMの始め方はLM Studioの始め方にまとめています。
先に結論です。
- 同じ3つの頼み方をすると、ChatGPTは3つとも指示どおりでした。筆者のパソコンの8Bのモデルは、事実の質問には正しく答えましたが、要約で2つの点が抜け、メールは字数の上限を超えました
- ChatGPTは、ウェブで調べて出典を示しました。ローカルのモデルはネットにつながずに答えるので、出典は示しません
- ローカルLLMのよさは、会話の内容がパソコンの外に出ないことです。ふだんの用事なら、ChatGPTなどのサービスで足ります
- どちらも各1回の結果です。ローカルLLMの答えも、ChatGPTの答えも、確かめてから使います
2026年11月1日に、ChatGPT（一時チャット）と、筆者のRTX 4070のパソコンで動かしたLlama-3-ELYZA-JP-8B（日本語の8Bのモデル）に、同じ頼み方をして比べました。
あなたならどれで十分か
| やりたいこと | 向くもの | そう言える理由 |
|---|---|---|
| ふだんの調べもの・文章づくり | ChatGPTなどのサービス | 今回、3つとも指示どおりだった |
| 出典つきで事実を確かめたい | ウェブ検索のできるAI | ChatGPTは国土地理院の出典を示した |
| 外に出したくない文章を手元で扱う | ローカルLLM | 会話の内容がパソコンの外に出ない（公式の説明） |
| 字数や形をきっちり守らせたい | 結果を自分で確かめる | ローカル8Bは150字の上限を超えた |
どちらも各1回の結果で、ChatGPTは画面に「思考量 High」と出ていた既定のモデル、ローカルは8Bのモデルです。条件が違うので、「どちらが賢いか」を決める比較ではありません。
なぜそう言えるか：ネットとモデルの大きさが違う
ChatGPTは、サービスのサーバーで、大きなモデルが動いています。今回の富士山の質問では、ウェブで調べて、国土地理院の出典を示しました。
ローカルLLMは、自分のパソコンのGPUで動く大きさのモデルを使います。筆者のRTX 4070（12GB）では、8Bのモデルが余裕をもって動きます。ネットにはつながずに答えるので、出典は示しませんが、会話の内容はパソコンの外に出ません（LM Studioの公式の説明）。
実際に試した結果
| 頼み方 | ChatGPT | ローカル（8B） |
|---|---|---|
| お知らせを3行で要約 | 3行で、お知らせの点をすべて含んだ | 3文の1段落。「申し込み不要」「温かい飲み物」が抜けた |
| 富士山の標高と、どの機関の値か | 3,776m・国土地理院。出典つき | 3776m・国土地理院 |
| 日程変更のお願いメール（150字以内） | 宛名を含めて115字 | 件名を除いて168字。150字を超えた |
富士山の標高は、国土地理院の発表でも3,776mで、両方とも合っていました。国土地理院は、山頂の三角点の標高を3,775.56mに改定したあとも、富士山の標高は「3776m」のままとしています。ChatGPTは、この三角点の値も添えていました。
ローカルのメールは、丁寧な言葉で書けていましたが、字数の上限を超え、結びが「敬具」でした（「敬具」は、手紙で「拝啓」と組で使う言葉です）。[社名]や[提案する日時]のような空欄も入っていました。ローカルの答えは、3問とも2〜4秒で返りました。
使い分けるときに見る場所
- 扱う文章を外に出してよいか：出したくない文章なら、ローカルLLMが選択肢になります。入れてはいけない情報の考え方はChatGPTなど生成AIに入れてはいけない情報
- 出典が要るか：事実を確かめたいときは、出典を示せるAIを使い、出典も自分で開いて確かめます
- 字数や形の指定があるか：どちらのAIでも、答えが指示どおりかを自分で数えて確かめます
- パソコンで動くか：ローカルLLMは、GPUのVRAMで動くモデルの大きさが決まります（RTX 4070（12GB）でローカルLLMはどこまで動く？）
よくある勘違い
- ローカルLLMは、ChatGPTと同じ答えを返す → 今回、要約とメールで違いが出ました
- ローカルLLMは、ネットの最新の情報も調べられる → 今回使ったローカルのモデルは、ネットにつながずに答えました
- ChatGPTの答えなら、確かめなくてよい → 今回は合っていましたが、ChatGPTの画面にも、間違えることがあると書かれています
よくある質問
Q. ローカルLLMは、どんなときに使うといいですか？
A. 外に出したくない文章を、手元で扱いたいときです。答えは、ChatGPTと同じように確かめてから使います。確かめ方は生成AIの答えはどこまで信じていい？にまとめています。
Q. もっと大きなモデルなら、ChatGPTに近づきますか？
A. 今回は8Bだけを比べたので、分かりません。筆者のRTX 4070では、27Bのモデルは読み込めませんでした。小さい1.2Bに同じ頼み方をした結果は、軽いローカルLLM（1.2B）でどこまでできる？にまとめています。
同じ頼み方でも、ChatGPTとローカルの8Bでは、要約やメールの守り方に違いが出ました。ローカルLLMは、外に出したくない文章を手元で扱うときの選択肢として使い、答えはどちらも確かめてから使います。
次に読む記事
この記事でできるようになったこと同じ頼み方で出た違いが分かり、ローカルLLMとChatGPTを用事で使い分けられる
やってみる外に出したくない文章が1つあれば、ローカルLLMで要約を頼み、答えを自分で確かめる
次に「自分のパソコンでAIと話してみたいが、LM Studioの始め方が分からない」と思ったら
LM Studioを始める4ステップと選んだモデルの大きさほかの疑問なら
- 入れてはいけない情報を知る何を入力していいか分からないという人に
- AIの答えを確かめるAIの答えを信じていいか分からないという人に
いまは「STEP 7 自分に合わせる」です。難しかった・違う悩みだった人は、START HERE の「困ったときは」から選べます。
参考
- 国土地理院「衛星測位を基盤とする三角点「富士山」の新しい標高」https://www.gsi.go.jp/WNEW/PRESS-RELEASE/keikaku61003.html （2026年11月1日に確認）
- LM Studio Docs「Offline Operation」https://lmstudio.ai/docs/app/offline （2026年11月1日に確認）
コメント