ローカルLLM向けPCの比較:DGX Spark、Mac Studio、ミニPCなどで実際に動くモデル

Ghost Core、Olares One、DGX Spark、RTX Spark、Strix Halo、Mac mini、Mac Studio、RTX搭載PCをローカルLLM向けに比較。GPUが使えるメモリ、速度、動くモデルがわかります。

更新日 · 10分で読めます · 推定値はその旨を明記しています

結論

まず、動かしたいいちばん大きなモデルで決まり、次に速度で決まります。ここに挙げたマシンでは、GPUが使えるメモリは24GB(Ghost Core)から384GB(Mac Studio M5 Ultra)まで、その読み出しは256GB/sから1,792GB/sまでです。

いちばん大きなモデル
Mac Studio M5 Ultra GPUが最大384GBを使え、読み出しは1,200GB/sで、メモリを共有するマシンの中で最速です。CUDAは使えません。
CUDAで、70B・120Bクラスのモデルまで
DGX SparkかほかのメーカーのGB10搭載機、またはRTX Sparkノート DGX Sparkは126GB、RTX Sparkは102GBです。読み出しは273GB/sと300GB/sなので、大きなモデルの生成は遅めです。
32GBまでのモデルを速く
RTX 5090搭載PC メモリの読み出しは1,792GB/sです。
1枚のカードでもっと多くのメモリを、同じ速さで
RTX PRO 6000搭載ワークステーション 96GBで、読み出しはRTX 5090と同じ1,792GB/sです。
Windowsが動くx86のマシン1台で
Ryzen AI Max+ 395搭載ミニPC GPU用に96GBで、大きなMoEモデル向けです。マシンごとの電力の上限を確認してください。
小さく静かなMac
Mac mini M5 Pro GPU用に48GBで、読み出しは307GB/sです。Q4ではRTX 5090と同じ40のうち34モデルが動き、速度は遅くなります。Qwen3.8 27Bの生成速度は約13トークン/秒なので、動かすならGemma 4 12Bです。
24GBで速く応答する小型マシン
Olares One 24GBで、読み出しは896GB/sです。Ghost CoreのGPUの2.1倍の速さで、ノートPC向けのRTX 5090を積んでいます。
27B〜30Bのモデルを一日中動かす静かなマシン
Ghost Core 24GB・432GB/sで、ここではいちばん少ないメモリですが、エージェントには足ります。Qwen3.8 27Bを64kコンテキストで動かすと21.7GBです。
目次

マシンを選ぶなら:AI用パソコンの選び方ツールが、チャット、エージェント、画像、動画といった用途にすべてのマシンを照らし合わせ、目安になるメモリ、購入先、同じ処理を借りた場合の料金を示します。チームで使うなら、チーム用プライベートAIが、同時に質問する人数から1台のマシンを選びます。

ローカルLLM向けPC(パーソナルAIコンピューター)とは

ここで比べるのは、オープンモデルを自宅で一日中、クラウドに何も送らずに動かすマシンで、英語ではpersonal AI computerと呼ばれます。できることを決めるのは2つの数字です。モデルの大きさの上限を決めるGPUが使えるメモリの量と、応答の速さを決めるGPUがそのメモリを読む速さです。以下はすべて、メーカーが公開している仕様から、このサイトのほかのページと同じ式で計算したものです。実機のレビューではありません。

「AI PC」とは別物です。AI PCとして売られているノートPCの中心はNPUで、Microsoftによれば、Copilot+ PCのNPUは毎秒40兆回を超える演算(TOPS)を行えます。TOPSは演算の速さを表すだけで、どのモデルが収まるか(メモリで決まります)も、どれだけ速く応答するか(メモリ帯域幅で決まります)も示しません。ここに挙げたマシンにもNPUを積むものがありますが、このページの数字はすべてGPUのものです。

プライベートとは、ここではモデルがそのマシンの上で動き、プロンプトやファイルがそこにとどまることです。Web検索、クラウドのモデル、アップデートのサーバーなど、つないだ先にはデータが送られます。誰が何を見られるかは、プライベートAIサーバーのガイドで層ごとに説明しています。同じ名前は、アシスタントのソフトウェアやクラウドのデスクトップにも使われますが、このページで比べるのはハードウェアです。

決め手になる数字

マシンGPUが使える量メモリ帯域幅ソフトウェアどんなマシンか
Ghost Core 24GB 432GB/s NVIDIAのGPU上で動くGhost独自のソフトウェア(OpenAI互換のエンドポイントつき) RTX PRO 4000 Blackwell SFFを1枚積んだ小型マシン
Olares One 24GB 896GB/s NVIDIAのGPU上で動く、メーカーのオープンソースのOS(Olares OS) ノートPC向けのRTX 5090と96GBのシステムメモリを積んだ、3.5リットルの小型マシン
NVIDIA DGX Spark 126GB 273GB/s Arm版Linux(DGX OS)上のCUDA ArmのCPUとBlackwellのGPUが128GBを共有。同じGB10チップを、Dell、HP、ASUS、Lenovo、Acer、Gigabyte、MSIのマシンも搭載
RTX Sparkノート 102GB 300GB/s Windows 11(Arm)上のCUDA ArmのCPUとBlackwellのGPUが最大128GBを共有。Windowsのノートと小型デスクトップ
Ryzen AI Max+ 395搭載ミニPC 96GB 256GB/s WindowsまたはLinux上のROCmかVulkan x86のCPUと128GBを共有。複数のメーカーが販売
Mac mini M5 Pro 48GB 307GB/s macOS上のMetalとMLX 最大64GBのユニファイドメモリ。小型のデスクトップ
Mac Studio M5 Ultra 384GB 1,200GB/s macOS上のMetalとMLX 最大512GBのユニファイドメモリ
RTX 5090搭載PC 32GB 1,792GB/s WindowsまたはLinux上のCUDA 32GBのGPUを1枚積んだデスクトップ
RTX PRO 6000搭載ワークステーション 96GB 1,792GB/s WindowsまたはLinux上のCUDA 1枚のカードで96GB

「GPUが使える量」は、このサイトのすべての判定の基準になる数字です。DGX Sparkでは、システムが空けている量から画面表示用の2GBを引いたもの、RTX Sparkでは、128GBのマシンでNVIDIAのメモリの規則が保証する102GBです(NVIDIAはGPU用に確保する領域の大きさを公表していません)。Ryzen AI Max+ 395では、AMDがグラフィックス用に割り当てられるとしている96GB、Macではメモリの約75%で、大容量のMacで確認されているmacOSの上限です。各マシンは最大のメモリ構成で示しています。512GBのMac Studio M5 Ultraには80コアGPUのチップが必要で、2026年11月3日に確認したAppleのページでは、まだ10月下旬に発売とされていました。メモリを共有するマシンの多くは、グラフィックスカードより多くを保持できますが、読み出しは遅くなります。Mac Studio M5 Ultraは、Ghost CoreやOlares OneのGPUより速く読み出します。

NVIDIAのDGX Sparkのページには、同じGB10チップを積んだマシンとして、Dell(Pro Max with GB10)、HP(ZGX Nano AI Station)、ASUS(Ascent GX10)、Lenovo(ThinkStation PGX)、Acer(Veriton GN100)、Gigabyte(AI TOP ATOM)、MSIの製品が載っています。128GBの構成なら、動くものはDGX Sparkと同じです。メモリが半分の構成を売るメーカーもあり、そちらで動くものは少なくなります。DGX Spark、Strix Halo、Mac Studioの3台は、DGX Spark・Strix Halo・Mac Studioの比較(英語)でくわしく比べています。

それぞれで動くモデル

このサイトで扱う40のオープンモデルについて、Q4_K_M・8kコンテキストでの結果と、OllamaがOpenClawに推奨する65,536トークンのコンテキストでエージェントに使う場合の結果です。

「動かすならこれ」は、各GPUのページと同じ選び方です。会話の余裕を残して収まり、実用的な速度で生成できる中で最も大きいクラス、次に最も新しいリリースです。エージェント用の列はOpenClawのガイドと同じ規則で、チャットテンプレートがツールを受け渡すモデルだけを、コンテキストを含めて選んでいます。

同じモデルでの速度

Q4_K_M・8kコンテキスト、1ストリームでの推定の生成速度(トークン/秒)です。メモリ帯域幅から求めた上限(理論値)で、実測ではありません。≤をつけた数字は、実際のランタイムが最も大きく下回るものです。「動かない」はモデルが収まらないことを示します。

モデルGhost CoreOlares OneDGX SparkRTX SparkノートRyzen AI Max+ 395ミニPCMac mini M5 ProMac Studio M5 UltraRTX 5090搭載PCRTX PRO 6000搭載ワークステーション
Qwen3.8 27B193912131113527878
Muse Glimmer 30B173611121012497373
Gemma 4 31B173511121012466969
Llama 3.3 70B動かない動かない554動かない21動かない31
gpt-oss 120B動かない動かない657161動かない≤ 284動かない≤ 424

両方に収まるモデルなら、メモリの読み出しが速いほうが勝ちます。RTX 5090とRTX PRO 6000は1,792GB/sで読み出し、Ghost CoreのGPUの432GB/sでもDGX Sparkの1.6倍の速さです。モデルがカードに収まらなくなったとたん、大きな共有メモリを持つマシンが勝ちます。これらは生成の速度です。長いプロンプトを先に読み込む時間は別にかかり、AppleシリコンではNVIDIAのハードウェアよりかなり遅くなります。

Ghost Coreをくわしく

Ghostの仕様ページ(英語)には、24GBのGDDR7 ECCメモリと432GB/sの帯域幅を持つNVIDIA RTX PRO 4000 Blackwell SFF Edition、6コアのRyzen 5 9600X、64GBのDDR5、1TBのSSD、770 AI TOPSが載っています。最初のロットは2026年10月31日に出荷とされていましたが、2026年11月3日にはページで売り切れと表示され、購入希望を登録するフォームがありました。SFF Editionはこのカードの70W版で、フルサイズのRTX PRO 4000はメモリを672GB/sで読み出します。

Ghostが挙げているモデルは4つで、そのうち3つがこのサイトの一覧にあります。

モデル8kコンテキスト64k(エージェント用)8kでの速度の上限
Qwen3.8 27B 18GB・収まる 21.7GB・ぎりぎり 19
Gemma 4 31B 20.9GB・ぎりぎり 25.6GB・収まらない 17
Muse Glimmer 30B 18.7GB・収まる 19.4GB・収まる 17

残る1つの「Qwen 3.8-Next」という名前のモデルは、Hugging Faceにはありません。いちばん近いのはQwen3.8-Flash-Nextで、パラメータは125B(アクティブ6B)、さらにQwenがオフロードに向くとしている51Bのn-gram埋め込みを持ちます。24GBのGPUでは、その大半を64GBのシステムメモリに置くことになります。このサイトはGPUのメモリだけを計算するため、このモデルの数字は出していません。どのバージョンと量子化を使っているかは、Ghostに確認してください。

このカードでは、この3つの生成速度は高くても約17〜19トークン/秒で、このサイトがチャットに快適とする25トークン/秒を下回ります。上の表で日常用の選択がもっと小さいGemma 4 12Bなのは、そのためです。

エージェント用には、このカードで足ります。Metaがローカルのエージェント向けに作ったMuse Glimmer 30Bは64kコンテキストで19.4GBで、このサイトが24GBのカードで見込む22.8GBに収まります。同じ設定でQwen3.8 27Bは21.7GB、生成速度は約19トークン/秒です。70Bのモデルは載りません。Llama 3.3 70Bには、Q4・8kコンテキストで約45.8GBが必要です。

どれを選ぶか

  • Ghost Core:27B〜30Bのモデルを一日中動かし、エージェントにローカルのエンドポイントを用意する静かなマシンがほしい場合。メモリはOlares Oneと並んでここでいちばん少なく、GPUはこのページのグラフィックスカードの中でいちばん遅いものです。
  • Olares One:同じ24GBで、もっと速く応答する小さく静かなマシンがほしい場合。ノートPC向けのRTX 5090は、メモリを896GB/sで読み出します。96GBのシステムメモリは、GPUが使える量には加わりません。
  • DGX Spark(またはほかのメーカーのGB10搭載機):CUDAと、70B・120Bクラスのモデルが入るメモリがほしい場合。読み出しは273GB/sなので、大きなモデルの生成は遅めです。
  • RTX Sparkノート:CUDAと、70B・120Bクラスのモデルが入るメモリをノートPCでほしい場合。2026年10月16日に発売されました。読み出しは300GB/sなので大きなモデルの生成は遅めで、それが収まるのは128GBの構成だけです。
  • Ryzen AI Max+ 395搭載ミニPC:Windowsが動くx86のマシン1台で、大きなMoEモデルを動かしたい場合。マシンごとの電力の上限を確認してください。
  • Mac mini M5 Pro:小さく静かなMacがほしい場合。Q4では32GBのカードと同じモデルが動き、速度は遅くなります(Qwen3.8 27Bの生成速度は約13トークン/秒)。余分なメモリは8ビットのファイルに使えます。Q8では40のうち34モデルが収まり、RTX 5090では17モデルです。Macのメモリは後から増やせないので、注文時に64GBを選んでください。
  • Mac Studio M5 Ultra:メモリを共有するマシンの中で、いちばん多くのメモリといちばん速い生成がほしく、CUDAが不要な場合。
  • RTX 5090搭載PC:速さがいちばん大事で、使うモデルが32GBに収まる場合。
  • RTX PRO 6000:1枚のカードで96GBを、RTX 5090と同じ速さで使いたい場合(ワークステーション)。

買う前に確かめること

  • 本体のメモリではなく、GPUが使えるメモリ。グラフィックスカードを積んだマシンでは、システムメモリにモデルは載りません。Olares Oneのシステムメモリは96GBですが、モデルに使えるのは24GBです。MacのGPUが使えるのはメモリの約75%です。
  • メモリ帯域幅。応答の速さを決めます。両方に収まるモデルなら、メモリの読み出しが2倍速いマシンは、生成もおよそ2倍速くなります。
  • ソフトウェア。CUDAならほぼすべてのローカルAIツールが動き、画像・動画のツールは多くがNVIDIAを前提にしています。AMDのGPUはllama.cppやOllamaでよく動きます。MacではMLXとllama.cppが動きます。RTX SparkのノートはArm版のWindowsなので、使うアプリが動くか確認してください。
  • メモリは後から増やせない。ここに挙げたメモリ共有型のマシンは、どれも注文時にメモリを決め、後から増やせません。
  • 電力と熱。RTX 5090には大容量の電源と大きなケースが必要です。Ryzen AI Max+ 395は電力の上限をメーカーごとに決めているため、同じチップでも速度が変わります。

購入先

リンク先はメーカーまたは販売店のページです。途中の/go/でその日のクリック数を数えるだけで、個人を特定するものは残しません(プライバシーポリシー(英語))。価格は載せていません。今年はハードウェアの価格の動きが大きく、このページに書いた数字はすぐに古くなるため、価格はリンク先で確認してください。

ハードウェアを持たない選択肢

どれも、大きなモデルをたまに動かすための安い方法ではありません。大きなモデル、長い動画のレンダリング、ファインチューニングがたまにしか必要ないなら、その時間だけ大きなGPUを借りるほうが、それに合わせたマシンを買うより安く済みます。購入とレンタルの比較ツールに自分の価格と使用時間を入れると、損益分岐の月がわかります。

借りるなら、クラウドGPUの料金比較(英語)にGPUごとの最安の時間料金があり、ComfyUIをクラウドで使うでは、生成ごとに課金するサービスを比べています。

よくある質問

ローカルLLMにいちばん良いPCは?

動かしたいいちばん大きなモデルで決まります。最大級のモデルならMac Studio M5 Ultraで、GPUが最大384GBを使えます。CUDAで大容量のメモリがほしいなら、DGX SparkかほかのメーカーのGB10搭載機(126GB)、持ち運ぶならRTX Sparkノート(102GB)です。32GBまでのモデルを速く動かすなら、メモリを1,792GB/sで読み出すRTX 5090搭載PCです。小さく静かなマシンなら、Mac mini M5 Pro(48GB)か、27B〜30Bのモデルを一日中動かすならGhost CoreかOlares Oneで、Olares OneのGPUは同じ24GBのメモリを2.1倍の速さで読み出します。

ローカルLLM向けPCとAI PCは同じ?

違います。AI PCはNPUを売りにしていて、Microsoftによれば、Copilot+ PCのNPUは毎秒40兆回を超える演算(TOPS)を行えます。どのオープンモデルが動くかはGPUが使えるメモリで、どれだけ速く応答するかはGPUがそのメモリを読む速さで決まります。NPUはそのどちらも増やしません。

DGX Sparkの代わりになるマシンは?

同じGB10チップと128GBのメモリを積んだマシンを、Dell、HP、ASUS、Lenovo、Acer、Gigabyte、MSIが出していて、動くものはDGX Sparkと同じです。別のチップなら、Ryzen AI Max+ 395搭載ミニPCがGPUに96GBを使え、x86でWindowsが動きます。Mac Studio M5 UltraはGPUが最大384GBを使え、読み出しは4.4倍の速さですが、CUDAは使えません。

Ghost CoreでOpenClawは動く?

動きます。OllamaがOpenClawに推奨する64kコンテキストで、Qwen3.8 27Bはぎりぎり収まります。必要なのは、このサイトがこのカードで見込む22.8GBのうち21.7GBで、生成速度は約19トークン/秒です。Ghostが挙げているMuse Glimmer 30Bは19.4GBで、余裕をもって収まります。

Ghost CoreとDGX Spark、どちらを選ぶ?

Ghost Coreはメモリの読み出しが1.6倍速い(432GB/sと273GB/s)ので、両方に収まるモデルなら生成も速くなります。DGX SparkはGPUに126GBを使え、24GBの約5倍です。70B・120Bクラスのモデルを動かすには、それだけ必要です。どちらもNVIDIAのGPUです。

ローカルLLM向けPCで70Bのモデルは動く?

Q4_K_M・8kコンテキストで、Llama 3.3 70Bには約45.8GBが必要です。収まるのはNVIDIA DGX Spark、RTX Sparkノート、Ryzen AI Max+ 395搭載ミニPC、Mac Studio M5 Ultra、RTX PRO 6000搭載ワークステーションです。24GBや32GBのカードには収まりません。

PCを買うべき?それとも借りるべき?

ほぼ毎日動かすなら、買うほうが理にかなっています。大きなモデルがたまにしか必要ないなら、その時間だけ大きなGPUを借りるほうが、それに合わせたマシンを買うより安く済みます。購入とレンタルの比較ツールに自分の数字を入れると、損益分岐がわかります。

数字は、月に一度。

新しいオープンモデルと必要なメモリ、価格の動き、私たちの最新の実測値。メールは月に1通で、ワンクリックで解除できます。

メールは月に1通。ワンクリックで解除でき、アドレスをほかの目的には使いません。 プライバシーポリシー(英語)