プライベートAIサーバーとは：3つの方法のうち、どれを選ぶか

マシンを選ぶなら：AI用パソコンの選び方ツールが、チャット、エージェント、画像、動画といった用途にすべてのマシンを照らし合わせ、目安になるメモリ、購入先、同じ処理を借りた場合の料金を示します。チームで使うなら、チーム用プライベートAIが、同時に質問する人数から1台のマシンを選びます。

プライベートAIサーバーとは

プライベートAIサーバーとは、何を入れ、何を出すかを自分だけが決められる場所でAIモデルを動かすマシンです。Llama、Qwen、Gemma、Mistral、gpt-ossファミリーなどのオープンウェイトのモデルが動きます。プロンプトも文書も出力も、そのマシンの中にとどまります。製品の改善のためにそれを読む事業者はおらず、何を尋ねてよいかを事業者が決めることもありません。

考え方はこれだけです。あとは、マシンがどこにあるか、誰が運用するか、メモリがどれだけあるかの問題です。

「プライベート」の意味を層ごとに

「プライベート」という言葉は、あいまいに使われがちです。答えは層ごとに違うので、スタックの層ごとに問い直すと整理できます。

すべての層でプライベートなのは、自宅に組んだものだけです。借りる方法でも、多くの人が気にする層、つまりプロンプト、ファイル、実行環境ではプライベートにできます。条件は、運営者が記録の方針を文書で示し、ハードウェアを誰が運用するかを明かしていることです。自社の製品について上の表に答えられない事業者なら、それが答えです。

手に入れる3つの方法

1. 自宅に組む

十分なVRAMを持つGPUを載せたPCです。RTX 3090（中古）やRTX 4090といった24GBのGPUなら、4ビット量子化で約30Bパラメータまでのモデルの大半が動きます。RTX 5090なら32GBです。それより上はワークステーション向けGPUの領域で、48GBや96GBになり、価格は急に上がります。

向いているのは：毎日何時間もモデルを動かす、オフラインで使う必要がある、使えるGPUをすでに持っている、組むこと自体を楽しめる場合です。勘定に入れるべき費用：GPU、それ以外の部品、負荷時とアイドル時の電気代、ドライバーやランタイムの保守にかかる時間、そして今日買ったGPUのメモリ容量はずっとそのままだということです。

2. GPUサーバー（VPS）を借りる

GPUをつないだ仮想マシンを、クラウドやホスティング会社から時間単位か月単位で借ります。ドライバー、OllamaやvLLMなどのモデルランタイム、Webのインターフェース、ストレージまで、すべて自分で入れます。root権限があり、何でも自由にできます。

向いているのは：Linuxの管理に慣れている、決まった構成が必要、短期間だけ使う場合です。注意点：止め忘れると回り続ける時間単位の料金、インスタンスを終了すると消えるストレージ、そして毎回ゼロからマシンを組み直す手間です。

3. 実行ごとに支払う：サーバーレスとマネージドGPU

マシンではなく、処理を送ります。ComfyUIのワークフロー、バッチ、モデルへのリクエストを送り、動いた秒数だけ支払います。ComfyUIならComfy Cloud、自分で作ったコンテナならModalやRunPod Serverlessがこの形です。ジョブとジョブのあいだは何も動きません。

向いているのは：GPUを使うのが一日中ではなく週に数時間、48GBや96GBを買わずに使いたい、作業がまとまって来る場合です。トレードオフ：オフラインでは使えず、ハードウェアは事業者が運用し、しばらく空いたあとの最初のジョブはコールドスタートを待つことがあり、運営者のプライバシーポリシーは自分で読んで判断するしかない約束です。ComfyUIをクラウドで使うガイドとComfyUI APIのガイドで、各サービスがコンテンツの学習利用について何と書いているかを比べています。

メモリ容量ごとに動くもの

何を動かせるかはメモリで決まります。モデルの重みは、コンテキスト長とともに大きくなるKVキャッシュと一緒にVRAMに収まる必要があります。気になるモデルで、下の計算ツールを使ってください。各モデルの公開されたアーキテクチャの数値と、示した計算式を使っています。推定値であり、ベンチマークではありません。

4ビットでの目安：重みだけで、パラメータ数（B単位）×約0.6GBのVRAMが必要で、そこにKVキャッシュと、ランタイム用の0.5GB＋重みの4%が加わります。8Bは8GBに余裕をもって収まり、32Bには24GBが必要です。70Bは48GBのGPUにわずかに収まらず、120BのMoEモデルには80GB以上が必要です。

どれが合っているか

• ほぼ一日中モデルを動かす、またはオフラインで使いたい：自分で組みましょう。ハードウェアは元が取れ、プライバシーでは自分の部屋にあるマシンにかなうものはありません。
• Linuxを管理でき、短いプロジェクトで完全に制御したい：GPUサーバー（VPS）です。
• GPUを使うのは週に数晩で、戻ってきたときに環境がそのまま残っていてほしい：実行ごとに支払うサービスです。購入とレンタルの比較ツールに自分の数字を入れると、損益分岐の月がわかります。

よくある質問

プライベートAIサーバーとローカルLLMは同じ？

ローカルとは、モデルが自宅や職場にあるハードウェアで動くことです。プライベートAIサーバーはもっと広い考え方で、自宅にあっても借りたものでも、自分だけが使い、運営者がプロンプトやファイルを記録しないマシンのことです。ローカルな環境はすべてプライベートですが、プライベートな環境がすべてローカルとは限りません。

プライベートAIサーバーにGPUは必要？

数十億パラメータを超えるモデルを実用的な速度で動かすなら、必要です。小さなモデルはCPUやAppleシリコンでも動きますが、画像・動画生成や30B以上の言語モデルには、モデルが収まるだけのVRAMを持つGPUが必要です。

借りたサーバーは本当にプライベートになる？

多くの人にとって大事な点では、プライベートにできます。隔離された環境、プロンプトを記録しない運営者、書き出しと削除ができるデータです。ただし、ネットワークから切り離す（エアギャップ）ことはできず、ハードウェアを運用するのは事業者です。どの事業者にも、層ごとに誰が何を見られるのかを明記するよう求めてください。

社内の情報漏洩対策になる？

どの層まで社外に出さないかで決まります。データが自分の管理するネットワークから一度も出ないのは、自宅や社内に置くマシンだけです。借りたサーバーや実行ごとに支払うサービスでは、プロンプトとファイルは事業者のもとへ送られます。その場合に頼れるのは、記録の方針を文書で示し、ハードウェアを誰が運用するかを答える事業者です。上の表の質問に、層ごとに答えられるかを確かめてください。

• 計算ツールのアーキテクチャの数値は、各モデルの公開されたconfig.jsonまたはモデルカードによるもので、ツールの中にモデルごとに示しています。
• コンシューマー向けとワークステーション向けGPUのVRAMは、メーカーの仕様です。