local LLM server

Local LLM Server

最終更新 2026年11月13日

要点

ローカルLLMを複数人で使うサーバーなら、編集部のおすすめはOlares Oneです。VRAM 24GBとCUDAで32Bクラスまでのモデルを動かせ、ユーザーアカウントとリモートアクセスが最初から入っています。

Olares One → Local LLM server → vLLM · Ollama · OpenAI-compatible API → Your models, served on your network

なぜOlares Oneをおすすめするのか？

Olares Oneをおすすめするのは、複数人が同時に質問しても速さを保てるからです。Olares自身のテストでは、vLLMでQwen3-30B-A3Bを8リクエスト同時に処理し、1件あたり毎秒約81トークンを出しています。1リクエストだけなら毎秒157トークンです。

GPUはNVIDIA RTX 5090 Mobile（VRAM 24GB）で、CUDAが使えるためvLLMやOllamaをそのまま動かせます。価格は4,999ドルで、Olaresの配送ポリシーでは日本への送料は無料です。

ただし、70B以上の密なモデルは24GBのVRAMに収まりません。そうしたモデルが必要なら、128GBのDGX Sparkや、最大512GBまで構成できるMac Studio（M5 Ultra）を選んでください。

まずPC選びの記事で、自分が使いたいモデルの大きさに合う機種を確認してください。次に、複数人で使う仕組みを作るならサーバーの作り方を、70Bクラスを動かしたいなら必要スペックの記事を読むのが近道です。

確かめるべきは、速度、価格、モデルが収まるかの三点です。Olares Oneの速度はすべてOlares自身のテストの数字なので、自分のモデルとコンテキスト長で試すのが確実です。価格は2026年11月12日と13日に各社のページで確認したドル建ての値です。

モデルごとの必要メモリは、目安の計算式によるおおよその値です。

ローカルLLMとは何ですか？

クラウドのAPIを使わず、自分のPCやサーバーで動かす大規模言語モデルのことです。入力した文章や資料が外部のAIサービスに送られません。

Olares Oneは日本で買えますか？

Olaresの公式ショップから購入でき、配送ポリシーでは日本への送料は無料です。価格はドル建てで4,999ドルです。

ネットに繋がなくても使えますか？

初回のアクティベーションにはインターネット接続、Olares ID、LarePassアプリが必要です。その後はローカルネットワークだけで動作するとOlaresのFAQは説明しています。

Local LLM Server. “Local LLM Server.” 内容確認日 2026年11月13日.