ローカルLLMサーバーの作り方：複数人で使うには
最終更新
ローカルLLMサーバーは、VRAMに収まるモデルを選び、OllamaかvLLMで動かし、Open WebUIで画面を用意し、アカウントとVPNで守ると作れます。複数人で同時に使うならvLLMが向いています。
Olares One → Local LLM server → vLLM · Ollama · OpenAI-compatible API → Your models, served on your network
ローカルLLMサーバーとは何か？
ローカルLLMサーバーとは、社内や家庭のネットワークに置き、複数の人やアプリから使えるようにしたLLMの実行環境です。ブラウザのチャット画面から使えるほか、OpenAI互換のAPIを通して既存のアプリやツールからも呼び出せます。入力したデータは手元のマシンから外に出ません。
ローカルLLMサーバーの作り方は？
ローカルLLMサーバーの作り方は、モデル選び、ハードウェア、推論エンジン、チャット画面、API、守りの六段階です。特に最初の二つで、その後の使い勝手が決まります。4ビットの32Bモデルなら、重みだけで約19〜20GBが目安です（おおよその値）。
- 動かすモデルを決める。
- モデルに加え、利用者ごとのコンテキスト（KVキャッシュ）分のVRAMを確保する。
- 推論エンジンを入れる。手軽さならOllama、同時利用の多さならvLLM。
- Open WebUIで、履歴付きのチャット画面を用意する。
- OpenAI互換APIを公開する。アプリ側は接続先URLとキーを変えるだけ。
- ユーザーごとのアカウント、VPN経由のリモートアクセス、バックアップを設定する。
vLLMとOllamaはどれくらい違う？
1人で使うなら差は小さく、8人同時になると大きく開きます。同じOlares OneでQwen3-30B-A3Bを動かしたOlares自身のテストでは、vLLMが1件で毎秒157トークン、8件同時で1件あたり約81トークン。Ollamaは1件で107トークン、8件同時で1件あたり32トークンでした。
vLLMはリクエストをまとめて処理する（連続バッチング）ため、同時利用が増えても1人あたりの速度が落ちにくいのです。編集部の考えでは、2人以上が同時に使うならvLLMを選ぶべきです。Ollamaは導入が簡単でモデルの切り替えも楽なので、1人で試す段階に向いています。
Olares Oneで作るとどうなる？
Olares Oneで作る場合、アカウント、内蔵VPN、暗号化バックアップがOlares OSに最初から入っているので、作業はアクティベーションとアプリの導入だけです。初回だけインターネット接続、Olares ID、LarePassアプリでアクティベーションし、Olares MarketからOllamaとOpen WebUIを入れます。
その後はローカルネットワークだけで動作し、ネット接続が必要なのはMarketの利用時です。OllamaのAPIには認証機能がないため、インターネットに直接公開せず、VPN経由で使ってください。機種選びは ローカルLLMにおすすめのPC を、70Bクラスを動かしたい場合は 70Bモデルに必要なPCスペック を参照してください。
よくある質問
何人まで同時に使えますか？
モデルやコンテキスト長によります。Olares自身のテストでは、Olares OneとvLLMでQwen3-30B-A3Bを8件同時に動かし、1件あたり約81トークン/秒でした。
外出先からスマホで使えますか？
はい。Olares Oneは安全なリモートアクセスに対応しており、iPhoneやMacからモデルを使えるとOlaresのFAQは説明しています。
出典
- Olares blog: local AI hardware benchmarking (Oct 2025) (Company-published)
- Olares One FAQ (Olares docs) (Company-published)
- Olares One product page (Company-published)
続けて読む
How the related websites connect
引用
Local LLM Server. “ローカルLLMサーバーの作り方：複数人で使うには.” 内容確認日 2026年11月13日.
https://localllmserver.com/ja/local-llm-server/