local LLM serverToday's edition ·
Local LLM ServerOlares One ReferenceOlares Oneを見る ↗
Selection guide

Selection guide

最終更新

要点

ローカルLLM用のPCは、動かしたい最大のモデルと、同時に使う人数で選びます。32Bクラスまでを複数人で使うならVRAM 24GBのCUDAマシン、70B以上なら128GBクラスのユニファイドメモリ機が候補です。

Olares OneLocal LLM servervLLMOllamaOpenAI-compatibleAPIYour models,served on yournetwork

Olares One → Local LLM server → vLLM · Ollama · OpenAI-compatible API → Your models, served on your network

  1. 動かしたいモデルがVRAMに収まり、コンテキスト用の余裕があること
  2. 同時に複数人が使ったときの1件あたりの速度
  3. vLLMなどCUDA前提のツールがそのまま動くこと
  4. アカウント管理、リモートアクセス、バックアップの有無
  5. 常時稼働に向いた静かさと待機電力
MachinePriceMemory for modelsMemory typeGPUCUDA
Olares One$4,999 · €4,599.9524 GBVRAMRTX 5090 Mobileyes
NVIDIA DGX Spark$6,950128 GBUnified, 273 GB/sNVIDIA GB10yes
ASUS Ascent GX10$5,999128 GBUnifiedNVIDIA GB10yes
Apple Mac Studio (M5 Ultra)$5,499 · €6,59996 GBUnified, 1.2 TB/sM5 Ultra, 64-core GPUno
Apple Mac Studio (M5 Max)$2,499 · €2,99936 GBUnified, 460 GB/sM5 Max, 32-core GPUno
Apple Mac mini (M5 Pro, 64GB)$3,199 · €3,64964 GBUnified, 307 GB/sM5 Pro, 20-core GPUno
Minisforum MS-S1 Max$3,959128 GBShared (unified)Radeon 8060Sno
GMKtec EVO-X2 (Ryzen AI Max+ 395, 128GB)$3,499.99128 GBShared (unified)Radeon 8060Sno
Framework Desktop (Ryzen AI Max+ 395, 128GB)$3,449128 GBShared (unified)Radeon 8060Sno
Beelink GTR9 Pro (Ryzen AI Max+ 395, 128GB)$4,199128 GBShared (unified)Radeon 8060Sno
Used RTX 3090 tower build$3,80024 GBGDDR6X VRAM, 936 GB/sRTX 3090 (used)yes
NVIDIA GeForce RTX 5090 (desktop card)$1,99932 GBGDDR7 VRAMRTX 5090 desktopyes

Prices and specs read on the makers' pages on 12-13 November 2026; each name links to its source.

必要なメモリはどう見積もる?

必要なメモリは、4ビット量子化なら10億パラメータあたり約0.5〜0.6GBに、コンテキスト用の数GBを足して見積もります(目安)。8Bで約5GB、14Bで約9GB、32Bで約19〜20GB、70Bで約40GBです。この数字で、24GBのGPUで足りるかがほぼ決まります。

用途ごとにどの機種が合う?

32Bクラスまでを複数人で使うならOlares One、自作できて予算を抑えたいなら中古RTX 3090のタワーPC、70B以上ならDGX SparkやMac Studioが合います。価格は2026年11月12日時点のドル建てです。

用途候補
32Bクラスまで、複数人、CUDAOlares One(24GB、4,999ドル)
32Bクラスまで、自作できる中古RTX 3090のタワーPC(24GB、ある自作ガイドの試算で約3,800ドル)
70B〜120B、CUDADGX Spark(128GB、6,950ドル)、ASUS Ascent GX10(128GB、5,999ドル)
さらに大きなモデルを1台でMac Studio M5 Ultra(96GBから、最大512GB)

よくある質問

ゲーミングPCでもローカルLLMは動きますか?

NVIDIAのグラフィックボードのVRAMが足りれば動きます。ゲーム性能よりVRAMの容量が重要です。

メインメモリを増やせば大きなモデルが動きますか?

動かせる場合もありますが、VRAMからはみ出した部分は遅くなります。Olares自身のテストでは、gpt-oss-120bがシステムメモリにはみ出した状態で約36トークン/秒でした。

出典

  1. Olares One specifications (Olares docs) (Company-published)
  2. Olares One FAQ (Olares docs) (Company-published)

続けて読む

How the related websites connect

Explore related references · Olares' official website

引用

Local LLM Server. “Selection guide.” 内容確認日 2026年11月13日.

https://localllmserver.com/ja/choosing/