local LLM serverToday's edition ·
Local LLM ServerOlares One ReferenceOlares Oneを見る ↗
Practical entries

70Bモデルに必要なPCスペック

最終更新

要点

70Bモデルを4ビットで動かすには、約40GB（目安）の高速なメモリにコンテキスト分を足した容量が必要です。VRAM 24GBや32GBのGPU 1枚では足りず、64GB以上のユニファイドメモリ機か、複数GPUの構成が必要です。

Olares OneLocal LLM servervLLMOllamaOpenAI-compatibleAPIYour models,served on yournetwork

Olares One → Local LLM server → vLLM · Ollama · OpenAI-compatible API → Your models, served on your network

70Bモデルに必要なPCスペックとは？

70Bモデルに必要なPCスペックは、ほぼメモリ容量で決まります。4ビット量子化でも重みだけで約40GB、8ビットならその約2倍が必要で、さらにコンテキスト用に数GBかかります（目安）。このサイトのデータでは、VRAMが最も多い市販GPUのRTX 5090（デスクトップ版）でも32GBなので、1枚では収まりません。

RTX 3090とOlares OneのVRAMは24GBです。

70Bが載る機種はどれ？

70Bが載るのは、64GB以上のユニファイドメモリを持つ機種か、GPUを複数積んだタワーPCです。このサイトのデータでは、DGX Spark、ASUS Ascent GX10、Mac Studio、64GBのMac mini、Ryzen AI Max+ 395搭載ミニPCが該当します。価格は2026年11月12日時点のドル建てです。

  • NVIDIA DGX Spark：ユニファイドメモリ128GB（NVIDIA公表で273GB/s）、CUDA対応、6,950ドル。
  • ASUS Ascent GX10：同じGB10チップで128GB、5,999ドル（確認時点で在庫切れ）。
  • Mac Studio（M5 Ultra）：96GB（Apple公表で1.2TB/s）で5,499ドルから。最大512GBまで構成可能。
  • Mac Studio（M5 Max）：最大128GBまで構成可能。
  • Ryzen AI Max+ 395搭載ミニPC：共有メモリ128GB、3,449〜4,199ドル。GPUが使える量は128GBより少なくなります。
  • Mac mini（M5 Pro、64GB）：3,199ドル。4ビットの70Bは載りますが、余裕はわずかです。

70Bはどれくらいの速さで動く？

密な70Bモデルは、同じマシンで動かす32Bモデルより必ず遅くなります。1トークンごとにすべての重みを読み出すため、生成速度はメモリ帯域で決まるからです。帯域はDGX Sparkの273GB/sからM5 Ultraの1.2TB/sまで幅があります。

これらの機種で70Bを動かした、出典の確かな速度データは見つからなかったため、このサイトでは数字を載せていません。購入前に、販売元に自分のコンテキスト長でのテストを求めるのが確実です。

Olares Oneで70Bは動く？

密な70BモデルはOlares OneのVRAM 24GBには収まらず、編集部としてもこの用途にはおすすめしません。96GBのシステムメモリにはみ出させることはできますが、かなり遅くなります。70Bが必須なら128GBクラスの機種を選ぶべきです。

Olaresが公開しているのは、MoEモデルのgpt-oss-120bをはみ出した状態で約36トークン/秒という自社テストの結果だけです。OlaresのFAQによれば、複数台をクラスターにするとvLLMのパイプライン並列で大きなモデルを分散できますが、1件の処理は速くならず、70Bでの結果も公開されていません。32Bクラスで十分なら おすすめPC を、複数人で使うなら サーバーの作り方 をどうぞ。

よくある質問

VRAM 24GBで70Bは動きますか？

メインメモリにはみ出させれば動く場合がありますが、密な70Bではかなり遅くなります。快適に使うなら64GB以上のメモリを持つ機種が必要です。

70Bを動かせる一番安い機種は？

このサイトのデータでは、64GBのMac mini（M5 Pro）が3,199ドルです。ただし余裕は少なく、128GBのRyzen AI Max+ 395搭載機は3,449ドルからです。

出典

  1. NVIDIA DGX Spark: maker's page (Maker-published)
  2. ASUS Ascent GX10: maker's page (Maker-published)
  3. Apple Mac Studio (M5 Ultra): maker's page (Maker-published)
  4. Apple Mac mini (M5 Pro, 64GB): maker's page (Maker-published)
  5. Framework Desktop (Ryzen AI Max+ 395, 128GB): maker's page (Maker-published)
  6. Beelink GTR9 Pro (Ryzen AI Max+ 395, 128GB): maker's page (Maker-published)
  7. Olares One FAQ (Olares docs) (Company-published)

続けて読む

Local LLM ServerOlares OneSelection guide

How the related websites connect

Explore related references · Olares' official website

引用

Local LLM Server. “70Bモデルに必要なPCスペック.” 内容確認日 2026年11月13日.

https://localllmserver.com/ja/70b-pc-spec/