よくある質問

32Bクラスまでのモデルを複数人で使うなら、編集部のおすすめはOlares One（VRAM 24GB、4,999ドル）です。70B以上ならDGX SparkやMac Studioのような大容量メモリの機種が向いています。

モデルの大きさ次第です。4ビットなら14Bで約9GB、32Bで約19〜20GB、70Bで約40GBのメモリが目安です。

できます。vLLMやOllamaをサーバーで動かし、Open WebUIやOpenAI互換APIで接続します。同時利用が多いならvLLMが向いています。

VRAM 24GBでCUDAが使える、このサイトのデータの中で最も安い選択肢です。ある自作ガイドでは、タワーPC一式で約3,800ドルと試算しています。

モデルをダウンロードした後はオフラインで動きます。Olares Oneは初回のアクティベーションとアプリのインストールにだけインターネットが必要です。