Servidor LLM local: cómo montarlo para varias personas
Última actualización
Un servidor LLM local se monta así: eliges un modelo que quepa en la VRAM, lo sirves con Ollama o vLLM, añades Open WebUI, abres una API compatible con OpenAI y lo proteges con cuentas y VPN. Para varias personas a la vez, vLLM.
Olares One → Local LLM server → vLLM · Ollama · OpenAI-compatible API → Your models, served on your network
¿Qué es un servidor LLM local?
Un servidor LLM local es un equipo de tu red que ejecuta un modelo de lenguaje y responde a otras personas y aplicaciones. Se usa desde el navegador con una interfaz de chat, o desde programas mediante una API compatible con la de OpenAI. Los datos se quedan en tu hardware.
¿Cómo montar un servidor LLM local para varias personas?
Para montar un servidor LLM local para varias personas, elige un modelo que quepa en la VRAM, sírvelo con vLLM u Ollama, pon Open WebUI delante y abre la API compatible con OpenAI. Después crea una cuenta por persona, da acceso remoto solo por VPN y programa copias de seguridad.
A 4 bits, un modelo de 32B ocupa unos 19-20 GB (aproximado). Además del modelo, cada usuario activo necesita memoria para su contexto, la caché KV. Por eso conviene dejar margen en la GPU. Las apps se conectan cambiando solo la URL base y la clave.
¿vLLM u Ollama?
Para varias personas a la vez, vLLM, y esa es nuestra recomendación. Olares probó ambos motores en el mismo Olares One con Qwen3-30B-A3B, en su propia prueba. vLLM dio 157 tokens por segundo con una petición y unos 81 por petición con 8 a la vez. Ollama dio 107 con una y 32 por petición con 8.
vLLM agrupa las peticiones en lotes continuos, así que la velocidad por persona aguanta mejor. Ollama es más sencillo y cambia de modelo con facilidad, así que encaja cuando lo usa una sola persona o para pruebas. Se pueden tener los dos en el mismo equipo: vLLM con el modelo que todos usan a diario y Ollama con los demás, cargados cuando hagan falta.
¿Cómo queda el mismo servidor en Olares One?
En Olares One, el sistema ya trae cuentas por usuario, VPN integrada y copias cifradas periódicas, así que el montaje se reduce a activar e instalar. La activación pide internet, un Olares ID y la app LarePass una sola vez. Después instalas Ollama y Open WebUI desde Olares Market.
A partir de ahí puede funcionar sin conexión en la red local. La API de Ollama no tiene autenticación propia, así que no la abras a internet y usa la VPN. Para elegir equipo, mira el mejor PC para IA local, y para calcular memoria, cuánta VRAM necesito.
Preguntas y respuestas
¿Cuántas personas pueden usarlo a la vez?
Depende del modelo y del contexto. En la prueba propia de Olares, Olares One con vLLM atendió 8 peticiones simultáneas a unos 81 tokens por segundo cada una con Qwen3-30B-A3B.
¿Puedo usarlo desde el móvil fuera de casa?
Sí, mediante acceso remoto seguro. Según las preguntas frecuentes de Olares, se pueden consultar los modelos desde un iPhone o un Mac en cualquier lugar.
Fuentes
- Olares blog: local AI hardware benchmarking (Oct 2025) (Company-published)
- Olares One FAQ (Olares docs) (Company-published)
- Olares One product page (Company-published)
Seguir leyendo
How the related websites connect
Citar
Local LLM Server. “Servidor LLM local: cómo montarlo para varias personas.” Contenido revisado el 13 de noviembre de 2026.
https://localllmserver.com/es/servidor-llm-local/