Memoria rápida
Suma pesos, caché KV por sesión, motor y reserva del sistema. Más usuarios necesitan más caché.
Tu modelo en todos tus dispositivos
Cómo preparar un servidor de IA local en casa
Un servidor LLM doméstico necesita memoria suficiente, servicio estable, almacenamiento fiable y acceso de red seguro. El PC adecuado depende de modelo, usuarios simultáneos y disponibilidad deseada.
Cuatro componentes
Ajusta el servidor a la carga real
Almacenamiento
2 TB son un buen comienzo. Modelos, cuantizaciones e índices RAG pueden exigir otro SSD o NAS.
Red
1GbE basta para texto. 2,5 o 10GbE ayudan con documentos grandes, NAS y varios flujos.
Carga prolongada
Valora temperatura, ruido, consumo en reposo y fuente tras una sesión larga, no solo una prueba breve.
Cuatro situaciones
Del servidor personal a la workstation multiusuario
| Situación | Memoria rápida | Red | Sistema adecuado |
|---|---|---|---|
| Una persona, 7B–14B | 16 GB | Wi-Fi o 1GbE | PC con GPU dedicada |
| Familia, 20B–32B | 32–64 GB | 1–2,5GbE | PC GPU o mini PC de 64 GB |
| Varios clientes, 70B | 128 GB | 2,5–10GbE | GTR9 Pro, MS-S1 Max o workstation |
| Servicio profesional | 48–96 GB de VRAM o más | 10GbE | workstation o servidor dedicado |
Compacto con mucha memoria
Beelink GTR9 Pro
128 GB compartidos y doble 10GbE encajan con varios clientes o un NAS rápido. Como la memoria está soldada, debes elegir bien desde el principio.
Leer la guía del GTR9 ProMás puertos y ampliación
MINISFORUM MS-S1 Max
128 GB, doble 10GbE, cuatro USB4 y PCIe x4 apoyan un puesto fijo con almacenamiento y periféricos.
Leer la guía del MS-S1 MaxSeguridad en la red local
No expongas la API directamente a Internet
«Local» no significa seguro por sí solo. Limita la escucha a localhost o LAN, usa autenticación, cortafuegos y actualizaciones y separa documentos sensibles de cuentas menos fiables.
Escucha limitada
Usa solo las direcciones necesarias.
Autenticación
Añade tokens o un proxy delante del motor.
Sin reenvío de puertos
Para acceso remoto, prefiere una VPN.
Actualizaciones y registros
Instala parches y revisa fallos sin guardar prompts sensibles.
Preguntas frecuentes
Usar un LLM en la red doméstica
¿10GbE hace más rápido el modelo?
No. La generación depende de cálculo y memoria. 10GbE ayuda con archivos grandes, NAS y varios clientes.
¿Puedo usarlo desde móvil y tableta?
Sí, mediante una interfaz o aplicación que alcance la API en la LAN. Usa autenticación también en casa.
¿Puede un mini PC funcionar continuamente?
Sí, si refrigeración, fuente y software son estables. Comprueba temperatura y ruido con carga larga.
¿Necesito Linux?
No siempre. Windows simplifica algunas aplicaciones; Linux suele ofrecer administración más flexible. El soporte del motor y los controladores decide.
Empieza por la memoria
Calcula modelo, contexto y reserva necesaria
El buscador convierte estas elecciones en una clase de hardware y muestra sistemas completos según tu prioridad.