Error cargando modelos en LM Studio: diagnóstico y solución

Error cargando modelos en LM Studio

LM Studio se actualizó y dejó de cargar los modelos localmente. El mensaje recibido fue claro: llama-server did not become healthy con un error HTTP 503 que indicaba Loading model en estado unavailable.

Captura de pantalla simulada del error de LM Studio mostrando protocolo healthCheck returned 503
El error 503 indica que el servidor llama-server no alcanzó estado saludable durante la carga del modelo

Causas probables tras la actualización

El error 503 no significa necesariamente que el modelo esté dañado. Indica que el servidor todavía no está disponible para atender peticiones. Tras la actualización de LM Studio, las sospechas naturales son:

  • Regresión en el motor de inferencia
  • Cambios en la configuración de carga
  • Incompatibilidad con componentes CUDA

Las versiones recientes han cambiado precisamente componentes internos de llama.cpp. LM Studio 0.4.26 Build 2 actualizó el runtime a 2.50.0, mientras que la versión 0.4.27 incluye mejoras en la detección de runtimes.

Pasos de diagnóstico antes de reinstalar

Antes de tocar los modelos o reinstalar LM Studio, prueba esto:

  1. Cierra LM Studio completamente
  2. Abre nuevamente y entra en Developer → Runtimes
  3. Comprueba que el runtime llama.cpp para NVIDIA CUDA aparezca como compatible
  4. Si hay actualización disponible para ese runtime, instálala
  5. Intenta cargar un modelo pequeño GGUF con configuración sencilla

Con una RTX 3090 de 24 GB, también revisa que LM Studio no haya cambiado la selección de GPU o el número de capas descargadas a GPU después de actualizar.

Seleccionar CUDA vs CUDA 12

Al revisar los runtimes disponibles, aparecieron dos opciones: un motor CUDA y otro CUDA 12. Para una RTX 3090 con driver NVIDIA moderno, la recomendación es dejar seleccionado CUDA 12. La diferencia principal es:

MotorTecnologíaComentario
CUDACUDA 11.xRuntime anterior, mayor compatibilidad con drivers antiguos
CUDA 12CUDA 12.xRuntime más moderno, optimizaciones y mejor soporte para hardware reciente

NVIDIA documentó mejoras de rendimiento en LM Studio con CUDA 12.8, incluyendo optimizaciones de Flash Attention y cargas más rápidas.

Comparación visual entre runtime CUDA antiguo y moderno para selección en LM Studio
CUDA 12 ofrece mejor soporte para hardware reciente y optimizaciones de carga más rápidas

¿Corrupción o problema de inicialización?

Tras reiniciar, el problema se solucionó. Esto no indica corrupción de archivos. Si el mismo modelo volvió a cargar correctamente después del reinicio, los archivos GGUF están intactos.

La secuencia que explica el error es:

  1. LM Studio se actualizó
  2. Se restableció la selección de GPU
  3. Se intentó cargar un modelo en una RTX 3090 que ya estaba ocupada
  4. El servidor quedó esperando en Loading model y devolviendo 503
  5. Reiniciar restauró el funcionamiento

Eso puede ocurrir cuando quedan procesos llama-server, contextos CUDA o reservas de VRAM en un estado inconsistente.

Tres posibilidades principales

  1. VRAM ocupada: algún proceso mantenía memoria reservada en la RTX 3090
  2. Proceso residual: un llama-server anterior o worker de LM Studio quedó vivo sin liberar recursos
  3. Inicialización CUDA: el runtime no completó correctamente la inicialización de la GPU

La próxima vez, antes de reiniciar Windows, ejecuta nvidia-smi para ver qué procesos están utilizando la VRAM y cuánta memoria queda disponible.

Conclusión práctica

No es necesario reinstalar ni descargar modelos. La recomendación es:

  • CUDA 12 como motor predeterminado
  • CUDA antiguo como alternativa de diagnóstico
  • Revisar procesos y memoria GPU antes de reiniciar todo Windows

Con dos GPUs y aplicaciones como ComfyUI trabajando simultáneamente, conviene vigilar qué tarjeta está utilizando cada aplicación. Una selección restablecida puede causar problemas recurrentes.