RTX 3090 y MiniMax H3: Cuantización y scripts de instalación

Analizamos la viabilidad de cargar el modelo minimax_h3_ref2va_bf16.safetensors en una RTX 3090. No es una buena apuesta si pretendes cargarlo íntegramente en VRAM. El archivo termina en bf16, lo que significa precisión BF16 (16 bits), no una cuantización de 4 u 8 bits. En términos prácticos, BF16 ocupa aproximadamente 2 bytes por parámetro. Además del modelo, necesitas espacio para activaciones, buffers y otros componentes. Los 24 GB de la RTX 3090 pueden quedarse bastante cortos dependiendo del tamaño real del modelo y del pipeline.

RTX 3090 comparada con requisitos de modelos MiniMax H3
Comparativa visual entre la capacidad de VRAM y los requisitos de modelos MiniMax H3.

Qué descargaría para tu 3090

Mi recomendación es utilizar minimax_h3_ref2va_pruned_int8_convrot.safetensors. Aquí está el desglose de variantes:

  • BF16 (66,3 GB): Descartaría. Ocupa demasiado espacio.
  • INT8 ConvRot (34 GB): Complicado. Casi excede la capacidad.
  • Pruned INT8 ConvRot (20 GB): Recomendado. Cabe bien en 24 GB.
  • Pruned FP8 (21 GB): Alternativa viable.

Ojo con algo: esos 20 GB no significan que debas tener 20 GB libres de VRAM. El modelo puede descargarse parcialmente a RAM y gestionarse mediante offloading, pero el coste en velocidad probablemente no compense si intentas forzar BF16.

La confusión del instalador Sorant

El fresco de Sorant parece pedir bajar ese modelo grande. Sin embargo, hay una distinción importante: que Sorant lo solicite no significa necesariamente que sea la variante óptima para tu hardware. El instalador podría estar tomando el modelo predeterminado del manifiesto sin considerar tu VRAM.

La documentación de integración de MiniMax H3 contempla un perfil ref2va-pruned-int8 para los workflows de referencia. El BF16 original no es necesario. Sorant parece haber confundido «modelo compatible con el workflow» con «modelo que cabe razonablemente en el hardware del usuario».

Autopsia de código

Para encontrar la causa raíz, hay que revisar el flujo de instalación. Sorant no genera sus workflows a partir de download-models.ts. Los workflows y el descargador son mecanismos relacionados, pero separados.

El flujo funciona así:

  1. Definición de workflows: Contiene los grafos en src/lib/workflows/.
  2. Detección de dependencias: Extrae modelos necesarios desde src/lib/workflows/needs.ts.
  3. Catálogo de descargas: Determina repositorio y archivo en scripts/lib/model-sources.ts.
  4. Instalación en ComfyUI: Comprueba qué existe y descarga lo que falta en download-models.ts.

Los archivos .js y .map parecen artefactos compilados. Lo primero es investigar los .ts originales.

Conclusión

Para encontrar al culpable, necesitamos revisar cuatro archivos clave: scripts/lib/model-sources.ts, src/lib/workflows/needs.ts, machine-requirements.json y minimax-common.ts.

Nuestra sospecha es que Sorant está separando la compatibilidad del hardware de la resolución de dependencias, y el descargador simplemente obedece al grafo declarado. Si es así, no necesitamos modificar ComfyUI a ciegas. Podemos corregir la selección de modelos en Sorant y evitar que vuelva a intentar descargar semejante monstruosidad para la 3090.