FastH3 CUDA: Requisitos y compatibilidad con RTX 3090

FastH3 Preview v1: Un nuevo estándar en inferencia

Casi recién se lanzó un FastH3 CUDA. Se trata de una versión de MiniMax H3 destilada a solo 4 pasos, combinada con atención dispersa VSA (Video Sparse Attention). Lo interesante es que no es simplemente un LoRA Turbo para H3, sino prácticamente una variante de inferencia completamente nueva.

El modelo recomendado utiliza VSA con 90% de sparsity, evitando calcular aproximadamente el 90% de la atención que haría un modelo denso. Para ello, se utiliza un kernel CUDA específico de FastVideo, junto con compilación regional del DiT y fusiones específicas para H3.

En una GPU Blackwell B200, FastVideo reporta tiempos impresionantes: 15 segundos para vídeo 1344×768 en una sola B200, y hasta 47,2 segundos con audio. Esto representa una aceleración de hasta 14× frente al H3 denso.

¿Y una RTX 3090?

Aunque el lanzamiento oficial prueba la configuración principal con 4× B200 y está orientado a CUDA 13, hay una distinción importante: FastH3 no necesariamente exige físicamente 4 GPUs. El código permite otras configuraciones multi-GPU, como 2, 4, 7 o incluso 56 GPUs.

Sin embargo, el checkpoint recomendado requiere el backend/kernel VSA-H3 de FastVideo y no basta con cargarlo como un LoRA convencional en ComfyUI. La documentación comunitaria afirma que la versión publicada no está destinada a GPUs de consumo como una 4090 o una 3090.

El misterio del LoRA pre-extraído

A pesar de las limitaciones, FastVideo publicó un LoRA pre-extraído de FastH3. Este no es el típico LoRA que descargas y cargas en ComfyUI; contiene factores low-rank, deltas exactos para parámetros y pesos `set_weight` para el gate de compresión VSA.

El propio código advierte que estos adaptadores requieren construir el módulo VSA correspondiente. Un cargador genérico no reproduce el modelo completo.

Estrategia: ¿Funciona en una 3090?

Aunque los benchmarks oficiales usan B200, esto no significa necesariamente que FastH3 requiera obligatoriamente esa arquitectura para funcionar. Lo más importante es que el equipo de FastVideo está trabajando en optimizaciones para RTX y cuantización NVFP4.

Para tu caso concreto, hay tres obstáculos principales:

1. VRAM: Aunque H3 base ronda los 33B parámetros, existen variantes reduidas que han funcionado en GPUs con menos VRAM.
2. Kernels: FastH3 usa kernels VSA específicos. Aquí es donde puede aparecer el problema de compatibilidad con Ampere.
3. CUDA/arquitectura: FastH3 aprovecha optimizaciones favorables a Blackwell, pero no significa que una 3090 vaya a obtener los beneficios anunciados.

En lugar de instalar FastVideo a lo bruto ahora mismo, la mejor estrategia es buscar commits recientes relacionados con `sm_86`, `Ampere` y `RTX`. Revisar issues de compatibilidad y el consumo real de VRAM del checkpoint antes de descartar tu RTX 3090 es clave.