Scaled INT8 vs FP8: ¿Qué elegir para una RTX 3090 en Wan2GP?

Estás usando Wan2GP en una NVIDIA RTX 3090 y te encuentras con una duda común: el programa recomienda usar Scaled INT8, pero los hilos de discusión en Reddit parecen inclinarse por FP8. ¿Cuál es realmente la mejor opción para tu hardware? Para resolver esta confusión, primero debemos mirar los datos de rendimiento que han surgido recientemente.

An NVIDIA GeForce RTX 3090 graphics card with a floating holographic chart comparing Scaled INT8 and FP8 inference speeds, showing INT8 significantly faster.
Benchmark comparison between Scaled INT8 and FP8 on an NVIDIA RTX 3090.

Pruebas recientes en la comunidad muestran una diferencia clara. Un benchmark publicado específicamente para la RTX 3090 demostró que el formato INT8 puede ser notablemente más rápido que FP8, alcanzando casi el doble de velocidad mientras mantiene resultados visualmente comparables. Esto es crucial si buscas optimizar tu flujo de trabajo de generación de imágenes.

Entendiendo la realidad del hardware

La razón principal detrás de esta recomendación radica en la arquitectura misma de tu tarjeta gráfica. La RTX 3090 utiliza la arquitectura Ampere (SM 8.6), la cual no tiene soporte nativo para el cómputo FP8. Cuando ejecutas un modelo en FP8 sobre una 3090, el sistema debe almacenar los datos en ese formato y luego convertirlos internamente a FP16 o BF16 para realizar las operaciones matemáticas. En contraste, Scaled INT8 sí puede aprovechar rutas de aceleración por hardware que Ampere ya incorpora.

Split view of NVIDIA GPU architectures: left side showing older Ampere SM 8.6 blocks in green, right side showing modern Ada Lovelace FP8 cores in blue.
Comparison between Ampere (RTX 3090) and Ada Lovelace GPUs regarding native FP8 support.

Es importante notar que las recomendaciones a favor de FP8 suelen provenir de usuarios con hardware más moderno, como la RTX 4090 o tarjetas basadas en la arquitectura Ada Lovelace. En esos dispositivos, el soporte nativo para FP8 permite aceleración real y ahorros significativos de memoria, algo que no se traduce directamente en beneficios computacionales en una GPU Ampere.

Matriz de decisión práctica

Aunque la velocidad es un factor importante, tu elección final depende de tus prioridades específicas. Aquí tienes una guía clara basada en el análisis:

  • Máxima velocidad: Elige definitivamente Scaled INT8.
  • Máxima compatibilidad: Scaled INT8 es la opción más robusta y universal.
  • Límites de VRAM: Si el modelo apenas cabe en tus 24 GB y el autor del modelo requiere FP8, entonces usa FP8 para asegurar que funcione.
  • Fidelidad absoluta: Si buscas la última gota de precisión y no te importa el tiempo de procesamiento, puedes probar ambos formatos y comparar los resultados visuales directamente.