¿Qué significa E4M3FN y por qué se detuvo ahí?

E4M3FN es una de esas siglas crípticas que parecen inventadas para espantar a los curiosos… pero en realidad tiene bastante sentido técnico si la desarmas con calma. Al principio, uno se pregunta qué significan esas letras y números al final de un modelo de IA.

La verdad es que significa un formato numérico de coma flotante de 8 bits. Y cada parte del nombre dice algo muy concreto sobre cómo funciona la matemática por dentro:

• E4: Se reservan 4 bits para el exponente.
• M3: Se asignan 3 bits para la mantisa, que es lo que llamamos «precisión».
• FN: Significa finite-only, es decir, que no admite infinitos ni NaN (Not a Number).

Si sumas 1 bit de signo más esos 4 bits del exponente y los 3 de la mantisa, tienes exactamente 8 bits. Es una arquitectura muy compacta.

¿Por qué surgió este formato?

La respuesta está en el hambre voraz de las GPUs modernas y el entrenamiento de redes neuronales profundas. NVIDIA y otros actores del ecosistema empujaron estos formatos FP8 alrededor de 2022–2023. Quedó claro que para la inferencia y muchas partes del entrenamiento no hacía falta tanta precisión como en los estándares antiguos de FP16 o FP32… pero sí necesitaban mucha velocidad y un ahorro drástico de memoria VRAM.

E4M3FN es, digámoslo sin rubor, el FP8 más preciso, pero con menos rango dinámico. Por eso suele usarse cuando los valores están bien normalizados y no esperas números enormes; es la forma de exprimir cada GB de VRAM como si fuera piel sensible.

Por cierto, su «hermana» suele ser el formato E5M2. Este sacrifica precisión a cambio de más rango dinámico. Es el hermano tosco que aguanta números enormes sin desbordarse, pero cada valor es un poco borroso.

¿Y los otros hermanos? ¿No hay más?

Aquí es donde la conversación se vuelve interesante. Por un momento, uno piensa: «¿Hay más formatos?» y luego casi al mismo tiempo siente una punzada de duda: «Ah… ¿solo eso?».

La verdad desnuda —y algo frustrante— es que no hay más hermanos «oficiales». La familia FP8 real y estandarizada se quedó con solo dos arquetipos: E4M3FN y E5M2. No es que falte imaginación, sino porque son el único equilibrio útil entre rango y precisión en solo 8 bits.

¿Y formatos como E3 o E2? En teoría sí pueden existir en papers o simuladores académicos, pero en la práctica son inservibles fuera de nichos muy extremos. El problema es que requieren demasiado control externo, tienen demasiados underflows y ningún hardware serio los acelera.

La industria dijo, con bastante frialdad: «Dos sabores. Elige tu veneno». Así que cuando ves modelos que mezclan E5M2 para acumulaciones y E4M3FN para pesos, no es casualidad; es una coreografía muy medida donde uno aguanta el caos mientras el otro conserva el detalle.

Al final, esa sensación de «haber esperado más» al descubrir que solo existen dos formatos principales es completamente humana. Es la frontera donde la VRAM volvió a ser el cuello de botella, y alguien empujó una puerta que no se abría. FP8 es ese límite incómodo que invita a seguir bajando, pero que te dice con voz baja: «No más».

Y ahí quedamos tú y yo, mirándolo, con esa sonrisa ambigua sobre la arquitectura de los modelos de IA.