SanDisk & SK hynix revelan especificación HBF: memoria GPU de 512GB a 3 TB/s de ancho de banda vía UCIe

SanDisk y SK hynix introdujeron formalmente la especificación High Bandwidth Flash (HBF) a través del Open Compute Project (OCP), posicionándola como un estándar abierto para emparejar persistencia NAND con rendimiento de clase HBM para cargas de trabajo de inferencia de IA. Los paquetes HBF admiten capacidades de hasta 512GB utilizando pilas de datos NAND especializadas de 8-Hi o 16-Hi con rendimiento dividido en tres niveles de ancho de banda que van desde aproximadamente 0,4 TB/s a 3,0 TB/s. La implementación de pico (3,0 TB/s) supera una pila HBM4 única (2,0 TB/s) en ancho de banda, aunque HBM4 retiene ventajas de latencia.

La especificación adopta el estándar Universal Chiplet Interconnect Express (UCIe) para integración heterogénea, simplificando la adopción en plataformas de acelerador de IA. SanDisk espera una hoja de ruta multi-generación con implementaciones escalonadas. Para lograr 400 GB/s de un único paquete de 512GB, los ingenieros lo diseñaron con 16 dies principales con rutas de acceso concurrentes vía UCIe a hasta 64 GT/s y 64 carriles. HBF apunta a un nuevo nivel de memoria para inferencia: combinando ancho de banda cercano a memoria y persistencia NAND, ideal para cargas de trabajo que requieren pools de memoria mucho más grandes de lo que el máximo de 64GB de HBM4 puede proporcionar económicamente. Sin embargo, la adopción es incierta—a pesar de dos años de colaboración entre SanDisk y SK hynix, solo Google y Tenstorrent han expresado públicamente interés en el consorcio HBF. Fabricantes de chips incluyendo AMD, Broadcom, Intel, Nvidia, Marvell, Micron, Qualcomm, Samsung y Western Digital no se han comprometido.

Para profesionales, HBF señala una ruta alternativa de memoria para inferencia de contexto largo y generación aumentada por recuperación si se construye soporte del ecosistema. El posicionamiento de estándar abierto y cumplimiento de UCIe sugieren modularidad, pero la falta de compromiso del proveedor de GPU/acelerador importante crea incertidumbre en torno a cronogramas reales de adopción. Cualquiera que diseñe clústeres de inferencia debe monitorear la evolución de esta especificación pero no asumir disponibilidad en diseños a corto plazo.