Frore LiquidJet reduce temperaturas de GPU Nvidia Rubin en 10°C, aumenta token-por-vatio en 15%
Frore Systems, fabricante de soluciones de enfriamiento de grado semiconductor, publicó un documento técnico que demuestra que su tecnología de placa fría LiquidJet puede reducir temperaturas de unión de GPU NVIDIA Rubin en hasta 10–12°C, traduciéndose en una mejora de 10–25% en tokens-por-vatio y un aumento del 15% en la generación de tokens en modelos analíticos. La empresa proyecta que las mejoras holísticas de la pila de enfriamiento—abarcando empaque de GPU, materiales de interfaz térmica (TIMs), placas frías y temperaturas de refrigerante—pueden aumentar la generación de tokens por vatio en más del 30%.
Las ganancias de eficiencia tienen raíz en la física: la corriente de fuga aproximadamente se duplica por cada aumento de 10°C en la temperatura de unión, y la potencia de conmutación del transistor sube ~2% durante el mismo rango. Los aceleradores de IA modernos como Rubin disipan hasta 2.400 W y pueden alcanzar temperaturas de matriz +95°C, desencadenando escalonamiento dinámico de voltaje y frecuencia (DVFS) que reduce relojes, desempeño y salida de tokens. Reducir la temperatura de unión operacional mejora la eficiencia incluso cuando el procesador no alcanza su techo térmico, porque las pérdidas de fuga y conmutación reducidas se traducen directamente en mayor rendimiento sostenido.
El análisis de Frore destaca la resistencia térmica como un cuello de botella crítico: desmontar (eliminar el disipador de calor integrado) en una GPU Rubin puede reducir la temperatura de unión en hasta 20°C en comparación con el estándar, mejorando potencialmente tokens/vatio en 35%. Algunos hiperscaladores ya están explorando GPUs Rubin desmontadas en entornos de producción para maximizar la economía de tokens, aunque el enfoque intercambia confiabilidad mecánica por ganancias de desempeño.
Para profesionales: en centros de datos de IA donde el costo-por-token impulsa la economía de unidades, una mejora del 15% en la generación de tokens impacta directamente el TCO y ROI. El enfriamiento ya no es solo un problema de gestión térmica—es una palanca de rentabilidad de carga de trabajo. Los equipos de infraestructura centrados en NVIDIA deben evaluar LiquidJet y placas frías similares como parte de la planificación de capacidad para aceleradores de próxima generación.