Together AI e IBM firmaron un acuerdo de infraestructura multiaño de $240 millones el 11 de agosto para construir un cluster de inferencia de IA de código abierto a gran escala en IBM Cloud alimentado por sistemas NVIDIA HGX B300 y redes Spectrum-X. El cluster es el primer cluster de inferencia dedicado a gran escala en IBM Cloud utilizando esta configuración de hardware; la disponibilidad se orienta para Q1 2027. Together AI reportó servir 400 billones de tokens mensualmente y recientemente cerró una Serie C de $800 millones con valuación de $8,3 mil millones.
Together AI afirma clasificaciones de velocidad de inferencia #1 en modelos de código abierto en arquitectura NVIDIA Blackwell, logrando hasta 2x velocidad de salida más rápida que proveedores competidores para modelos Qwen, DeepSeek y Kimi. La empresa atribuye ganancias de desempeño a un motor de inferencia totalmente modernizado optimizado para hardware Blackwell, decodificación especulativa avanzada (ATLAS) y cuantización de bajo bit (FP4/FP8). Para DeepSeek-V4-Flash, Together AI ofrece 13% de desempeño más rápido que el siguiente proveedor más rápido. Together también aseguró compromisos por 500+ megavatios de capacidad de cómputo financiados independientemente por inversores para apoyar el crecimiento esperado.
Para ingenieros y arquitectos evaluando proveedores de inferencia de código abierto: la asociación IBM de Together AI y optimización Blackwell representan un cambio significativo en economía de inferencia de commodities. Las afirmaciones de aceleración 2x (donde se validan en tu carga de trabajo) se traducen directamente en costos de token más bajos; a escala, esto se suma. Sin embargo, la fecha de lanzamiento Q1 2027 significa que implementaciones existentes deben evaluar el desempeño en sus propios modelos y patrones de tráfico hoy. El mensaje de mercado implícito es que las curvas de costo de inferencia continúan cayendo más rápido para modelos de peso abierto con kernels construidos a propósito—y que los hiperscaladores y proveedores de plataforma (IBM, NVIDIA, Together) están apostando fuertemente en esta tendencia para impulsar adopción de compute en nube lejos de APIs propietarias.