Cloudflare ha anunciado nuevos componentes de infraestructura optimizados para desplegar y ejecutar modelos de lenguaje grandes, dirigidos a empresas que buscan alternativas a rutas de inferencia bloqueadas en hyperscalers. La plataforma apunta a reducir latencia y costo para inferencia de LLM en el edge.
Este movimiento posiciona a Cloudflare como un neutral carrier para model serving, compitiendo con AWS SageMaker, Azure Cognitive Services y Google Vertex AI en despliegues de modelos open-source y de terceros.