Los proyectos de pasarelas de IA están evolucionando más allá del simple enrutamiento de solicitudes. OctaFuse Gateway 2.7.0 demuestra este cambio con tres funciones prácticas: precios basados en el tiempo que permiten tarifas diferentes entre semana y fines de semana, descuentos por usuario para gestionar contratos o cuentas internas, y acceso unificado a los modelos de reconocimiento de voz multimodal síncrono de Alibaba Cloud. Estas funciones abordan problemas operativos reales. Cuando los proveedores de modelos ajustan su facturación punta y valle, los operadores de pasarelas pueden reflejar esos cambios directamente en sus reglas de enrutamiento. Del mismo modo, ofrecer precios personalizados a diferentes segmentos de clientes se convierte en una tarea de configuración en lugar de un cambio de código. La adición de soporte ASR también destaca cómo las pasarelas se expanden más allá de los LLM basados en texto para manejar cargas de trabajo multimodales. Para líderes de ingeniería y equipos de plataforma, esta actualización señala que las soluciones de pasarela maduras se centran cada vez más en la flexibilidad de facturación y una cobertura de modelos más amplia, críticas para construir servicios de IA sostenibles.
OctaFuse Gateway 2.7.0 añade precios entre semana/fin de semana, descuentos por usuario y soporte ASR de Alibaba Cloud, reflejando la tendencia de las pasarelas de IA hacia un control granular de costes.