Les projets de passerelles IA évoluent au-delà du simple routage de requêtes. OctaFuse Gateway 2.7.0 illustre ce changement avec trois fonctionnalités pratiques : une tarification basée sur le temps permettant des taux différents en semaine et le week-end, des remises par utilisateur pour gérer les contrats ou les comptes internes, et un accès unifié aux modèles de reconnaissance vocale multimodale synchrone d'Alibaba Cloud. Ces fonctionnalités répondent à des problèmes opérationnels réels. Lorsque les fournisseurs de modèles ajustent leur facturation en heures creuses et de pointe, les opérateurs de passerelles peuvent refléter ces changements directement dans leurs règles de routage. De même, offrir des prix personnalisés à différents segments clients devient une tâche de configuration plutôt qu'une modification de code. L'ajout du support ASR montre également comment les passerelles s'étendent au-delà des LLM textuels pour gérer des charges de travail multimodales. Pour les responsables techniques et les équipes de plateforme, cette mise à jour signale que les solutions de passerelle matures se concentrent de plus en plus sur la flexibilité de facturation et une couverture modèle plus large, essentiels pour des services IA durables.
OctaFuse Gateway 2.7.0 ajoute la tarification semaine/week-end, des remises par utilisateur et le support ASR d'Alibaba Cloud, illustrant la tendance des passerelles IA à offrir un contrôle fin des coûts.