OctaFuse Gateway 2.3.0 a été publié avec une nouvelle fonctionnalité notable : la stickiness fournisseur pour les pools de routes. Dans les configurations multi-fournisseurs, après une bascule vers un amont disponible, les requêtes suivantes peuvent ne pas atteindre systématiquement le même fournisseur, entraînant de faibles taux de hits de cache, des sessions interrompues et un état fournisseur instable. La nouvelle fonctionnalité de stickiness résout ce problème en liant les requêtes à un fournisseur spécifique après la bascule initiale, garantissant la continuité. Cela est particulièrement précieux pour les équipes utilisant plusieurs fournisseurs de modèles IA ou de vendeurs API où l'état de session et la mise en cache sont critiques pour la performance et le coût. Cette mise à jour est une amélioration petite mais significative pour les opérateurs de passerelles cherchant à optimiser la gestion du trafic multi-vendeurs.
La nouvelle fonctionnalité de stickiness fournisseur dans OctaFuse Gateway améliore les taux de hits de cache et la continuité des sessions dans les scénarios de basculement multi-fournisseurs.