OctaFuse Gateway 2.2.0 marque une étape importante dans la gestion des modèles de trafic IA complexes. La mise à jour se concentre sur la clarification et la configuration des décisions de routage à chaque couche, plutôt que de les cacher dans le code. Cela est particulièrement précieux pour les organisations qui intègrent plusieurs fournisseurs d'IA ou maintiennent des chaînes de secours redondantes. Avec des stratégies par couche, les équipes peuvent définir des règles précises pour la sélection principale, le basculement au sein de la même couche et les chemins de secours. Cela réduit les frictions opérationnelles et améliore la fiabilité en production. Cette fonctionnalité s'aligne sur la tendance plus large de traiter l'infrastructure IA comme un citoyen de première classe dans la gestion des API.
OctaFuse Gateway 2.2.0 introduit des stratégies de routage par couche, permettant un contrôle fin du trafic des modèles IA multi-comptes et multi-fournisseurs. Cela répond à un besoin croissant de basculement flexible et d'équilibrage de charge dans les déploiements IA.