Un article stimulant de la communauté des développeurs chinois soutient que la disponibilité des modèles ne devrait plus être considérée comme un état binaire marche/arrêt. Il propose plutôt un modèle de disponibilité à neuf dimensions où des facteurs comme la latence, le débit, le coût et la précision contribuent à un score de disponibilité dynamique. Le cas Fable 5 illustre comment ce changement permet une planification des ressources et une optimisation des coûts plus efficaces. Pour les ingénieurs de plateforme et les SRE, cela signifie repenser les SLO traditionnels et adopter une approche plus fluide de la fiabilité des services. Ce concept est particulièrement pertinent alors que le déploiement de modèles d'IA devient plus complexe avec de multiples versions, variantes ajustées et besoins de mise à l'échelle en temps réel.
Un nouveau paradigme considère la disponibilité des modèles comme une ressource dynamique multidimensionnelle, nécessitant une reconstruction des SLO pour les services IA.