Un artículo provocador de la comunidad de desarrolladores china argumenta que la disponibilidad de modelos ya no debe verse como un estado binario de encendido/apagado. En su lugar, propone un modelo de disponibilidad de nueve dimensiones donde factores como latencia, rendimiento, costo y precisión contribuyen a una puntuación de disponibilidad dinámica. El caso de Fable 5 ilustra cómo este cambio permite una programación de recursos más eficiente y optimización de costos. Para ingenieros de plataforma y SREs, esto significa repensar los SLO tradicionales y adoptar un enfoque más fluido para la confiabilidad del servicio. El concepto es particularmente relevante a medida que el despliegue de modelos de IA se vuelve más complejo con múltiples versiones, variantes ajustadas y necesidades de escalado en tiempo real.
Un nuevo paradigma trata la disponibilidad de modelos como un recurso dinámico multidimensional, requiriendo una reconstrucción de los SLO para servicios de IA.