GPUStack, une plateforme open-source de gestion de clusters GPU, a introduit une nouvelle fonction de statistiques d'utilisation offrant une visibilité granulaire sur la consommation des ressources. La fonction décompose l'utilisation selon trois métriques clés : consommation de tokens, durée d'exécution des instances GPU/CPU et capacité de stockage. Les utilisateurs peuvent voir exactement qui utilise quelles ressources et sur quels modèles, éliminant le besoin de suivi manuel ou de suppositions. Cela est particulièrement précieux pour les organisations exploitant des clusters GPU partagés pour des charges de travail IA, où l'allocation des coûts et la planification de capacité sont des défis persistants. La fonction est désormais disponible dans GPUStack, offrant une vue tableau de bord qui simplifie la gouvernance des ressources. Pour les équipes MLOps et les gestionnaires d'infrastructure, cet outil peut aider à optimiser l'utilisation, appliquer des quotas et améliorer la précision de la facturation interne.
GPUStack a publié une fonction de statistiques d'utilisation qui visualise la consommation de tokens, la durée d'exécution des instances GPU/CPU et l'utilisation du stockage par utilisateur et modèle. Cela résout un problème courant dans les clusters GPU partagés et améliore la planification de capacité et la répartition des coûts.