Un tutoriel récent détaille comment déployer Qwen3-ASR-1.7B et Qwen3.5-9B sur un seul GPU Haiguang DCU K100 pour créer un système de recherche de fichiers contrôlé par la voix. La configuration utilise la reconnaissance vocale pour convertir les commandes vocales en requêtes textuelles, qui sont ensuite traitées par le LLM pour récupérer intelligemment les fichiers. Cette intégration démontre la capacité croissante du matériel domestique chinois à exécuter des modèles d'IA modernes, offrant une alternative aux solutions basées sur NVIDIA. Pour les développeurs et ingénieurs travaillant avec des applications vocales ou explorant les écosystèmes GPU chinois, cette approche fournit une référence pratique pour construire des systèmes similaires. Le tutoriel couvre le chargement du modèle, l'optimisation de l'inférence et l'intégration avec l'indexation de fichiers, bien que le guide complet étape par étape soit à suivre avec prudence en raison de problèmes potentiels de droits d'auteur. Le point clé est la faisabilité de combiner ASR et LLMs sur un seul GPU pour des tâches vocales en temps réel, ce qui pourrait inspirer davantage d'innovations dans les outils de productivité à commande vocale.
Le déploiement de Qwen3-ASR et Qwen3.5-9B sur un GPU Haiguang DCU K100 pour la recherche de fichiers par commande vocale démontre le potentiel des GPU domestiques chinois pour les charges de travail IA.