Un article technique récent sur CSDN décrit un système de confirmation des rôles des locuteurs et de transcription hors ligne de longs contenus audio/vidéo utilisant seulement deux GPU. Le système emploie une inférence multi-tours pour gérer la diarisation des locuteurs sans connexion cloud, ce qui le rend adapté aux déploiements sensibles à la vie privée ou en périphérie. L'auteur détaille l'architecture, y compris la sélection du modèle et les optimisations du pipeline d'inférence, pour atteindre des performances en temps réel ou quasi réel sur du matériel grand public. Cette approche est particulièrement pertinente pour les développeurs travaillant sur la transcription de réunions, l'analyse de centres d'appels ou l'indexation de médias où les données ne peuvent pas quitter les locaux. L'article aborde également des défis comme la parole superposée et la segmentation audio longue, offrant des solutions pratiques. Bien que le contenu soit de type tutoriel, l'idée centrale d'une transcription hors ligne efficace multi-locuteurs avec des GPU limités est un signal précieux pour la communauté d'ingénierie IA.
Un développeur chinois partage une méthode de diarisation et transcription hors ligne des locuteurs utilisant deux GPU, mettant l'accent sur l'inférence multi-tours et la capacité hors ligne complète.