Le système sur puce RK3588 intègre un NPU de 6 TOPS, ce qui en fait une plateforme attrayante pour l'inférence d'IA en périphérie. Ce guide présente le flux de travail de développement à l'aide de RKNN-Toolkit2 pour les modèles de vision par ordinateur comme YOLOv5 et de RKLLM-Toolkit pour les grands modèles de langage comme DeepSeek-R1-1.5B. Les développeurs peuvent utiliser ces outils pour convertir, optimiser et déployer des modèles directement sur le NPU, obtenant une inférence à faible latence sans dépendance au cloud. Le guide couvre la configuration de l'environnement, la conversion de modèles et l'intégration d'exécution, offrant un point de départ pratique pour la construction de dispositifs intelligents en périphérie. Alors que l'IA embarquée continue de croître, la maîtrise des chaînes d'outils NPU spécifiques aux fournisseurs devient une compétence clé pour les ingénieurs embarqués.
Un guide détaillé pour déployer YOLOv5 et DeepSeek-R1 sur le NPU RK3588. Lecture essentielle pour les développeurs d'IA embarquée.