HarmonyOS PCのAIランタイムは、CPU、GPU、NPUの異種コンピュートユニット間でAIワークロードを調整する実行グラフアーキテクチャに基づいています。従来のシーケンシャルパイプラインとは異なり、実行グラフはAIモデル推論を操作の有向非巡回グラフ（DAG）として表現し、ランタイムがリアルタイムのリソース可用性と電力制約に基づいてタスクを動的に並べ替え、融合、または並列化できるようにします。この設計は、レイテンシとエネルギー効率が重要なオンデバイスAIシナリオで特に効果的です。記事では、モデル定義からグラフがどのように構築されるか、演算子がハードウェアバックエンドにどのようにマッピングされるか、ランタイムが動的な形状や条件分岐をどのように処理するかを詳しく説明しています。AIフレームワークやオペレーティングシステムレベルのAIサポートに取り組む開発者にとって、これは商用OSでのグラフベースのランタイムの具体的な例を提供します。このアプローチはTensorFlowのグラフ実行と類似点がありますが、多様なアクセラレータを備えたPCプラットフォームのリソース制約環境に合わせて調整されています。
この記事では、HarmonyOS PCが実行グラフモデルを中心にAIランタイムを構築し、CPU、GPU、NPU間で効率的なスケジューリングを実現する方法を説明します。実行グラフアプローチにより、AIワークロードの動的最適化が可能になり、レイテンシを削減し、電力効率を向上させます。HarmonyOSでAIアプリケーションを構築する開発者やランタイム設計を研究する開発者にとって、本番環境での実装に関する洞察を提供します。