Mettre à niveau ou remplacer des modèles d'embedding dans un pipeline de génération augmentée par récupération (RAG) est plus qu'un simple changement de configuration. Un rapport de terrain récent met en évidence un problème courant mais souvent négligé : la dimension du vecteur de sortie du nouveau modèle peut différer de celle de l'ancien, ce qui brise la compatibilité avec les vecteurs déjà stockés dans la base de données. Même après avoir ré-analysé les documents, le système peut toujours échouer car les vecteurs historiques restent dans l'ancien format. Cette inadéquation peut provoquer des erreurs silencieuses, une qualité de récupération dégradée ou des pannes difficiles à tracer. La leçon pour les équipes d'ingénierie est claire : avant de changer de modèle, auditez la dimension des données vectorielles existantes et planifiez une stratégie de migration ou de ré-embedding. C'est une préoccupation opérationnelle permanente pour quiconque construit ou maintient des systèmes RAG, surtout à mesure que le paysage des modèles évolue rapidement.
Un avertissement pratique sur les incompatibilités de dimensions vectorielles lors de la migration de modèles d'embedding dans les systèmes RAG, et pourquoi la compatibilité des données historiques est importante.