Un développeur a passé trois mois à construire une base de connaissances RAG personnalisée avec 240 articles techniques, pour découvrir que des requêtes comme 'Comment scaler Redis Cluster' renvoyaient des résultats non pertinents tels que 'Pourquoi Redis est rapide' et 'Modèle de concurrence Go'. Le problème ne venait pas du modèle d'embedding ou de la base vectorielle, mais de la stratégie de découpage. En ajustant la taille des chunks, le chevauchement et la logique de division, le taux de pertinence a augmenté de 20%. Ce cas réel souligne que le découpage est un hyperparamètre critique dans les systèmes RAG, souvent plus impactant que le choix du modèle.
Un développeur partage un échec réel de système RAG où les requêtes renvoyaient des résultats non pertinents malgré une grande base de connaissances. La cause était une mauvaise stratégie de découpage, dont l'optimisation a amélioré le taux de pertinence de 20%.