Ein Entwickler verbrachte drei Monate mit dem Aufbau einer benutzerdefinierten RAG-Wissensdatenbank mit 240 technischen Artikeln, nur um festzustellen, dass Abfragen wie 'Wie skaliere ich Redis Cluster' irrelevante Ergebnisse wie 'Warum Redis schnell ist' und 'Go-Concurrency-Modell' lieferten. Das Problem lag nicht im Embedding-Modell oder der Vektordatenbank, sondern in der Chunking-Strategie. Durch Anpassung von Chunk-Größe, Überlappung und Split-Logik verbesserte sich die Trefferquote um 20%. Dieser reale Fall zeigt, dass Chunking ein kritischer Hyperparameter in RAG-Systemen ist, oft wirkungsvoller als die Modellwahl.
Ein Entwickler berichtet von einem RAG-System, das trotz großer Wissensdatenbank irrelevante Ergebnisse lieferte. Die Ursache war eine schlechte Chunking-Strategie, deren Optimierung die Trefferquote um 20% verbesserte.