La recherche vectorielle est devenue la norme pour la génération augmentée par récupération, mais une nouvelle approche remet en question cette hypothèse. Un script Python combiné à des LLM peut potentiellement remplacer entièrement la recherche vectorielle, en utilisant une architecture basée sur les compétences appelée ProjQA. Cette méthode exploite les capacités de raisonnement inhérentes du LLM pour répondre directement aux requêtes, contournant le besoin d'index d'embedding et de recherche de similarité. Les compromis sont significatifs : bien que cela simplifie la pile et réduise les frais de maintenance, cela peut augmenter la latence et le coût par requête. Pour les ingénieurs en IA, cela représente un choix de conception à explorer, en particulier pour les applications à petite et moyenne échelle où l'infrastructure vectorielle est excessive. Le concept met également en évidence le rôle évolutif des LLM au-delà de la génération, les positionnant comme des moteurs de raisonnement centraux. Comprendre ce modèle peut éclairer les décisions architecturales et potentiellement conduire à des systèmes plus efficaces.
Une architecture basée sur Python utilisant des LLM pour remplacer la recherche vectorielle gagne en attention, offrant une alternative plus simple aux pipelines RAG traditionnels. Ce concept pourrait réduire la complexité de l'infrastructure tout en maintenant les performances.