Une limitation majeure des LLM actuels est leur incapacité à maintenir le contexte entre les sessions. Cet article propose une solution : un référentiel auto-géré construit sur des bases de connaissances Markdown. L'idée centrale est que la mémoire à long terme des LLM ne devrait pas reposer uniquement sur des fenêtres de contexte plus grandes, mais sur un système d'ingénierie des connaissances structuré, maintenable et évolutif. L'auteur soutient que chaque nouvelle session avec un LLM équivaut à démarrer un processus temporaire, perdant l'identité, le contexte du projet et les informations accumulées. En créant un référentiel auto-géré, les développeurs peuvent permettre aux LLM d'accéder et de mettre à jour un magasin de connaissances persistant, leur donnant effectivement une forme de mémoire à long terme. Cette approche est particulièrement précieuse pour les agents IA, les assistants personnels et toute application nécessitant une continuité entre les interactions.
Cet article aborde le défi de la mémoire à long terme des LLM en proposant une approche de référentiel auto-géré utilisant des bases de connaissances Markdown. Il soutient qu'un contexte à long terme efficace nécessite un système d'ingénierie des connaissances personnel, maintenable, corrigeable et évolutif.