Published signals

TokenJuice : Un moteur de compression de tokens léger qui réduit le contexte LLM de 50 à 95 %

Score: 8/10 Topic: TokenJuice: A token compression engine for LLM context

TokenJuice est un moteur de compression de tokens open source qui réduit la taille du contexte LLM de 50 à 95 % en moins de 5 ms sans appels LLM supplémentaires.

TokenJuice, un moteur de compression de tokens open source d'OpenClaw.NET, répond au problème croissant du gonflement du contexte LLM dans les systèmes d'agents. Il atteint une compression de 50 à 95 % en moins de 5 ms en utilisant des règles statiques et un traitement en pipeline, sans appels LLM supplémentaires. Le moteur dispose d'une conception fail-open, d'une configuration de règles à trois niveaux et d'une compatibilité NativeAOT, garantissant fiabilité et performances dans les environnements de production. Cette approche est particulièrement précieuse pour les systèmes multi-agents et les tâches de longue durée où les fenêtres de contexte se remplissent rapidement.