केस स्टडी: 77% एंटिटी खो गए - फिर 100% बरकरार रखे गए

जब कोई LLM चैट कंटेक्स्ट विंडो से बाहर जाता है, तो प्लेटफॉर्म इसे सारांशित करते हैं — और जानकारी खो जाती है। हमने अपने उत्पादन मल्टी-एजेंट डिप्लोयमेंट में इसकी माप की: स्टैंडर्ड कॉम्पैक्शन नामित एंटिटी (लोग, निर्णय, टूल, तारीख) के 77% खो देता है। एक पेमेंट प्रोसेसर इंटीग्रेशन के बारे में पूछे जाने पर, जो 90 मिनट पहले चर्चा किए गए थे, एजेंट ने "मैं नहीं जानता" जवाब दिया।

हम एक संरचित स्मृति पर तीन-स्तरीय अनुसरण आर्किटेक्चर के माध्यम से कम्पैक्शन को बदल दिया है: एंटिटी पूर्ण रूप से बचते हैं, और एजेंट वर्तमान चरण के लिए ठीक उतना कुछ अनुसरण करता है जितना आवश्यक होता है, अनुरोध के अनुसार।

परिणाम, दो उत्पादन एजेंट इंस्टैंस पर 16,000 से अधिक संदेशों के माध्यम से मापा गया: पूर्व निर्णयों के 100% बहाली (43% के बिना तुलना में), जबकि 46 मेगाबाइट के सैशन को 35 किलोबाइट के कार्य के संदर्भ में संकुचित कर दिया जाता है — टोकन भार में 99.94% की कमी। प्रकाशित कागज के निष्कर्ष के अनुसार: बेहतर मॉडल के लिए न भुगतान करें, बल्कि बेहतर स्मृति के लिए भुगतान करें।

पूरी विधि, शामिल एक रिव्यू 27 हाल के कागज से पश्चिमी, चीनी, कोरियाई और जापानी अनुसंधान समूहों, GLG, a.s. द्वारा एक खुला कागज के रूप में प्रकाशित किया गया है (मार्च 2026) — कोरियाई और चीनी संस्करण शामिल हैं।