Case study: 77% của các thực thể bị mất — sau đó 100% được phục hồi

Khi một cuộc hội thoại của mô hình LLM vượt quá cửa sổ ngữ cảnh, các nền tảng sẽ tóm tắt nó — và mất đi thông tin. Chúng tôi đã đo lường điều này trong triển khai đa tác nhân của mình trong sản phẩm: compaction tiêu chuẩn đã mất 77% các thực thể được đặt tên (người, quyết định, công cụ, ngày tháng). Khi được hỏi về việc tích hợp một nhà xử lý thanh toán được thảo luận 90 phút trước, agent trả lời "Tôi không biết".

Chúng tôi đã thay thế compaction bằng một kiến trúc hồi tưởng ba lớp trên bộ nhớ cấu trúc: các thực thể tồn tại đầy đủ, và người đại diện truy xuất chính xác những gì cần thiết cho lượt trò chuyện hiện tại, theo yêu cầu.

Kết quả được đo đạc trên hơn 16.000 tin nhắn trên hai phiên bản agent sản xuất: 100% phục hồi các quyết định trước đó (so với 43% không có), trong khi một phiên bản session 46 MB được nén thành 35 kB ngữ cảnh làm việc — giảm 99,94% tải token. Kết luận của bài báo đã công bố vẫn đúng: đừng trả tiền cho một mô hình tốt hơn, hãy trả tiền cho bộ nhớ tốt hơn.

Phương pháp luận đầy đủ, bao gồm việc xem xét 27 bài báo gần đây từ các nhóm nghiên cứu ở phương Tây, Trung Quốc, Hàn Quốc và Nhật Bản, được công bố dưới dạng một bài báo mở bởi GLG, a.s. (tháng Ba năm 2026) — bao gồm cả bản tiếng Hàn và tiếng Trung.