Naukowcy przedstawili APDMem, hierarchiczną architekturę pamięci długoterminowej dla asystentów opartych na modelach językowych, która adaptacyjnie pobiera informacje z długich historii konwersacji. Zamiast przeszukiwać całą historię rozmów lub ustalić z góry zakres danych, APDMem dzieli pamięć na cztery progresywne warstwy: streszczenia tematyczne, spersonalizowane kluczowe fakty, szczegółowe notatki na poziomie dialogu oraz oryginalne wiadomości.
Szczególnie interesujące jest podejście polegające na progressive disclosure - kontroler systemu najpierw odczytuje wysokopoziomowe streszczenia i zagłębia się w bardziej szczegółowe dowody tylko wtedy, gdy jest to potrzebne. Proste zapytania mogą się skończyć szybko, natomiast złożone pytania wymagające czasowego kontekstu, wieloetapowego rozumowania lub precyzyjnych dowodów tekstowych aktywują głębszą inspekcję pamięci. Eksperymentalne wyniki na benchmarku LongMemEval pokazują, że APDMem osiąga wysoką wydajność w zadaniach pamięciowych z długim kontekstem, jednocześnie korzystając zaledwie z 8% całej konwersacji.
To rozwiązanie adresuje kluczowy problem skalowania asystentów AI - jak efektywnie pracować z rosnącymi historiami dialogów bez nadmiernych kosztów obliczeniowych. Syntetyzator notek konwertuje pobrane dowody w strukturę skoncentrowaną na konkretnym pytaniu, porządkując wydarzenia i identyfikując sprzeczności, co dodatkowo poprawia jakość odpowiedzi generowanych przez model.