Zespół badawczy zaproponował value-of-information router - nową metodę wyboru bloków atencji, która rozwiązuje fundamentalny problem istniejących podejść typu block-sparse. Standardowe selektory top-k wybierają k najlepszych bloków bez oglądania się wstecz, co prowadzi do sytuacji gdzie bloki o prawie identycznych wynikach są traktowane zupełnie inaczej - jeden trafia do przetworzenia, drugi jest odrzucany i jeśli zawiera odpowiedź, jest ona bezpowrotnie stracona.
Proponowana metoda działa inaczej - dla każdego zapytania mierzy ona jak wyraźnie sformowana była decyzja o odcięciu (innymi słowy, jaka była przepaść między k-tym a k+1-szym blokiem). Jeśli ta przepaść jest małą, router automatycznie podwaja liczbę rozpatrywanych bloków dla tego konkretnego zapytania. To podejście jest niezależne od konkretnej architektury i bez problemu łączy się z istniejącymi metodami scoring bloków jak Quest.
Wyniki eksperymentów są imponujące. Na całym podzbiorze LongBench-v2 medium router działający na top Quest osiągnął recall 0.75, podczas gdy standardowy top-k tylko 0.47 - to wzrost o 28 punktów procentowych z p-wartością <0.01. Na trudniejszych testach pamięci (RULER NIAH z wieloma kluczami) metoda dochodzi w obręb 2 punktów od pełnej dense attention. Najważniejsze - lifting powtarza się konsekwentnie na czterech modelach z trzech różnych architektur: Qwen2.5, Mistral-Nemo i Qwen3.6. Na kontekście 128K router zachowuje 81-89% dokładności gęstej atencji wobec zaledwie 9% dla standardowego podejścia, jednocześnie utrzymując szybkość na poziomie 62-80% czasu obliczeń gęstej atencji.