Modele języka oparte na dyfuzji umożliwiają bardziej elastyczną generację tekstu poprzez iteracyjny proces maskowania i demaskowania tokenów, jednak prowadzi to do znaczących kosztów obliczeniowych - reprezentacje tokenów muszą być przeobliczane na każdym kroku procesu denoisingu. Dotychczasowe metody buforujące zmniejszały te koszty poprzez ponowne wykorzystanie wyników pośrednich i przeobliczanie tylko wybranych pozycji w każdym kroku, ale wybór tych pozycji opierał się na stałych harmonogramach lub heurystycznych sygnałach zmian.
Badacze odkryli, że bardziej istotne niż ogólna redukcja błędu reprezentacji jest pozostawanie generacji blisko pełnej trajektorii denoisingu. Gdy cache'owana generacja odbiega od tej trajektorii, błędy się nagromadzają, szczególnie wokół odchyleń w kolejności demaskowania. To spostrzeżenie doprowadziło do sformułowania problemu wnioskowania w dLLM jako trajektorią-kierowanego wyboru pozycji do przeobliczenia.
TraceQuery to lekka, efektywna metoda, która przewiduje niewielki zbiór pozycji istotnych dla trajektorii w niedalekiej przyszłości, pobiera świeże predykcje tylko dla tych kandydatów, i pozwala modelowi wybrać, które z nich zatwierdzić. Podejście to znacznie zmniejsza liczbę przeobliczeń przy zachowaniu dokładności generacji, co potencjalnie otwiera drogę do praktycznego stosowania dLLM w aplikacjach wymagających szybkich odpowiedzi.