Badacze opublikowali na arXiv nową metodę DC-Leap, która znacząco przyspiesza inference Diffusion Large Language Models bez konieczności ponownego trenowania. Problem, który rozwiązuje, dotyczy Joint Probability Dependence Error (JPDE) - błędu wynikającego z zależności między tokentami podczas dekodowania równoległego. Dotychczasowe podejścia musiały działać z bardzo konserwatywnymi progami pewności, co prowadziło do zbędnych iteracji denoizingu i wolniejszego wnioskowania.
DC-Leap wprowadza dwie kluczowe innowacje. Po pierwsze, Dynamic Contiguous Verification strategia, która wdrażana jest w proces dekodowania równoległego i progresywnie waliduje zależności między tokenami, neutralizując JPDE. Po drugie, draft-guided decoding mechanism, który pozwala na przeskakiwanie naprzód przez wiele tokenów naraz, udostępniając kontekst look-ahead i zachowując strukturalne korzyści dwukierunkowej atencji podczas inferencji.
Rezultaty eksperymentów są imponujące: na benchmarku MBPP dla generowania długich sekwencji DC-Leap osiąga przyspieszenie 53,19x, a w połączeniu z KV-Cache optimization aż 105,02x, przy zachowaniu porównywalnej jakości generowanych tekstów. Metoda jest training-free, co oznacza, że można ją natychmiast zastosować do istniejących modeli. Kod jest dostępny publicznie na GitHubie.