Badacze zaproponowali nowe podejście do distylacji on-policy modeli języka, które wybiera ważne tokeny na podstawie formalnego wariantu distylacji zamiast tradycyjnych heurystyk. Zamiast polegać na sygnałach takich jak niepewność modelu czy niezgodność między nauczycielem a studentem, zespół wyprowadził ważność tokenu wprost z celu optymalizacyjnego: ile może zmniejszyć się strata na danej pozycji przy ustalonym budżecie KL na dystrybucji predykcyjnej studenta. Ta metryka utility jest definiowana jako s_t=g_t^T F_t^+ g_t, gdzie g_t to gradient logitów, a F_t to kategoryczna macierz Fishera.
Dowodzą, że dla reverse-KL metryka utility równa się wariancji współczynnika log-prawdopodobieństwa ważonego studentem, a dla forward-KL odpowiada divergencji Pearsona chi-kwadrat. Ta teoretyczna podstawa pozwala wybrać odpowiednią metrykę utylności na podstawie wybranego celu distylacji. Fisher Utility Weighting (FUW) implementuje tę ideę jako ciągłe, znormalizowane wagowanie tokenów. Testy na siedmiu benchmarkach matematycznych przy użyciu trzech par modeli Qwen3 wykazały konsekwentne ulepszenia: FUW poprawił wyniki o 1.35-4.0 punktu makro przy reverse-KL i 1.08-2.71 przy forward-KL w porównaniu z uniformnym on-policy distillation.
Metoda jest szczególnie istotna dla optymalizacji efektywności trenowania dużych modeli. Chociaż istniejące kryteria jak entropia studenta czy KL disagreement skupiają się na podobnych pozycjach jak FUW przy progu selekcji 50 procent, rozbiegają się przy bardziej restrykcyjnych frakcjach. To sugeruje, że podejście theoretically grounded do wyboru tokenów ma lepszą zdolność do wyjaśniania i przewidywania, które pozycje rzeczywiście warto trenować.