Naukowcy z ArXiv zaproponowali Weightless Fine-Tuning, metodę która rozwiązuje problem kosztowności personalizacji dużych modeli językowych. Zamiast tradycyjnego supervised fine-tuningu wymagającego aktualizacji wag dla każdego użytkownika, WFT działa w czasie dekodowania i modyfikuje bezpośrednio przestrzeń logitów.
Mechanizm działania polega na analizie residuów z sekwencji treningowej autora i transportowaniu ich do bieżącego promptu za pośrednictwem operatora krzyżowego szacowanego z cross-covariancji indukowanej przez dropout. To podejście zastępuje gradinatowe aktualizacje parametrów korekcjami na poziomie logitów, zachowując efekt dystrybucyjny fine-tuningu bez zmiany samego modelu. Analiza pokazuje cosine similarity na poziomie 0.875 między zmianami logitów indukowanymi przez WFT i standardowy SFT.
Wyniki testów na trzech benchmarkach LaMP wykazują, że WFT nie tylko dorównuje lub przewyższa tradycyjny fine-tuning na poszczególnych zadaniach, ale wymaga mniej niż 7% efectywnych obliczeń w porównaniu z SFT. To ma znaczenie praktyczne dla systemów personalizacyjnych, gdzie każdy użytkownik wymaga dostępu do osobnych wag - WFT pozwala uniknąć tego kosztownego wariantu, oferując tę samą jakość adaptacji przy ułamku zasobów obliczeniowych.