Naukowcy badający fine-tuning modelów języka zwracają uwagę na znaczący problem metodologiczny: dotychczasowe pomiary rangi aktualizacji wag nie uwzględniały porównania z wartościami bazowymi. Kiedy porównali rangi rzeczywistych zmian fine-tuningu z tymi samymi miarami dla macierzy losowych tej samej wielkości, odkryli zaskakujące wyniki - pomiary liczące kierunki pokazują aktualizacje tuż poniżej poziomu szumu, podczas gdy stabilna ranga stawia je znacznie poniżej.
Prowadzone eksperymenty obejmowały 13 par modeli o rozmiarze od kilku miliardów do 8 miliardów parametrów. Kluczowe odkrycie to spostrzeżenie, że każda aktualizacja ma kilka silnych kierunków na tle długiego ogona innych. Interesujące jest, że wzorzec ten utrzymuje się niezależnie od zawartości danych treningowych - dane instrukcyjne nie wyróżniają się od Wikipedii czy kodu, DPO daje identyczne aktualizacje bez względu na to czy etykiety preferencji są prawdziwe czy losowo zamieniane, a nawet tekst losowy produkuje najbardziej skoncentrowaną aktualizację ze wszystkich.
Wyniki mają znaczące implikacje dla interpretacji poprzednich badań. Kiedy naukowcy zastosowali swoją metodologię do niedawnego twierdzenia, że post-training jest powierzchowny ponieważ efektywna ranga wag prawie się nie zmienia, pokazali że losowa aktualizacja tego samego rozmiaru prawie nie zmienia tej rangi, ale kompletnie niszczy model. To sugeruje, że samo mierzenie zmian rangi bez właściwych baseline'ów może prowadzić do błędnych wniosków o tym jak bardzo modele rzeczywiście się zmieniają podczas fine-tuningu.