Opublikowana wartość cosine 0.996 między kierunkami refusal pełnej precyzji i skwantyzowanymi nie pozwala wnioskować o zachowaniu właściwości bez znajomości n, na którym została obliczona - a ten parametr zwykle nie jest raportowany. Prawidłowe podejście wymaga porównania każdej cosine przy niskich bitach ze split-half null zmierzoną wewnątrz samego modelu skwantyzowanego, nie null pełnej precyzji, bo ta ostatnia zakłada taką samą wariancję estymatorów. Wyniki są zaskakujące: przy INT4 kierunek faktycznie się obrócił i deficyt przekracza szum estymacyjny, podczas gdy INT8 nie wykazuje detectowalnych zmian. Praca pokazuje, że bez ścisłych procedur statystycznych i pełnego raportowania parametrów, interpretacje dotyczące przetrwania właściwości przy kwantyzacji mogą być całkowicie fałszywe.
Badania
arXiv CS.LG