Badacze zidentyfikowali zasadniczy problem w interpretacji współczynników zależnych od wejścia w modelach neuronowych. Wiele prac traktuje zmienne współczynniki jako dowód na dynamiczne wnioskowanie i obliczeniowe oszczędności, ale naukowcy pokazują, że te trzy właściwości - zmienność współczynników, zależność modelu od przypisania współczynników wejściom oraz warunkowe wykonanie - są często błędnie traktowane jako równoważne. Zaproponowali nową metodę audytu zwana Frozen-Controller Auditing (FCA), która buforuje pełny tensor współczynników, wyłącza kontroler dynamiczny i powtarza model z zmienianym przypisaniem współczynników wejściom, tasowaniem tokenów i statycznymi profilami. Wyniki są zaskakujące: na siedmiu niezależnie wytrenowanych modelach FeatureGate Transformers 76M parametrów statyczne profile layerwise zachowują 98,70% oryginalnej przewagi wydajności, zaś na modelach 504M nawet 99,43%. Identyczność warstwy wyjaśnia 87 do 96 procent wariancji współczynników.