Naukowcy zaproponowali nową technikę kompresji opartą na teście sterowalności-obserwacji, która traktuje wytrenowaną sieć neuronową jako nieliniowy system dynamiczny indeksowany głębokością. Zamiast tradycyjnych metod działających na wagach czy neuronach, nowe podejście identyfikuje redundancję w stanach ukrytych poprzez analizę osiągalności, obserwacji i macierzy Gramiana pochodzących ze snapshot'ów stanów ukrytych i jakobianów wyjścia.
W praktyce metoda wykonuje A/B/C testy aby oszacować rangi warstw - które stany można osiągnąć, które zaobserwować, oraz które są zarówno osiągalne jak i obserwalne. Rangi te stają się następnie właściwą szerokością warstw w skompresowanej sieci. Na MNIST czterowarstwowa sieć typu SiLU została zmniejszona z 1024 do 277 neuronów (72,95% kompresji) przy zachowaniu 95,45% dokładności wobec 96,60% w sieci oryginalnej. Na CIFAR-10 większa sieć SiLU zmniejszyła się z 4608 do 1339 neuronów (70,94% kompresji stanów i 83,09% kompresji parametrów) prawie bez straty w dokładności.
Ta metoda wyróżnia się tym, że explicitly charakteryzuje rolę dynamiczną stanów wewnętrznych zamiast ślepo zmniejszać rozmiar. Eksperymenty pokazują, że podejście porównuje się korzystnie z projekcją, pruningiem strukturalnym i niestrukturalnym, SVD niskiego rzędu oraz kwantyzacją. Wynik ma znaczenie dla wdrażania sieci na urządzeniach o ograniczonych zasobach bez polegania na heurystykach czy dokrojna dostrajanym parametrom.