Zespół naukowców zaproponował metodę targeted PD (tPD) umożliwiającą selektywne wyodrębnianie specyficznych komponentów z sieci neuronowych bez konieczności rozkładania całej architektury. Tradycyjne podejścia do dekompozycji parametrów wymagają ogromnych zasobów obliczeniowych, szczególnie przy pracy z dużymi modelami. tPD rozwiązuje ten problem poprzez wprowadzenie komponentu catch-all, który obsługuje wszystkie dane niezwiązane z konkretnym zadaniem, pozwalając skupić się na procesach przetwarzających tylko interesujące nas dane wejściowe.
Badanie wykazało praktyczne korzyści metody na transformerach. Naukowcy zdołali wydzielić podmodel operujący wyłącznie CSS-em z transformera czteroblokowego, używając zaledwie 7% obliczeniowego kosztu porównania do opublikowanej wcześniej dekompozycji. W przypadku większej architektury dwunastoblokowej zespół przeprowadził zabiegi chirurgicznego usuwania i przewiązywania zapamiętanych sekwencji, osiągając znikomy wpływ na działanie pozostałych części modelu.
To podejście ma znaczenie dla interpretowanalności sztucznej inteligencji i mechanistycznego zrozumienia działania głębokich sieci. Umożliwia badaczom identyfikowanie i modyfikowanie poszczególnych komponentów odpowiedzialnych za konkretne zachowania, co jest kluczowe dla debugowania i kontroli zachowań dużych modeli bez konieczności ponownego trenowania całej architektury.