Badacze zaproponowali nową metodę kompresji modeli Transformer opartą na rozkładzie B-spline, która zmniejsza rozmiar sieci neuronowych przy zachowaniu ich wydajności. Technika wykorzystuje odporne funkcje bazowe do dekompozycji wag modelu, co pozwala na bardziej efektywne reprezentowanie danych. Metoda ma potencjał do redukcji kosztów obliczeniowych i pamięciowych, co jest istotne dla wdrażania dużych modeli sztucznej inteligencji w praktycznych zastosowaniach.