Naukowcy opracowali RW-LoRA, innowacyjną metodę do zdecentralizowanego fine-tuningu parametrów modeli AI, która odbiega od dotychczasowych podejść opartych na scentralizowanej agregacji lub wielokrotnej synchronizacji kopii modelu. Zamiast tego pojedynczy token modelu porusza się przez sieć w losowy sposób i jest aktualizowany sekwencyjnie przy użyciu lokalnych celów fine-tuningu.
Większość obecnych metod LoRA w ustawieniach rozproszonych napotyka znaczące wyzwania: centralne agregowanie wymaga dużego przepustowości komunikacyjnej, a metody oparte na gossipie wymagają wielokrotnej synchronizacji między węzłami, co wprowadza błędy z powodu równoczesnego agregowania wielu aktualizacji. RW-LoRA rozwiązuje te problemy poprzez eliminację potrzeby globalnej synchronizacji i istotne zmniejszenie kosztów komunikacyjnych i obliczeniowych.
Badacze zapewnili rygorystyczne gwarancje zbieżności dla celów non-convex oraz wykazali empirycznie na zadaniach NLP, że metoda osiąga konkurencyjne wyniki wydajności przy znacznie mniejszym obciążeniu komunikacyjnym i obliczeniowym niż istniejące podejścia gossip-based. To podejście ma potencjał do revolucjonizowania sposobu, w jaki rozproszeni zespoły mogą efektywnie fine-tunować duże modele fundacyjne bez необходимости centralnych serwerów lub ciągłej synchronizacji.