Naukowcy opracowali LARA, metodę adaptacji, która zamiast zmieniać wagi zamrożonego modelu, dodaje małe poprawki do residual stream - wewnętrznych reprezentacji sieci neuronowej. Podczas gdy LoRA dodaje aktualizacje niskiego rzędu do macierzy wag, LARA czyta ukryte stany w wybranym zbiorze warstw i dodaje korekcję z powrotem do residual stream, pozostawiając wszystkie oryginalne wagi niezmienione.
Metoda wykazuje wydajność porównywalną z LoRA przy tej samej liczbie parametrów, ale oferuje unikalne możliwości. LARA wprowadza skalę gamma, którą można regulować podczas inferencji, aby płynnie interpolować między zachowaniem modelu bazowego a wersją dostosowaną. To daje bardziej precyzyjną kontrolę nad behawiorami modelu niż tradycyjne adaptacje zmieniające wagi. Ponadto każde zachowanie jest małym modułem residualnym zbudowanym na wspólnej zamrożonej bazie, co pozwala na rozdzielenie trenowania behawiorów.
Praktyczne implikacje są znaczące dla wdrażania wielu specjalizowanych wersji modelu. Badacze umieścili siedem różnych behawiorów - sześć dopasowanych dla konkretnych zadań i jeden zoptymalizowany dla preference optimization za pomocą DPO - na jednym zamieszonym modelu 1.5B z zaledwie 33 MB overhead, zamiast przechowywać siedem pełnych kopii modelu. Ponieważ zachowania są trenowane oddzielnie i wybierane per token, system naturalnie nadaje się do hostowania wielu behawiorów na jednym urządzeniu i łatwego dodawania nowych bez przeładowywania.