Adaptacja domeny przez forward pass bez backpropagacji między warstwami

Naukowcy przedstawili metodę FPO (Forward-Pass-Only), która pozwala dostrajać duże modele językowe bez tradycyjnej backpropagacji przez sieć neuronową. Zamiast tego FPO oblicza pojedynczy sygnał błędu na wyjściu modelu i aplikuje go bezpośrednio do wybranych warstw, unikając propagacji sygnału między warstwami i budowania grafu autograd. Podejście to osiąga 2.7-3.2 razy większą przepustowość niż standardowy fine-tuning, przy jednoczesnym zużyciu około 40% mniej pamięci szczytowej.

Kluczowa obserwacja leżąca u podstaw FPO to fakt, że błąd predykcji na wyjściu transformera przybliża prawdziwy gradient z kosinusowym podobieństwem na poziomie 0.47-0.59 w ostatnich warstwach. Autorzy zaproponowali dwuminutową diagnostykę, która pozwala zidentyfikować dla każdego modelu, w których warstwach adaptacja jest najskuteczna. FPO nie konstruuje grafu backpropagacji, co znacznie zmniejsza wymogi obliczeniowe.

Testowanie na trzech rodzinach modeli - OLMo-2-7B, Qwen3-8B i Falcon3-7B - wykazało, że FPO poprawia perplexity na danych treningowych (in-domain), jednocześnie utrzymując wydajność na benchmarkach ogólnych takich jak MMLU, ARC-Challenge, HellaSwag i Winogrande na poziomie zbliżonym do baseline'u. To stanowi znaczną przewagę względem pełnej adaptacji sieci, która nie zawsze gwarantuje taką stabilność. Metoda otwiera możliwość bardziej efektywnego dostrajania modeli z ograniczoną infrastrukturą obliczeniową.