Naukowcy opracowali SynGAP - algorytm uczenia się przyrostowego oparty na adaptacyjnym wstępnym warunkowaniu gradientu, który naśladuje naturalny proces metaplastyczności synaptycznej. Zamiast polegać na jawnych sygnałach zmian zadań, system utrzymuje bieżącą średnią wartość macierzy informacji Fishera obliczanej na strumieniu danych, a następnie konwertuje te metaplastyczne stany na maski multiplikatywne ograniczające gradient.
Problemat katastrofalnego zapominania od dawna nęka sztuczne sieci neuronowe - gdy uczymy się na nowych danych, model zapomina wcześniejsze informacje. Mózg biologiczny rozwiązuje to poprzez Complementary Learning Systems, gdzie metaplastyczność na poziomie poszczególnych synaps ciągle moduluje ich podatność na zmianę w oparciu o historię aktywacji. SynGAP przenosi tę ideę do języka optymalizacji, działając bez konieczności znania granic między zadaniami - działa po prostu na ciągłym strumieniu nowych przykładów.
Wyniki są imponujące: na standardowym benchmarku Split CIFAR-100 SynGAP osiąga 4-krotny wzrost dokładności w stosunku do EWC++, jednego z najlepszych dotychczasowych podejść. Metoda wymaga minimalnego narzutu pamięciowego i nie wymaga dodatkowych etykiet czy granic zadań, co czyni ją znacznie bardziej praktyczną niż istniejące alternatywy i bliższą biologicznej rzeczywistości.