Pamięć ukryta w modelach języka: badanie efektów ponownego uczenia się

Naukowcy z arXiv zbadali fundamentalne pytanie: gdy model języka nie potrafi łatwo przywołać faktu, oznacza to rzeczywiście jego zapomnienie, czy raczej degradację dostępu do niego? Zespół testował zjawisko zwane relearning savings, czyli zaoszczędzeniu ponownego uczenia się, na modelu Qwen2.5-1.5B. Eksperyment porównywał trzy grupy: modelową, która nauczyła się prawidłowego powiązania faktycznego, kontrolną wystawioną na matching exposure bez samego powiązania oraz grupę otrzymującą konkurencyjną, alternatywną odpowiedź.

Wyniki okazały się czytelne. Grupa LEARNED przywracała cel szybciej niż CONTROL przy równoczesnym, predefiniowanym punkcie częściowego zapomnienia. Grupa WRONG nie wykazała żadnej pozytywnej przewagi wobec CONTROL. Autorzy przeprowadzili również drugorzędną analizę, wykorzystując niekiedyś niewidoczny zbiór, co wykazało, że wcześniejsza nauka zmniejszyła liczbę aktualizacji optymalizatora wymaganych do przywrócenia wiedzy o około 18 procent.

Znalezisko ma istotne implikacje dla rozumienia dynamiki uczenia się modeli. Pokazuje, że test-time continual learning nie jest zjawiskiem powierzchniowym - tradycyjne pomiary dokładności wyjścia mogą niedoceniać trwałego wpływu wcześniej zdobytych doświadczeń. Odkrycie sugeruje, że w parametrach modelu pozostaje głębszy ślad przeszłej nauki, który kształtuje późniejsze aktualizacje, nawet gdy model nie potrafi od razu przywołać wiedzy. Kod badania dostępny jest na GitHubie, otwierając możliwość dalszych badań nad tą zjawiskiem.