Naukowcy opracowali nową metodę, która pozwala modelom AI uczyć się jednocześnie od wielu specjalistycznych nauczycieli pochodzących z różnych dziedzin. Technika zwana continual distillation zmienia podejście do transferu wiedzy - zamiast sekwencyjnego dodawania nowych umiejętności, system wchłania wiedzę z kilku źródeł równocześnie, bez utraty wcześniej zdobytych kompetencji. To stanowi przełom w walce z zjawiskiem katastrofalnego zapominania, które długo było plagą sztucznej inteligencji przy próbie nauczenia modelu nowych zadań. Innowacja ta ma fundamentalne znaczenie dla rozwoju bardziej wszechstronnych systemów AI, ponieważ eliminuje konieczność wyboru między specjalizacją a uniwersalnością.
Dotychczasowe podejścia wymagały albo pełnego przeszkolenia modelu od zera w przypadku nowych zadań, albo złożonych i zasobochłonnych procedur udostępniania pamięci. Continual distillation obchodzi ten problem dzięki sprytnej strategii uczenia się - model może czerpać wiedzę z nauczycieli eksperckich w różnych domenach bez zwiększania liczby parametrów ani ryzyka przeinformowania. Rzeczywista waga tego rozwiązania ujawni się w praktycznych aplikacjach, gdzie pojedynczy system AI musi radzić sobie z wieloma niepokrewnym zadaniami, od przetwarzania języka naturalnego po wizję komputerową, bez konieczności utrzymywania odrębnych modeli dla każdej specjalności.
Badania wskazują, że takie podejście otwiera drogę do AI bardziej elastycznych i adaptacyjnych, które mogą uczyć się na bieżąco bez kosztownych operacji ponownego szkolenia. W praktyce oznacza to potencjalnie mniejsze zapotrzebowanie mocy obliczeniowej i szybszą adaptację systemów do nowych wyzwań, co ma bezpośrednie przełożenie na konkurencyjność rozwiązań komercyjnych. Metoda continual distillation może stać się standardowym narzędziem przy budowaniu następnego pokolenia inteligentnych asystentów i systemów eksperckich.