Modele prognozowania coraz częściej stosuje się jako zamrożone ekstraktory cech do klasyfikacji szeregów czasowych, ale wciąż brakuje jasności, czy ich pretrainowane reprezentacje dają przewagę nad klasyfikatorami, które nie wymagają wstępnego treningu. Naukowcy zbadali dwa forecasting modele - Reverso i Chronos-Bolt - na sześciu dużych zbiorach danych z benchmarku MONSTER, testując systemy z dostępem do 1%, 10% i 100% etykiet treningowych.
Wyniki pokazały mieszane rezultaty. Pretraining rzeczywiście poprawiał dokładność klasyfikacji w porównaniu z wersjami modeli z losowymi wagami - na pięciu z sześciu zbiorów danych, z przyrostami sięgającymi 23 punktów procentowych. Jednak zamrożone reprezentacje z pretrainingu nie radzą sobie lepiej od najsilniejszych baseline'ów, które nie wymagały wstępnego trenowania. W rzeczywistości modele pretrenowane radziły sobie gorzej w 15 z 17 scenariuszy badawczych i remisowały w pozostałych dwóch.
Dodatkowe eksperymenty wykazały, że przywrócenie informacji o amplitudzie sygnału częściowo odbudowuje luki w wydajności, natomiast fine-tuning i cechy błędu prognozy nie zamykają tej przepaści. Badania podkreślają znaczenie silnych baseline'ów specyficznych dla zadania i kontroli z losowymi wagami podczas oceny modeli foundation do prognozowania.