Naukowcy badają, jak wyjaśnić zachowanie głębokich modeli neuronowych uczących się na bieżąco podczas prognozowania zmiennych szeregów czasowych, szczególnie w monitoringu środowiska. Problem polega na tym, że zamieniające się warunki (niestacjonarność) i brak przejrzystości predykcji utrudniają wdrażanie takich systemów w praktyce.
W swoim badaniu zespół testował trzy główne architektury: PatchMixer, PatchTST i DLinear, wzbogacone o mechanizmy samplingowania oparte na attention. Te komponenty pozwalają modelowi adaptować się w miarę napływania nowych danych. Do analizy wykorzystali attention rollout i Grad-CAM - popularnych metod wyjaśniania decyzji sieci neuronowych. Eksperymenty przeprowadzili na rzeczywistych danych piezometrycznych (pomiary poziomu wody gruntowej), które wykazują nieregularne wzorce i nagłe zmiany trendu.
Wyniki pokazują, że analiza wzorów atencji i gradientów w czasie ujawnia, jak model się uczy i jak podejmuje decyzje przy doborze danych treningowych. To jest ważne, bo pozwala zrozumieć nie tylko to, czy model prognozuje dobrze, ale również dlaczego tak robi w dynamicznie zmieniających się warunkach. Odkrycia wskazują zarówno na wyzwania (złożoność interpretacji w systemach adaptacyjnych) jak i szanse (możliwość lepszej kontroli strategii uczenia się) dla rozwoju bardziej wiarygodnych systemów AI w monitoringu i prognozowaniu.