Naukowcy z Exaone zaprezentowali EXAONE Finance, model do prognozowania szeregów czasowych specjalizujący się w przewidywaniu zachowań na rynkach finansowych. W odróżnieniu od ogólnych modeli TSFMs (temporal series foundation models), ta sieć została zbudowana od zera z myślą o wyzwaniach specyficznych dla finansów.
Tradicyjne modele opierające się na self-attention mają problem z wydajnością - koszt obliczeniowy rośnie kwadratowo wraz z długością sekwencji i liczbą zmiennych. W finansach pracujemy często z bardzo długimi serami danych obejmującymi wiele instrumentów jednocześnie, a do tego pojawiają się brakujące wartości. EXAONE Finance rozwiązuje te problemy architekturą wolną od attention, zamiast tego wykorzystując dwa proste operatory liniowe - jednowymiarową konwolucję przyczynową do mieszania danych w czasie i grupowo-świadomą sieć MLP do pracy z wieloma zmiennymi. Model został także przeszkolony na danych zawierających celowo wprowadzone luki, aby lepiej radzić sobie z rzeczywistymi brakami danych na rynkach.
Model trenowano na ogromnym zbiorze danych finansowych obejmującym akcje, waluty, surowce, kryptowaluty, instrumenty stałochodowe i wskaźniki makroekonomiczne. Wyniki na benchmarku FinVerse, który testuje zdolności prognostyczne na różnych klasach aktywów, pokazują potencjał tego podejścia. To może być znaczący krok w kierunku bardziej praktycznych narzędzi do prognozowania na rynkach finansowych, gdzie wydajność obliczeniowa i radzenie sobie z niepełnymi danymi są kluczowe.