Naukowcy z arXiv opublikowali metodę wyjaśniania decyzji Temporal Graph Networks przez śledzenie wpływu zdarzeń historycznych na predykcje modelu. Rozwiązanie adresuje kluczową lukę w istniejących metodach wyjaśnialności, które dotychczas ignorowały moduł pamięci - kluczowy component odpowiedzialny za rejestrowanie i aktualizowanie historii węzłów w grafach czasowych. Autorzy zaproponowali dwie komplementarne struktury drzew: drzewo atrybucji topologicznej śledzące wpływ sąsiadów i ich wektorów pamięci, oraz drzewo śledzenia pamięci kwantyfikujące, jak historyczne zdarzenia kształtują wektory pamięci węzłów. Całe podejście zostało zbudowane na principach Layer-wise Relevance Propagation (LRP), co zapewnia, że suma wkładów wszystkich zdarzeń równa się logitom modelu - gwarancja wierności wyjaśnień.
Ważnym wkładem jest również rozwiązanie problemu SelectionBias w wyborze top-k zdarzeń. Tradycyjne podejścia mogą być nierzetelne ze względu na nieliniowe mapowanie z logitów na prawdopodobieństwa, dlatego autorzy zaprojektowali specjalne cele optymalizacyjne do identyfikacji naprawdę ważnych zdarzeń. Metoda została przetestowana na dziewięciu zbiorach danych grafów czasowych obejmujących przewidywanie właściwości węzłów, predykcję linków i klasyfikację grafów, wykazując lepszą wydajność niż istniejące metody bazowe.
Ta praca ma znaczenie dla budowania zaufania do TGN w aplikacjach krytycznych dla bezpieczeństwa, gdzie zrozumienie przyczyn decyzji modelu jest kluczowe. Temporal Graph Networks znajdują zastosowanie w wykrywaniu anomalii w sieciach społecznych, śledzeniu dynamicznych systemów rekomendacyjnych i analizie ewolucji sieci biologicznych. Udostępnienie kodu na GitHubie ułatwia reprodukowalność i przyjęcie metody przez społeczność badawczą.