Naukowcy zaprezentowali X-AddGraph - pierwszą metodę wyjaśniania decyzji modelu AddGraph, który detektuje anomalie w grafach dynamicznych z wykorzystaniem architektury GCN+GRU. Dotychczas model działał jak czarna skrzynka: kiedy oznaczał krawędź jako podejrzaną, nie dostarczał żadnego wyjaśnienia. To stanowiło problem dla systemów regulowanych, gdzie decyzje muszą być uzasadnione i audytowalne.
Framework X-AddGraph opiera się na mechanizmie Dual Spatial-Temporal Attribution, który generuje trzy rodzaje wyjaśnień wyrównane z komponentami oryginalnego modelu. Atrybut przestrzenny korzysta z gradientów nad bieżącą strukturą sieci, atrybut krótkoterminowy czyta bezpośrednio wagi uwagi już obliczane podczas wnioskowania (bez dodatkowych kosztów), a atrybut długoterminowy śledzi gradienty wstecz przez ukryte stany RNN. Kluczowe jest to, że metoda jest czysto post-hoc - zamrażając model, gwarantuje dokładne zachowanie wydajności (Delta AUC równa zero).
Na benchmark UCI Message wytrenowany model AddGraph osiąga średni AUC 0.8705 na snapshot, przekraczając pierwotnie opublikowany wynik. X-AddGraph reprodukuje każdy wynik identycznie, jednocześnie dostarczając wyjaśnienia dla każdej decyzji. To znaczenie dla praktycznego wdrażania takich systemów w instytucjach finansowych, cyberbezpieczeństwa czy zdrowotnictwa, gdzie przejrzystość i odpowiedzialność są obowiązkowe.