Zespół badaczy przedstawił nowatorskie podejście do oceny metod wyjaśniania decyzji AI, łącząc je z ramami teoretycznymi Weight of Evidence. Zamiast polegać wyłącznie na wynikach ważności cech, naukowcy zaproponowali pracę w ramach testowania hipotez, które mogą pochodzi z wiedzy dziedzinowej, danych szkoleniowych lub samych metod wyjaśniania.
Ważność tej pracy polega na adresowaniu kluczowego problemu w Explainable AI - nawet gdy model dokładnie wyjaśnia swoje przewidywania, trudno sprawdzić, czy wyjaśnienia są naprawdę wiarygodne i stabilne. Nowe podejście pozwala zmierzyć, jak silnie obserwowane dowody wspierają konkretne hipotezy dotyczące ważności poszczególnych cech. Badacze udowodnili również teoretyczne powiązania między Weight of Evidence a wariancją w przypisaniach, co ma solidne matematyczne podstawy.
Empryczne testy przeprowadzono na popularnych metodach LIME i SHAP w różnych scenariuszach z różnymi hipotezami odniesienia. Wykazały one elastyczność i praktyczność propozycji. To narzędzie stanowi komplementarne podejście do tradycyjnej oceny metod wyjaśniania poprzez soczewkę porównawczą i opartą na dowodach, co może znacznie zwiększyć zaufanie do interpretacji modeli AI w praktycznych zastosowaniach.