Mimo dostępności wielu technik Explainable AI - od atrybutu feature do sparse autoencoderów - wyjaśnienia generowane przez modele rzadko zmieniają rzeczywiste przepływy pracy. W praktyce tworzą się wizualizacje i opisy decyzji AI, które następnie są ignorowane bez wpływu na podejmowanie decyzji biznesowych. Ta luka ujawnia głębokie problemy: badania naukowe nigdy nie ustanowiły metodologii do integracji wyjaśnień w kompleksowe, interaktywne systemy angażujące człowieka.
Autorzy artykułu przeanalizowali ostatnie publikacje z konferencji ICML, NeurIPS i ICLR oraz przeprowadzili ankietę wśród praktyków XAI. Wyniki pokazują powtarzające się problemy: niejasne sformułowanie problemów, które rozwiązuje się wyjaśniając, niedospecyfikowane cele oceny oraz brak systemowych podejść do gromadzenia feedback opartego na wyjaśnieniach. Różne zespoły tworzą odrębne techniki bez wspólnego języka czy framework do porównywania ich skuteczności.
Papier proponuje zmianę paradygmatu - zamiast kolejnych doraźnych metod XAI, komunita ML powinna skupić się na solidnych fundamentach. Autorzy oferują praktyczną listę kontrolną mającą przesunąć XAI w kierunku bardziej zorientowanego na człowieka i działanie podejścia, gdzie wyjaśnienia rzeczywiście integrują się z systemami sprzężenia zwrotnego. To nie kolejny algorytm do wyjaśniania, ale wezwanie do architektonicznego przewartościowania całego pola.