Narzędzia Explainable Artificial Intelligence (XAI) miały służyć zwiększeniu zaufania do modeli uczenia maszynowego przez czynienie ich działania bardziej zrozumiałym dla człowieka. Jednak dekada badań wykazała, że podejście to generalnie nie sprawdza się - zamiast budować zaufanie, promuje zbyt pochopne poleganie na prognozach modelu, prowadząc czasem do algorytmicznej awersji i odrzucenia AI.
W praktyce XAI funkcjonuje przede wszystkim jako narzędzie debugowania, użyteczne do zdobywania anegdotycznych spostrzeżeń na temat tego, jakie cechy model się nauczył. Jedno z głównych ograniczeń wynika z tego, że metody XAI nadmiernie upraszczają wewnętrzne mechanizmy modelu, tworząc rozbieżności między wyjaśnieniem a rzeczywistym działaniem systemu - zjawisko zwane niewiernością lub niefidelity.
Wierność można zdefiniować jako stopień zbliżenia między wyjaśnieniem a modelwem. Właściwy pomiar wierności pozwoliłby sformalizować jeden z kluczowych elementów godności zaufania wyjaśnień. Jednak istniejące metryki mają znaczące ograniczenia - wiele z nich jest nierealizowalna lub obliczeniowo zbyt kosztowna. W swojej pracy badacze wymieniają pięć poważnych wad obecnych metryk wierności i proponują cztery obiecujące kierunki dla przyszłych badań mające na celu podniesienie ich niezawodności.