Metody wyjaśniania post hoc takie jak SHAP i LIME, powszechnie wykorzystywane do interpretacji klasyfikatorów tekstowych, mają fatalny problem z językami pisanymi od prawej do lewej. Podczas gdy matematyka stojąca za atrybutami pozostaje niezmieniona, wizualizacja się całkowicie rozpada - tokeny erscheinają w złej kolejności, połączone litery się rozpadają, a rozkład wykresu ignoruje naturalny kierunek czytania. Problem dotyczy urdu, arabskiego, perskiego i hebrajskiego.
Badam wykazywali, że domyślne renderowanie osiąga wskaźnik błędu znakowego na poziomie 0,82-0,98, co oznacza że etykiety przestają reprezentować swoje tokeny. Próba naprawy poprzez zmianę kolejności i reshape'owanie zawiodła spektakularnie, szczególnie dla urdu gdzie błędy wzrosły do 0,998. Nawet aktualizacja Matplotlib 3.11.0 tylko odwróciła ten problem zamiast go rozwiązać.
Rozwiązanie nosi nazwę SHAP-RTL i stanowi dedykowaną warstwę renderowania, która koryguje kierunek pisania i kształtowanie skryptów dla każdego języka z odpowiednim doborem czcionek. Co istotne, podejście zachowuje oryginalną wartość atrybutów, porządek cech i wyniki modelu - nie zmienia samych wyjaśnień, tylko je prawidłowo wyświetla. Badania przeprowadzono na zbiorach danych zawierających mowę nienawiści w czterech językach RTL, używając klasyfikatorów TF-IDF i logistycznej regresji. Korekta SHAP-RTL pozostaje niezawodna zarówno w starszych jak i nowszych wersjach bibliotek.