Naukowcy wprowadzili EARL (Explanations using Alternative Realities for Reinforcement Learning), bibliotekę Pythona generującą kontrfaktyczne objaśnienia dla polityk uczenia wzmacniającego w systemach autonomicznych i samoadaptacyjnych. Narzędzie pozwala użytkownikom eksplorować scenariusze "co-jeśli", porównując możliwe wyniki, aby wyjaśnić, dlaczego agent RL podejmuje konkretne decyzje.
Problem, który rozwiązuje EARL, jest poważny: głębokie modele RL oparte na sieciach neuronowych działają jak czarne skrzynki, trudne do zrozumienia dla ludzi. To zmniejsza zaufanie użytkowników do systemów autonomicznych i komplikuje ich weryfikację. Kontrfaktyczne wyjaśnienia, znane z badań psychologicznych jako intuicyjne i przyjazne dla użytkownika, były dotąd rzadko stosowane w RL i zwykle tylko na teoretycznych przykładach.
EARL zmienia ten stan rzeczy, wspierając generowanie objaśnień w rzeczywistych systemach samoadaptacyjnych. Zespół zademonstrował jej praktyczne zastosowanie na symulacji CitiBikes, systemu bike-sharingu, i przeprowadził ewaluację pokazującą wydajność na aplikacjach rzeczywistych. To krok w stronę bardziej przejrzystej i zaufanej sztucznej inteligencji w systemach autonomicznych.