Naukowcy z arXiv zaproponowali nową metodę wyjaśniania decyzji AI opartą na reprezentacji energetycznej zamiast tradycyjnych grafów przyczynowych. Podejście inspirowane jest mechaniką statystyczną i zostało opracowane specjalnie dla złożonych systemów cyber-fizycznych IoT, które zawierają pętle sprzężenia zwrotnego i mają ograniczoną obserwowalnośc. Framework analizuje zmiany krajobrazu energetycznego, aby ustalić, jakie zmienne mają największy wpływ na zachowanie systemu, bez konieczności jawnego rekonstruowania skomplikowanych struktur przyczynowych.
Tradycyjne metody wyjaśnialności AI skupiają się głównie na korelacjach między wejściami a wyjściami, co może być zawodne w systemach o wysokim ryzyku. Nowe podejście zmienia to na pytania interwencyjne - czy zmiana komponentu X faktycznie wpłynie na zachowanie systemu? Działa to szczególnie dobrze w systemach hybrydowych, które mieszają zmienne ciągłe i dyskretne, co jest powszechne w przemyśle i infrastrukturze krytycznej.
Badacze przetestowali ramę pracy na symulacjach przemysłowego testbeda IoT i wykazali wyższą dokładność atrybuacji wpływu zmiennych, lepszą odporność na szumy oraz lepszą skalowalność w porównaniu z wcześniejszymi metodami statystycznymi. To ma znaczenie dla systemów, gdzie wyjaśnienie anomalnego zachowania może być kluczowe do bezpieczeństwa.