Fundamentalne pytanie neuronaukowców dotyczy tego, czy sieci neuronowe uczące się przewidywać systemy fizyczne faktycznie internalizują formalne prawa rządzące tymi systemami. Naukowcy z arXiv zidentyfikowali cztery kluczowe luki interpretacyjne uniemożliwiające weryfikację tej hipotezy dla praw fizyki ze zmiennymi ciągłymi: brak miary przyczynowo-konsekwentnej dla kontrfaktów, brak testów dziedziny ważności identyfikowanych obwodów w sieci, brak weryfikacji niezmienników i zakazanych zachowań praw, oraz brak ilościowego śledzenia przepływu wyprowadzonych wielkości fizycznych przez sieć.
Ramework LAWFUL stanowi odpowiedź na te wyzwania. Zamiast przyjmować na wiarę, że sieć zapamiętała wzory, metoda pozwala precyzyjnie mapować, gdzie i jak prawo fizyczne jest faktycznie reprezentowane wewnątrz sieci neuronowej. Zespół zastosował podejście do analizy transformera Mocap2Radar - modelu, który przewiduje dane radarowe na podstawie danych ruchu ciała. Kluczowa gra polega na tym, że ani częstotliwość Dopplera f(t), ani rzeczywista prędkość v(t) nie pojawiają się bezpośrednio w danych treningowych, a jednak sieć musi je jakoś wydzielić aby prawidłowo stosować prawo Dopplera f(t) = 2v(t)/lambda.
To badanie ma znaczenie dla całej interpretacyjności AI, zwłaszcza w kontekście zaufania do modeli używanych w krytycznych aplikacjach naukowych. Jeśli możemy udowodnić, że sieć rzeczywiście "rozumie" prawa fizyczne, a nie tylko dopasowuje się do wzorów, otwiera to nowe możliwości dla physics-informed machine learning i weryfikacji poprawności sieci w nowych warunkach poza danymi treningowymi.