Naukowcy opracowali metodę rozdzielenia dwóch kluczowych źródeł niepewności w predykcjach sieci neuronowych: niepewności aleatoric (związanej z szumem w danych i brakami informacji) oraz niepewności epistemic (wynikającej z niedostatecznej wiedzy modelu). Adaptując klasyczne estymatory statystyczne do współczesnych głębokich sieci, uzyskali narzędzie do bardziej dokładnego zrozumienia, gdzie i dlaczego model się myli.
Klucz do praktycznego zastosowania tej metody to wykorzystanie przybliżeń macierzy informacji Fishera, co umożliwia skalowanie podejścia do rzeczywistych architektur neuronowych zamiast tylko teoretycznych modeli. W praktyce oznacza to, że można analizować faktyczne sieci używane w produkcji, a nie tylko uproszczone wersje do badań.
Eksperymentalne wyniki pokazują, że każdy punkt testowy jest różnie dotknięty obydwoma źródłami niepewności - niektóre błędy wynikają głównie z brakujących danych treningowych, inne z niedostatecznej mocy modelu. Ta wiedza pozwala inżynierom bardziej celowo poprawiać robustyczność aplikacji - czy poprzez zbieranie więcej danych, czy poprzez zmianę architektury sieci. Takie podejście ma znaczenie dla krytycznych zastosowań jak medycyna czy autonomous driving, gdzie zrozumienie źródeł błędów jest kluczowe.