Badacze przedstawili nową metodę Degeneracy Distillery, która automatycznie wykrywa i rozwiązuje problem zdegenerowanych parametrów w modelach - czyli takich, które na podstawie dostępnych danych trudno odróżnić od siebie. Problem degeneracji stanowi jedno z podstawowych wyzwań w uczeniu maszynowym i probabilistycznym próbkowaniu, ponieważ algorytmy polegają na zdolności do rozróżniania parametrów na podstawie danych i ich gradientów.
Metoda opiera się na analizie geometrii informacyjnej funkcji wiarygodności poprzez estymację i spłaszczanie macierzy informacji Fishera. Zaletą tego podejścia jest to, że identyfikuje degeneracje jako wewnętrzną właściwość samego modelu fizycznego, bez konieczności posiadania rzeczywistych danych obserwacyjnych. Naukowcy opracowali procedurę, która symboliczne odkrywa transformacje współrzędnych reprezentujące niezależne efekty parametrów na dane, działając na parach parametr-dane lub parametr-symulacja.
Wynikowe współrzędne spłaszczają macierz informacji Fishera globalnie w oczekiwaniu, co stanowi istotną poprawę w stosunku do metod opartych na posteriori, które spłaszczają funkcję tylko w jednym punkcie. Podejście istotnie zmniejsza budżet symulacji wymagany dla dalszego szacowania posteriori neuronowego, co ma praktyczne znaczenie dla modeli wymagających kosztownych obliczeń.