Popularna technika optymalizacyjna CenterLoss, której badacze używali do poprawy reprezentacji cech w sieciach neuronowych, okazała się szkodliwa dla detekcji anomalii. Naukowe badania pokazują, że metoda ta obniża zdolność modeli do rozpoznawania próbek spoza rozkładu danych treningowych - czyli wartości niewidzianych podczas uczenia. To zaskakujące odkrycie, bo CenterLoss od lat uważana była za standard w optymalizacji reprezentacji. Zespół naukowców zaproponował lepsze rozwiązanie nazwane Multi-Scale Mahalanobis, które przyznaje się zdecydowanie lepiej do zadania detektowania anomalii i nowych klas na danych rzeczywistych.

Problem polega na tym, że CenterLoss podczas treningu skupia cechy danej klasy wokół pojedynczego punktu - jej centrum. Choć podejście wydaje się intuicyjne i faktycznie poprawia dokładność klasyfikacji standardowych danych, to jednocześnie powoduje, że model nie uczy się prawidłowo oceniać niepewności swoich predykcji wobec próbek nowych. Gdy sieć neuronowa napotka przykład z poza swoją bazę treningową, może fałszywie przypisać mu wysoką pewność, bo czytaj po prostu nie wie, że coś nie pasuje do znanych jej rozkładów. W praktyce oznacza to, że systemy oparte na CenterLoss mogą niebezpiecznie zawodzić w rzeczywistych aplikacjach, gdzie anomalie są regułą, a nie wyjątkiem.

Multi-Scale Mahalanobis to podejście znacznie bardziej zaawansowane. Zamiast stosować pojedynczą odległość, wykorzystuje wieloskalową analizę i dystans Mahalanobisa, który uwzględnia korelacje między cechami oraz różne wymiary reprezentacji. Taki sposób pozwala modelowi lepiej zdywersyfikować swoją wiedzę o tym, co jest "normalne", i skuteczniej identyfikować rzeczywiście dziwne lub nowe przypadki. Dla systemów AI działających w medycynie, transporcie czy bezpieczeństwie informacji - gdzie detekcja anomalii jest krytyczna - to odkrycie ma olbrzymie znaczenie. Badacze mają nadzieję, że wyniki ich pracy doprowadzą do przeformułowania standardów, jakich inżynierowie sztucznej inteligencji powinni przestrzegać przy projektowaniu modeli wymagających niezawodnej oceny anomalii.