Naukowcy opracowali metodę Step-Aware Reasoning Energy (SARE), która pozwala mierzyć, ile obliczeniowego wysiłku model językowy poświęca na każdy krok łańcucha myślowego. Zamiast patrzeć na całą trajektorię rozumowania jako jedną liczbę, SARE analizuje to, co dzieje się między kolejnymi warstwami transformera, badając strukturalne relacje między tokenami za pomocą wyrównania jądra.
Metoda wykazała, że energia rozumowania nie rozkłada się równomiernie - model pracuje zdecydowanie bardziej intensywnie na niektórych etapach rozumowania, a wykazuje przejścia fazowe niewidoczne dla dotychczasowych metryk. Kluczowe odkrycie: gdy model udziela błędnych odpowiedzi, energia spada właśnie w momentach krytycznych dla rozumowania. Badania przeprowadzono na trzech otwartych modelach i sześciu benchmarkach rozumowania.
Ważność tego odkrycia polega na tym, że SARE otwiera nowe możliwości diagnozowania problemów z modelami - zamiast czekać na finalną odpowiedź, możemy monitorować, jak intensywnie model pracuje nad poszczególnymi krokami. Cechy oparte na SARE niemal dorównują lub przewyższają tradycyjne miary pewności siebie opartej na wyjściu modelu, co sugeruje, że wewnętrzna dynamika geometryczna zawiera więcej informacji predykcyjnych niż powierzchowne sygnały.