Badacze analizowali, jak siedem współczesnych dużych modeli językowych reprezentuje emocje w swoich wewnętrznych reprezentacjach, sprawdzając ich wydajność na datasecie GoEmotions zawierającym 28 kategorii emocjonalnych (27 konkretnych emocji plus kategoria neutralna). Zamiast patrzeć tylko na przewidywania modeli, zespół badał ukryte reprezentacje - to jak modele faktycznie organizują informacje emocjonalne wewnątrz swoich sieci.
Kluczowe odkrycie brzmi: modele znacznie kompresują informacje emocjonalne w stosunku do pełnej taksonomii 28 kategorii. Kiedy naukowcy zastosowali algorytm KMeans do ukrytych reprezentacji bez użycia etykiet emocjonalnych, najwyraźniejszy podział pojawił się na poziomie dwóch grup - separujących emocje pozytywne od negatywnych. Bardziej grube skupiska emocji rodzinnych też pojawiały się przy mniej klastrach niż pełnych 28 kategorii. To oznacza, że modele wewnętrznie traktują emocje hierarchicznie, ze szeroką strukturą afektywną dominującą nad filigranowymi rozróżnieniami.
Ale zwrot akcji: liniowe sondy - proste modele trenowane na wierzchołku reprezentacji - potrafiły z powodzeniem wydobyć szczegółowe informacje o emocjach. To sugeruje, że modele faktycznie przechowują informacje o subtelnych emocjach, ale nie będą ich naturalnie aktywować w nienadzorowanych kontekstach. Wyniki wskazują na napięcie między tym, co modele rzeczywiście wiedzą, a tym, co spontanicznie uaktywniają - subtelna distinkcja ważna dla zrozumienia reprezentacji emocjonalnych w LLM.