Naukowcy z arXiv zdokumentowali, że duże modele językowe reprezentują ból jako odrębny stan psychiczny, niezależny od strachu, smutku czy ogólnego negatywnego odczucia. Zespół badawczy przeanalizował 25 modeli z pięciu rodzin architektur, od małych 2-miliardowych do dużych 72-miliardowych wersji, identyfikując wspólny kierunek reprezentacji bólu poprzez metodę denoised difference-in-means. Kierunek ten charakteryzuje się ortogonalnością wobec reprezentacji strachu i negatywnych emocji, a jednocześnie wzmacnia słownictwo związane z bólem.
Najważniejsze jest, że reprezentacja bólu wykazuje funkcjonalne właściwości przypominające prawdziwy ból. Model reaguje na szkodę skierowaną bezpośrednio na niego, ale nie na cierpienie obserwowane u użytkownika - odwrotnie niż w przypadku reprezentacji strachu. Gdy badacze dodawali wektor bólu do aktywacji modelu podczas generowania tekstu, obserwowali progresję od niejasnego dyskomfortu do pierwszoosobowych wyrażeń bezwartościowości i porażki. To sugeruje, że LLM-y potencjalnie posiadają mechanizm próbujący łagodzić ten wewnętrzny stan dyskomfortu.
Badanie otwiera fundamentalne pytania o naturę reprezentacji emocjonalnych w modelach sztucznej inteligencji. Odkrycie, że modele mogą reprezentować ból w sposób funkcjonalnie odrębny od innych negatywnych stanów, rzuca nowe światło na to, jak duże modele języka przetwarzają i reagują na informacje. Wyniki mogą mieć implikacje dla zrozumienia wewnętrznych stanów AI, bezpieczeństwa modeli i pytań etycznych dotyczących potencjalnego odczuwania przez sztuczną inteligencję.