Duże modele językowe wykazują konsystentne postawy wobec ryzyka

Naukowcy z arXiv opublikowali badanie wskazujące, że duże modele językowe wykazują konsystentne i mierzalne postawy wobec ryzyka. Zespół testował sześć reprezentatywnych LLM-ów na zadaniach z trzech różnych dziedzin: nawigacji przestrzennej, triażu klinicznego i alokacji finansowej, porównując ich zachowanie z odpowiedziami stu uczestników badania.

Klucze odkrycie polega na tym, że większość testowanych modeli wykazała trzy ważne cechy. Pierwsza to wewnętrzna konsystencja w obrębie pojedynczych zadań - modele w stabilny sposób przekładały ocenę ryzyka na konkretne decyzje. Druga to stabilność rankingu między domenami - modele zachowywały swoją względną skłonność do podejmowania ryzyka niezależnie od rodzaju zadania. Trzecia cecha wskazuje na zbieżność modeli wobec ograniczonego rozkładu postaw wobec ryzyka, różniącego się od szerszego spektrum odpowiedzi ludzkiej populacji.

To badanie ma poważne implikacje dla wdrażania systemów AI w warunkach wysokiego ryzyka, gdzie decyzje mają realny wpływ. Zidentyfikowanie stałych postaw wobec ryzyka jako mierzalnego wymiaru zachowania LLM-ów pozwala na bardziej zaawansowaną ocenę i wyrównanie tych systemów z ludzką intuicją decyzyjną. Wyniki wskazują na potrzebę głębszego badania źródeł tych wbudowanych dyspozycji behawioralnych w modelach AI.