Naukowcy badający koordynację człowieka i AI odkryli, że sformalizowanie niejawnych norm społecznych w eksplicytne zasady znacznie poprawia sposób, w jaki agenci AI współpracują z ludźmi. Problem polega na tym, że obecne podejścia dopasowują zachowanie modeli do demonstracji ludzi, ale nie wyjaśniają jawnie leżących u ich podstaw norm społecznych, które to zachowanie generują.
Zespół przeprowadził eksperyment na uprościonej platformie modelującej interakcje pieszych i pojazdów - klasyczną dynamiczną sytuację wymagającą koordynacji. Zebrano dane z 3456 rzeczywistych interakcji między ludźmi i zidentyfikowano trzy fundamentalne zasady norm społecznych: przewidywalność wyników (ludzie preferują działania, które mają przewidywalne konsekwencje), wyrównanie wartości (działania zgodne z wspólnymi wartościami) oraz świadomość przewagi (zrozumienie względnych pozycji i możliwości innych uczestników).
Kiedy te zasady zostały wbudowane w agenta LLM, wyniki były spektakularne. W zadaniu interakcji w pętli zwrotnej z ludźmi model świadomy norm społecznych osiągnął czterokrotnie wyższy łączny wynik niż strategia bazowa i prześcignął jakość typowych interakcji między ludźmi o 43 procent. To sugeruje, że AI może przekroczyć naturalny poziom koordynacji człowieka, gdy poprawnie rozumie i stosuje społeczne normy.