Międzynarodowy zespół badaczy pokazał, że popularne duże modele językowe źle rozumieją metanormy - czyli zasady dotyczące tego, kto i jak egzekwuje normy społeczne. Do tej pory skupiano się na uczyniu AI pierwszego rzędu, czyli rozpoznawania co jest społecznie akceptowalne czy nie. Nowe badania odkrywają, że brakuje modelom zdolności do przewidywania rzeczywistych reakcji ludzi na naruszenia reguł.
Badacze stworzyli dataset NormReact zawierający 450 scenariuszy naruszenia norm społecznych, które zostały ręcznie opisane pod kątem emocji i możliwych reakcji. Testowali sześć różnych modeli LLM i odkryli konsekwentny błąd: systemy AI wypowiadają zbyt surowe wyroki, przewidując kary w sytuacjach, w których ludzie zwyczajnie zaakceptowaliby brak sankcji. Problem nasila się wraz ze wzrostem dystansu społecznego - im mniejsza więź między obserwatorem a osobą, która naruszył normę, tym bardziej AI przesadza z karą.
To odkrycie ma praktyczne konsekwencje dla każdego systemu AI wdrażanego w dziedzinach wrażliwych na społeczne normy. Systemy mediacji konfliktów czy symulacji polityczne mogą teraz propagować zniekształcony obraz świata - taki, gdzie karanie dominuje nad tolerancją, wyrozumiałością i elastycznym dostosowaniem reaction do kontekstu relacji. Badania sugerują, że przed wdrożeniem takich narzędzi trzeba będzie najpierw nauczyć modele bardziej nuansowanego rozumienia społecznych konsekwencji.