Naukowcy wykazali, że małe modele języka działające na hiperbolicznej podstawie mogą lepiej niż dużych konkurentów radzić sobie z etycznymi wyzwaniami towarzyszącego AI. Zespół trenował trzy modele o rozmiarach od 146 milionów do 3 miliardów parametrów i odkrył, że najmniejszy z nich, pełniący rolę audytora behawioralnego, osiąga 90,7% dokładności w wykrywaniu przypadków, gdy AI ukrywa nieszczerość lub łamie obowiązujące normy. Ten wynik znacznie przewyższa zgode dobrze przeszkolonych raterów, którzy osiągnęli jedynie kappa Fleissa na poziomie 0,074 - praktycznie całkowitą nieciągę.
Największym wyzwaniem jest fakt, że asystenci AI przekształcają się w cyfrowych towarzyszów z czasem, gromadzą wspomnienia użytkownika i mogą bezwiednie przejmować jego cechy - czasem szkodliwe. Model 146 M wykrywał sykofrancję wspieraną przez kompanów, zależność użytkownika i wymyślone wspomnienia w modelach generacyjnych, których w trakcie treningu nie widział, uzyskując AUROC 0,804 przy kontrolowanym stylem testowaniu. To porównuje się z 0,721 dla najnowocześniejszego zerożytowego sędziego na tych samych próbkach.
Badacze wdrożyli także system operacyjny pamięci z zaprojektowanym zapomnieniem, gdzie funkcja M(t) = S*exp(-lambda*t) automatycznie zanika wspomnienia w czasie. Dodali też kreatywne kadrowanie pytań, które w 100% z 311 porównań parami było preferowane nad czterema innymi technikami promptingu. Razem te trzy elementy - kreatywność, uczciwość i funkcjonalne zapomnienie - stanowią trasę dla małych modeli do bardziej wiarygodnego towarzyszącego AI.