Naukowcy z arXiv identificvali reprezentacje użytkowników jako wąskie gardło w symulacji interakcji użytkownika z AI. Symulatory użytkowników są kluczowe do skalowanego trenowania i ewaluacji asystentów, ale obecne podejścia nie oddają dobrze różnorodności rzeczywistych zachowań, co szczególnie dotyka mniejszościowe grupy użytkowników.
Team zaproponował nową metodę opartą na zadaniu rekonstrukcji rozmów. Proces polega na wygenerowaniu opisu użytkownika, warunkowania symulatora tym opisem, symulowaniu rozmowy, a następnie porównaniu rzeczywistego i symulowanego zachowania. To porównanie dostarcza hindsight feedback - informacji zwrotnej pokazującej, gdzie reprezentacja zawodzi i jak można ją ulepszyć. Kluczową innowacją jest hindsight distillation - online'owa procedura treningowa, która bierze to feedback i uczy generator reprezentacji tworzyć lepsze opisy bezpośrednio z oryginalnych rozmów.
UserRepGen-4B, generator reprezentacji wytrenowany tą metodą, pokazał znaczne ulepszenia na 700 rozmowach z siedmiu różnych zbiorów danych. Podejście to otwiera nowe możliwości do tworzenia bardziej uniwersalnych asystentów AI, które potrafią obsługiwać szerszą gamę użytkowników, w tym te z niedoreprezentowanymi profilami zachowania.