Spotify opracowało metodę automatycznego szkolenia agentów konwersacyjnych, które pomagają użytkownikom znaleźć muzykę poprzez naturalne rozmowy. Zamiast czekać na rzeczywiste interakcje użytkowników, zespół stworzył pipeline generujący realistyczne wieloturowe konwersacje z jednoturowych promptów. To pozwoliło na systematyczne testowanie agenta przed uruchomieniem produktu.
Szczególnie innowacyjna jest pętla samopolepszająca, która łączy kontrastywną optymalizację z iteracyjnym ulepszaniem wykonawanym przez oddzielnego agenta kodowego. System automatycznie identyfikuje błędy w planowaniu i używaniu narzędzi, następnie je naprawia. Podejście poprawiło wydajność o 8 procent ponad starannie dostrojone ręczne prompty.
System jest już w produkcji w Spotify i wykazuje rzeczywisty wpływ na użytkowników. Testy A/B dały wzrost czasu słuchania o 14 procent, wzrost cotygodniowych aktywnych użytkowników o 5 procent i spadek liczby przeskakiwaczy o 5 procent w porównaniu z poprzednim doświadczeniem. Badanie pokazuje jak przemysł może praktycznie przyspieszać rozwój zaawansowanych agentów konwersacyjnych, szczególnie w fazach cold-start gdzie nie ma jeszcze historii interakcji.