Zespół badawczy opracował FinDialogLens, system do wyodrębniania informacji o transakcjach z wieloosobowych rozmów finansowych, gdzie pracownicy sprzedaży i tradingu wymieniają się ofertami cenowymi. Problem polega na tym, że każde zapytanie ofertowe (RFQ) rozpościera się przez wiele wiadomości, pomieszane z innymi równoczesnymi zapytaniami od różnych uczestników, co czyni ręczne odzyskanie pełnych danych handlowych niemożliwe w praktyce.
FinDialogLens łączy modele językowe z kompaktowymi klasyfikatorami fine-tunowanymi na danych finansowych. System najpierw wykrywa inicjujące zapytania i metadane cen, następnie segmentuje okna czasowe dla każdego zapytania, a wreszcie wypełnia role argumentów za pomocą mechanizmu Trade Engine. Z GPT-4o system osiąga 92,1% dokładności w określaniu cen końcowych i 94,3% w klasyfikacji wyników transakcji, znacznie przewyższając tradycyjne podejścia chain-of-thought. Nawet małe modele open-source z zaledwie 3 miliardami parametrów osiągają porównywalne wyniki przy skromnych danych treningowych.
Aby skalować rozwiązanie, badacze wdrożyli router oparty na ocenie trudności zadań, który kieruje zapytania między tanią regułą biznesową a wysoce wydajnym silnikiem LLM. To podejście zmniejsza wywołania modelu o 85%, odzyskując jednocześnie połowę luki wydajnościowej w stosunku do pełnej wersji GPT-4o. W skali organizacji przetwarzającej 70 tysięcy RFQ dziennie oznacza to oszczędności ponad 300 dolarów dziennie.