Metoda uczenia granic wieloklastkowych do detekcji intencji poza zakresem za pomocą osadzania MiniLM

Naukowcy opracowali metodę do detekcji intencji poza zakresem systemu (OOS), która uczy się granic osadzeń wieloklastkowych generowanych przez model MiniLM. Zamiast tradycyjnego podejścia klasyfikacji wieloklasowej, metoda stosuje workflow klasyfikacji jednoklasowej, co pozwala systemom lepiej radzić sobie ze wzrostem liczby znanych intencji.

Zaproponowane rozwiązanie wykorzystuje model all-MiniLM-L6-v2 do generowania osadzeń, a następnie uczy się granic tych klastrów na podstawie danych treningowych. W fazie predykcji system odrzuca wypowiedzi, które wykroczą poza wyuczone granice klastrów, klasyfikując je jako intencje poza zakresem. To podejście jest znacznie mniej wymagające obliczeniowo niż metody oparte na dużych modelach językowychJak (LLM), co czyni je bardziej praktycznymi do wdrożenia.

Eksperymentalno przeprowadzone na publicznie dostępnych zbiorach danych CLINC150, StackOverflow i Banking77 wykazały, że metoda osiąga najnowocześniejsze wyniki w porównaniu z innymi podejściami. Badania ablacyjne potwierdziły, że MiniLM lepiej przystosował się do tego workflow i do wymogów osadzania wypowiedzi. Kod źródłowy został udostępniony jako materiały uzupełniające, co ułatwia reprodukowalność i praktyczne zastosowanie metody.