Sentence Transformers, popularna biblioteka do generowania embedingów tekstowych, zyskała nową zdolność do obsługi multi-vector embedding models z mechanizmem late interaction. Zamiast kompresowania całego tekstu do jednego wektora, modele te tworzą wiele wektorów reprezentujących różne aspekty i sensy zawarte w tekście, a następnie łączą je w fazie wyszukiwania.
Ta architektura oparta na late interaction znajduje swoje zastosowanie w wysoce zaawansowanych modelach retrieval, gdzie dokładność ma krytyczne znaczenie. Tradycyjne podejście early interaction najpierw łączy embedingi zapytania i dokumentu, podczas gdy late interaction wykonuje to połączenie dopiero przy wyliczaniu wyniku. Podejście to pozwala na bogatszą reprezentację semantyczną i lepsze dopasowanie między zapytaniami a dokumentami.
Wprowadzenie tej funkcjonalności jest szczególnie istotne dla społeczności pracującej nad systemami RAG, gdzie jakość retrieval bezpośrednio wpływa na jakość odpowiedzi generowanych przez modele. Umożliwia również efektywniejsze wdrażanie bardziej sophisiticated search solutions bez konieczności porzucenia Sentence Transformers na rzecz innych narzędzi.