Liquid AI zaprezentowała dwie nowe modele do wyszukiwania informacji: LFM2.5-Embedding-350M oraz LFM2.5-ColBERT-350M, które obsługują wyszukiwanie w 11 językach i są zoptymalizowane do pracy na urządzeniach brzegowych (edge devices). Modele łączą architekturę dense bi-encodera z mechanizmem late-interaction ColBERT, co pozwala na jednoczesne osiąganie szybkości i dokładności wyszukiwania.
Dense bi-encoder zwraca pierwsze kandydatów szybko poprzez porównanie całych embeddings, natomiast kolumna late-interaction (ColBERT) umożliwia porównanie na poziomie tokenów, co poprawia precyzję rankingowania. Dzięki kompaktowym rozmiarom modeli (350 milionów parametrów), można je uruchamiać lokalnie na smartfonach, tabletach i innych urządzeniach IoT bez wysyłania danych do serwera.
To rozwiązanie ma znaczące implikacje dla prywatności użytkowników i zmniejszenia latencji aplikacji. Zamiast przesyłać zapytania do chmury, deweloperzy mogą implementować wyszukiwanie bezpośrednio na urządzeniu, co jest szczególnie ważne w scenariuszach, gdzie dane wrażliwe nie powinny opuszczać lokalnego systemu. Multilingualne wsparcie dla 11 języków czyni te modele praktyczne dla globalnych aplikacji mobilnych.