Liquid AI zaprezentował model LFM2.5-8B-A1B - efektywny silnik AI do urządzeń, który łączy możliwości dużych modeli z praktycznością urządzeń przenośnych. Model wykorzystuje architekturę MoE, czyli Mixture of Experts, która pozwala na oszczędne działanie: choć model zawiera 8,3 miliarda parametrów, podczas każdego przetwarzania aktywuje zaledwie 1,5 miliarda z nich. To sprytne rozwiązanie znacznie ogranicza zużycie mocy obliczeniowej i energii, co otwiera nowe możliwości wdrażania zaawansowanego AI bezpośrednio na smartfonach, tabletach i innych urządzeniach brzegowych.
Takie podejście ma duże znaczenie dla przyszłości mobilnego AI. Zamiast wysyłać dane na serwery w chmurze - co wiąże się z opóźnieniami, kosztami transferu i zagrożeniami dla prywatności - model LFM2.5-8B-A1B pozwala na działanie całkowicie offline, bezpośrednio na urządzeniu użytkownika. To szczególnie ważne dla aplikacji wymagających niskich opóźnień, jak tłumaczenie real-time, edycja tekstów czy analiza obrazów, gdzie każda milisekunda się liczy.
Architektura MoE stosowana przez Liquid AI to trend, który obserwujemy coraz częściej w branży - zamiast aktywować wszystkie parametry modelu, eksperci specjalizują się w różnych zadaniach i są włączani na bieżąco. To rozwiązanie już wykorzystują duże firmy w zaawansowanych modelach, ale teraz trafia do kategorii urządzeń, gdzie zasoby są ograniczone. Innowacja ta może przyczynić się do bardziej rozpowszechnionego wdrażania AI na krawędzi sieci, niezależnie od mocy obliczeniowej urządzenia.