Liquid AI udostępnia LFM2.5-230M z obsługą llama.cpp, MLX, vLLM i ONNX

Liquid AI wydała LFM2.5-230M, najmniejszy model w ofercie firmy, specjalnie skrojony do uruchamiania na edge'u. Model ma 230 milionów parametrów i działa zarówno na flagowych smartfonach, jak i niskobudżetowych Raspberry Pi, oferując praktyczne rozwiązanie dla agentic tasks bez potrzeby dostępu do chmury.

Model opiera się na architekturze LFM2 i łączy osiem bloków convolutionowych LIV z sześcioma blokami grouped-query attention, co optymalizuje wykonywanie na CPU. Osiąga on 213 tokenów na sekundę na Galaxy S25 Ultra i 42 na Raspberry Pi 5. Wbrew swojej małej wielkości - zajmuje zaledwie 293-375 MB - radzi sobie lepiej niż większe konkurencyjne modele, takie jak Qwen3.5-0.8B czy Gemma 3 1B, w zadaniach ekstraktorskich i podążania instrukcji. Obsługuje dziesięć języków i ma kontekst 32 768 tokenów.

Liquid AI wyraźnie zdefiniowała cel tego modelu: to nie jest ogólnorządowy asystent AI. LFM2.5-230M jest zbudowany do ekstrakcji danych i użytku narzędziowego na sprzęcie brzegowym. Firma udostępnia obie wersje - bazową do fine-tuningu i ogólnorządową wersję dostrojona do instrukcji - w otwartych wagach na Hugging Face. Wsparcie dla llama.cpp, MLX, vLLM, SGLang i ONNX od pierwszego dnia oznacza, że deweloperzy mogą natychmiast integrować model z popularnym ekosystemem.