PrismML wdrożył swoje kompaktowe modele LLM do inteligentnych okularów napędzanych chipem Qualcomma, otwierając nowe możliwości dla sztucznej inteligencji działającej bezpośrednio na urządzeniu. Ten ruch pokazuje rosnący trend przenoszenia obliczeń AI z chmury na edge'owe urządzenia noszone.

Fundamentalnym celem PrismML jest promowanie open-weight AI, które efektywnie pracuje na smartfonach, okulach i innych urządzeniach, maksymalnie wykorzystując dostępną w nich moc obliczeniową. Podejście to ma praktyczne znaczenie - pozwala na szybsze reakcje, lepszą prywatność użytkowników i niezależność od połączenia internetowego. Miniaturowe modele Prisma są zaprojektowane tak, aby działały sprawnie na ograniczonych zasobach, które oferują procesory mobilne, bez konieczności wysyłania danych na serwery.

Taka strategia reprezentuje szerszą zmianę w industriii AI, gdzie coraz więcej firm skupia się na efektywności modeli zamiast skalowania mocy obliczeniowej w centrach danych. Inteligentne okulary z wbudowanym LLM mogą obsługiwać zadania takie jak tłumaczenie, odpowiadanie na pytania czy analiza wizualna bez opóźnień sieciowych, co czyni je znacznie bardziej praktycznymi dla użytkowników końcowych.