Programista zdołał uruchomić 35-miliardowy model Qwen na Raspberry Pi, tworząc inteligentnego asystenta AI specjalizującego się w obsłudze samochodu. To imponujące osiągnięcie pokazuje, że zaawansowane modele językowe mogą działać na skromnym sprzęcie jednopłytkowym, zachowując praktyczną inteligencję i stabilność.
System wykorzystuje kilka źródeł danych: dostęp do portu diagnostycznego OBD pojazdu pozwala mu czytać wewnętrzne parametry samochodu, dane z chmury producenta umożliwiają sterowanie funkcjami takimi jak klimatyzacja czy blokada drzwi, a pełna instrukcja obsługi zapewnia kontekst techniczny. Agent potrafi offline odpowiadać na pytania dotyczące konserwacji - na przykład kiedy dolać olej i jaki typ wybrać - bez potrzeby połączenia internetowego.
Co ciekawe, rozwiązanie integruje się z siecią innych agentów AI, tworząc ekosystem współpracujących modeli. Gdy pojazd ma dostęp do internetu, mogą one razem planować działania i doskonalić się nawzajem. Praktycznym przykładem jest automatyczne wyszukiwanie biletów pociągu, gdy samochód ulegnie awarii i nie będzie mógł się poruszać - agent informuje resztę rodziny modeli o problemie, a te już działają bez dodatkowej interwencji użytkownika.