Apple prowadzi rozmowy z startup'iem PrismML, który opracował technologię do zmniejszania dużych modeli AI do rozmiaru umożliwiającego ich działanie bezpośrednio na iPhone'ach. Według Babaka Hassibi, szefa PrismML, zarówno Apple jak i inne firmy testują możliwości tej technologii, której celem jest odsunięcie bardziej wymagających obliczeń z chmury na urządzenie użytkownika.
Ta rozmowa jest dobrze wpisana w kierunek, w jaki podąża branża. Coraz częściej producenci chcą przenosić funkcje AI bezpośrednio na telefony, aby zwiększyć prywatność danych (przetwarzanie zachodzi na urządzeniu, a nie na serwerach) i zmniejszyć opóźnienia odpowiedzi. Problem polega na tym, że zaawansowane modele AI zajmują dziesiątki lub nawet setki gigabajtów, co jest niemożliwe do zainstalowania na smartfonie. PrismML zajmuje się właśnie tym wyzwaniem - kompresjąi destylacją modeli bez zbyt dużej utraty wydajności.
Jeśli rozmowy dojdą do skutku, mogłoby to zmienić sposób, w jaki Siri funkcjonuje na urządzeniach Apple. Zamiast wysyłać każde zapytanie na serwery w chmurze, więcej zadań mogłoby być wykonywanych lokalnie. To oznaczałoby szybszą odpowiedź asystenta, mniej transferu danych oraz większą kontrolę użytkownika nad swoimi informacjami.