Naukowcy znaleźli sposób, by zaawansowane modele generujące obrazy działały w czasie rzeczywistym na procesorach Apple M3 Ultra. To oznacza, że skomplikowane algorytmy sztucznej inteligencji potrafią teraz pracować lokalnie na komputerach Mac bez wysyłania danych do chmury. Badacze zastosowali systematyczne podejście do optymalizacji modeli diffusion - algorytmów, które z losowych pikseli tworzą bardziej uporządkowane obrazy, często wykorzystywane do generowania grafiki z tekstowych opisów. Dzięki ich pracom te modele działają szybciej i sprawniej na sprzęcie Apple, co było dotychczas wyzwaniem technicznym.
Znaczenie tego odkrycia jest duże, szczególnie dla użytkowników prywatności. Dotychczas uruchamianie zaawansowanych modeli AI wymagało wysyłania żądań do serwerów w chmurze - oznaczało to, że trzeba było udostępniać swoje dane firmom hostującym te usługi. Teraz potencjalnie mogą to być procesy całkowicie lokalne, zachodzące wewnątrz urządzenia. Dla twórców, projektantów czy programistów pracujących na Makach oznacza to większą niezależność od usług chmurowych i mniejsze opóźnienia przy generowaniu zawartości.
Praca otwiera także szerokie perspektywy dla ekosystemu Apple. Producent od lat inwestuje w dedykowane chipy do obliczeń AI, a optymalizacja modeli diffusion pokazuje, że te inwestycje zaczynają owocować praktycznymi rezultatami. Im lepsze będą narzędzia do lokalnego uruchamiania AI na Makach, tym bardziej atrakcyjne mogą być te komputery dla firm i specjalistów pracujących z algorytmami generatywnymi. To też sygnał dla całej branży, że przyszłość przetwarzania AI wcale nie musi być zdominowana przez gigantyczne serwery w chmurze.