Apple podczas konferencji WWDC skupiło się głównie na Sieę, jednak prawdziwa sensacja kryje się poniżej tej powierzchni. Gigant z Cupertino opublikował szczegółową dokumentację techniczną opisującą modele AI, które działają bezpośrednio na iPhone'ach i iPadach. To nie jest kolejny chatbot wysyłający dane na serwery — to zupełnie nowe podejście do sztucznej inteligencji na urządzeniach.
Najfascynujące jest to, że Apple udało się dopasować model liczący 20 miliardów parametrów do pamięci flash iPhone'a, mimo że teoretycznie powinien być za duży. Firma osiągnęła to przez zaawansowane techniki kompresji i kwantyzacji modelów, które zmniejszają rozmiar bez drastycznego utraty wydajności. To oznacza, że złożone operacje AI działają lokalnie, bez potrzeby przesyłania danych na zewnętrzne serwery.
Dla użytkowników to oznacza większą prywatność — dane nigdy nie opuszczają urządzenia. Dla branży AI to pokazuje, że przyszłość nie musi być oparta na gigantycznych modelach działających w data centrach. Apple demonstruje, że można budować potężne narzędzia AI, które są jednocześnie oszczędne, szybkie i które dają użytkownikowi kontrolę. To może być przełomowy moment, w którym on-device AI zacznie być praktyczną alternatywą dla rozwiązań chmurowych.