Rozpowszechnione przekonanie, że obliczenia AI muszą odbywać się na urządzeniach brzegowych, by osiągnąć niskie opóźnienia, może być zaostrzane. Nowe badania pokazują, że cloud computing wcale nie jest takim bottleneckiem, jak się powszechnie sądzi - szczególnie gdy weźmiemy pod uwagę rzeczywiste koszty, złożoność infrastruktury i szybkość sieci. Naukowcy przeanalizowali kompromisy między przetwarzaniem w chmurze a edge computingiem dla aplikacji wymagających natychmiastowych odpowiedzi, takich jak systemy rekomendacji czy analiza wideo. Okazało się, że model rozproszonej chmury bywa praktyczniej rozwiązaniem niż tradycyjne podejścia, gdzie całą logikę AI uruchamia się na urządzeniach użytkownika. Ta konkluzja może zasadniczo zmienić sposób projektowania architektur systemów sztucznej inteligencji.
Przez lata branża przyjmowała prawie za aksjomat, że wnioskowanie AI na krawędzi sieci to jedyna droga do spełnienia wymogów real-time. Problem w tym, że edge computing wiąże się z ogromnym bagażem - trzeba obsługiwać wiele różnych urządzeń, optymalizować modele dla każdej platformy, zarządzać aktualizacjami. Badanie wykazało natomiast, że opóźnienia sieciowe między urządzeniem a serwerami są Often znacznie mniejsze niż straty wydajności wynikające z konieczności kompresji modeli dla urządzeń brzegowych. Dodaj do tego koszty utrzymania rozproszonej infrastruktury a okazuje się, że scentralizowana chmura z odpowiednią łącznością może być tanniejsza i wydajniejsza.
Odkrycia te nie oznaczają, że edge computing to przeszłość - dla aplikacji offline'owych czy w warunkach ograniczonej łączności będzie zawsze niezbędny. Ale dla scenariuszy, gdzie dostęp do internetu jest stały, model chmurowy okazuje się bliżej ideału niż dotychczasowe założenia nakazywały. To może zachęcić firmy do ponownego rozważenia swoich strategii - zamiast inwestować w złożone edge'owe deployments, mogą skupić się na poprawie infrastruktury chmurowej i redukcji opóźnień sieciowych.