Infrastruktura danych, na której byliśmy przyzwyczajeni pracować przez ostatnie dwie dekady, po prostu nie sprostaje wyzwaniom, jakie przyniosło szkolenie nowoczesnych modeli AI. MIT Tech Review bada, jak fundament całego stosu technologicznego trzeba gruntownie przebudować, aby efektywnie obsługiwać olbrzymie wolumeny danych potrzebne do trenowania coraz bardziej zaawansowanych systemów sztucznej inteligencji. Problem zaczyna się już na poziomie przechowywania - tradycyjne bazy danych i magazyny danych zostały projektowane dla zupełnie innych celów, a przepustowość i opóźnienia w dostępie do danych stanowią wąskie gardło dla teamów pracujących z dużymi modelami językowymi czy sieciami neuronowymi.
Gdy trenujemy współczesne modele AI, skalowanie już nie polega na prostym dodawaniu kolejnych serwerów. Chodzi o koordynację tysięcy procesorów GPU i TPU, automatyczne czyszczenie i przygotowywanie danych, a także utrzymywanie spójności między różnymi warstwami infrastruktury. Gigantyczne firmy takie jak OpenAI, Google czy Meta inwestują miliardy w budowę całkowicie nowych architektur, które łączą storage, compute i networking w sposób nieznanym poprzednim generacjom systemów. Bez tego rodzaju transformacji trudno byłoby vyrysować granicę między możliwościami a ograniczeniami obecnych modeli AI.
Dla branży informatycznej oznacza to szereg zawirowań - od zmian w projektowaniu chipów, poprzez nowe sposoby zarządzania danymi, aż po całkowite przeprojektowanie sposobu, w jaki inżynierowie myślą o infrastrukturze obliczeniowej. Startupy i zespoły R&D pracują nad rozwiązaniami, które mogłyby uczynić to wszystko tańsze i bardziej dostępne dla szerszego grona organizacji. Bez tej przebudowy stos danych pozostałby się coraz bardziej nieadekwatny do oczekiwań stojących przed nowoczesnymi systemami AI.