Modal, startup zajmujący się infrastrukturą serwerless dla AI, raportuje przychody na poziomie 1 miliarda dolarów rocznie i właśnie pozyskał 750 milionów dolarów w rundzie Series D przy wycenie 16 miliardów dolarów. CEO Erik Bernhardsson udzielił wywiadu w podcaście Latent Space, gdzie wyjaśnił ekonomikę stojącą za szybkim wzrostem platformy, która już uruchomiła prawie trzy miliardy sandboxów.
Jądro problemu, który rozwiązuje Modal, leży w niedopasowaniu między tradycyjnymi kontraktami GPU a rzeczywistością obciążeń pracą. Standardowy kontrakt pojemnościowy gwarantuje klientowi stałą liczbę GPU-ów na ustalony okres - jeśli wykreślisz to na osi czasu, otrzymasz prosty prostokąt. Ale rzeczywiste obciążenia nie pracują w ten sposób: rosną, tworzą skoki w ruchu, spadają o różnych porach dnia. Jeśli kupisz mocy wystarczającej na szczyt, płacisz za bezczynny sprzęt przez większość czasu. Jeśli kupisz mniej, ryzykujesz, że nie będziesz mieć zasobów, gdy pojawi się nagły skok zapotrzebowania.
Modalowy model opiera się na tym, co Bernhardsson nazywa transformacją duracji - łączenie popytu na obliczenia od tysięcy klientów jednocześnie pozwala platformie elastycznie przydzielać GPU-y tam, gdzie są potrzebne w danym momencie. To podejście to więcej niż zwykły pooling zasobów: to fundamentalna zmiana ekonomiki, gdzie deweloperzy płacą za rzeczywiste użycie zamiast rezerwowania mocy na pik. Od ostatniego wywiadu z Bernhardtsonem sprzed dwóch lat, wizja Modal stała się coraz bardziej rzeczywista - platforma pozwala deweloperom uruchamiać kod bez ręcznego provisjonowania klastrów, prognozowania obciążenia czy martwienia się o koszty idlingu. To podejście trafia w болевую точку branży i wyjaśnia eksplozywny wzrost: niemal wszystkie firmy zajmujące się AI borykają się z tą samą niedoskonałością w alokacji zasobów.