OpenAI i Broadcom wspólnie zaprezentowali nowy chip o nazwie Jalapeño, specjalnie zaprojektowany do inference'u dużych modeli językowych na skalę działalności centrów danych. Taki ruch stanowi wyraźny sygnał, że firma stojąca za ChatGPT pragnie zmniejszyć zależność od tradycyjnych producentów procesorów i optymalizować koszty operacyjne.
Chip Jalapeño ma być pierwszą generacją w długoterminowym partnerstwie, które będzie obejmować iteracyjne ulepszenia krzemowych rozwiązań. Broadcom, znany producent układów scalonych dla sektora telekomunikacyjnego i sieciowego, wnosi do projektu doświadczenie w skali produkcyjnej. OpenAI z kolei dostarcza wiedzę eksperckę na temat specyficznych wymagań współczesnych modeli AI. To połączenie umożliwia stworzenie hardware'u dostosowanego dokładnie do potrzeb inference'u LLM.
Taka strategia wertykalna - gdy producent oprogramowania AI projektuje własny sprzęt - wzorem jest podejście dużych firm technologicznych takich jak Google czy Meta. Jeśli Jalapeño okaże się konkurencyjny pod względem wydajności i ceny w stosunku do istniejących rozwiązań GPU od Nvidii czy innych producentów, może to zasiać ziarno zmian na rynku akceleratorów AI, zmuszając całą branżę do przeformułowania podejścia do taniej i bardziej efektywnej infrastruktury.