OpenAI ujawnił właśnie Jalapeño - pierwszy własny procesor AI opracowany wspólnie z Broadcomem. Chip jest ASIC-iem (układem scalonym przeznaczonym do konkretnego zastosowania) stworzonym specjalnie do obsługi inference'u modeli językowych, czyli przetwarzania zapytań użytkowników i generowania odpowiedzi ChatGPT.
To rozróżnienie jest kluczowe - inference to faza, gdy model językowy przetwarza żądania użytkownika i zwraca odpowiedzi, w przeciwieństwie do training'u, gdzie model uczy się na ogromnych zbiorach danych. Jalapeño jest zatem ukierunkowany na produkcję, optymalizację kosztu i wydajność obsługi milionów zapytań, które codziennie trafiają do ChatGPT i innych agentów AI.
Ogłoszenie pojawia się 9 miesięcy po tym, jak OpenAI zadeklarował partnerstwo z Broadcomem. Tworzenie własnych chipów to dla OpenAI droga do zmniejszenia zależności od dostawców sprzętu i potencjalnie obniżenia kosztów operacyjnych na skalę swojej infrastruktury. W kontekście rosnących potrzeb obliczeniowych branży AI i ograniczonej dostępności zaawansowanych procesorów, takie inwestycje są strategicznym posunięciem dla dużych graczy na rynku.