NVIDIA Vera to nowy procesor CPU zaprojektowany specjalnie dla agentów AI, który osiąga zarówno najwyższą wydajność jak i najlepszą efektywność energetyczną w jednym rozwiązaniu. W testach porównawczych dla data center o mocy 100 megawatów Vera przewyższyła zarówno najszybszy jak i najbardziej energooszczędny procesor x86 dostępny na rynku.
Agenty AI różnią się zasadniczo od tradycyjnych modeli - nie tylko generują odpowiedzi, ale również wyszukują informacje, odpytują bazy danych, piszą i testują kod oraz podejmują działania. Każdy z tych etapów wymaga pracy CPU, z ciągłym przesyłaniem się między rozumowaniem na GPU a wykonywaniem na CPU. Infrastruktura sztucznej inteligencji musi obsługiwać coraz więcej agentów jednocześnie, ale operatorzy napotykają coraz bardziej szczytowe ograniczenia mocy elektrycznej w swoich data center.
Wera rozwiązuje ten problem przez dostarczenie 1,6 razy więcej agentów na wat energii w stosunku do najszybszego procesora x86, jednocześnie oferując 2 razy szybszą pracę agentów niż najbardziej energooszczędne rozwiązania konkurencji. To oznacza, że dostawcy infrastruktury mogą obsługiwać znacznie więcej agentów bez konieczności mieszania różnych typów procesorów ani wybierania między szybkością a pojemnością. Pierwsi użytkownicy, w tym Perplexity, już testują Verę w warunkach zbliżonych do produkcji i raportują wyjątkowe rezultaty.