NVIDIA zaprezentowała Minervę, platformę AIOps dedykowaną do monitorowania i optymalizacji operacji na skalę fabryk AI. Narzędzie łączy dane telemetryczne z infrastruktury i obciążeń sztucznej inteligencji, a następnie wykorzystuje specjalistyczne modele AI do przekształcenia tych informacji w działalne wnioski. W środowiskach z setek tysięcy GPU pracujących na szybkich sieciach, nawet drobne problemy - jak GPU działające w wyższej temperaturze niż inne lub dysk NVMe tracący wydajność pod obciążeniem - mogą spowolnić całe zadanie szkoleniowe.
Minerva buduje dynamiczny graf wiedzy, który mapuje infrastrukturę logicznie i kontekstowo - procesory, karty sieciowe SuperNIC, przełączniki i kable - razem z uruchamianymi na nich zadaniami. Tradycyjne narzędzia monitoringu dzielą centrum danych na oddzielne widoki dla zespołów zajmujących się siecią, infrastrukturą obliczeniową i machine learningiem. Minerva integruje te sygnały z GPU NVIDIA, urządzeniami sieciowymi, magazynem danych i schedulerami, co pozwala operatorom prześledzić powolne zadanie treningu do konkretnego komponentu go spowalniającego, nawet w instalacjach liczących setki tysięcy procesorów.
Platforma skupia się na yield fabryk AI - metryce mierzącej użyteczną pracę generowaną przez infrastrukturę poprzez godziny GPU, goodput, dostępność klastra i produkcję tokenów. Takie kompleksowe podejście do obserwowalności może znacznie skrócić czas diagnozy problemów i minimalizować straty wynikające z niedostatecznego wykorzystania zasobów obliczeniowych.