NVIDIA opublikowała kompleksowy poradnik do biblioteki Nsight Python, swojego otwartego narzędzia do profilowania GPU kerneli z poziomu kodu Python. Zamiast uruchamiać skrypty przez linię komend Nsight Compute i analizować raporty, programiści mogą teraz oznaczać interesujące je fragmenty kodem nsight.annotate i dekorować funkcje benchmarkowe nsight.analyze.kernel, uzyskując strukturalne wyniki w postaci pandas DataFrames.
Zaletą Nsight Python jest przede wszystkim integracja z Jupyter i Colab od wersji 1.0 - narzędzie dołącza się do działającego procesu Python bez konieczności zewnętrznych poleceń. Nadchodząca wersja 1.1 wprowadza eksperymentalny backend CUPTI, lepszą kontrolę narzędzi oraz custom information collectors. Poradnik demonstruje pełen workflow: instalacja na darmowym Colab T4, profilowanie kerneli, pomiary wpływu cache'u i kontroli częstotliwości, testowanie różnych rozmiarów matryc (fp32 i fp16) z metrykę TFLOP/s, rozróżnianie workloadów compute-bound i memory-bound za pomocą hardware counterów, mierzenie kernel fusion w bajtach, śledzenie zegarów i temperatury.
To narzędzie jest ważne dla osób zajmujących się optymalizacją CUDA, pozwala szybciej iterować i eksperymentować z poprawami wydajności bez żonglowania wieloma plikami i raportami. Dostęp do raw reportów Nsight Compute dla głębokich analiz daje również możliwość zaawansowanego debugowania.