NVIDIA opublikowało szczegółowy tutorial do narzędzia garak, które pozwala na defensywny red-teaming modelów językowych. Framework działa jako kompleksowe rozwiązanie do identyfikacji luk bezpieczeństwa w LLM-ach poprzez systematyczne testowanie i atakowanie modeli pod kontrolą.
Poradnik przeprowadza użytkowników przez cały proces: od instalacji i odkrywania dostępnych pluginów, przez testy bez rzeczywistych modeli (dry runs), aż po skanowanie modeli z Hugging Face. Kluczową część stanowi wieloprobe'owe ewaluacje, które analizują bezpieczeństwo z różnych perspektyw, mierząc wskaźniki powodzenia ataków i oceny bezpieczeństwa.
Co szczególnie istotne, tutorial pokazuje jak rozszerzyć garak o niestandardowe sondy i detektory dostosowane do konkretnych scenariuszy zagrożeń. Wyniki można eksportować w formacie AVID, co umożliwia strukturyzowaną dokumentację podatności. To podejście przyspiesza pracę bezpieczeństwa zespołów i czyni red-teaming bardziej systematycznym, zmniejszając ryzyko wdrożenia niebezpiecznych modeli w produkcji.