Base Labs, badawcza grupa utworzona przez Baseten wcześniej w tym roku, oficjalnie zawiązała partnerstwo z Hugging Face i Goodfire w celu opracowania metod bezpieczeństwa dla otwartych modeli AI. Projekt będzie skupiał się na tworzeniu i publikowaniu narzędzi do trenowania oraz monitorowania open-weight modeli, które mogą być swobodnie pobierane i modyfikowane przez społeczność.
Partnerstwo odpowiada na rosnące zainteresowanie otwartymi modelami AI, które stanowią alternatywę dla zamkniętych systemów takich jak GPT-4. Hugging Face, jako główne centrum dla społeczności open-source w AI, oraz Goodfire, specjalizujący się w narzędziach do analizy modeli, mogą zapewnić kluczową infrastrukturę i expertise. Base Labs wnosi doświadczenie badawcze w obszarze bezpieczeństwa sztucznej inteligencji.
Taka współpraca jest istotna, ponieważ wraz z demokratyzacją dostępu do modeli AI rośnie potrzeba standaryzowanych podejść do bezpieczeństwa. Opublikowanie otwartych metod monitorowania i walidacji może pomoć całej branży w budowaniu bardziej bezpiecznych systemów, jednocześnie redukując bariery dla mniejszych zespołów i organizacji, które tradycyjnie nie miały dostępu do zaawansowanych narzędzi do oceny bezpieczeństwa modeli.