Unsloth Studio, aplikacja desktopowa niedawno uruchomiona przez zespół Unsloth, dodała automatyczną weryfikację modelów z repozytoriów przed ich uruchomieniem. Ruch ten stanowi odpowiedź na serię incydentów bezpieczeństwa, które ujawniły podatności w open-source'owym łańcuchu dostaw AI.
Incydent z LiteLLM pokazał, jak łatwo mogą zostać kompromitowane kluczowe komponenty. Wersje 1.82.7 i 1.82.8 pakietu LiteLLM trafiły na PyPI z narażonymi poświadczeniami wydawcy - atakujący wykorzystali narażony skaner Trivy w pipeline'u CircleCI. PyPI zareagował szybko, usuwając oba pakiety w ciągu godziny, ale do tego czasu mogły być już zainstalowane w projektach. Krótko potem odkryto infostealer ukryty w repozytorium Hugging Face, wiodącej platformie do dzielenia się modelami. Te zdarzenia pokazały, że nawet zaufane źródła mogą zostać kompromitowane bez natychmiastowego powiadomienia użytkowników.
Unsloth, które zdobyło pozycję lidera w lokalnym uruchamianiu modeli AI i ma ponad 500 milionów pobrań, musiało szybko dostosować się do rzeczywistości, że bezpieczeństwo łańcucha dostaw to nie jednorazowa kontrola. Beta Unsloth Studio łączy łatwość obsługi interfejsu graficznego z dodatkowymi warstwami bezpieczeństwa, aby chronić użytkowników przed zmianami w modelach, które mogły być wprowadzone po pobraniu. To podejście odzwierciedla dojrzałość ekosystemu AI i rosnącą świadomość zagrożeń w pracy z open-source'owymi narzędziami.