Mend opublikował kompleksowy framework do zarządzania bezpieczeństwem sztucznej inteligencji, który ma stanowić mapę drogową dla organizacji chcących skuteczniej chroniać swoje systemy AI. Nowe narzędzie obejmuje cztery kluczowe obszary: inwentaryzację zasobów, klasyfikację ryzyka, bezpieczeństwo łańcucha dostaw AI oraz model dojrzałości bezpieczeństwa.
Inicjatywa firmy Mend pojawia się w momencie, gdy przedsiębiorstwa na całym świecie masowo wdrażają rozwiązania bazujące na AI, ale równocześnie borykają się z brakiem jasnych standardów bezpieczeństwa. Framework ma pomóc im zidentyfikować, gdzie dokładnie w ich infrastrukturze znajdują się modele AI, jakie ryzyka się z nimi wiążą oraz jak zabezpieczyć cały proces ich tworzenia i wdrażania. Szczególnie ważna jest sekcja poświęcona łańcuchowi dostaw - coraz więcej ataków na systemy AI odbywa się bowiem na poziomie bibliotek, danych treningowych czy niezweryfikowanych interfejsów zewnętrznych.
Framework Mend ma służyć zarówno małym zespołom data science, jak i dużym organizacjom z dedykowanymi działami bezpieczeństwa. Dzięki modelowi dojrzałości firmy mogą ocenić, na którym etapie przygotowania do bezpiecznego wdrażania AI się znajdują i jakie kroki powinny przedsięwziąć w kolejności. W obliczu rosnących regulacji dotyczących bezpieczeństwa AI - zarówno wewnątrz Unii Europejskiej, jak i w innych jurysdykcjach - takie narzędzia mogą szybko stać się standardem w branży.