ZeroDrift, startup zajmujący się bezpieczeństwem sztucznej inteligencji, pozyskał 10 milionów dolarów finansowania na rozwinięcie swojej usługi compliance. Rozwiązanie działa jak strażnik pośrodku komunikacji między modelami AI a użytkownikami, monitorując każdą wiadomość w obie strony. Kiedy system wykryje potencjalny problem z punktu widzenia zgodności regulacyjnej, automatycznie zastępuje lub flaguje problematyczną treść, zanim dotrze do odbiorcy. To podejście ma chronić przed niezamierzonymi naruszeniami przepisów, które mogą wynikać z odpowiedzi generowanych przez modele.
Dla dużych korporacji wdrażających zaawansowane modele języka, takie jak ChatGPT czy podobne rozwiązania, ten problem jest realny i pilny. Chociaż modele AI generują tekst w oparciu o wzorce z danych treningowych, czasem mogą zwrócić odpowiedź nieadekwatną do przepisów branżowych, danych osobowych lub wymogów dotyczących finansów czy zdrowotnictwa. Tradycyjny audit czy przegląd człowieka są skalowalne słabo, szczególnie gdy model obsługuje tysiące interakcji dziennie.
Finansowanie ZeroDrift pokazuje, że compliance dla AI staje się coraz bardziej pożądany na rynku. Regulatorzy na całym świecie zaczynają skupiać się na odpowiedzialności przy wdrażaniu AI w organizacjach, a przedsiębiorstwa szukają narzędzi, które pomogą im spełnić te wymagania. Jeśli takie rozwiązania będą działać skutecznie, mogą znacznie zmniejszyć ryzyko prawne i reputacyjne dla firm, a jednocześnie przyspieszyć adopcję modeli AI w sektorach tradycyjnie bardziej ostrożnych względem technologii.