Gubernator Kalifornii Gavin Newsom wydał w piątek zarządzenie wykonawcze mające pozycjonować stan na czołowej pozycji nadzoru nad sztuczną inteligencją, w tym potencjalnie obowiązkowy przycisk do wyłączania frontier modeli AI. Zarządzenie kieruje state w stronę zwołania grupy ekspertów, która w ciągu zaledwie dwóch miesięcy ma dostarczyć konkretne rekomendacje dotyczące wzmocnienia bezpieczeństwa AI w kalifornijskim prawie stanowym.
Proponowany plan nadzoru jest ambitny i wielowymiarowy. Newsom chce, aby firmy zajmujące się AI były zobowiązane do utrzymywania niezależnych zespołów weryfikacyjnych na swoich terytoriach do regularnych audytów. Dodatkowo, transparency reports i oceny ryzyka miałyby podlegać standardom niezależnych audytorów, a nie tylko wewnętrznym kontrolom firm. Kluczowym elementem jest stworzenie "kill switcha" - mechanizmu umożliwiającego szybkie wyłączenie systemu w przypadku podejrzenia zagrożenia bezpieczeństwa.
Krok ten wpisuje się w szerszy trend zwiększonego zainteresowania regulacją AI na poziomie stanowym, zanim federalny rząd USA ustali jednolite standardy. Kalifornia, jako stanowiący znaczną część branży technologicznej, ma realną siłę do narzucenia wymagań, które mogą stać się de facto standardami dla całej branży. Jednak proponowane rozwiązania mogą spotkać się z oporem ze strony firm technologicznych, które obawiają się zbyt rygorystycznych regulacji mogących hamować innowacje.