Prezydent Donald Trump podpisał we wtorek porozumienie z dwudziestoma czterema firmami technologicznymi zobowiążące je do dobrowolnego wdrażania kontroli bezpieczeństwa sztucznej inteligencji. Umowa zawiera rekomendacje Białego Domu dotyczące wzmocnienia wewnętrznych mechanizmów kontroli, monitorowania i wykrywania zagrożeń przez AI. Signatorami są czołowe osoby z branży, w tym Sam Altman z OpenAI, Dario Amodei z Anthropic, Elon Musk ze SpaceXAI, Jensen Huang z Nvidia, Mark Zuckerberg z Meta oraz Sundar Pichai z Alphabet/Google.
Kluczowym elementem umowy są niezależne audyty bezpieczeństwa, które będą testować skuteczność wewnętrznych systemów kontroli każdej firmy. Audyty będą szczególnie skupiać się na ocenie ryzyka związanego z cyberbezpieczeństwem, biosecurity, zagrożeniami chemicznymi oraz niezamierzonymi działaniami modeli AI. Firmy zobowiązały się również do regularnych spotkań w celu omówienia best practices i ustalenia wspólnych standardów oraz benchmark'ów bezpieczeństwa branżowego.
Ta inicjatywa pojawia się w kontekście rosnących incydentów związanych z bezpieczeństwem AI - niedawno OpenAI wstrzymało training i wznowienie wypuszczania nowych wersji ze względu na problemy bezpieczeństwa. Podejście Trumpa faworyzuje samoregulację branży zamiast obowiązkowych regulacji rządowych, opierając się na założeniu, że duże tech firmy będą efektywnie pilnować własne systemy. Jednak skepcy mogą kwestionować, czy dobrowolne zobowiązania będą wystarczające wobec braku egzekwowania sankcji i transparency w stosowaniu wspólnych standardów.