Panel naukowy Organizacji Narodów Zjednoczonych ostrzega, że rządy muszą nałożyć kontrolę na coraz bardziej zaawansowane agenty AI, zanim w pełni zrozumiemy związane z nimi ryzyka. To stanowisko pojawia się w pierwszej znaczącej ocenie ONZ dotyczącej bezpieczeństwa sztucznej inteligencji, stanowiącej wczesny wynik międzynarodowych dyskusji na ten temat.
Ostrzeżenie trafia w momencie, gdy globalne wyzwania związane z AI znalazły się na światnym порządku obrad. W tym tygodniu liderzy światowi gromadzą się w Nowym Jorku na Zgromadzeniu Ogólnym ONZ, a jednocześnie Stany Zjednoczone i Chiny prowadzą bezpośrednie rozmowy na temat regulacji AI. Sekretarz generalny António Guterres wcześniej wezwał wszystkie rządy do współpracy w neutralizowaniu zagrożeń wynikających z rozwoju sztucznej inteligencji, podkreślając że świat nie może sobie pozwolić na wyścig do dna w kwestii bezpieczeństwa AI.
Raport ONZ sygnalizuje, że bezpieczeństwo AI jest teraz kwestią dyplomacji globalnej i że nie można czekać aż ryzyko będzie w pełni zrozumiane, zanim podjąć będą działania mające na celu jego mitygację. To nastawienie różni się od podejścia, które czeka na pełną naukową pewność przed wprowadzeniem regulacji - zamiast tego ONZ sugeruje proaktywne podejście do ograniczania ryzyka związanego z rozwijającymi się technologiami AI.