Międzynarodowa Unia Telekomunikacyjna, agencja cyfrowa Organizacji Narodów Zjednoczonych, zdecydowała się podjąć działania wobec tempa, w jakim rozwijają się agenty AI i przekraczają zdolność społeczeństwa do im zaufania. Podczas szczytu AI for Good Summit w Genewie 9 lipca ogłosił nową inicjatywę skierowaną na utrzymanie coraz bardziej autonomicznych systemów AI w stanie identyfikowalnym, odpowiedzialnym i podlegającym nadzorowi.
Rosnące autonomiczne możliwości agentów AI powodują, że tradycyjne podejścia do kontroli i przejrzystości sztucznej inteligencji stają się niewystarczające. Agenty podejmują decyzje i działają w imieniu użytkowników, co rodzi pytania o to, czy systemy rzeczywiście działają w zgodzie z intencjami człowieka i czy można im zaufać w sytuacjach wymagających wysokiego stopnia odpowiedzialności. Program ITU ma na celu wypracowanie standardów i best practices, które zapewniłyby, że operatorzy będą wiedzieć, które decyzje podejmuje agent i dlaczego.
Initjatywa może stać się kluczowa dla regulacji agentów AI na poziomie globalnym. Jeśli uda się stworzyć spójne ramy, mogą one wpłynąć na sposoby, w jakie kraje i organizacje będą podchodzić do certyfikacji i wdrażania autonomicznych systemów AI w sektorach takich jak finanse, opieka zdrowotna czy zarządzanie kryzysowe.