Cztery prominentne firmy zajmujące się sztuczną inteligencją - Anthropic, OpenAI, Xai i Google DeepMind - poparły standard AEF-1 dotyczący zatrudniania niezależnych ewaluatorów do oceny praktyk bezpieczeństwa. Ten krok oznacza formalny system, w którym trzecie strony otrzymują dostęp podobny do pracowniczego do infrastruktury i procesów rozwojowych firm zajmujących się frontier AI, aby weryfikować zaangażowanie w bezpieczeństwo i zgodność z obowiązkami.
Standard wyłania się z dyskusji dotyczącej tempa rozwoju AI, która nabrała rozpędu w ostatnich miesiącach. Dario Amodei, prezes Anthropic i autor artykułu "Pacing the Frontier", opisał to rozwiązanie jako kluczowy element weryfikowalności zobowiązań dotyczących bezpieczeństwa. Model inspiruje się praktykami z branży finansowej, gdzie nadzorcy regulacyjni pracują wewnątrz instytucji. Anthropic już jednostronnie się na to zobowiązał jako część szerszego zaangażowania w pracę nad bezpieczeństwem i wyrównaniem wartości AI do ludzkich potrzeb.
Wdrożenie standardu AEF-1 poza pojedynczą firmą stanowi próbę demokratycznej koordynacji między frontier AI firmami w krajach demokratycznych w celu ustanowienia wspólnych standardów bezpieczeństwa. Ostatecznie proponowana jest także globalna koordynacja, w której USA i inne rządy demokratyczne pracowałyby nad uzgodnieniami z krajami autorytarnymi, choć weryfikacja zgodności stanowi znaczące wyzwanie. Standard ten reprezentuje przesunięcie w stronę bardziej przejrzystych i weryfikowalnych praktyk bezpieczeństwa w szybko ewoluującym sektorze sztucznej inteligencji.