Szef Anthropic Dario Amodei przedstawił plan "pacowania frontu" rozwoju sztucznej inteligencji - mający na celu bardziej kontrolowany postęp w tworzeniu coraz bardziej zaawansowanych modeli AI. Propozycja opiera się na dwóch filarach: zewnętrznych, niezależnych ewaluatorach bezpieczeństwa, którzy weryfikowaliby nowe modele przed ich uruchomieniem, oraz na koordynacji między laboratoriami AI w krajach demokratycznych w celu uniknięcia niebezpiecznego wyścigu konkurencyjnego.
Plan pojawił się zaledwie tydzień po tym, gdy badacz z Anthropic wydał publiczne ostrzeżenie o potencjalnych zagrożeniach związanych z niepohamowanym rozwojem AI. Propozycja Amodeia zyskała już wsparcie w industrii, ale natychmiast natrafiła na sprzeciw, zwłaszcza ze strony Jensena Huanga z Nvidii, który chce jak najszybszego tempa innowacji.
Wyzwaniem dla takiego podejścia pozostaje kwestia egzekucji - jak w praktyce zmuszić największych graczy do współpracy, gdy ekonomicznie wszystkie zachęty ciągnęły by ich w stronę szybszego rozwoju bez ograniczeń. Dodatkowo plan wymaga ponad-granicznych uzgodnień między krajami demokratycznymi, co jest trudne nawet w mniej kontrowersyjnych dziedzinach technologii.