Badacz z Anthropic Jacob Coxon zdecydował się odejść z firmy ze względu na obawy dotyczące ryzyka zatarcia ludzkości przez coraz bardziej zaawansowaną sztuczną inteligencję. W swoim oświadczeniu Coxon podkreślił, że obecne podejście do rozwoju AI, szczególnie systemów zdolnych do samoulepszania się, stanowi niebezpieczeństwo porównywalne do hazardu z ludzkimi życiami.
Coxon wezwał do wprowadzenia porozumień pacingowych między głównymi laboratoriami AI, które miałyby skoordynować i spowolnić rozwój najbardziej potencjalnie niebezpiecznych technologii. Jego stanowisko odzwierciedla rosnący niepokój w branży dotyczący braku wystarczających zabezpieczeń i mechanizmów kontroli nad postępem w dziedzinie zaawansowanej AI.
Rezygnacja Coxona jest znaczącym sygnałem dla Anthropic i całej branży. Choć firma zasłynęła z silnego nacisku na bezpieczeństwo AI, wewnętrzne stanowiska pracowników pokazują, że dla niektórych ekspertów obecne środki ostrożności są niewystarczające. Jego apel o porozumienia między konkurencyjnymi laboratoriami sugeruje, że indywidualne działania firm mogą okazać się nieadekwatne bez szerszej koordynacji branżowej.