Badacz bezpieczeństwa z laboratorium AI Anthropic publicznie ostrzegł, że istnieje ponad 10-procentowe prawdopodobieństwo wyginięcia całej ludzkości w wyniku sztucznej inteligencji do końca obecnej dekady. Równocześnie Jacob Coxon, pracownik Anthropic, który wcześniej trenował systemy SI w OpenAI, ogłosił na platformie X swoją rezygnację z firmy.
Coxon uzasadnił odejście rosnącymi obawami o to, jak Anthropic i inne laboratorium AI podchodzą do kwestii bezpieczeństwa. Oskarżył obie firmy o "pędzenie na całej prędkości ku superinteligencji zdolnej do samouzlepszania się oraz hazardowanie naszymi życiami". Według niego podejście obu gigantów przypomina wyścig, w którym zwycięstwo w rynkowej konkurencji przysłania racjonalne obawy dotyczące kontroli nad zaawansowanymi systemami SI, których sami nie do końca rozumieją.
Ta rezygnacja i towarzyszące jej ostrzeżenia unaoczniają rosnący konflikt ideologiczny wewnątrz branży AI - między przyspieszającą race do budowy coraz potężniejszych modeli a głosami ekspertów domagającymi się bardziej ostrożnego podejścia. Coraz więcej badaczy zajmujących się bezpieczeństwem wyraża przekonanie, że tempo rozwoju przewyższa nasze zdolności do przewidywania i łagodzenia potencjalnych zagrożeń, szczególnie gdy chodzi o superinteligencję.