Jacob Coxon, badacz ze studia AI Anthropic, opuścił stanowisko i wydał publiczne ostrzeżenie, że przedsiębiorstwa rozwijające modele AI grają z огнем - hazardują naszymi życiami z technologiami, które wewnętrznie uważają za potencjalnie śmiertelne dla całej ludzkości. W poście na mediach społecznościowych we wtorek Coxon wyraził przekonanie, że największe zagrożenie nie wynika z dzisiejszych modeli, lecz z perspektywy pojawienia się samodoskonalących się superinteligencji - systemów, które mogą zhakować dosłownie wszystko, dokonać przełomu w jakiejkolwiek dziedzinie w ciągu nocy i zdobyć realną władzę oraz zasoby.
Wedle Coxona pracownicy firm AI frontierowych albo nie do końca uświadamiają sobie stawkę cywilizacyjną tych projektów, albo wierzą, że muszą "przyspieszać" wyścig w kierunku superinteligencji, by uniemożliwić mniej odpowiedzialnym graczom osiągnięcie tego celu pierwsi. To nie głos samotnego niezadowolonego pracownika - Evan Hubinger, kierownik zespołu Alignment Science w Anthropic, natychmiast poparł stanowisko Coxona na mediach społecznościowych. Hubinger przyznał, że rzeczywiście "poważnie wierzymy, że AI może zabić wszystkich ludzi" i osobiście ocenia prawdopodobieństwo takiego scenariusza na ponad 10 procent w ciągu najbliższej dekady.
Ta sytuacja podkreśla narastającą nerwowość w sektorze AI dotyczącą długoterminowych ryzyk związanych z rozwojem coraz bardziej zaawansowanych systemów. Rezygnacja Coxona to wyraźny sygnał, że insider z czołowego laboratorium AI ma dostatecznie poważne obawy, by opublikować je mimo potencjalnych konsekwencji zawodowych - co sugeruje, że dyskusja wokół bezpieczeństwa superinteligencji przestaje być marginalnym tematem teoretyków.