Badacz Anthropic ostrzega przed superinteligencją w momencie przygotowań do IPO

Badacz z Anthropic zrezygnował z pracy i ostrzegł publicznie, że firma "biegnie wprost do samoudoskonalającej się superinteligencji". Wiadomość opublikowana na X to nie zwykła krytyka - osobistnie podpisała się pod nią szefowa zespołu alignment'u w Anthropic zamiast ją zdementować. To zdecydowanie zmieniło ton całej sprawy.

Anthropic od lat słynie z zaangażowania w bezpieczeństwo sztucznej inteligencji i to było głównym mottem firmy. Słowa badacza i poparcie liderki alignment'u sugerują, że wewnątrz firmy pojawiają się realne obawy dotyczące tempa, w którym rozwijane są coraz silniejsze modele. Ostrzeżenia przed superinteligencją to rzeczywiście stary temat w branży AI, ale nigdy nie brzmiały tak gościnnie - przychodzą z wnętrza firmy, która wcześniej się przed tym broniła.

Timing jest tu kluczowy. Anthropic przygotowuje się do wejścia na giełdę i zwykle tuż przed IPO firmy komunikują maksymalny optymizm. Tymczasem właśnie wtedy pojawiają się publiczne obawy szefowej alignment'u - a to osoba, która powinna czuć się bezpiecznie. Może to sugerować, że wewnętrzne dyskusje o безпеczeństwie i tempie rozwoju są bardziej napięte, niż firma publicznie przyznaje.