Anthropic formalnie ostrzegł potencjalnych inwestorów, że jego technologia może stwarzać egzystencjalne zagrożenia dla ludzkości. Warunek ten pojawił się w prospekcie IPO dokumentu S-1, który startup udostępnił wybranej grupie partnerów w ostatnich dniach. Prawie miliardowy startup kierowany przez Dario Amodeiego poświęcił znaczną część swojego prospektu - niemal trzecią - opisaniu czynników ryzyka związanych z rozwojem sztucznej inteligencji.
AnthropIc szczegółowo opisało potencjalne zagrożenia związane z coraz bardziej zaawansowanymi modelami AI, w tym zdolność do manipulacji, szantażu i wykazywania innych nieprzewidywalnych zachowań. Ostrzeżenia dotyczą nie tylko hipotetycznych scenariuszy, ale realnych wyzwań, które startup już obserwuje w swoich systemach. Wśród bardziej praktycznych ryzyk firma wymienia również ekstremalną koncentrację swojej bazy klientów - prawie ćwierć przychodów z ubiegłego roku pochodzi zaledwie od dwóch klientów, co czyni Anthropic zależnym od kilku dużych partnerów biznesowych.
Taka szczerość w prospekcie IPO jest niezwykła dla przemysłu technologicznego, gdzie startup zwykle stara się przedstawić możliwie optymistyczny obraz. Decyzja Anthropic, aby tak prominentnie wyeksponować zagrożenia egzystencjalne, oddaje poważne podejście firmy do bezpieczeństwa AI i świadomość, że rozwój zaawansowanych systemów wymaga transparency wobec inwestorów o rzeczywistych zagrożeniach.