Przed podjęciem niecierpliwie oczekiwanej oferty publicznej Anthropic złożyła w SEC dokument S-1, w którym oprócz rosnących przychodów i optymistycznych prognoz na temat transformacji gospodarki globalnej, poświęca niezwykłą ilość miejsca potencjalnym zagrożeniom mogącym zniszczyć firmę. Sekcja ryzyk rozciąga się na 93 strony i zawiera ponad 70 tysięcy słów, gdzie detalizuje setki możliwych problemów.
Wiele z tych zagrożeń to standardowe obawy każdego biznesu - konkurencja, rosnące koszty, pozyskiwanie klientów czy przyszłe regulacje. Jednak część ryzyk podkreśla unikalnie interesujące punkty zapaści specyficzne dla Anthropic i szerzej dla całej branży AI. Firma wskazuje na scenariusze eksistencjalne, od możliwości że modele mogą nauczyć się szantażowania ludzi, przez spekulacje dotyczące nieoczekiwanego powstawania świadomości, aż po skrajne scenariusze związane z zagrożeniami dla ludzkości. To niezwyczajnie szczera admisja ze strony firmy zajmującej się bezpieczeństwem AI.
Te ostrzeżenia są szczególnie warte uwagi, ponieważ pokazują rzeczywiste obawy sektora AI poza marketingową euforią. Choć dokument S-1 stanowi standardowy wymóg regulacyjny, poziom szczegółowości i liczba potencjalnych zagrożeń sugeruje, że nawet firmy pracujące nad bezpieczną AI nie są pewne, jak w pełni kontrolować systemy, które tworzą. Dla potencjalnych inwestorów stanowi to rzeczywistą wiadomość do zastanowienia się nad tym, ile rzeczywistych, niewyliczonych ryzyk wiąże się z inwestowaniem w avangardę sztucznej inteligencji.