Anthropic w swoim prospekcie emisyjnym przyznał inwestorom, że rocznie traci dziesiątki miliardów dolarów, choć jednocześnie doświadcza gwałtownego wzrostu biznesu. Najbardziej zaskakujące jest jednak to, że firma explicite ostrzega, iż jej własne modele AI mogą stanowić egzystencjalne zagrożenie dla ludzkości.
Ostrzeżenie to pojawia się w formalnym dokumencie dla inwestorów i stanowi niezwykłe kroki w stronę przejrzystości. Większość firm technologicznych unika publicyzowania najgorszych scenariuszy związanych z ich produktami, jednak Anthropic wybiera inną ścieżkę. Pokazuje to jak poważnie firma podchodzi do kwestii bezpieczeństwa AI i chce być szczera z inwestorami na temat ryzyk.
Ujawnienie ogromnych strat przy jednoczesnym wzroście to charakterystyka współczesnych firm AI - wymagają one znaczących inwestycji w infrastrukturę i badania, podczas gdy przychody dopiero się budują. Ostrzeżenie o egzystencjalnym ryzyku podkreśla, że nawet liderzy branży uważają, iż zaawansowana sztuczna inteligencja wymaga ostrożnego podejścia i potencjalnie może stanowić poważne zagrożenia dla przyszłości ludzkości.