Anthropic, znana firma zajmująca się bezpieczeństwem AI, zaproponowała schemat regulacyjny, w którym interwencje rządowe wobec zagrażających modeli sztucznej inteligencji miałyby się aktywować dopiero w przypadku 50 śmierci lub strat o wartości co najmniej 1 miliarda dolarów. Według propozycji rolę arbitra w takiej sytuacji pełniłby wyłącznie Departament Handlu.
Proponerci argumentują, że taki model pozwoli na autonomiczny rozwój innowacyjnych systemów AI przy jednoczesnym zapewnieniu minimum bezpieczeństwa. Jednak wiele głosów w branży kwestionuje realność takich progów. Krytycy wskazują, że czekanie na dziesiątki ofiar i miliardowe straty to podejście reaktywne zamiast proaktywnego, które mogłoby zapobiegać zagrożeniom przed ich materializacją.
Dyskusja wokół propozycji Anthropic odzwierciedla szerszy konflikt w środowisku AI - napięcie między wolnością do innowacji a odpowiedzialnością za bezpieczeństwo. Pytanie o właściwe progi interwencji pozostaje kluczowe dla kształtowania przyszłych ram regulacyjnych w sektorze sztucznej inteligencji.