Anthropic zaproponował nową ustawę o bezpieczeństwie AI, która mogłaby zablokować wydanie modelu jeśli istnieje uzasadnione ryzyko, że mogą go wykorzystać osoby do zabicia co najmniej 50 ludzi. Na pierwszy rzut oka propozycja wygląda jak rozsądna ochrona przed potencjalnie niebezpiecznym systemem AI - jednak diabeł tkwi w szczegółach.
Problematycznym elementem ustawy jest jej druga część: zakazuje ona agencjom federalnym blokowania wydania modelu bez uzyskania uprzedniej zgody od sędziego. To oznacza, że nawet jeśli urzędnicy zajmujący się bezpieczeństwem AI byliby przekonani o zagrożeniu, musieliby najpierw przekonać sąd, co dramatycznie wydłużyłoby proces decyzyjny. Przedsiębiorstwo branży AI - Anthropic jest jedną z czołowych firm zajmujących się bezpiecznym AI - pozycjonuje tym samym swoją propozycję jako chroniącą zarówno przed zagrożeniami, jak i przed zbyt pochopnym działaniem regulatorów.
Ruchy Anthropica wpisują się w szerszą dynamikę w branży AI, gdzie firmy próbują kształtować regulacje zanim zostaną narzucone przez rządy. Choć propozycja może brzmieć rozsądnie dla osób obawiających się nadmiernej regulacji, eksperci na temat AI bezpieczeństwa mogą argumentować, że wymóg zgody sędziego może być zbyt dużą przeszkodą w sytuacjach kryzysowych.