Urzędnicy administracji Trumpa żądają, aby Anthropic wdrożył nieprzeniknięte zabezpieczenia w modelu Claude 5, zanim firma będzie mogła go ponownie udostępnić. Wymóg dotyczy całkowitego uniemożliwienia jailbreaków – technik, które pozwalają użytkownikom obejść ograniczenia bezpieczeństwa i uzyskać dostęp do zakazanych funkcjonalności. To stanowisko jest częścią szerszych wysiłków administracji mającej na celu wzmocnienie kontroli nad potencjalnie niebezpiecznymi możliwościami systemów AI.
Problem w tym, że eksperci ds. bezpieczeństwa mówią wprost: całkowite wyeliminowanie jailbreaków jest praktycznie niemożliwe. Historia sztucznej inteligencji pokazuje, że każda forma zabezpieczenia może być ostatecznie obejścia – zwłaszcza gdy model udostępniany jest szerokiemu gronu użytkowników, którzy mogą eksperymentować z niezliczonymi kombinacjami promptów i technik. Doskonały system byłby hipotezą teoretyczną, a nie rzeczywistością. Rzeczywistość to ciągły wyścig między rozwojem zabezpieczeń a próbami ich obejścia.
Sytuacja odzwierciedla rosnące napięcie między regulatorami chcącymi absolutnej kontroli a firmami AI i badaczami, którzy rozumieją ograniczenia technologii. Jeśli Anthropic będzie zmuszony przyjąć niemożliwe standardy, może to wpłynąć na jego zdolność do rozwoju i udostępniania modeli, co z kolei może spowolnić innowacje w tej branży. Jednocześnie nie można ignorować obaw dotyczących bezpieczeństwa, co pozostawia wszystkich stron w trudnym położeniu.