Badacze w dziedzinie cyberbezpieczeństwa, którzy zajmują się odkrywaniem neznanych podatności i rozwojem narzędzi do ich eksploatacji, alarmują, że guardrails implementowane przez OpenAI i Anthropic coraz bardziej blokują im dostęp do funkcjonalności modeli AI potrzebnych do ich pracy. Wywiady przeprowadzone przez TechCrunch ze specjalistami z branży ujawniają frustrację związaną z automatycznymi ograniczeniami, które nie potrafią rozróżnić między zagrożeniami a legalnymi badaniami bezpieczeństwa.
Guardrails mają chronić przed wykorzystaniem modeli do złośliwych celów - testowaniem systemów w poszukiwaniu luk, generowaniem kodu exploita czy tworzeniem narzędzi atakowych. Jednak dla profesjonalnych badaczy bezpieczeństwa - pracujących dla firm, rządów lub niezależnie - te same funkcje są kluczowe. Mogą być potrzebni do nauki modeli, testowania ich odporności czy opracowywania defensywnych rozwiązań.
To napięcie podkreśla paradoks współczesnego bezpieczeństwa AI: im bardziej zaawansowane guardrails, tym trudniej naukowcom przeprowadzać legitimną pracę badawczą. Problem może prowadzić do sytuacji, w której badacze sieciowy zmuszeni będą szukać alternatywnych modeli open-source lub przejść na mniej restrykcyjne platformy - co ostatecznie może osłabić zdolność branży do proaktywnego identyfikowania zagrożeń.