Naukowcy zidentyfikowali poważne luki w metodach zarządzania ryzykiem związanym z zaawansowanymi modelami AI, które opierają się na granicy obecnych możliwości technicznych. Problem dotyczy przede wszystkim braku skutecznych narzędzi do testowania bezpieczeństwa frontier AI - systemów takich jak najnowsze wersje Claude, GPT-4 czy Gemini, które operują w obszarach wcześniej niespożytych. Badacze zwracają uwagę na to, że tradycyjne metody oceny zagrożeń okazują się niewystarczające dla modeli o tak dużej mocy i nieprzewidywalności.
Artykuł podkreśla trzy kluczowe wyzwania, przed którymi stoi branża. Pierwszym jest sama identyfikacja ryzyk - jak sprawdzić, czy system nie posiada niebezpiecznych możliwości, skoro często sami twórcy nie wiedzą, do czego zdolny jest ich model? Drugą kwestią jest monitoring w czasie rzeczywistym - jak śledzić działanie zaawansowanego AI już po jego wdrożeniu, aby wychwycić nieprzewidziane problemy? Trzecim, być może najtrudniejszym, jest przewidywanie skutków niezamierzonych, czyli efektów ubocznych, które mogą pojawić się dopiero przy długotrwałym użytkowaniu na masową skalę.
Naukowcy argumentują, że rozwiązanie tych problemów wymaga podejścia interdyscyplinarnego łączącego wiedzę z bezpieczeństwa informatycznego, etyki, psychologii, ekonomii i praktyki inżynierskiej. Ustalenia zawarte w pracy mogą mieć realne konsekwencje dla branży - mogą wpłynąć na powstanie nowych standardów testowania bezpieczeństwa oraz kształt przyszłych regulacji rządowych. Tym bardziej że presja na szybkie wdrażanie coraz potężniejszych modeli robi się coraz większa, a zagrożenia stają się bardziej realne.