Czołowe laboratoria AI nie ujawniają publicznie swoich planów na wypadek utraty kontroli nad modelami sztucznej inteligencji. Wynika to z nowego badania, które przeanalizowało gotowość branży do stawiania czoła potencjalnym zagrożeniom związanym z rozwijającymi się systemami AI. Odkrycie to budzi poważne obawy dotyczące przygotowania ośrodków badawczych do radzenia sobie z nienaturalnym czy potencjalnie niebezpiecznym zachowaniem modeli, które mogą pojawić się w trakcie ich pracy.
Problematyczna jest sama natura tej kwestii - modele AI wykazują coraz więcej niespodziewanych zachowań, a zarazem brakuje przejrzystych, publicznie dostępnych informacji o mechanizmach zabezpieczających. Firmy takie jak OpenAI, Anthropic czy Meta nie udostępniają szczegółowych planów awaryjnych ani procedur zatrzymania systemów w kryzysowych sytuacjach. Taka brak przejrzystości stanowi zagadnienie zarówno dla regulatorów, jak i dla całego ekosystemu AI.
W miarę jak systemy AI stają się bardziej zaawansowane i coraz bardziej zintegrowane z infrastrukturą krytyczną, kwestia bezpieczeństwa i gotowości do kontenacji zbuntowanych modeli nabiera znaczenia. Brak publicznie dostępnych planów awaryjnych sugeruje, że nawet liderzy branży mogą nie być w pełni przygotowani na scenariusze, w których system AI zachowałby się w nieoczekiwany lub potencjalnie szkodliwy sposób. To może skutkować brakami w regulacjach i niedostatecznym nadzorem.