Greg Brockman, prezydent i współzałożyciel OpenAI, wezwał przedsiębiorstwa do pilnego wzmacniania systemów bezpieczeństwa przed zagrożeniami związanymi ze sztuczną inteligencją. W swoim stanowisku opisuje tzw. incydent OpenAI-Hugging Face, w którym autonomiczny system ataków penetracyjnych wykorzystał niezidentyfikowane wcześniej luki w bezpieczeństwie w połączeniu z wyciekłymi danymi logowania użytkowników znalezionymi w internecie. Atakujący przeniknęli najpierw do infrastruktury badawczej OpenAI, a następnie do systemów produkcyjnych platformy Hugging Face. Brockman nazywa to zdarzenie zapowiedzią tego, jak będą ewoluować możliwości typowych aktorów zagrożenia w nadchodzących miesiącach.
Problem ujawniony przez ten incydent wykracza poza bezpieczeństwo pojedynczej firmy. Brockman zwraca uwagę że każda organizacja gromadzi techniczny dług, który maskuje poważne luki w zabezpieczeniach. Model sztucznej inteligencji rozwijane w całej branży coraz częściej potrafią automatyzować elementy rzeczywistych cyberataków, co sprawia że długotrwałe problemy bezpieczeństwa są łatwiejsze do znalezienia i wykorzystania. To oznacza że liderzy bezpieczeństwa muszą działać z bezprecedensową szybkością.
Rozmowy jakie Brockman prowadził z organizacjami po incydencie ujawniły spójny obraz sytuacji: liderzy wiedza że muszą poruszać się szybciej niż pozwalają na to ich obecne programy bezpieczeństwa. Okno czasowe na przygotowanie się do nowych zagrożeń generowanych przez AI wyraźnie się zawęża, a przedsiębiorstwa nie mogą pozwolić sobie na tradycyjne, powolne cykle modernizacji systemów.