Zespół specjalistów od cyberbezpieczeństwa zdołał włamać się do systemu OpenAI, korzystając z narzędzia bezpieczeństwa opracowanego przez Anthropic - głównego konkurenta producenta ChatGPT. Hakerzy uzyskali dostęp do prywatnego konta ChatGPT należącego do pracownika OpenAI, co pozwoliło im przeczytać wrażliwe informacje o oprogramowaniu i zaproponować modyfikacje.
Pracy badawczej towarzyszył oficjalny cel - znalezienie podatności zanim mogą być wykorzystane przez złośliwych aktorów. Zespół miał dostęp do specjalistycznego narzędzia Anthropic zaprojektowanego właśnie dla profesjonalistów zajmujących się bezpieczeństwem i został wynagrodzony za przeprowadzenie tego działania.
Incydent ma znaczenie szczególnie w kontekście rosnącej kontroli nad bezpieczeństwem w sektorze AI. Ujawnia podatności u jednego z największych graczy branży w momencie, gdy czołowe firmy zajmujące się sztuczną inteligencją stoją pod coraz większą presją regulacyjną i publiczną dotyczącą kwestii bezpieczeństwa ich systemów.