OpenAI zbudował LLM o nazwie GPT-Red, który funkcjonuje jako cybernetyczny sparringpartner do wzmacniania obrony swoich modeli przed atakami. System automatyzuje red-teaming - tradicionalnie wykonywane przez ludzi testy bezpieczeństwa polegające na znalezieniu maksymalnie wielu sposobów na zainfekowanie lub przejęcie systemu. Słabe punkty odkryte przez GPT-Red mogą być naprawione zanim model zostanie oddany do użytku.
Zawansowanie LLM-ów i rosnąca liczba ich zastosowań - zwłaszcza agentów zdolnych do interakcji z plikami, stronami internetowymi, kodem i innymi agentami - sprawiają, że zespoły ludzi nie potrafią już nadążyć za wszystkimi możliwymi typami ataków. Jak wyjaśnia Nikhil Kandpal, badacz z OpenAI i współtwórca GPT-Red: powierzchnia ryzyka rośnie wraz z potencjalnym zasięgiem szkód. Dlatego OpenAI zaprojektował system zdolny do odkrywania nowych sposobów ataku, które wcześniej się nie pojawiały.
GPT-Red ma zabezpieczyć procesem testowania bezpieczeństwa OpenAI na przyszłość. Model już ujawnił nowe typy ataków, które wcześniej nie były znane. OpenAI skupiło się głównie na określonym typie zagrożeń, aby upewnić się, że GPT-5.6 - najnowsza wersja flagowego modelu, zwolniona w ubiegłym tygodniu - będzie gotów na ewoluujące cybernetyczne wyzwania.