OpenAI stworzył zaawansowany model AI zwany GPT-Red, którego funkcją jest atakowanie i testowanie bezpieczeństwa własnych systemów. Model działa jako zautomatyzowany red-teamer, szukając luk w bezpieczeństwie i podatności, które mogą być wykorzystane do obejścia zabezpieczeń. Odkrycie to niedawnie ujawniła sama firma.
Zgodnie z oświadczeniem OpenAI, GPT-Red jest uznawany za zbyt niebezpieczny do publicznego ujawnienia. Dlatego model pozostaje ściśle kontrolowany i nie jest udostępniany innym badaczom ani firmom. To odzwierciedla rosnące zainteresowanie branży bezpieczeństwem modeli AI i potrzebą wewnętrznego testowania przed publicznym wdrażaniem.
Initjatywa pokazuje, jak firmy zajmujące się sztuczną inteligencją biorą odpowiedzialność za identyfikację zagrożeń w swoich systemach. Trzymając GPT-Red w tajności, OpenAI stara się uniknąć sytuacji, w której zaawansowana technika ataku mogłaby być wykorzystana do narażenia bezpieczeństwa użytkowników lub samych systemów AI.