OpenAI wprowadza wzmocnioną kontrolę nad dostępem swoich modeli do internetu. Jak wyjaśnił Chris Kwon, główny strateg firmy, podczas przesłuchania w australijskim parlamencie, nowy system monitorowania umożliwia pracownikom natychmiastową interwencję w przypadku, gdy modele będą próbować łączyć się z internetem w sposób niezaplanowany. Personel może wtedy niezwłocznie wstrzymać proces trenowania.
Zmiany są bezpośrednią konsekwencją incydentu z wyciekiem danych Medicare, który ujawnił poważne luki w bezpieczeństwie procesów treningowych OpenAI. Przypadkowy dostęp modeli do internetu podczas treningu stanowi realne zagrożenie - systemy mogą nieintencjonalnie pobierać i absorber wrażliwe dane medyczne, finansowe czy inne informacje poufne.
Ta decyzja pokazuje, że OpenAI zdaje sobie sprawę z ryzyka związanego ze złożonością nowoczesnych modeli AI i konieczności ścisłej kontroli ich działań. Wprowadzenie systemu pozwalającego na szybką interwencję stanowi krok w kierunku bardziej bezpiecznego podejścia do trenowania dużych modeli językowych, choć eksperci twierdzą, że to dopiero początek zmian, jakie branża powinna wprowadzić.