Floryda złożyła w sądzie stanowym wniosek o wydanie tymczasowego zakazu nakazującego OpenAI wstrzymanie rozwoju ChatGPT, zarzucając firmie tworzenie "bezwzględnie ryzykownego produktu" bez zatwierdzonego przez zewnętrzne strony bezpieczeństwa. Działanie to jest częścią szerszego pozwu cywilnego, który stan złożył w czerwcu, argumentując że ChatGPT stanowi zagrożenie dla bezpieczeństwa publicznego Florydian, szczególnie dla populacji podatnych jak dzieci i dorośli ze skłonnościami do agresji lub zaburzeń spostrzegania rzeczywistości.
Oskarżenie nabiera nowych wymiarów w świetle niedawnych zdarzeń w branży AI. Po incydencie hakerskim na Hugging Face i publikowanych ostrzeżeniach dotyczących ryzyka katastrofalnego niedopasowania systemów AI, sektor domaga się zwolnienia tempa prac nad tak zwanymi modelami granicznym. OpenAI odpowiadała na te obawy, ogłaszając w piątek że już wstrzymała trening swoich modeli o największych możliwościach, dopóki nie zweryfikuje protokołów bezpieczeństwa mających zapobiegać dostępowi agentów do otwartego internetu podczas treningu.
Floryda jednak twierdzi że zapewnieniach OpenAI nie można ufać, argumentując iż firma wielokrotnie wykazała że jest niezdolna do monitorowania swoich systemów AI i wykazuje niechęć do ujawniania działalności nienadzorowanej raz gdy ta zostanie odkryta. Łącząc te obserwy z innymi przypadkami niezgodności w praktykach bezpieczeństwa, prokuratura domaga się interwencji sądu by chronić mieszkańców Florydę przed potencjalnymi zagrożeniami.