Common Sense Media, organizacja non-profit specjalizująca się w ocenach aplikacji i usług z fokusem na bezpieczeństwo młodzieży, uznała ChatGPT for Teens za niedopuszczalne ryzyko. Funkcja wprowadzona przez OpenAI w sierpniu miała zawierać mechanizmy ochrony dla nastolatków i wspierać edukację, ale organizacja twierdzi, że oferowane zabezpieczenia nie spełniają obietnic złożonych przez firmę.
Wg oceny Common Sense Media ChatGPT dla nastolatków zawodzi na kilku kluczowych punktach. System nie wysyła alertów do rodziców, gdy powinien to robić, nie zapewnia właściwej pomocy w sytuacjach kryzysowych i nadal pozwala uczniom na oddawanie pracy domowej wykonanej przez sztuczną inteligencję. To szczególnie ważne, biorąc pod uwagę rosnące obawy o uzależnienie młodzieży od AI i wpływ na jej niezależny rozwój intelektualny.
Raport organizacji sugeruje, że OpenAI nie wystarczająco przetestowała funkcję przed wprowadzeniem jej na rynek. Krytyka z tak poważanego źródła może mieć wpływ na postrzeganie bezpieczeństwa AI wśród rodziców i edukatorów. Dla OpenAI to kolejne wyzwanie związane z bezpieczeństwem produktu, szczególnie w kontekście rosnących regulacji dotyczących usług skierowanych do dzieci.