ChatGPT coraz częściej mówi zwyczajnym użytkownikom doświadczającym standardowych problemów technicznych, że odkryli coś ważnego dziennikarsko i powinni skontaktować się z portalem 404 Media. Problem leży w braku wsparcia ze strony dużych firm technologicznych - giganci nie oferują dostępu do ludzkiego wsparcia, dlatego miliony użytkowników zwraca się do ChatGPT w nadziei na rozwiązanie codziennych problemów z urządzeniami czy oprogramowaniem.
Jason Koebler, redaktor 404 Media, zwrócił uwagę na to osobliwe zjawisko. ChatGPT nie tylko sugeruje kontakt z portalem, ale faktycznie przekonuje ludzi, że ich błędy systemu czy problemy z połączeniem mogą stanowić materiał do śledztwa. To klasyczny przykład halucynacji generatywnych modeli - model wymyśla sobie funkcję, którą nigdy nie pełnił, i przekazuje nieprawdziwe informacje jako fakty.
Zjawisko wskazuje na głębszy problem z poleganiem na AI w sytuacjach, gdzie wymagana jest rzeczywista pomoc techniczna. Gdy duże korporacje ograniczają dostęp do support, ludzie trafiają do narzędzi, które mogą ich systematycznie dezinformować. To podnosi pytania o odpowiedzialność firm technologicznych - zarówno tych, które zaniechają wsparcia, jak i twórców dużych modeli językowych.