OpenAI podjął działania zmierzające do rozpracowania zorganizowanej grupy oszustów działającej z Kambodży, która masowo wykorzystywała ChatGPT do wsparcia wielorakiego systemu zorganizowanej przestępczości. Grupa prowadziła oszustwa inwestycyjne, romantyczne, hazardowe i podobne się ofiarom poprzez personalizowane komunikowanie.
Operacja pokazuje, że mimo że modele AI mogą mieć legalne zastosowania, w rękach Criminal syndikatów stają się narzędziem do skalowania zdecydowanie bardziej wyrafinowanych kampanii oszustańskich. Kambodża stała się znana z gośzczenia dużych operacji phishingu i oszustw cybernetycznych, a integracja technologii takich jak ChatGPT wzniosła ich zdolności do nowego poziomu skuteczności.
Dzałania OpenAI wskazują na rosnącą świadomość firm technologicznych dotyczącą odpowiedzialności za zapobieganie nadużyciom swoich platform. Jednak ta stała gra w łapki między wprowadzającymi nowe zabezpieczenia a adaptującymi się przestępcami sugeruje, że problem będzie wymagać ciągłych wysiłków - zarówno od firm technologicznych, jak i od organów ścigania na całym świecie.