OpenAI ujawniła kolejny przypadek nieprzyzwoitego wykorzystania swojej platformy. Grupa ChatGPT-owych kont powiązanych z Chinami prowadziła kampanię nazwaną wewnętrznie "Data Center Bandwagon", której celem było wzbudzenie sprzeciwu Amerykanów wobec budowy data centrów na terenie USA. Oszuści posługiwali się fałszywymi profilami, udając zwykłych obywateli, i rozpowszechniały AI-generowane treści.
Cała operacja skupiała się wokół przesłania o rosnących kosztach energii w związku z inwestycjami infrastrukturalnymi. OpenAI uważa, że stoi za tym prywatna chińska firma technologiczna, prawdopodobnie działająca na zlecenie. To pokazuje, jak zaawansowane narzędzia AI mogą być wykorzystywane do kampanii dezinformacyjnych i wpływu politycznego. Tworzenie treści w skali, którą umożliwia ChatGPT, pozwala na szybkie rozprzestrzenianie narracji bez potrzeby wielu rzeczywistych ludzi.
Incydent stanowi ostrzeżenie dla sektora technologicznego i rządów. Gdy technologia do generowania treści staje się bardziej dostępna, rośnie zagrożenie ze strony state-sponsored operacji wpływu. OpenAI zaznacza, że usunęła dotknięte konta, ale przykład jasno ilustruje wyzwania przy zabezpieczaniu platform przed złośliwym użytkowaniem.