OpenAI zidentyfikowała i wstrzymała dwie operacje wpływu, które wykorzystywały modele AI do tworzenia fałszywych tożsamości dziennikarzy i instytucji w celu rozpowszechniania omawiających treści geopolitycznych. Operacje te funkcjonowały jako zorganizowane sieci dezinformacyjne, wykorzystując technologię AI do automatyzacji i skalowania swoich działań.
Podejście wykorzystywało sztuczną inteligencję do generowania treści, która miała pozornie legitymacyjny charakter, ale była w rzeczywistości elementem skoordynowanej kampanii wpływu. Fałszywych dziennikarzy i think tank'i używano jako fasady do budowania wiarygodności i dotarcia do szerszych odbiorców. To odkrycie demaskuje rosnący trend wykorzystywania LLM i generatywnych modeli AI przez aktorów zainteresowanych manipulacją opinią publiczną.
Wstrzymanie tych operacji przez OpenAI ma istotne znaczenie dla edukacji publicznej na temat zagrożeń związanych z nadużywaniem AI. Pokazuje konieczność wzmocnienia kontroli nad używaniem zaawansowanych modeli AI oraz potrzebę ciągłego monitorowania potencjalnych nadużyć. Przyszłe działania mogą obejmować współpracę z platformami medialnymi i organami odpowiadającymi za bezpieczeństwo informacji w celu wczesnego wykrywania podobnych kampanii dezinformacyjnych.