OpenAI odkrył i wstrzymał sieć kont pochodzących z Rosji, które stosowały AI do budowania fałszywych narracji online. Kampania polegała na promowaniu sztucznego izraelskiego think tanku oraz tzw. indeksu suwerenności, który wyrażał pochwałę dla Rosji jednocześnie krytykując zachodnie kraje i instytucje.
Operacja stanowi dobry przykład tego, jak współczesne modele AI mogą być wykorzystywane w kampaniach wpływu i dezinformacji. Sprawcy nie budowali tylko bota - tworzyli całą ekosystem wiarygodnie wyglądających struktur, wykorzystując zdolności generatywne do skalowania treści i personalizacji komunikatów. Taka taktyka jest szczególnie niebezpieczna, bo łączy programową amplifikację z pozorem autentyczności, którą zapewnia AI.
Zachycenie kampanii przez OpenAI jest ważne, bo pokazuje, że twórcy modeli zaczynają brać poważnie monitorowanie nadużyć. Jednak odkrycie ujawnia też nową rzeczywistość: zawsze będzie wyścig między coraz bieglejszymi metodami zagrożeń a obronę. Operacje dezinformacyjne będą ewoluować, a kluczowe będzie opracowanie narzędzi do detektowania i przerywania takich kampanii zanim zyskają podważającą zaufanie skalę.