Sztuczna inteligencja generatywna stała się źródłem nowego zagrożenia dla bezpieczeństwa informacyjnego. Sprawia, że tradycyjne metody wykrywania fałszywych treści przestają działać, bo fałszywe narracje rozprzestrzeniają się szybciej i są coraz trudniejsze do zidentyfikowania. Naukowcy zdali sobie sprawę, że zamiast czekać aż materiały dezinformacyjne się pojawią i reagować na nich, należy przejść do gry o krok naprzód – czyli przewidywać i zapobiegać.
Badania opisane w artykule proponują systemowe podejście oparte na modelu C5, który śledzi pełny cykl życia fałszywych kampanii informacyjnych. Model ten bierze pod uwagę kontekst, w którym fałszywe informacje się rodzą, przyczyny ich rozpowszechniania, samą zawartość, sposób amplifikacji w sieciach społecznych oraz ostateczne skutki społeczne. Ta perspektywa łączy zaawansowaną informatykę z naukami społecznymi, co pozwala lepiej rozumieć mechanizmy rozprzestrzeniania się dezinformacji zarówno od strony technicznej, jak i ludzkiej.
Zespół prezentuje też konkretne narzędzia do walki z tym zagrożeniem na każdym etapie kampanii. Chodzi o metody wykrywania anomalii w dużych zbiorach danych, analizu skoordynowanych działań botów i sztucznych kont, modelowanie rozprzestrzeniania się jak w epidemiologii oraz wykorzystanie zaawansowanych systemów AI do prognozowania zagrożeń. To ważne, bo każdy etap wymagała innego podejścia – na przykład wykrycie fałszywej narracji zaraz po jej powstaniu wymaga innych technik niż identyfikacja sztucznej amplifikacji lub zmapowanie sieci koordynujących ją kont.