Chińscy pracownicy odkryli, że sztuczna inteligencja potrafi tworzyć deepfake'i ich twarzy i głosu na tyle dokładnie, że mogą być wykorzystywane do oszustw i kradzieży tożsamości. Problem dotyka masę ludzi zajmujących się pracą biurową, edukacją i obsługą klienta, których wizerunki są szeroko dostępne w internecie, co ułatwia uczenie modeli AI. Jednocześnie chińskie platformy pracownicze i aplikacje do weryfikacji tożsamości zaczynają wprowadzać bardziej zaawansowane systemy ochrony, by rozróżnić prawdziwe osoby od cyfrowych duplikatów.
Zjawisko ujawnia skalę nowych zagrożeń bezpieczeństwa związanych z rozpowszechnianiem się generatywnego AI. W Chinach, gdzie cyfryzacja pracy jest zaawansowana, a biometria popularna, problem jest szczególnie dotkliwy. Pracownicy muszą teraz mierzyć się nie tylko z tradycyjnym phishingiem, ale także z atakami wykorzystującymi ich własne, sintetycznie wygenerowane twarze - co sprawia, że atakujący mogą bezpośrednio personifikować ofiary. Stanowi to ostrzeżenie dla reszty świata o szybkości, z jaką technologia może wyprzedzić systemy bezpieczeństwa.
Historia pokazuje również, jak kulturowy kontekst wpływa na rozpowszechnianie się konkretnych zagrożeń AI. W krajach z mniej rozpowszechnioną biometrią lub niższą zdigitalizowaniem pracy zagrożenie może być mniejsze, ale nie oznacza to, że świat zachodni jest na nią przygotowany. Eksperci podkreślają potrzebę legislacji regulującej tworzenie deepfake'ów oraz edukacji publicznej na temat weryfikacji autentyczności osób w interakcjach cyfrowych.