TikTok rozpoczął testy narzędzia do automatycznego wykrywania AI-generowanych wizerników twórców. Funkcja działa na zasadzie opt-in i pozwala użytkownikom zgłaszać wirtualne odpowiedniki swojej twarzy do platformy - testy obejmują na razie wybranych twórców w Stanach Zjednoczonych, jak potwierdził rzecznik TikToka Zachary Kizer.
Każdy chcący korzystać z narzędzia musi najpierw zweryfikować swoją tożsamość poprzez serwis Jumio, co wymaga wykonania selfie w czasie rzeczywistym i przeskanowania dokumentu tożsamości. TikTok zapewnia, że nie przechowuje samych dokumentów czy szczegółowych danych biometrycznych, choć pełne szczegóły procesu technologicznego nie zostały ujawnione.
Platforma reaguje na wcześniejsze ruchy konkurencji - YouTube pracuje nad podobnym systemem ochrony i niedawno udostępnił go wszystkim dorosłym użytkownikom. Deepfaki oraz nieuprawnionym używane wizerunki AI stały się poważnym problemem branży creator'ów, zwłaszcza przy możliwościach szybkiego generowania wideo przy użyciu najnowszych modeli sztucznej inteligencji.