Prawie 60 procent materiałów wideo wyświetlanych nowym użytkownikom TikToka to treści generowane przez sztuczną inteligencję. Do takiego wniosku doszła platforma do edycji wideo Kapwing, która przeanalizowała 10 742 filmy z 20 najpopularniejszych kategorii i oddzielnie przebadała pierwsze 500 wpisów na For You page świeżo utworzonego konta.
Problematyczne jest to, że algorytm TikToka wydaje się promować AI-generated content, zwłaszcza dla początkujących użytkowników. Treści generowane przez AI są tanią i łatwo skalowalna alternatywą dla oryginalnych produkcji, co zachęca twórców (lub całkowicie zautomatyzowane boty) do ich masowej produkcji. W rezultacie nowe osoby otwierające TikToka trafiają na fal materiałów niskiej jakości zamiast odkrywać rzeczywistych autorów i ich prace.
To zjawisko ma znaczące konsekwencje dla ekosystemu platformy. Zmniejsza motywację do tworzenia oryginalnych treści wśród amatorskich twórców, podważa zaufanie do TikToka jako źródła autentycznej zawartości i może przyczynić się do migracji użytkowników na konkurencyjne platformy. Dla TikToka to sygnał, że algoritm rekomendacyjny wymaga poważnej recenzji, by lepiej balansować między wskaźnikami zaangażowania a jakością i autentycznością treści.