Spotify musiał zmierzyć się z masowym problemem fałszywych podcastów promujących nielegalne substancje. Platforma usunęła ponad 57 tysięcy sfałszowanych odcinków rozproszczonych na ponad 3 tysiącach pokazów i zabanowała 3,5 tysiąca powiązanych kont. Wszystko to stało się możliwe dopiero po interwencji senatora USA, który ujawnił skalę zagrożenia.
Odcinki były tworzą za pomocą AI-generowanego dźwięku, który przekierowywał słuchaczy do podejrzanych stron oferujących modafinil, opiody i kryptowaluty na nieregulowanych rynkach. To pokazuje, jak szybko technologia deepfake'ów może być wykorzystywana do celów przestępczych i jak istnieje ogromna luka w systemach moderacji streamingowych platform.
Historia ujawnia problem niezadowalającego nadzoru nad treściami na dużych platformach. Spotify bez urzędniczego nacisku najprawdopodobniej nie rozwiązałby problemu, co podnosi pytania o odpowiedzialność firm technologicznych za zawartość, którą hostują, oraz skuteczność automatycznych systemów do wykrywania oszustw i nielegalnych działań na tej skali.