Badacze odkryli, że YouTube i X aktywnie kierują użytkowników do aplikacji tworzących nonconsensual deepfake'i. Za pomocą rekomendacji, linków i algorytmów, platformy ułatwiają dostęp do usług, które generują fałszywe nagie zdjęcia z fotografii oryginalnych - często bez wiedzy i zgody osób przedstawionych na nich. Najgorsze - cena wejścia jest minimalna, zaledwie dolar za pojedynczy obraz.
Problemu "nudify" - jak branża to nazywa - towarzyszą fundamentalne kwestie etyczne i prawne. Aplikacje takie jak Deep Nude czy podobne narzędzia posługują się modelami generatywnymi do syntetyzacji erotycznych wyobrażeń. Młode dziewczyny i kobiety stają się najczęstszymi ofiarami tego typu ataków, z którymi często zmaga się przemoc seksualna w cyfrowym świecie. YouTube i X, choć posiadają polityki zakazujące takich treści, nie potrafią lub nie chcą skutecznie blokować promocji tych usług.
Badanie alarmuje o luce w ekosystemie bezpieczeństwa platform. Wyniki sugerują, że duże serwisy mediów społecznych mogą nieumyślnie wspierać przemysł deepfake'ów poprzez brak zdecydowanych kroków. Sytuacja wymaga natychmiastowej reakcji: wzmocnienia polityk moderacyjnych, lepszego egzekwowania reguł i współpracy z organami ścigania zajmującymi się cyberprzestępczością.