Meta przez dni nie usuwała reklamy zawierające AI-generowane materiały pornografii dziecięcej na Facebooku i Instagramie. Raport opublikowany we wtorek przez Tech Transparency Project wykazał, że platforma nie zdołała wykryć 332 takich reklam w bieżącym roku, a zdecydowana większość promowała aplikacje китайskie służące do "naginania" zdjęć - narzędzia umożliwiające szybkie tworzenie sztucznych materiałów pornograficznych z wykorzystaniem wizerunków dzieci.
Znajomości TTP wykazały, że reklamy wykorzystywały zdjęcia prawdziwych nastolatek, których wizerunki znaleźli w internecie. Przypadki obejmowały prestiżowe zdjęcie młodej członkini rodziny królewskiej, które zostało "ożywione w wideo ukazujące jej wykonywanie czynności seksualnej", oraz foto 14-letniej instagramowej influencerki w uniformie sportowym przekształcone w seksualne wideo. Inna ofiara - dziewczyna w różowym stroju atletycznym z warkoczami - została zanimowana w scenie molestowania. Te materiały zdają się naruszać federalne prawo zabraniające pornografii dziecięcej, zwłaszcza że Departament Sprawiedliwości USA już wyjaśnił, że AI-CSAM jest równie szkodliwe co prawdziwy CSAM.
Investygacja ujawnia krytyczne niedostatki w systemach moderacji Mety, szczególnie gdy chodzi o detekcję nielegalnych materiałów wykorzystujących rzeczywistych dzieci. Problem pogłębia łatwy dostęp do chińskich narzędzi AI, które trafiają na rynek bez kontroli i są otwarte promowane w serwisach społecznościowych. Meta musiała wyjaśnić, dlaczego tak długo trwało usunięcie tych reklam, oraz jak zamierza lepiej chronić najmłodszych użytkowników platformy.