Urząd Miejski w San Francisco wydał formalny nakaz skierowany do Meta, aby wyjaśniła, w jaki sposób reklamy promujące materiały nadużyć dzieci generowane przez AI wielokrotnie pojawiały się na Facebooku i Instagramie. Chodzi o ogłoszenia oferujące deepfake'i i inne syntetyczne treści związane z exploatacją małoletnich.
Meta konsekwentnie utrzymuje, że materiały reklamowe znajdują się poza jurysdykcją miasta i nie ma obowiązku działania. Jednak urząd śledczy twierdzi inaczej - jako firma zarejestrowana w Kalifornii, Meta powinna być odpowiedzialna za treści, które zamieszcza na swoich platformach. Problem nie jest nowy: naukowcy i organizacje zajmujące się ochroną dzieci dokumentują od miesięcy, że generatory treści AI są wykorzystywane do tworzenia materiałów eksploatacji seksualnej małoletnich, a następnie promowania ich przez płatne reklamy na serwisach społecznościowych.
Sprawę można postrzegać jako kulminacyjny punkt rosnącego napięcia między władzami gminnymi a technologicznymi gigantami. San Francisco już wcześniej egzekwowało przepisy wobec platform, ale tym razem chodzi o szczególnie wrażliwą kwestię. Jeśli Meta zostanie pociągnięta do odpowiedzialności, może to stać się precedensem dla innych miast i krajów, które będą domagać się bardziej zdecydowanych działań wobec reklam szkodliwych treści generowanych przez AI.