Urząd Prokuratora San Francisco nakazał Apple i Google zdemontować 13 aplikacji typu face-swap, które są niemal wyłącznie używane do tworzenia porno deepfake'ów ze zdjęć kobiet i dziewczyn bez ich zgody. Aplikacje działają poprzez sztuczną inteligencję, która zamienia twarze użytkowników na ciała ze zdjęć pornograficznych, generując realistycznie wyglądające obrazy.
Problem ten zyskał na znaczeniu w ostatnich latach wraz z popularyzacją technologii generatywnej. Aplikacje takie jak Nudify.online, Deepnude i im podobne zgromadziły miliony pobrań, zarabiając na subskrypcjach użytkowników chętnych do tworzenia takich materiałów. Kobiety i dziewczyny są przeważnie niświadome, że ich wizerunki zostały zamieszane w tego typu treści, co stanowi formę seksualnego wykorzystania cyfrowego.
Harris, Prokurator Miasta San Francisco, podkreśla, że te aplikacje stanowią bezpośrednie zagrożenie dla bezpieczeństwa i godności osób, szczególnie nieletnich. Listy ostrzegawcze postawione przed Apple'em i Google'em zmuszają firmy do wyboru: albo usunąć aplikacje ze swoich sklepów, albo stanąć w obliczu potencjalnych konsekwencji prawnych. Akcja ta może stać się precedensem dla innych miast i stanów, które rozważają podobne regulacje dotyczące sztucznej inteligencji generatywnej.