Prokurator generalny San Francisco David Chiu wznowił działania prawne przeciwko producentom szkodliwych aplikacji AI, wysyłając wezwania do zaprzestania działalności zarówno do Apple'a, jak i Google'a. Dokumenty nakazują usunięcie 13 aplikacji określanych mianem nudification apps z obu app storeów w ciągu 10 dni. Te narzędzia wykorzystują sztuczną inteligencję do przekształcania zwykłych fotografii w materiały pornograficzne poprzez automatyczne usuwanie ubrania, modyfikację twarzy czy podmianę głów ofiar na nagie ciała innych osób.
Takie aplikacje stanowią poważny problem związany z tworzeniem deepfake pornografii, która może być wykorzystywana do harasu, szantażu i naruszenia godności osobistej. Chiu argumentuje, że zarówno Apple jak i Google naruszają kalifornijskie przepisy zabraniające wspierania usług służących do produkcji tego typu materiałów. Aplikacje zostały już zidentyfikowane jako powszechnie dostępne w obu app storeach, a ich obecność budzi obawy legislatorów i ekspertów ds. bezpieczeństwa.
Ta akcja jest częścią szerszego zaangażowania stanowych władz w walkę z niewłaściwym wykorzystaniem technologii AI. Chiu już wcześniej pozywał podmioty odpowiadające za podobne naruszenia, a ta interwencja pokazuje, że organy ścigania zaczynają traktować poważnie kwestię deepfake pornografii i jej roli w cyberprzemocy.