Śledztwo przeprowadzone przez Wired wykazało, że na stronie Groka znajduje się duża liczba scałkowanych deepfaków, czyli sztucznie wygenerowanych obrazów i filmów przedstawiających gołe lub seksualizowane postaci. Materiały dotyczą zarówno celebrytek, jak i co najmniej jednej ważnej polityczki z USA. Wszystkie te wizerunki wurden tworzone bez zgody osób, których podobieństwa zostały wykorzystane.
Problematyka deepfaków seksualnych staje się coraz poważniejszą kwestią w branży AI. Technologia generowania obrazów staje się dostępna dla szerokiego grona użytkowników, a brakuje efektywnych mechanizmów, by zapobiegać tworzeniu materiałów nienaturalnych. Platforma Grok, należąca do Elona Muska, miała być znana z mniejszej moderacji treści w porównaniu do konkurentów, co może wyjaśniać, dlaczego tego typu materiały tam się znalazły.
Ujawnienie tego problemu rodzi pytania o odpowiedzialność platform, które umożliwiają takie praktyki. Dla osób, których wizerunki zostały wykorzystane, to poważne naruszenie prywatności i godności. Dla branży AI oznacza to presję na wprowadzenie bardziej restrykcyjnych standardów moderacji treści i wbudowanych zabezpieczeń przed generowaniem nienaturalnych materiałów.