Rozszerzona pozwa zbiorowa wskazuje na przypadek, w którym mężczyzna wykorzystał chatbota Grok xAI do wygenerowania siedmiu tysięcy seksualnie jawnych obrazów swojej pasierbicy. Według skargi bazował na jednym zdjęciu dziewczyny wykonanym, gdy miała 11 lat. Po odkryciu tej działalności przez policję mężczyzna popełnił samobójstwo w marcu. Pozew twierdzi, że Grok generował ekstremalne treści depictujące kazirodztwo i gwałt bez jakichkolwiek flagowania czy blokowania, a system bezpieczeństwa xAI zadziałał dopiero wobec prośby o obrazy gang rape'u.
Sprawa stanowi jeden z najbardziej przerażających znanych przypadków wykorzystania AI do generowania materiałów przedstawiających seksualne wykorzystanie dzieci. Pozew rozszerza zarzuty poza xAI i platformę X, twierdzą, że firmy celowo budują narzędzia "nudify" służące do tworzenia seksualnych deepfake'ów, a przy tym aktywnie utrudniają śledztwa policyjne w sprawie materiałów CSAM generowanych przez Groka. Oskarżenie obejmuje także zarzuty, że xAI nie współpracuje wystarczająco z organami ścigania.
Sprawa ma znaczące konsekwencje dla regulacji sztucznej inteligencji i bezpieczeństwa. Wygenerowało CyberTip wysłany do National Center for Missing and Exploited Children (NCMEC), które następnie poinformowało organy ścigania. Pozew sugeruje, że firmy zajmujące się AI muszą drastycznie wzmocnić kontrolę nad generowaniem treści o charakterze seksualnym i współpracować z organami odpowiedzialnymi za ochronę dzieci, zamiast utrudniać śledztwa.