xAI pozwała użytkowników Groka podejrzanych o obejście zabezpieczeń w celu generowania materiałów CSAM, liczymy na to, że zwycięstwo w sądzie zabezpieczy firmę przed odpowiedzialnością za treści tworzone przez użytkowników. Pozwy od dzieci i działania stanu Minnesota mają zmienić Groka i Grok Imagine poprzez wprowadzenie zakazu technologii nudification, którą xAI uważa za sposób na wymuszenie na niej poddania się regulacjom.
Firma Muska argumentuje, że już robi wszystko, aby karać złych aktorów - pozwy przeciwko użytkownikom są tego dowodem. Dlatego twierdzi, że zasługuje na ochronę prawną przed wymaganiami Minnesota. xAI sugeruje, że państwowy zakaz nudification byłby równoznaczny z wymuszeniem na firmie odpowiedzialności za wszystkie potencjalnie szkodliwe wyniki, niezależnie od tego, czy rzeczywiście seksualizują osoby bez zgody.
Sytuacja ujawnia napięcie między dążeniem firm AI do ochrony się przed suami a rosnącym ciśnieniem regulacyjnym i społecznym na walkę z nadużyciami. Aresztowania użytkowników podejrzanych o tworzenie CSAM przy użyciu Groka pokazały realny problem z bezpieczeństwem modelu, ale xAI próbuje pozycjonować pozwy jako wystarczający dowód własnych starań.