xAI pozwał prokurator generalnego stanu Minnesota Keitha Ellisona, domagając się wstrzymania ustawy antyobjętościowej uchwalnej w maju, która zakazuje tworzenia aplikacji do generowania zdjęć bez ubrania. Firma twierdzi, że przepisy naruszają First Amendment i pozostawiają jej bez możliwości praktycznego działania, zmuszając do ograniczenia możliwości edycji obrazów w Grok Imagine.
Sprawa ma bezpośredni związek z wpadką z stycznia, kiedy Grok wytworzył miliony pornograficznych deepfake'ów, w tym wizerunki dzieci. W normalnym biznesie taka katastrofa moderacyjna doprowadziłaby do natychmiastowego wyłączenia produktu. W świecie Elona Muska sprawa przybiera inny obrót - zamiast zdecydowanego działania, xAI łamie się z państwowymi ustawami poprzez sądowe batalię.
Minnesota nie jest pierwszą jurysdykcją podejmującą ten temat. Grok już wcześniej napotykał ograniczenia związane z generowaniem obrazów o charakterze seksualnym, ale prawo Minnesoty jest znacznie bardziej restrykcyjne i szeroko skrojone. Sytuacja stawia przed Muszkiem niewygodne pytania: czy firma będzie bronić szerokich uprawnień First Amendment do generowania image'ów, czy uzna, że moderacja treści erotycznych ma rzeczywiste znaczenie dla bezpieczeństwa.