xAI pozwała jednego z użytkowników Groka, twierdząc że wykorzystywał on model do generowania materiałów związanych z seksualizacją dzieci poprzez naruszenie warunków usługi. Pozew jest pierwszym takim krokiem ze strony firmy i stwierdza, że defondant stosował zaawansowaną inżynierię promptów - technikę obchodzenia zabezpieczeń poprzez specjalnie sformułowane instrukcje - aby pokonać mechanizmy bezpieczeństwa Groka.
Sprawa rodzi głębokie pytania o odpowiedzialność firm AI. Sądy na trzech kontynentach muszą rozstrzygnąć, czy producent modelu może być pociągnięty do odpowiedzialności gdy użytkownik umyślnie próbuje obejść zabezpieczenia, oraz czy takie zabezpieczenia miały być rzeczywistą przeszkodą czy raczej symboliczną deklaracją. Podwyższa się tym samym standard dla firm tworzących systemy AI - nie wystarczy już szacować jedynie, czy bezpieczeństwo jest teoretycznie wbudowane w model.
Wynik tego procesu może znacząco wpłynąć na architekturę przyszłych systemów AI i zobowiązania prawne producentów. Jeśli sądy uzna, że firmy muszą gwarantować bezpieczeństwo nawet wobec celowych prób obejścia, może to wymusić bardziej zaawansowane mechanizmy zabezpieczające lub ograniczyć publicznie dostępne modele.