Sąd Najwyższy Nowego Meksyku zastosował sankcję bezpośredniego pogwałcenia porządku sądowego wobec adwokata Stephena Aaronsa za złożenie pisma apelacyjnego pełnego fałszywych zeznań pochodzących z ChatGPT. Dokument zawierał fikcyjne zeznania całkowicie wymyślonych świadków, w tym fałszywe zeznania policjanta i wiele innych błędów faktycznych i prawnych. Aarons przyznał przed sądem, że nie zweryfikował faktów ani cytowanych źródeł prawnych w swoim piśmie wygenerowanym przez AI przed jego podpisaniem i złożeniem. Co gorsza, nie poinformował swojego klienta o tych zaniedbaniach ani o tym, że dokument zawiera wielokrotne zniekształcenia.
Aarons pracuje jako obrońca w sprawach karnych w Nowym Meksyku od ponad 40 lat. Rodzina zatwierdzonego pozwu zatrudniła go do złożenia apelacji w sprawie Oscara Renee Sandovala, skazanego na dożywocie w lutym 2025 roku za morderstwo swojej partnerki Shiereen Al-Jibury. Sąd Najwyższy stwierdził, że adwokat wykazał brak żalu i brak troski o interesy swojego klienta. Zgodnie z decyzją sądu, sprawa została przekazana komisji dyscyplinarnej do dalszych postępowań.
Ta sprawa stanowi wstrząsający przykład ryzyka związanego z nieprzemyślanym wykorzystywaniem narzędzi AI w zawodzie, gdzie dokładność, weryfikacja faktów i odpowiedzialność zawodowa są absolutnie fundamentalne. Chociaż sztuczna inteligencja może być pomocna w badaniach prawnych czy redagowaniu dokumentów, nie może zastępować ludzkiego dochodzenia diligence. Przypadek Aaronsa powinien być ostrzeżeniem dla całej branży prawniczej na temat konieczności odpowiedzialnego wykorzystania AI i zawsze weryfikacji output przed użyciem go w oficjalnych dokumentach.