Adwokat Stephen Aarons z Nowego Meksyku został ukarany grzywnę 5 tys. dolarów i uznany za winnego lekceważenia sądu za użycie fikcyjnych świadków i fałszywych zeznań policji wygenerowanych przez AI w apelacji sprawy o morderstwo swojego klienta. Sąd Najwyższy stanu wydał postanowienie w środę, krytykując prawnika za nieweryfikowanie faktów i autorytetów prawnych zawartych w opinii wygenerowanej przez sztuczną inteligencję.
Opinia zawierała zeznania całkowicie wymyślonych świadków oraz fałszywe informacje o ubiorze i wyglądzie podejrzanego o morderstwo. Sędzia C. Shannon Bacon kwestionował podczas przesłuchania w sierpniu, jak Aarons mógł nie być świadom ryzyk związanych z wykorzystaniem AI w praktyce prawnej. Ta sprawa stanowi jeden z pierwszych przykładów karnych konsekwencji wynikających z halucynacji AI - zjawiska, w którym modele AI generują wymyślone informacje z całą stanowczością.
Incydent podkreśla rosnące zagrożenie związane z integracją narzędzi AI do praktyki prawnej bez odpowiedniego nadzoru. Halucinacje AI mogą prowadziła do poważnych błędów w dokumentach sądowych, które mogą zagrażać prawidłowości postępowań prawnych i prawom obywateli. Sprawa Aaronsa jest ostrzeżeniem dla prawników na całym świecie o konieczności weryfikacji wszelkich informacji wygenerowanych przez AI przed ich użyciem w formalnych dokumentach sądowych.