Utah zezwolił sztucznej inteligencji na samodzielne badanie pacjentów i przepisywanie leków bez wymaganego bezpośredniego nadzoru lekarza. Decyzja ustawodawcza czyni Utah pierwszym stanem w Stanach Zjednoczonych, który legalizuje taki zakres autonomii dla systemów AI w opiece zdrowotnej.
Stanowiący stanu uzasadniają ten krok niedostateczną liczbą lekarzy w mniej zaludnionych obszarach i chęcią przyspieszenia dostępu do porad medycznych. Technologia miałaby szczególnie wspierać regiony słabo wyposażone w infrastrukturę służby zdrowia, gdzie pacjenci czekają tygodniami na wizytę u specjalisty. Zwolennicy podkreślają potencjał AI do obsługi podstawowych diagnoz i rutynowych recept, zwalniając lekarzy do bardziej skomplikowanych przypadków.
Proponowana zmiana wywołała falę krytyki ze strony zawodowych stowarzyszeń lekarskich oraz ekspertów zajmujących się bezpieczeństwem sztucznej inteligencji. Główne obawy dotyczą braku jasnych mechanizmów odpowiedzialności w przypadku błędnego zdiagnozowania, nieodpowiednich recept lub niezamierzonych działań niepożądanych. Krytycy wskazują, że AI może przeoczyć rzadkie objawy lub nie uwzględnić historii medycznej pacjenta z wystarczającą nuansowością, a całkowita autonomia bez przeglądu człowieka stanowi potencjalne zagrożenie dla bezpieczeństwa publicznego.