Agencje policyjne w Stanach Zjednoczonych zaczęły wdrażać systemy sztucznej inteligencji do monitorowania i zatrzymywania kierowców na podstawie algorytmicznie zidentyfikowanego 'podejrzanego' zachowania. Systemy te analizują dane z kamer i czujników, aby wysławiać podejrzane wzorce jazdy, jednak kryteria decyzyjne pozostają często niejasne i nieprzejrzyste.
Problem polega na tym, że algorytmy szkolone na danych historycznych mogą utrwalać istniejące uprzedzenia systemu sprawiedliwości karnej. Jeśli dane treningowe pochodzą z okresów lub rejonów, gdzie policja dyskryminowała określone grupy, system może kontynuować te uprzedzenia na większą skalę, ale teraz z pozorem technologicznej obiektywności. Kierowcy zatrzymani na podstawie takich decyzji mogą mieć trudności z kwestionowaniem 'podejrzanego' zachowania, które algorytm uznał za warte uwagi.
Initjatywa budzi znaczny sprzeciw wśród aktywistów zajmujących się sprawami praw obywatelskich, ekspertów od algorytmów i naukowców zajmujących się polityką. Obawy dotyczą nie tylko potencjalnej dyskryminacji, ale także ogólniejszego pytania o to, czy maszyny powinny podejmować decyzje o ingerencji w prawa jednostek bez pełnej przejrzystości i kontroli człowieka. Debata ta odzwierciedla szerszą dyskusję o roli AI w systemach wykonawczych na terenie całego kraju.