Naukowcy opracowali nowy system FASE, który potrafi prognozować działania policyjne, jednocześnie pilnując, by algorytm nie ulegał uprzedzeniom dyskryminacyjnym. Framework łączy analizę grafów spadotemporalnych - czyli reprezentacji zdarzeń rozmieszczonych w przestrzeni i czasie - z zaawansowanymi technikami uczenia maszynowego, aby przewidywać gdzie i kiedy mogą zajść incydenty wymagające interwencji.
Rzecz w tym, że tradycyjne systemy predykcyjne praktykują się w powielaniu historycznych uprzedzeń zawartych w danych treningowych. Jeśli policja historycznie częściej interweniowała w niektórych dzielnicach czy wobec niektórych grup, algorytm uczy się tego wzorca i powtarza go w przyszłości. FASE zmienia to podejście, wbudowując mechanizmy fairness bezpośrednio w architekturę modelu. Twórcy dodali specjalne warstwy dbające o równomierne traktowanie różnych grup społecznych oraz geograficznych obszarów, a system automatycznie koryguje się, gdy wykryje nierównomierne wyniki. To ważne, bo algorytmy wspierające decyzje policyjne mogą w ogromny sposób wpływać na życie ludzi - błędne przewidywania prowadzą do niepotrzebnych kontroli, zaś systematyczne uniemożliwienie mogą tworzyć niewidzialne mury nierówności.
Zespół testował FASE na rzeczywistych danych przestępczości z miast takich jak Chicago i Los Angeles. Wyniki pokazują, że system utrzymuje wysoką dokładność w przewidywaniach, jednocześnie znacznie zmniejszając bias w stosunku do konkurencyjnych rozwiązań. To nie rozwiązanie idealne - żaden algorytm nie będzie - ale pokazuje, że da się budować systemy wspierające bezpieczeństwo bez kosztu rosnącej dyskryminacji. Stanowi to ważny krok w kierunku odpowiedzialnej AI, szczególnie w sektorach publicznych, gdzie algorytmy decydują o sprawach fundamentalnych dla obywateli.