Naukowcy opracowali zautomatyzowaną metodę do wykrywania bias i analizy sprawiedliwości przyczynowej w algorytmach uczenia maszynowego, wykorzystując duże modele językowe do generowania raportów z wynikami. Zamiast ręcznych przeglądy, system automatycznie identyfikuje i dokumentuje dyskryminacyjne zależności przyczynowe - czyli sposób, w jaki model podejmuje decyzje w oparciu o cechy mogące prowadzić do niesprawiedliwych wyników. Takie podejście ma kluczowe znaczenie dla bezpieczeństwa sztucznej inteligencji, szczególnie w zastosowaniach, które bezpośrednio wpływają na decyzje dotyczące ludzi, na przykład ubieganie się o kredyt, zatrudnienie czy dostęp do usług medycznych.
Tradycyjnie audyt algorytmów pod kątem bias wymaga zaangażowania specjalistów, których manualnie przeanalizować muszą złożone modele i ich decyzje - proces czasochłonny i podatny na błędy. Nowa metodologia przenosi tę pracę na modele językowe, które potrafią zarówno automatycznie testować dane scenariusze, jak i wytłumaczyć znalezione problemy w zrozumiałej dla człowieka formie. Generowane raporty zawierają konkretne informacje o tym, gdzie i w jaki sposób algorytm wykazuje tendencje do dyskryminacji.
Badania otwierają nowe możliwości dla podmiotów odpowiedzialnych za regulacje sztucznej inteligencji, które coraz częściej wymagają transparentności algorytmów, szczególnie w sektorze finansowym i publicznym. Jednak metoda stawia też ważne pytania o to, czy model językowy zastępujący ludzką analitykę nie wprowadzi własnych bias lub nie przeoczy subtelnych problemów. Mimo to rozwiązanie potencjalnie czyni audyt AI bardziej skalowanym i dostępnym dla małych organizacji, które dotychczas nie dysponowały zasobami na zatrudnienie zespołów zajmujących się bezpieczeństwem algorytmów.