Naukowcy przeanalizowali problem przedwdrożeniowej sprawiedliwości w modelach AI do klasyfikacji rentgenogramów - konkretnie pytanie: kto zostaje pominięty, gdy model konwertuje wyniki na decyzje kliniczne? Problem jest szczególnie poważny w przypadku rzadkich chorób i pacjentów ze mniej reprezentowanych grup (różne płci, wieku, rasy czy ubezpieczenia).
Badanie na zbiorach VinDr-CXR i MIMIC-CXR/CXR-LT wykazało, że samo dobre wyniki rankingowe modelu nie gwarantują prawidłowego diagnozowania u pacjentów z rzadkimi objawami. Stosując technikę "group-tail weighting" połączoną z dostrojeniem progów decyzyjnych wrażliwym na rzadkie klasy, zespół osiągnął znaczne poprawy: wskaźnik błędnie ujemnych wyników dla rzadkich przypadków spadł z 66,5 proc. do 26,9 proc. na VinDr-CXR, a dla najgorszej grupy wiekowej z 82,2 proc. do 13,3 proc.
Kluczowym wnioskiem jest to, że sprawiedliwość diagnostyczna w rentgenogramach zależy od trzech wzajemnie powiązanych czynników: typu znaleziska medycznego, demografii pacjenta i wybranego progu decyzyjnego. To oznacza, że tradycyjne metryki wydajności i robustność grupowa modelu to za mało - trzeba całościowo przemyśleć, jak algorytm przekształca wyniki na decyzje kliniczne, aby uniknąć systemowego pomijania pacjentów z rzadkimi chorobami.