Modele sztucznej inteligencji w medycynie są często udostępniane bez danych treningowych, co ma chronić prywatność pacjentów. Jednak badaczom z arXiv udowodnili, że sam model może zdradzić, czy dane konkretnego pacjenta zostały użyte podczas trenowania - zjawisko znane jako atak inferencji przynależności, stanowiący realny wyciek prywatności.
Problemmem jest, że ryzyko tego ataku raportowane jest zwykle jako średnia dla całej kohorty, co może wyglądać na zaniedbywalne, podczas gdy poszczególni pacjenci są niemal na pewno zagrożeni. Zespół przeanalizował 7789 modeli trenowanych na sześciu klinicznych zbiorach danych w czterech modalności, w tym dwóch adaptowanych pretrenowanych modelach medycznych. Odkryli coś ważnego: chociaż wybory treningowe zmieniały liczbę pacjentów o wysokich wynikach ataku, pacjenci z największym ryzykiem pozostawali zasadniczo ci sami niezależnie od testowanych konfiguracji, architektury czy inicjalizacji - nawet w foundation modelach.
W odpowiedzi naukowcy opracowali lekkie narzędzie screening-owe, które wykorzystuje cztery małe modele do identyfikacji pacjentów z wysokim ryzykiem ekspozycji przed treningiem modelu produkcyjnego. Wzmocnienie weight decay zmniejszało ekspozycję kohorty aż trzykrotnie, ale ci sami pacjenci pozostawali most at risk. Zespół zbadał również możliwość ochrony oznaczonych pacjentów bez usuwania ich danych. Badanie sugeruje, że skanowanie prywatności powinno stać się standardową częścią przygotowania danych dla medycznej AI.