Naukowcy sprawdzili, jak bezpieczne są generatywne modele AI tworzące sztuczne trajektorie ruchu - odkryto lukę w ochronie danych przed atakami hackerów. Badanie skupiło się na testowaniu, czy sztuczne ścieżki przemieszczania się generowane przez te modele rzeczywiście chronią prywatność oryginalnych danych treningowych, czy też można je wykorzystać do wyłudzenia wrażliwych informacji. To ważne pytanie, bo tego typu modele coraz częściej trafiają do aplikacji logistycznych, usług transportowych i systemów śledzenia flot. Wrażliwe dane lokalizacyjne mogą ujawnić, dokąd się poruszamy, gdzie mieszkamy lub pracujemy, dlatego bezpieczeństwo ich przetwarzania jest kluczowe dla użytkowników.
Zespół badawczy przeprowadził całościową ocenę, testując modele pod kątem ataku estrakcji informacji - czyli metody, w której atakujący próbuje "wyciągnąć" z modelu szczegóły o danych uczących. Okazało się, że niektóre modele nie są wystarczająco odporne na taki scenariusz i mogą przeciekać informacje o rzeczywistych trajektoriach, które zostały użyte do ich trenowania. Badania pokazują konkretne słabości w architekturze tych rozwiązań.
Wyniki mają bezpośrednie znaczenie dla branż, które chcą wdrażać generatywne modele do syntezy trajektorii w rzeczywistych systemach. Przed masowym zastosowaniem trzeba wzmocnić mechanizmy ochrony, na przykład poprzez zaawansowane techniki różnicowej prywatności lub inne metody maskowania danych. Dla firm zajmujących się transportem, logistyką czy analityką ruchu drogowego to sygnał, że należy bardziej skrupulatnie weryfikować bezpieczeństwo modeli, zanim powierzą im rzeczywiste dane pasażerów i pojazdów.