Naukowcy badający unlearning w modelach dyfuzji odkryli zjawisko o nazwie sequential reappearance - problem polegający na tym, że dane wcześniej uznane za zapomniane przez model mogą powrócić do jego pamięci podczas kolejnych operacji usuwania danych. To stanowi znaczące wyzwanie dla bezpieczeństwa i prywatności modeli generatywnych.
Dotychczasowe badania oceniały efektywność unlearning bezpośrednio po każdym usunięciu, ignorując to co dzieje się podczas dalszych operacji. Zespół zaproponował nową metodę ewaluacji na poziomie targetów, która śledzi czy każde dane zostały zapomniane natychmiast, pozostają zapomniane na końcu sekwencji, czy też powracają podczas kolejnych usunięć. To podejście daje bardziej pełny obraz problemu, który wcześnie umykał uwadze badaczy.
Ważnym odkryciem jest także fakt, że dane które później się ponownie pojawiają wykazują ostrzejszą lokalną geometrię straty denoising-loss po usunięciu, w porównaniu do danych które rzeczywiście pozostają zapomniane. Odkrycie to mogłoby pomóc w opracowaniu lepszych strategii unlearning dla modeli dyfuzji, szczególnie istotnych dla zapewnienia prywatności użytkowników i zgodności z przepisami takimi jak prawo do bycia zapomnianym.