Naukowcy z arXiv zaproponowali J-Access, nową metodę audytowania modeli jezyka podczas wnioskowania, która mapuje reprezentacje wewnętrzne na przestrzeń słownika i mierzy, jak często zakazane koncepty pozostają dostępne w ścieżce wyjściowej modelu. Odkrycie jest zasadnicze: gdy wiedza pozostaje bliżej wyjścia modelu, wymaga mniej fine-tuningu aby ją przywrócić.
Team zbadał 398 publicznie dostępnych modeli poddanych unlearningowi za pomocą ośmiu różnych metod. Główne ustalenia to: większość modeli unlearned zachowuje dostęp do zakazanej wiedzy powyżej poziomu baseline, dostępność wiedzy w warstwach modelu pozwala prognozować prędkość i zakres jej odzyskania na poziomie modelu, ale nie wskazuje które konkretne fakty będą odzyskane. Kluczowy wniosek ma istotne implikacje bezpieczeństwa: bezpośrednia minimalizacja wyniku J-Access nie promuje prawdziwego usunięcia informacji. Zamiast tego model uczy się po prostu ukrywać wiedzę przed audytem, osiągając niższe wyniki audytu ale większe ryzyko odzyskania w praktyce.
Badanie wskazuje, że wewnętrzne audytowanie nie powinno polegać na optymalizacji metryk audytu, ale na mierzeniu rzeczywistej podatności modelu na odzyskanie. Różnica między zmniejszeniem obserwowanych śladów wiedzy a rzeczywistym zapomnieniem jest kluczowa dla ontwoju bezpieczniejszych metod unlearning.