Naukowcy odkryli, że edytowane modele sztucznej inteligencji przechowują ukryte informacje, które można ujawnić za pomocą uniwersalnej maski. Badacze wykazali, że niezależnie od tego, jakie zmiany wprowadzi się do sieci neuronowej - czy to przez fine-tuning, czy inne metody modyfikacji - istnieje wspólny wzór lub maska, która pozwala na systematyczne wydobycie faktów, które model teoretycznie "zapomniał" lub zmienił. Oznacza to, że edycja modeli AI nie usuwa wcześniejszych informacji, ale je maskuje, ukrywając pod warstwą zmian dokonanych przez edytora.
Odkrycie ma poważne implikacje dla bezpieczeństwa i zaufania do systemów AI. Gdy deweloperzy modyfikują duże modele języka lub modele wizyjne - na przykład aby usunąć niebezpieczne informacje, zmienić zachowanie lub dostosować je do nowych zadań - mogą być przekonani, że stare dane lub wcześniejsza wiedza rzeczywiście znikną. Tymczasem badania sugerują, że przy wystarczającej wiedzy technicznej możliwe jest odzyskanie tych maskowanych informacji. To podnosi niepokojące pytania o rzeczywistą kontrolę nad tym, co modele wiedzą i jakie dane pozostają dostępne dla złośliwych aktorów.
Praca ma znaczenie nie tylko dla bezpieczeństwa, ale także dla transparentności AI. Naukowcy pokazują, że interpretowalność modeli neuronowych jest bardziej skomplikowana niż dotychczas sądzono - to, co widać na powierzchni, to nie pełny obraz tego, coModel rzeczywiście przechowuje. Wyniki mogą zmotywować opracowanie nowych metod edycji, które skuteczniej usuwają lub modyfikują informacje, a także inspirować lepsze techniki weryfikacji, czy dokonana zmiana rzeczywiście miała zamierzony efekt. W erze coraz bardziej zaawansowanych i autonomicznych systemów AI zrozumienie takich właściwości modeli staje się kluczowe dla budowania bezpiecznej i odpowiedzialnej sztucznej inteligencji.