Badacze z arXiv skoncentrowali się na problemie machine unlearning w dużych modelach audio-języka, czyli na usuwaniu prywatnych informacji, które modele niepotrzebnie zapamiętały. Duże modele audio-języka (LALMs) wykazują mocne zdolności w rozumieniu mowy i odpowiadaniu na pytania dotyczące zawartości audio, ale niosą ze sobą ryzyko ujawnienia wrażliwych danych zapamiętanych podczas treningu na ogromnych zbiorach danych.
Zadanie unlearning dla speech QA jest bardziej złożone niż dla tekstowych modeli języka, ponieważ wiąże się z bezpośrednim sprzężeniem między percepcją akustyczną a wiedzą faktyczną. Zespół badawczy przetestował kilka podejść: gradient ascent, task arithmetic oraz metody fine-tuning oparte na alignmencie, które zmuszają model do bezpiecznych odpowiedzi typu refusal. Eksperymenty na zbiorach danych speech QA wykazały, że te metody unlearning mogą zmniejszyć wskaźnik przecieków prywatności do 80%.
Wyniki sugerują, że możliwe jest efektywne usuwanie prywatnych informacji z LALMs bez znaczącej utraty wydajności na zadaniach niemających związku z prywatnością oraz na ogólnych benchmarkach rozumienia mowy. Jest to istotne dla przyszłego wdrażania takich modeli w aplikacjach wymagających wysokich standardów bezpieczeństwa i ochrony danych użytkowników.