Badacze zaproponowali nową metodę self-conditioning adaptation, która pozwala modelom diffusion z maskowaniem (masked diffusion models) lepiej dostosowywać się do nowych zadań bez konieczności pełnego przeszkolenia. Podejście opiera się na iteracyjnym refitowaniu parametrów skalowania w warstwie normalizacji, co znacznie zmniejsza koszt obliczeniowy. Ta technika ma potencjał do przyspieszenia adaptacji modeli generatywnych do specjalistycznych zastosowań przy zachowaniu wysokiej jakości wyników.
Badania
arXiv CS.LG