Hugging Face opracował nową metodę Delta Weight Sync w bibliotece TRL, która rozwiązuje jeden z największych problemów przy trenowaniu i deploymencie modeli z miliardami czy bilionami parametrów - ich wydajne przesyłanie. Innowacyjne podejście opiera się na Hub Bucket i pozwala naukowcom oraz inżynierom synchronizować tylko zmienione fragmenty modelu zamiast przesyłać całość od nowa. To samo w sobie znacząco zmniejsza zarówno czas operacji, jak i koszty infrastrukturalnej, co w przypadku modeli o skali LLM-ów stanowi niemałe oszczędności.
Standaryzacja tego procesu jest ważna ze względu na rosnącą złożoność pracy z największymi modelami obecnie trenowanymi na świecie. Gdy parametrów jest naprawdę wiele, każde przesłanie całego modelu staje się bottleneckiem - zarówno dla poszczególnych badaczy, jak i dla zespołów pracujących nad dostrajaniem czy fine-tuningiem. Delta Weight Sync elegancko obchodzi ten problem, identyfikując i przesyłając tylko te wagi, które uległy zmianie w trakcie treningowego cyklu lub durante optymalizacji. Zamiast gigabajtowych lub terabajtowych transferów, mamy do czynienia z fragmentami zawierającymi istotne różnice.
Praktycznie oznacza to lepszą kolaborację w zespołach pracujących nad dużymi modelami, szybsze iteracje eksperymentów oraz zmniejszenie obciążenia sieci i disków. Dla badaczy z ograniczonymi zasobami komputacyjnymi to również szansa na bardziej elastyczną pracę nad zaawansowanymi modelami. Hugging Face regularnie aktualizuje swoją ekosystem narzędzi - TRL, transformers czy Hub - by ułatwić pracę z generacyjną sztuczną inteligencją, a Delta Weight Sync to kolejny krok w kierunku demokratyzacji dostępu do tych technologii.