Badacze zaproponowali Data-Centric Parallel (DCP), nową metodę do trenowania głębokich modeli na sekwencjach zmiennej długości, która dynamicznie dostosowuje parametry rozproszonego trenowania w zależności od rzeczywistej długości danych wejściowych. Zamiast korzystać ze stałych ustawień, DCP zmienia rozmiar paralelizacji, akumulację gradientów i rekomputacje na bieżąco dla każdej partii.
Istniejące podejścia zmuszają do wyboru między dwiema niewygodnymi opcjami: proste metody ze statycznymi konfiguracjami powodują nierównomierny rozkład obciążenia i niską wydajność, zaś zaawansowane rozwiązania wymagają znacznych zmian w kodzie dla każdego nowego modelu. DCP przerywa ten rozdział, pozwalając samym danym sterować parametrami wykonawczymi. Empiryczne testy wykazały przyspieszenie do 2,88 raza na klastrze 32 GPU H200, a implementacja jest elementarna - wystarczy 10 linii kodu.
To podejście ma szerokie zastosowanie w praktyce, szczególnie dla modeli przetwarzających dokumenty, wideo lub dane czasowe o niepredywidywalnej długości. Autorzy upatrują w DCP solidnego punktu wyjścia dla przyszłych badań nad treningiem rozproszonym sekwencji zmiennej długości i oczekują, że stanie się standardowym narzędziem w arsenale inżynierów pracujących z dużymi modelami.