Badacze opracowali Chopthin-Consensus Power Sampling - technikę, która zmienia sposób, w jaki modele językowe wybierają najlepsze odpowiedzi podczas generowania tekstu. Zamiast agresywnie odrzucać słabe propozycje, metoda pozwala większej liczbie różnych ścieżek rozumowania przetrwać w procesie poszukiwania, zachowując potencjalne rozwiązania, które byłyby tracone przy tradycyjnych podejściach.
Kluczową innowacją CCPS jest zmiana w mechanizmie resamplingu - zamiast wyrównywać wagi różnych propozycji (co zmusza do powielania dobrych ścieżek i usuwania słabych), metoda wprowadza górny limit na stosunek między największymi i najmniejszymi wagami. Dzięki temu bogatsze spektrum potencjalnych rozwiązań przetrwa do następnego etapu poszukiwania. Następnie semantyczna selekcja większościowa łączy identyczne odpowiedzi i klasyfikuje semantycznie równoważne rozwiązania, wybierając finalnie odpowiedź wspieraną przez największą liczbę odrębnych ścieżek.
Wykazy testów na trzech modelach open-weight i pięciu benchmarkach pokazały, że CCPS poprawia pokrycie oracle w 13 z 15 scenariuszy. Znaczenie tego podejścia leży w tym, że ulepszanie modelów możliwe jest bez kosztownego ponownego trenowania - wystarczy zmienić strategię dekodowania. To otwiera drogę dla bardziej wydajnego i tańszego doskonalenia istniejących LLM w produkcji.