Naukowcy z arXiv odkryli i utrwalili w wagach modelu mechanizm sterowania jego procesem myślenia. Halt vector to kierunek w warstwie 18 DeepSeek-R1-Distill-Qwen-7B utworzony poprzez different-of-means na podstawie obserwacji, że siła sterowania tym wektorem kontroluje, jak długo model generuje chain of thought zanim udzieli odpowiedzi.
Probleme leży w tym, że model zwykle myśli około dwukrotnie dłużej niż jest to rzeczywiście potrzebne do osiągnięcia pewności co do odpowiedzi. Jednak długość tego nadmiaru myślenia zmienia się w zależności od problemu, przez co globalne kary za długość okazują się nieskuteczne. Po prostu zmniejszenie projekcji wektora haltu niszczy inne wymiary aktywacji, od których zależy jakość generacji.
Rozwiązanie wymagało pełnej rekonstrukcji sterowanej aktywacji z pinowaniem naturalnych wartości wymiarów downstream. Metodę wytrenowano na zaledwie 24 problemach bez reinforcement learning. Rezultat: halt vector usuwa około 25 procent niepotrzebnego myślenia przy zachowaniu dokładności na pięciu nowych benchmark-ach, a skuteczność śledzi indywidualny potencjał redukcji każdego problemu z współczynnikiem 0.70. Technika także rozwiązuje problem braku terminacji, który pogarsza się wraz ze wzrostem trudności.