Liquid AI opublikował open-sourcową metodę Antidoom, która rozwiązuje problem pętli powtórzeń w małych modelach rozumowania. Problem ten polega na tym, że model emituje fragment tekstu i automatycznie go powtarza wielokrotnie aż do wyczerpania okna kontekstu. Na checkpointa LFM2.5-2.6B problem dotyczył 10,2% odpowiedzi na trudne zadania z matematyki i kodowania, podczas gdy model Qwen3.5-4B miał go w aż 22,9% przypadków. Po zastosowaniu treningu Antidoom liczby spadły odpowiednio do 1,4% i 1%.
Antidoom to niezwykle precyzyjne rozwiązanie, które najpierw znajduje dokładny token inicjujący pętlę, a następnie uczy model wolać spójne alternatywy w tym pojedynczym miejscu. Reszta rozkładu prawdopodobieństwa pozostaje praktycznie niezmieniona. Metoda opiera się na Final Token Preference Optimization (FTPO), algorytmie podobnym do popularnego DPO, który trenuje na parach chosen/rejected reprezentujących pojedynczy token. Ważne jest to, że trening nie uczy modelu nic nowego na temat matematyki czy kodowania - po prostu usuwa blokadę powodującą powtórzenia.
Cały pipeline Antidoom działa w ciągu kilku godzin, a pełny stack jest dostępny open-source. Znaczenie tej metody polega na tym, że eliminuje jeden ze wspólnych punktów awarii małych modeli reasoning, poprawiając wyniki ewaluacji przez zmniejszenie szumu z pętli powtórzeń, co jest szczególnie ważne dla systemów pracujących nad długimi trakcami rozumowania i trudnymi problemami.