Modele mowy typu full-duplex, takie jak Moshi i PersonaPlex, potrafią jednocześnie słuchać i mówić, ale odkryto, że niepotrzebnie inicjują mowę podczas prolongowanej ciszy użytkownika. W testach 40 pięciominutowych kontynuacji przy cyfrowym zerowym wejściu, Moshi rozpoczynał rozmowę w 12 przypadkach, a PersonaPlex w 11. Naukowcy z arXiv zbadali przyczyny tego problemu, testując dwie hipotezy: czy powtarzane próbkowanie ostatecznie wybiera mowę pomimo utrzymywania się niskiego prawdopodobieństwa inicjacji, czy też kondycjonowanie na wcześniejszych wyjściach modelu powoduje nagły skok w prawdopodobieństwie.

Analiza wykazała, że przy każdej zaobserwowanej inicjacji mowy prawdopodobieństwo skakało o ponad dziewięć rzędów wielkości w jednej klatce 80 ms, potwierdzając drugą hipotezę. Model reagował nie tyle na wejście użytkownika, ile na swoje własne wcześniejsze wyjścia nonspeech. Aby rozwiązać ten problem, badacze zastosowali pytanie przyczynowo-kontrafaktyczne: czy model rzeczywiście reaguje na mowę użytkownika, czy jego rozkład następnego tokena pozostałby podobny, gdyby poprzedzające wejście użytkownika zostało wyciszone.

Opracowana metoda wdrażana podczas inferencji nie wymaga ponownego trenowania i działa w czasie rzeczywistym, z czasem decyzji poniżej 61 ms na percentylu 95, co mieści się w budżecie 80 ms jednej klatki. W testach na 40 próbach z hałasem z mikrofonu metoda wyeliminowała wszystkie 13 fałszywych inicjacji w Moshi i 9 w PersonaPlex, jednocześnie zachowując wszystkie 40 autentycznych odpowiedzi każdego modelu. Kod jest dostępny publicznie na GitHubie.