Naukowcy przeanalizowali, w jaki sposób interwencje aktywacyjne w dużym modelu języka rzeczywiście wpływają na jego dalsze obliczenia. Skupili się na modelu Qwen3.5-27B w zadaniach związanych z użytkowaniem narzędzi, gdzie decyzje o uprawnieniach i czasach wpływały na to, które akcje powinny zostać wykonane. Stosując dwie warianty modyfikacji residuów specificzne dla każdego przypadku, badacze osiągnęli znaczną poprawę - prawidłowy wybór celu wzrósł z 35/128 do 119/128 w pierwszym wariancie i z 33/128 do 114/128 w drugim, testując na 32 różnych scenariuszach.
Jednak ta poprawa okazała się krucha. Gdy naukowcy kombinowali znajome fakty i identyfikatory w ramach tego samego zadania selekcji, zyski całkowicie znikały. Co ciekawe, model zaczął chętniej wybierać wcześniej nagradzane identyfikatory, co sugerowało, że interwencje działały powierzchownie, bez głębszego zrozumienia warunków. Edycje wewnętrzne mogły wprawdzie zmienić sposób, w jaki jedna informacja wpływała na osąd - wczesna warstwa modelu zmieniła 50/64 orzeczeń gdy źródło było użyte - ale niekoniecznie prowadziło to do całkowicie prawidłowych działań.
Badanie ujawnia kluczowy problem w ocenie interwencji: nie wystarczy sprawdzić, czy model daje prawidłową odpowiedź na bezpośrednie pytanie. Trzeba audytować, jak edytowany stan modelu jest faktycznie używany w dalszych obliczeniach. Rozgraniczenie między kontrolą wyboru celu, warunkowością osądów i prawidłowością pełnych sekwencji akcji pokazuje, że obecne metody modyfikacji modeli mogą tworzyć iluzję poprawy tam, gdzie w rzeczywistości model nie nauczył się prawidłowo rozumieć i stosować nowych warunków.