Badacze z wykorzystaniem activation patchingu wykazali, że LLM-y zakodowują wiedzę o ograniczeniach pragmatycznych (takich jak feasibility constraints), jednak nie zawsze ją wykorzystują przy podejmowaniu decyzji. Problem nie polega zatem na braku wiedzy w modelach, ale na routingu - czyli selektywnym włączeniu tej wiedzy do procesu generowania tekstu.
W eksperymencie testowano 14 różnych modeli przy użyciu diagnostycznego podejścia, które rozróżniało trzy aspekty: Knowledge (wiedza o ograniczeniu), Symmetry (symetria kodowania w zależności od kontekstu promptu) i Routing (faktyczne zastosowanie). Probes na dwóch open-weight modelach zdekodowały ograniczenia z dokładnością powyżej 88 procent, co potwierdza, że modele faktycznie posiadają tę informację. Jednak activation patching - technika pozwalająca na testowanie wpływu konkretnych neuronów - naprawiła jedynie jeden z dwóch typów błędów (wzrost o 6.4 nats), podczas gdy drugi pozostał niezmieniony (zmiana -0.07).
Badanie identyfikuje dwa odrębne mechanizmy porażek. Kluczowym odkryciem jest to, że żadna z testowanych strategii promptingu nie potrafiła całkowicie rozwiązać problemu - wszystkie interwencje prowadziły do inflacji conservative bias przez jeden kanał mediacji związany z prerequisite mention. To sugeruje, że problem aktywacji ograniczeń w LLM-ach ma głębokie strukturalne uwarunkowania, wymagające bardziej zaawansowanych podejść niż tradycyjny engineering promptów.