Naukowcy opublikowali formalną analizę teoretyczną wewnątrzcontekstowego wyszukiwania w dużych modelach językowych, modelując je jako przybliżone wnioskowanie nad śladami rozumowania. W tym podejściu model bazowy definiuje rozkład a priori, a autorefleksja dostarcza informacji zwrotnej do aktualizacji rozkładu a posteriori.
Kluczowym odkryciem jest to, że gdy refleksje niezawodnie lokalizują wczesne błędy, wewnątrzcontekstowe wyszukiwanie zapewnia wykładniczy wzrost wydajności względem modelu bazowego. To oznacza, że problemy z wykładniczo małymi wskaźnikami sukcesu w trybie zero-shot mogą być rozwiązane przy użyciu tylko wielomianowej liczby sekwencyjnych prób. Natomiast gdy ta właściwość zawodzi, warunkowanie na poprzednich próbach nie przynosi asymptotycznej przewagi nad równoległym samplingiem.
Badanie pokazuje również, że te zyski są solidne i można się ich nauczyć - przybliżone aktualizacje a posteriori wystarczają, a trening cross-entropy na rolloutach wyszukiwania odzyskuje wymagane zachowanie z wielomianową złożością próbek. Naukowcy walidowali przewidywania teorii na rzeczywistych modelach rozumowania, co sugeruje praktyczne stosowanie wyników teoretycznych.