Próbkowanie stochastyczne jest epistemicznie płytkie: przepaść wymiarowości między temperaturą a róż

Naukowcy z arXiv sprawdzili, czy zmienność odpowiedzi tego samego modelu językowego uruchamianego wielokrotnie z parametrem temperatury odzwierciedla jego rzeczywiste luki w wiedzy. Porównali dwa podejścia na identycznych zestawach pytań: jedno wybrało model uruchamiany 100 razy przy temperatury 1 stopień (maksymalna losowość) versus zespół 24 różnych LLM-ów uruchamianych raz każdy przy temperaturze 0 (deterministycznie). Za pomocą testu Marchenko-Pastura z teorii macierzy losowych oddzielili sygnał od szumu pobierania próbek po obu stronach.

Wyniki były jasne: w obrębie pojedynczego modelu zaledwie jeden wymiar przekroczył poziom szumu we wszystkich testach na pięciu rodzinach benchmarków i trzech zbiorach danych (MMLU, HellaSwag, GSM8K). Natomiast w zespole czterech różnych LLM-ów cztery wartości własne wyraźnie przewyższyły próg szumu - co jest spektakularnym skokiem sygnału. Porównanie z losowymi testami Bernoulli'ego pokazało, że uzyskanie takiego wyniku przez przypadek zdarza się zaledwie w jednym przypadku na 500 symulacji Monte Carlo.

To badanie kwestionuje popularność metody self-consistency (samozgodności), która używa wielokrotnych prób tego samego modelu do oszacowania niepewności. Okazuje się, że ta metoda rzeczywiście działa do szacowania niepewności dla pojedynczych pytań poprzez głosowanie większościowe, ale nie odkrywa struktury ponad pytaniami - czyli tego, co model naprawdę nie wie. Tylko zespół rzeczywiście różnorodnych modeli potrafi ujawnić epistemic gaps, czyli rzeczywiste granice wiedzy. Implikacja jest ważna dla badaczy pracujących nad uncertainty quantification i ewaluacją LLM-ów.