Naukowcy z arXiv opublikowali TokenScope - nowe interaktywne narzędzie do analizy, jak duże modele językowe (LLM-y) podejmują decyzje podczas generowania kodu na poziomie poszczególnych tokenów. To rozwiązuje rzeczywisty problem - dotychczasowe narzędzia do interpretacji LLM-ów pokazują albo wewnętrzne działanie modelu, albo wynik generacji, ale brakuje im informacji z czasu dekodowania, precyzyjnych miar niepewności i możliwości interaktywnego eksplorowania alternatywnych ścieżek generacji.
TokenScope integruje kilka kluczowych funkcji. Po pierwsze, eksponuje detale na poziomie tokenów - metryki, wzorce atencji i strukturalne informacje powstające podczas generowania tekstu. Po drugie, pozwala na interaktywną zamianę tokenów i "counterfactual branching", czyli eksplorowanie, co by się stało gdyby model wybrał inny token. Po trzecie, wykorzystuje abstrakcyjne drzewa składni (AST) do analizy świadomej kodu, co oznacza, że narzędzie rozumie strukturę programów, a nie tylko kolejność słów.
To znaczące dla badań nad LLM-ami i ich praktycznego stosowania. Programiści i inżynierowie dowiedzą się, dlaczego modele generują konkretny kod, gdzie popełniają błędy i co влияет na ich decyzje. Dla naukowców to droga do lepszego debugowania modeli, optymalizacji treningu i zrozumienia ograniczeń current LLM-ów w zadaniach wymagających precyzji, takich jak pisanie kodu.