Wizualne grafy jako narzędzie strukturalnego rozumowania w dużych modelach językowych

Zespół badawczy zajął się pytaniem, czy grafy mogą pełnić rolę wewnętrznego wsparcia dla rozumowania w dużych modelach językowych. Zamiast podawać grafy jako źródła wiedzy podczas testowania, badacze sprawdzili, jak struktury grafowe mogą organizować proces myślenia samego modelu. Inspiracją były mapy myśli, które ludzie wykorzystują do organizacji rozgałęziającego się i zbiegającego się rozumowania.

W praktyce naukowcy pracowali z zadaniami dotyczącymi wieloetapowego odpytywania, gdzie ścieżki rozumowania od nauczycieli zostały przeformułowane jako wizualne grafy. Kluczowe odkrycie: gdy struktury grafów zamieniały na zwykły tekst, ich przydatność znacznie spadała, szczególnie gdy usunięto bezpośrednie podpowiedzi. W takim abstrakcyjnym scenariuszu zarówno efektywność rozumowania, jak i jakość odpowiedzi drastycznie się pogarszały.

W przeciwieństwie do tego wizualne reprezentacje grafów zachowywały swoją efektywność bez dodatkowych wskazówek. Przewaga wizualnego podejścia utrzymywała się nawet po fine-tuningu i destylacji wiedzy. Wnioski sugerują, że grafy dla LLM-ów to nie tylko źródła wiedzy, ale potencjalnie nowy typ narzędzia do organizacji i strukturyzacji wewnętrznych procesów myślenia modelu.