Naukowcy z arXiv opublikowali R2Adapter - lekki adapter do systemów Retrieval-Augmented Generation, który inteligentnie kieruje zapytania między tradycyjnym RAG-iem a grafo-opartymi podejściami. Adapter uczy się rutować złożone zapytania do bardziej zaawansowanego systemu opartego na grafach wiedzy, während proste pytania obsługuje szybko i tanio za pomocą zwykłego wyszukiwania tekstowego.
Główny problem, który rozwiązywa R2Adapter, dotyczy efektywności hybrydowych systemów RAG. Standardowe RAG doskonale sobie radzi z prostymi zapytaniami, ale wikła się w zadaniach wymagających rozumowania wieloetapowego. Grafo-based RAG lepiej obsługuje takie przypadki, ale znacznie zwiększa opóźnienia i koszty obliczeniowe. Istniejące rozwiązania hybrydowe najczęściej polegają na heurystykach lub rutowaniu opartym na samym modelu językowym, co wprowadza dodatkowy narzut i zależność od konkretnego LLM.
Testy przeprowadzone na trzech benchmarkach do odpowiadania na pytania wieloetapowe pokazują, że R2Adapter zmniejsza liczbę zapytań przetwarzanych przez system oparty na grafach o aż 59%, a jednocześnie utrzymuje porównywalną dokładność odpowiedzi. Adapter dodatkowo przepisuje niepewne zapytania, aby lepiej eksponować ich wieloetapowe wymagania, co poprawia jakość wyszukiwania bez potrzeby dodatkowego nadzoru. Rozwiązanie jest niezależne od modelu i może być bezproblemowo zintegrowane z różnymi potoczami RAG-u.