CORVUS: Optymalizacja kontekstu dla agentów kodujących na bazie LLM

Zespół badaczy zaprezentował CORVUS, innowacyjną architekturę trajektorii dla agentów kodujących wykorzystujących duże modele językowe. Zamiast tradycyjnego podejścia, które łączy operacje czytania plików z ich obserwacjami, CORVUS utrzymuje zsynchronizowany rejestr istotnych plików i wstrzykuje ich aktualną zawartość w każdym cyklu rozumowania. To rozdzielenie eliminuje problem starzejących się snapshotów, które powodują błędy logiczne i zmuszają agenty do redundantnego ponownego czytania plików.

Problematyka jest istotna, ponieważ tradycyjne podejście append-only prowadzi do eksplozji wielkości kontekstu. Gdy pliki ulegają zmianom przez edycje agenta lub równoczesne modyfikacje człowieka, stare snapshoty pozostają w historii trajektorii, a nowe kopie się dodają. CORVUS rozwiązuje to poprzez dynamiczną aktualizację rejestru, dzięki czemu trajektoria pozostaje zsynchronizowana ze stanem bazy kodowej.

Wyniki ewaluacji na benchmarkach SWE-BENCH_VERIFIED i SWE-BENCH PRO, przeprowadzone na czterech modelach LLM, wykazały 9-50 procent redukcji średniej liczby tokenów wejściowych per zadanie, 15-32 procent krótsze finalne prompty oraz do 37 procent mniej cykli rozumowania. Osiągnięcia te dokonano przy zachowaniu porównywalnych wskaźników powodzenia, co sugeruje, że optymalizacja struktury nie wpływa negatywnie na wydajność agentów.