Badacze zastosowali reflective prompt evolution (GEPA) do optymalizacji systemowych promptów agenta deep-research z celem poprawy jego zdolności do wyszukiwania faktów i cytacji. Eksperyment przeprowadzili na zbiorze treningowym, walidacyjnym i testowym, w którym żaden temat nie powtarzał się między zbiorami - to fundamentalne zabezpieczenie przed przeuczeniem. Wynikiem było zwiększenie nagrody za cytowania z 0.702 do 0.781, z 95-procentowym przedziałem ufności [0.051, 0.107], i wzrost utrwalił się przy trzech niezależnych inicjalizacjach z średnią 0.107.
Jedną z głównych obaw przy optymalizacji promptów jest ryzyko memorizacji - algorytm może wpisać odpowiedzi z przykładów treningowych wprost do promptu zamiast uczyć się transferowalnych zachowań. Rzeczywiście, analizując wygrany prompt, badacze odkryli, że prawie połowa tekstu to zkodowana odpowiedź kluczowa. Jednak kontrolowany test ablacyjny wykazał, że ta zawartość nie generuje nagród nawet na dokładnych pytaniach treningowych, które koduje. To oznacza, że duża luka między wynikami walidacyjnymi a testowymi pochodzi nie z memorizacji, lecz z losowych wahań oceny przy małych próbkach.
Kluczowym spostrzeżeniem było odkrycie, że przyczyna przenoszenia się zysku to wielowymiarowa, szczegółowa zwrotna informacja oparta na rozkładzie cech oceny na oddzielne komponenty. Gdy badacze zredukują ją do skalarnej nagrody - format typowy w reinforcement learning - transfer staje się ujemny. Wynik utrzymuje się nawet przy oceniającym z innej rodziny modeli, co potwierdza stabilność metody. Ręcznie napisana wersja odkrytego receptury osiąga porównywalne rezultaty, co sugeruje, że odkryta strategia optymalizacji promptów ma rzeczywistą wartość praktyczną.