Zespół badawczy przedstawił WMLLM, nowy system optymalizacji czarnej skrzynki, który wykorzystuje duże modele językowe do przewidywania obiecujących kierunków wyszukiwania zamiast polegać na tradycyjnym podejściu trial-and-error. Kluczowa innowacja leży w architekturze predict-then-act, gdzie agent najpierw przewiduje możliwe rozwiązania, a następnie generuje kandydatów do ewaluacji na podstawie tych przewidywań.
Istniejące metody optymalizacji czerpią ze słabej efektywności próbek, ponieważ bezpośrednio generują kandydatów lub polegają na iteracyjnym ulepszaniu. WMLLM rozwiązuje ten problem poprzez modelowanie świata - wykorzystuje niejawną wiedzę zawartą w modelach językowych do symulacji wyników kandydatów przed faktycznym testowaniem. Ta wiedza pozwala systemowi inteligentnie eksplorować ogromne, słabo ustrukturyzowane przestrzenie poszukiwań.
System integruje kilka zaawansowanych technik: multi-turowe rafinowanie agentem, wyszukiwanie populacyjne i uczenie wzmacniające. To umożliwia WMLLM samoewolucję - zarówno wewnętrzny model świata, jak i strategia optymalizacji ulepszają się podczas procesu wyszukiwania. Eksperymenty na problemach optymalizacji czarnej skrzynki, szczególnie wielocelowej optymalizacji molekularnej, wykazały wyraźnie lepsza efektywność próbek i końcową wydajność. Na benchmarku optymalizacji molekularnej WMLLM osiągnął wyniki na poziomie state-of-the-art przy ograniczonym budżecie ewaluacji.