Google Research opracował Retrieve-for-Train (R4T), system który rozwiązuje problem pobierania zróżnicowanych zbiorów wyników dla zapytań w systemach wyszukiwania i rekomendacji. Zamiast zwracać 10 prawie identycznych wyników, system potrafi właściwie rozbić zapytanie typu 'camping gear' na pod-zapytania zwracające namiot, śpiwór, kuchenkę i lampę czołową.
Standardowe podejścia do fan-out (dzielenia zapytania na kilka pod-zapytań) cierpią na dwie główne wady. Pierwsza to parafrastyczne zwijanie się - gdy generyczny model języka dostaje polecenie rozbicia zapytania 'Bohemian festival style', generuje prawie synonimy takie jak 'bohemian festival fashion' i 'festival bohemian clothes', co prowadzi do niejednorodnych wyników. Druga wada to opóźnienia - generowanie autoregresywne plus wielokrotne wywołania retrievera to powolny proces, a próbkowanie Best-of-N, choć poprawia jakość, mnożyć koszty obliczeniowe.
R4T rozwiązuje to poprzez trzystopniowy pipeline. Najpierw trenuje fan-out language model (FOLM) generujący k pod-zapytań, gdzie zamrożony gęsty retriever je wykonuje, a nagrody oceniają całości pobranych zbiorów, nie poszczególne przedmioty. W drugiej fazie model trenuje się na 128 fan-outach na zapytanie, tworząc pary treningowe bez etykiet człowieka. Wreszcie, kompilacja do modelu dyfuzji pozwala generować wszystkie kierunki retrievalu w jednym przebiegu, osiągając przyspieszenie 12-20 razy w stosunku do metod bazowych.