Naukowcy z arXiv wykazali, że Option-Critic osiąga poprawę wydajności wraz z dodawaniem opcji, ale z zupełnie innych powodów niż się powszechnie sądziło. Ich analiza pokazuje, że nauczana reguła terminacji, która powinna decydować kiedy opcja przekazuje kontrolę, praktycznie nie funkcjonuje - test zatrzymania jest identyczny z zawsze natychmiast kończącą strategią. W przypadkach, gdzie polityka prowadzi eksplorację, reguła zatrzymania blokuje tę eksplorację, powodując regret rzędu O(T) wobec O(log T) dla strategii zawsze kończącej.
Badania
arXiv CS.LG