Naukowcy opracowali nową metodę prognozowania dla systemów, gdzie algorytmy nieustannie zmieniają rzeczywistość, którą próbują przewidywać. Problem tzw. sprzężenia zwrotnego algorytmicznego to nie teoretyczne ćwiczenie - dotyczy praktycznie każdego dużego systemu decyzyjnego. Kiedy model ML rekomenduje filmów, zmienia preferencje użytkowników. Kiedy algorytm handlowy podejmuje decyzje, sam wpływa na ceny na rynku. W takich sytuacjach klasyczne metody prognozowania szybko tracą dokładność, bo zakładają, że świat działa niezależnie od naszych prób jego przewidywania.
Zespół badaczy z arXiv zaproponował Algometrics - podejście, które bierze ten feedback bezpośrednio pod uwagę. Zamiast ignorować wpływ algorytmu na dane, metoda uczy się przewidywać, jak sam system zmienia rzeczywistość. To szczególnie ważne w trzech obszarach: finansach wysokiej częstotliwości, gdzie algorytmy handlowe wpływają na volatilność, systemach rekomendacji, gdzie wybory modelu kształtują kolejne preferencje użytkowników, oraz systemach sterowania, które ciągle adaptują się do zmiennych warunków. Bez uwzględnienia tych sprzężeń zwrotnych, prognozy zdegenerują się w błędne decyzje.
Badanie ma potencjał zmienić sposób, w jaki podchodzimy do problemów decyzyjnych w systemach adaptacyjnych. Zamiast myśleć o prognozowaniu jako statycznym problemie, naukowcy pokazują, że musimy modelować dynamiczną interakcję między naszymi decyzjami a otoczeniem. To ma bezpośrednie konsekwencje dla firm budujących systemy rekomendacyjne czy tradingowe - ich modele mogą być znacznie bardziej wiarygodne, jeśli uwzględnią własny wpływ na dane, na których się uczą.