Błąd wiadomości z przyszłości: jak dostęp do danych końcowych wpływa na decyzje modeli AI w medycyni

Badacze z arXiv identyfikują istotny problem w ewaluacji modeli językowych do zastosowań klinicznych: modele trenowane i testowane na kompletnych historykach pacjentów uczą się wykorzystywać informacje o końcowym wyniku, co nie odzwierciedla rzeczywistych warunków decyzji medycznej. W praktyce kliniczne wybory są podejmowane w niepewności, bez wiedzy o tym, jak ostatecznie zachowywał się pacjent.

Team stworzył specjalistyczny benchmark zawierający 171 przypadków z bazy PubMed Central - 40 przypadków sepsy i 131 pacjentów z cukrzycą związaną z GLP-1 - reprezentowanych zarówno jako tekstowe raporty kliniczne, jak i szeregi czasowe (TTS) generowane przez ludzi i modele AI. Dla każdego przypadku zadania zawierały klinicznie znaczący punkt czasowy oraz dwie możliwe odpowiedzi: prospektywnie prawidłową oraz pułapkę hindsight - odpowiedź spójną z retrospektywnym wynikiem. Badacze testowali modele GPT, Gemma, GLM i Opus z dostępem do pełnej osi czasu oraz z obciętą historią.

Wyniki jasno pokazywały, że dostęp do pełnego historykału pacjenta generuje spójne przesunięcia w kierunku retrospektywnie uzasadnionych odpowiedzi, nawet gdy były one klinicznie błędne w momencie decyzji. Natomiast technika czasowego maskowania - ukrywania przyszłych zdarzeń - znacznie zmniejszała bias bez utraty dokładności ogólnej modelu. Ustalenia sugerują, że obecne benchmarki dla medycznych modeli AI mogą nieprawidłowo oceniać ich rzeczywistą zdolność do prospektywnego rozumowania klinicznego.