Naukowcy z arXiv przeanalizowali dwa podejścia do generowania klinicznych wyjaśnień dla predykcji śmiertelności na OIT: samodzielny LLM oraz strukturalny potok agentowy dzielący interpretację danych, sprawdzanie wytycznych i końcowe wyjaśnienia. Na zbiorze 2353 pobytów z publicznego datasetu eICU model XGBoost uzyskał AUROC 0,855 i AUPRC 0,332, ukazując zdolność do dokładnych predykcji przy średniej śmiertelności 8,1 procent.
Porównanie 38 przypadków wykazało kluczowe różnice w bezpieczeństwie i jakości wyjaśnień. Samodzielny LLM wygenerował jedno wyjaśnienie zawierające wyciek informacji o wyniku, podczas gdy czterokrokowy potok agentowy tego uniknął. Wśród 14 przypadków przeanalizowanych z wykorzystaniem metody SHAP samodzielny LLM wykazał lepszą zgodność (Jaccard 0,171 vs 0,077) i konsekwencję kierunku (92,9 procent vs 78,6 procent), ale potok agentowy okazał się lepszy w ugruntowaniu wytycznych (0,762 vs 0,143), szczegółowości wartości (0,236 vs 0,143) i wiarygodności (0,700 vs 0,671).
Wyniki sugerują, że potok agentowy może znacznie poprawić bezpieczeństwo i konkretność klinicznych wyjaśnień, szczególnie poprzez ścisłe ugruntowanie w wytycznych medycznych i uwzględnienie konkretnych wartości pacjenta. Badacze wskazują jednak, że przed wdrożeniem w warunkach wysokiego ryzyka takie podejście powinno być połączone z metodami weryfikacji opartymi na atrybucji.