Duże modele językowe używane w diagnostyce klinicznej okazują się podatne na coś całkiem nieoczekiwanego: sposób, w jaki pacjent opisuje swoje objawy. Naukowcy z uniwersytetu odkryli, że identyczne fakty medyczne wyrażone w różnym języku powodują, że ten sam model dochodzi do zupełnie innych diagnoz - efekt nazwany Narrative Anchoring. Problem dotyczy siedmiu testowanych modeli across trzech rodzin architektur, przy czym rozbieżności w diagnozach sięgają od 6,4 do 15,1 procent.
Here's the key insight: to nie jest przypadek typowej diskryminacji AI oparty na jawnych markerach tożsamości jak rasa czy dochód. Badacze utworzyli dataset tysiąca przypadków klinicznych USMLE, każdy przepisany w trzech socjolingwistycznie różnych wersjach, i pamiętali, by fakty medyczne pozostały dokładnie takie same. Okazało się, że chain-of-thought reasoning i jawne instrukcje debiasingu pomagają tylko częściowo, a często maskują inne problemy.
Rozwiązanie przychodzi w postaci NarrativeShield - trójagentowego pipeline'u, który strukturalnie ekstrahuje i weryfikuje fakty kliniczne zanim model zacznie diagnozować. Rezultat: Narrative Anchoring Gap spada do niemal zera (od -0,004 do 0,037) i znacznie mniej niestabilnych diagnoz. To kluczowe odkrycie dla przyszłości medycyny wspomaganej AI, bo pokazuje, że zanim będziemy wdrażać takie systemy w klinikach, musimy najpierw upewnić się, że nie zmieniają decyzji w zależności od tego, czy pacjent mówi fachowo czy w prosty sposób.