Duże modele językowe mogą przechodzić egzaminy lekarskie i w wyselekcjonowanych przypadkach rywalizować z lekarzami w diagnostyce, jednak wciąż nie mają wymaganego poziomu bezpieczeństwa do samodzielnego wsparcia klinicznych decyzji - szczególnie w autonomicznej triażu pacjentów zgłaszających się bez jasnych symptomów, z minimalnym lub bez udziału lekarza. Badanie wskazuje, że luka w bezpieczeństwie nie dotyczy medycznej wiedzy modeli, lecz wierności klinicznej oceny i gromadzenia informacji.Problem tkwi w fundamentalnej różnicy między optymalizacją modelu a wymogami bezpiecznej triażu. Systemy LLM są trenowane do generowania najbardziej prawdopodobnego tekstu, ale bezpieczna triażu to zupełnie inne zadanie - wymaga uznania, że krytyczne mogą być diagnozą rzadkie i mało prawdopodobne, podczas gdy wiele fałszywych alarmów jest akceptowalne. Pojedyncze pominięcie groźnej diagnozy przekreśla wartość setek poprawnie rozpoznanych przypadków.Naukowcy podkreślają, że kluczowy niedobór leży w zdolności do zbierania informacji w warunkach niepewności. Gdy historia pacjenta jest niekompletna, systemy oparte na LLM mogą nie wykazywać zachowań wymaganych dla bezpiecznej triażu - rozszerzania listy potencjalnych diagnoz, poszukiwania pomijanych sygnałów ostrzegawczych, obniżania progu eskalacji, czy odkładania ostatecznych ocen do uzyskania wystarczających danych. Pacjent może nie wspomnieć kluczowego symptomu, a model może nigdy nie nauczył się go szukać.