Badanie kanadyjskiego regulatora opieki zdrowotnej wykazało, że AI asystent do notatek lekarskich hallucynuje i dodaje fikcyjne informacje do dokumentacji medycznej pacjentów. System generuje nieprawdziwe objawy, wyniki testów i notatki, które mogą wpłynąć na decyzje medyczne i bezpieczeństwo pacjentów. Odkrycie podkreśla poważne zagrożenia związane z wdrażaniem niezweryfikowanych modeli AI w opiece zdrowotnej bez odpowiedniego nadzoru.