Szpital oraz duża sieć radiologiczna wdrożyły system harmonogramowania opracowany przez Palantira, lecz personel medyczny, szczególnie pielęgniarki, doświadcza poważnych problemów z nowym oprogramowaniem. Pracownicy raportują błędy w harmonogramach, nieprzewidywalne zmiany i nasilające się wypalenie zawodowe.
Algorytmy AI maja optymalizować rozliczenia pracowników i efektywność operacyjną, ale podle personelu medycznego często nie uwzględniają realiów pracy w szpitalu - zbyt mało dostępu pracowników, przeciążone zmiany, brak czasu na przygotowanie się do zmian. Błędy w harmonogramach mogą prowadzić do niedoborów personelu na oddziałach, co bezpośrednio wpływa na bezpieczeństwo pacjentów i jakość opieki medycznej.
Ta sytuacja odzwierciedla szerszy problem we wdrażaniu rozwiązań AI w sektorze opieki zdrowotnej - brak wystarczającego udziału przyszłych użytkowników w projektowaniu systemów i niedostateczna walidacja algorytmów w rzeczywistych warunkach pracy. Problem Palantira stał się sygnałem ostrzegawczym dla szpitali rozważających podobne technologie.