Sztuczna inteligencja szybko wkracza do szpitali i gabinetów lekarskich, ale nadal nie wiadomo, czy rzeczywiście pomaga pacjentom i poprawia jakość opieki medycznej. Systemy oparte na AI są już używane do analizy zdjęć rentgenowskich, przewidywania ryzyka sepsy, wspomagania diagnoz i planowania leczenia, jednak solidne dowody naukowe na ich przydatność dla pacjentów pozostają zaskakująco rzadkie. Eksperci medyczni apelują o znacznie bardziej rygorystyczne badania i przejrzystość przy wdrażaniu takich rozwiązań w praktyce klinicznej.
Problem polega na tym, że większość technologii AI w medycynie trafia do użytku na podstawie testów prowadzonych przede wszystkim na danych historycznych, bez randomizowanych kontrolowanych badań klinicznych, które są złotym standardem w farmakologii i medycynie. Producenci firm technologicznych mogą wykazać, że ich algorytm dokładnie klasyfikuje choroby na zdjęciach rentgenowskich, ale to wcale nie oznacza, że jego rzeczywiste zastosowanie w szpitalu faktycznie zmniejszy śmiertelność, liczbę błędów diagnostycznych czy poprawić będzie doświadczenie pacjenta. Dodatkowo brakuje przejrzystości dotyczącej tego, jakie dane treningowe wykorzystywano i czy mogą one zawierać błędy czy uprzedzenia.
Wiele szpitali i klinik śpieszy się z implementacją tych narzędzi, motywowane obietnicą zwiększenia wydajności i zmniejszenia kosztów, ale bez poczekania na wiarygodne dowody ich rzeczywistej skuteczności. Regulacje w Unii Europejskiej i Stanach Zjednoczonych zaczynają się zaostrzać, jednak proces zmian postępuje wolno. Przed bardziej masowym wdrażaniem AI w medycynie niezbędne są transparentne, drogi badania kliniczne, które udowodnią nie tylko dokładność algorytmów, ale przede wszystkim ich wpływ na konkretne wyniki zdrowotne pacjentów.