WHO: europejskie szpitale wdrażają AI szybciej niż potrafią ją nadzorować

Regionalny dyrektor Światowej Organizacji Zdrowia na Europę Hans Kluge ogłosił w Lizbonie wyniki pierwszego tak szerokiego przeglądu wykorzystania sztucznej inteligencji w europejskich systemach ochrony zdrowia. Wniosek jest prosty: technologia trafia do szpitali dużo szybciej, niż kraje zdążają budować dla niej zasady.

Dane pochodzą z ankiety WHO/Europa obejmującej wszystkie 53 kraje regionu, od Portugalii po kraje Azji Centralnej. Raport pokazuje, że AI wchodzi do szpitali głównie przez diagnostykę obrazową, analizę zdjęć RTG i tomografii, systemy wspomagania decyzji klinicznych oraz automatyczną komunikację z pacjentami.

Rozdźwięk między wdrożeniem a nadzorem

Kluge nazwał tę lukę centralnym problemem obecnej fazy cyfryzacji zdrowia. Niemal wszystkie kraje wskazują poprawę opieki nad pacjentem jako główny powód sięgania po AI, ale mniej niż połowa w ogóle sprawdziła, czy jej obecne przepisy prawne nadają się do regulowania tej technologii.

Ten rozdźwięk między wdrażaniem a zarządzaniem to dziś największe wyzwanie AI w zdrowiu - Hans Kluge, dyrektor regionalny WHO na Europę

W praktyce oznacza to, że narzędzia diagnostyczne oparte na modelach uczenia maszynowego trafiają do gabinetów lekarskich bez jednolitych zasad odpowiedzialności za błędy, bez wymogów dotyczących testowania na różnorodnych populacjach pacjentów i bez wspólnego standardu przejrzystości działania algorytmów.

Ryzyko dla pacjenta

Kluge ostrzegł wprost przed konsekwencjami klinicznymi błędnie działających systemów. Chodzi nie tylko o pomyłki techniczne, ale o systemowe obciążenie algorytmów, które trenowane na niepełnych lub niereprezentatywnych danych mogą gorzej rozpoznawać choroby u określonych grup pacjentów.

Błędny algorytm może postawić złą diagnozę, prawdziwemu pacjentowi, z prawdziwymi konsekwencjami - Hans Kluge, dyrektor regionalny WHO na Europę

Jako przykład dobrze zaimplementowanego narzędzia WHO wskazało szpital w Coimbrze w Portugalii, gdzie system AI wspiera analizę obrazów przy wykrywaniu chorób klatki piersiowej i złamań kości, skracając kolejki w ostrym dyżurze i podstawowej opiece zdrowotnej. Raport podkreśla jednak, że takie wdrożenia pozostają w większości krajów odosobnionymi projektami, a nie elementem spójnej polityki krajowej.

Braki kadrowe i edukacyjne

Największą słabością systemów okazuje się przygotowanie personelu. Tylko co piąty kraj uczy przyszłych lekarzy i pielęgniarki obsługi narzędzi AI jeszcze w trakcie studiów, a jedynie co czwarty oferuje szkolenia osobom już pracującym w zawodzie. Bez tego personel medyczny często korzysta z systemów AI metodą prób i błędów, bez zrozumienia ich ograniczeń.

WHO zapowiedziało uruchomienie do 2028 roku regionalnej mapy drogowej dotyczącej AI i zdrowia, która ma ujednolicić standardy oceny bezpieczeństwa, wymogi dotyczące danych treningowych oraz zasady odpowiedzialności prawnej za decyzje wspierane przez algorytmy. Podczas spotkania w Lizbonie przedstawiciele 37 krajów z sześciu regionów WHO zaproponowali też odrębną, lizbońską inicjatywę współpracy krajów portugalskojęzycznych w tej dziedzinie, z planowanym startem podczas szczytu zdrowia w Brazylii w 2028 roku.

Znaczenie dla Polski i Unii Europejskiej

Raport trafia w moment, gdy unijny AI Act zaczyna obejmować systemy wysokiego ryzyka, do których zalicza się większość narzędzi medycznych opartych na AI. Polskie szpitale, wśród nich placówka w Wadowicach wdrażająca AI do opisywania zdjęć RTG i tomografii, testują podobne rozwiązania jak te opisane w raporcie WHO, ale krajowa strategia nadzoru nad taką technologią wciąż pozostaje w powijakach.

Dla polskich dyrektorów szpitali i urzędników odpowiedzialnych za wdrażanie AI Act, dane WHO stanowią ostrzeżenie: sam zakup i uruchomienie narzędzia diagnostycznego to dopiero początek. Bez procedur oceny jakości, szkoleń personelu i jasnych zasad odpowiedzialności za błędną rekomendację systemu, korzyści z AI mogą zostać przyćmione przez utratę zaufania pacjentów i ryzyko prawne dla placówek.