WHO/Europe zebrało przedstawicieli 37 państw, by rozmawiać o AI w zdrowiu. Najmocniejsza liczba z ich oceny brzmi paradoksalnie: niemal dwie trzecie krajów wdraża AI w diagnostyce, ale tylko 8 proc. ma strategię specyficzną dla zdrowia.

Wdrożenie wyprzedza zasady

Różnica między używaniem narzędzia a posiadaniem zasad jest ważna. System może pomóc radiologowi szybciej zobaczyć zmianę na obrazie albo uporządkować dane pacjenta. Gdy jednak się myli, trzeba wiedzieć, kto sprawdza wynik, kto ponosi odpowiedzialność i jak pacjent może zakwestionować decyzję.

Nie chodzi o zakaz AI w medycynie. Chodzi o to, by technologia nie tworzyła drugiej kolejki: dla osób z dobrymi danymi i sprawnym systemem - szybszej pomocy, dla innych - większego ryzyka błędu. Model uczony na wąskiej populacji może działać gorzej tam, gdzie warunki są inne.

Pacjent ma prawo wiedzieć

Szpital potrzebuje nie tylko licencji na narzędzie. Potrzebuje jakości danych, szkolenia personelu, procedury awaryjnej i jasnego języka dla pacjenta. Lekarz nie może być formalnym podpisem pod decyzją, której nie ma możliwości zrozumieć ani sprawdzić.

Do Sedna: AI w zdrowiu może skrócić drogę do diagnozy, ale nie może skrócić drogi do odpowiedzialności. Zaufanie nie rodzi się z tego, że system jest szybki, tylko z tego, że wiadomo, jak go kontrolować.

Największe ryzyko pojawia się wtedy, gdy wynik modelu ma pozór obiektywności. Liczba, kolor na ekranie albo automatyczna rekomendacja mogą wywierać presję na człowieka, który ma mało czasu. Dlatego nadzór nie może oznaczać wyłącznie podpisu lekarza pod gotowym wynikiem. Musi dawać mu możliwość zauważenia błędu, zrozumienia ograniczeń i odstąpienia od sugestii systemu.

Przydatne pytanie dla pacjenta jest proste: czy narzędzie wspiera decyzję, czy ją zastępuje? W pierwszym przypadku technologia może usprawnić pracę i wychwycić sygnał wymagający uwagi. W drugim trzeba szczególnie pilnować odwołania, dokumentacji oraz informacji o tym, na jakich danych oparto rekomendację.

Rozmowa WHO nie jest więc tylko debatą o innowacji. Dotyczy tego, czy system ochrony zdrowia będzie umiał kupować AI jak sprzęt medyczny: z wymaganiami bezpieczeństwa, możliwością kontroli i jasnym rozliczeniem dostawcy. Bez tego najszybsze wdrożenia mogą zostać najsłabszym ogniwem zaufania pacjentów.