Dvě třetiny českých nemocnic už dnes pracují s nástroji umělé inteligence, zpravidla při vyhodnocování snímků z magnetické rezonance nebo jiných zobrazovacích metod. Tempo, jakým AI proniká do zdravotnictví, výrazně překonává schopnost regulátorů na tuto změnu reagovat. Právě to znepokojuje odborníky sdružené v evropských institucích EASAC a FEAM, kteří vydali společnou zprávu s doporučeními pro politiky napříč kontinentem.
Zpráva, na níž se podílelo 22 vědců z celé Evropy, vychází z jednoduché premisy: AI musí procházet stejným testem jako jakýkoli jiný zdravotnický nástroj. Přínosy je třeba prokázat, rizika pochopit a fungování systémů průběžně kontrolovat. Bez toho hrozí úniky citlivých dat, algoritmická předpojatost nebo postupná ztráta lidského dohledu nad rozhodováním o pacientech.
Spolupředseda pracovní skupiny EASAC André Knottnerus to formuluje naléhavě: „Pokud chceme svěřit své zdraví umělé inteligenci, musíme jednat právě teď.“ Dodává, že je na tvůrcích politik, aby zajistili regulační podmínky orientované na pacienta, účinné, bezpečné, spravedlivé a transparentní.
Z českého prostředí se do pracovní skupiny zapojila Eva Fialová z Ústavu státu a práva Akademie věd ČR, která měla na starosti kapitolu o legislativním rámci. Upozorňuje přitom na problém, který přesahuje samotnou regulaci: ne pro každou diagnózu se trhu vyplatí vyvíjet diagnostické nástroje postavené na AI, přestože by mohly mít velký medicínský přínos. Takový vývoj by podle ní měl být financován z veřejných nebo jiných alternativních zdrojů.
Další zásadní téma představuje kvalita dat, na nichž se AI systémy trénují. Fialová sahá po názorné analogii s autonomními vozidly: pokud je algoritmus trénován výhradně na situacích s jednou skupinou účastníků silničního provozu, v reálném světě může selhat. „Vztaženo ke zdravotnictví je to velmi nebezpečné i proto, že uživatelé mají tendenci umělé inteligenci důvěřovat, a mohou tedy zdravotní stav určité skupiny osob zanedbat,“ varuje vědkyně.
Zároveň odmítá představu, že by AI ve zdravotnictví vyžadovala zcela nový právní systém postavený na zelené louce. Řadu situací lze ošetřit právními instituty, které existují už dnes. Zpráva EASAC a FEAM si nicméně klade za cíl přispět k implementaci nařízení EU o umělé inteligenci i nařízení o evropském prostoru pro zdravotní data, known jako EHDS, a podpořit připravovanou unijní iniciativu zaměřenou přímo na AI ve zdravotnictví.
Zdroj: Akademie věd ČR
