Ve sněmovně vystoupil proděkan Radek Martinek. Věnoval se tématu umělé inteligence ve zdravotnictví

Proděkan Radek Martinek vystoupil v rámci odborného bloku Umělá inteligence ve zdravotnictví pořádaného v Poslanecké sněmovně Parlamentu ČR. Ve svém příspěvku s názvem Umělá inteligence a inovativní technologie ve zdravotnictví – univerzity jako klíčový partner pro politiky, firmy a zdravotnická zařízení upozornil na potřebu zodpovědného přístupu při nasazování AI v klinické praxi.
„V dynamicky se vyvíjejícím prostředí zdravotnictví je nutné zajistit, aby implementace AI řešení probíhala s odborným výkladem, smysluplnou interpretací a důrazem na bezpečnost pacientů,“ uvedl profesor Martinek, který ve svém vystoupení vysvětlil, že umělá inteligence může být přesná, ale často nerozumí souvislostem tak jako člověk. Může tak dojít k výsledku na základě špatných datových souvislostí.
„Proto je klíčové využívat vysvětlitelnou AI, která lékařům umožňuje nahlédnout do rozhodovacích mechanismů modelu. Pouze tak lze zajistit, že umělá inteligence rozhoduje na základě skutečně relevantních informací a její výstupy jsou pro lékaře důvěryhodné,“ řekl Martinek.
Ve svém vystoupení představil také výsledky výzkumu týmu Signal Lab, který na fakultě vede. Tým se dlouhodobě věnuje vývoji pokročilých metod zpracování signálů, chytrých senzorických systémů a bioinspirativních algoritmů pro oblast zdravotnictví. Jedním z hlavních výzkumných směrů je právě vysvětlitelnost modelů při automatické klasifikaci a segmentaci dat z magnetické rezonance. Cílem je zajistit, aby umělá inteligence rozhodovala na základě skutečných patologických jevů a nikoli podle náhodných korelací nebo technických nepřesností.
Na závěr proděkan Martinek zdůraznil, že univerzity a výzkumná centra by měla být partnerem při přípravě legislativy a strategických rozhodnutí v oblasti digitalizace zdravotnictví.
„Bez zapojení odborníků může dojít k chybnému nasazení technologií, které ve výsledku ohrozí pacienty i důvěru veřejnosti,“ upozornil Radek Martinek, který působí také jako místopředseda pro implementaci v České společnosti pro umělou inteligenci a inovativní digitální technologie ve zdravotnictví (CSAIM). Tato odborná platforma sdružuje lékaře, inženýry, vývojáře a výzkumníky, kteří společně usilují o bezpečné a smysluplné zavádění AI do každodenní klinické praxe.