Technologie umělé inteligence se ve světě vyvíjí značnou rychlostí, což ovlivňuje nejen každodenní život, ale také fungování firem působících na českém trhu. Organizace sdružující průmyslové podniky, technologické firmy a výzkumné instituce ve střední a východní Evropě zřídila společnou pozici ambasadora pro umělou inteligenci a nové technologie, kterým se stal Jan Kavalírek. Toho jsme se zeptali na přístup firem k umělé inteligenci v Česku a také na rizika technologie, před kterými odborníci varují.
V rámci telefonátu na call centrum řady společností sice uslyšíme zdánlivě lidský hlas, ale linku neobsluhuje operátor linky, ale umělá inteligence. To je jen jeden z mnoha příkladů, jak firmy využívají umělou inteligenci ve svém každodenním provozu.
Lídry ve vývoji pokročilých modelů umělé inteligence jsou v prvé řadě americké a čínské firmy. V Evropě se výzkum na této úrovni nenachází.
"Pokud se má Evropská unie stát lídrem v umělé inteligenci jako technologii, nikoli pouze v její regulaci, musí být výrazně ambicióznější. Je potřeba více investovat do výzkumu a vývoje a důsledně odstraňovat zbytečnou byrokracii, která brzdí inovační potenciál evropských firem. Přitom jsme to byli právě my, Česká republika, kdo na půdě EU jako první navrhl odstranit zbytečnou byrokracii v AI Actu a získal pro to podporu,“
uvadí k brzdným mechanismům v evropském prostoru ambasador pro umělou inteligenci a nové technologie Jan Kavalírek.
Před technooptimismem v šíření umělé inteligence však varuje řada odborníků. Např. Daniel Kokotajlo, který pracoval ve společnosti OpenAI a stál u zrodu této technologie varoval před překotným vývojem na tomto poli ve zprávě, kterou sepsal s týmem odborníků. Na rizika ve využívání umělé i inteligence jsme se zeptali i Jana Kavalírka.
"Nutnost kontrolovat systémy umělé inteligence samozřejmě podporuji, stejně tak Svaz průmyslu a dopravy. Potřeba kontroly je nezbytná, nechceme na EU trhu umělou inteligenci, která by klamala, manipulovala, zjišťovala politické názory, náboženskou příslušnost či dělala sociální scoring apod." uvedl redakci LP-Life.cz několik příkladů nebezpečí, která s nástroji umělé inteligence přicházejí.
Podle jeho pohledu na věc, však ne každá snaha o regulaci práce s umělou inteligencí přináší jen bezpečnostní komfort, ale také omezuje využití technologického nástroje i ve velmi užitečných oblastech, jakými je např. zdravotnictví. Před nástupem na pozici náměstka ministra průmyslu a obchodu ve Fialově vládě se Kavalírek věnoval také biomedicínskému inženýrství.
"O čem však hovoříme je nutnost omezit zbytečnou byrokracii, která spočívá v nadměrném papírování při sepisování dokumentace poskytovatelem AI systému - papírování, které nevede k zvýšení bezpečnosti AI produktů na trhu, ale jen zvyšuje jejich cenu, zpomaluje inovace a v důsledku snižuje naši konkurenceschopnost. Jen pro představu, uvést například zdravontický prostředek s AI v US je i více než 2 x rychlejší než v EU,"
vysvětlil redakci Kavalírek.
Zasadním rámce pro využívaní umělé inteligence v zemích Evropské unie je tzv. AI Act, který je vůbec prvním regulatorním nařízením na světě upravujícím využívání umělé inteligence. Jenže jeho uplatnění v praktickém životě soukromých subjektů je komplikované.
Podle průzkumu společnosti Dors & Venabili z června jen 8 % tuzemských firem podniklo konkrétní opatření podle AI Actu. Podle zjistění průzkumu při tom 45 % z nich umělou inteligenci využivá.
"Na tomto poli jsme dosáhli jako Česko velkého úspěchu, když jsme právě my jako první 6. 6. na Radě EU navrhli odložit některé části AI Actu, aby měli výrobci i uživatelé dostatek času se na něj připravit, a zároveň zjednodušit některé nejvíce zatěžující pasáže - jako jsou zbytečně administrativní formuláře technické dokumentace nebo registrace apod.," popsal práci českých zástupců na významném dokumentu Kavalírek LP-Life.cz.
Nekontrolované využívání umělé inteligence přináší řadu úskalí. Nejde jen o etické otázky, ale např. únik osobních údajů může poškodit renomé firem. Podle uvedeného průzkumu představitelé firem však uváděli, že sami nevědí, jak postupovat.
"Vidíme incidenty, k čemu může vést její zneužití (například poslední deepfakes Ai nástroje Grok na síti X atd), proto je nutné, aby kontrola Ai systémů a její dodržování fungovalo. I proto jsme v Česku zavedli dle AI Actu systém dozorových orgánů v čele s profesionálním Českým telekomunikačním úřadem, který se na tuto roli již intenzivně připravuje. Dle AI Actu je povinností subjektů využívající AI v pracovním prostředí (například nemocnic), aby vždy měly proškolený personál, který bude Ai systémy kontrolovat," vysvětlil Kavalírek.
"Další klíčovou oblastí je ještě zvýšit podporu vzdělávání napříč všemi generacemi, aby lidé dokázali s AI bezpečně pracovat a uvědomovali si její přínosy i rizika,"
dodává znalec problematiky, že rozšiřování technologie se týká všech.
Zdroje: autorský text, rozhovor, TZ, MPO, Bussinesinfo, The Guardian, digitalnicesko.gov
