Umělá inteligence si razí cestu i do pojišťovnictví
I sektor pojišťovnictví, který sám sebe hodnotí jako konzervativní, reflektuje, že UI se stává běžnou součástí naších životů, nejedná se již o žádné sci-fi. Proto před jejím transformačním potenciálem nemá smysl zavírat oči. Její pochopení a vhodná aplikace v praxi se stává zásadním atributem pro budoucí rozvoj celého pojistného trhu.
Program konference, která se konala na půdě kongresového centra České národní banky, se zabýval různorodými aspekty využití a možností UI. Byl rozebírán fantastický přínos například pro datovou analytiku nebo medicínu, ale i eventuální rizika pro demokracii i bezpečnost. To úzce souvisí využitím UI v žurnalistice. Nebyla opomenuta ani legislativní stránka věci, především nové nařízení Evropského parlamentu a Rady (EU) 2024/1689 ze dne 13. června 2024, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (Akt o umělé inteligenci). Všechny aspekty UI byly účastníkům konference představeny v kontextu pojistného sektoru.
Pojišťovny obstály i při povodních
Úvodní slovo konference patřilo Janu Procházkovi z bankovní rady ČNB. Ten vyzdvihnul přínos pojišťovnictví pro stabilitu finančního sektoru. Kvitoval však význam pojišťovacího sektoru i v dalších oblastech, např. schopnost aktivní reakce během povodní. Kromě toho uvedl, že ČNB již také „koketuje“ s UI, a to hlavně pro budoucí účely zefektivnění dohledu.
Na to navázal Martin Diviš, prezident ČAP a CEO Kooperativa pojišťovna, a.s., který ve svém proslovu zdůraznil význam pojišťovnictví jako multioborového sektoru. To se také projevilo na obsahu konference. Martin Procházka uvedl, že UI přináší mnohé otázky hlavně v oblasti budoucích mantinelů jejího využití. Cílem by mělo být, aby UI zůstala nástrojem pod lidskou kontrolou. Také konstatoval, že společnost obecně čekají nejistá budoucí rizika, které vzhledem k dynamickému vývoji nelze predikovat, ale je nutné nepanikařit a přistupovat k nim z postoje klidné síly.
Umělá inteligence a hrozby pro demokracii
První panel konference s titulem „Inspirativní duel: AI cesta k nesvobodě?“ byl personálně obsazen generálporučík Karlem Řehkou, náčelník generálního štábu Armády České republiky, a Janem Romportlem, konzultantem a výzkumníkem UI a CEO Elin.ai. Generálporučík Řehka představil paralelu mezi aktuálním závodem ve vývoji umělé inteligence mezi USA (popř. Transatlantickou aliancí, jsme-li vůči EU v této věci mírní) a Čínou a obdobnou situací během studené války. UI nevnímá jako cestu k nesvobodě, ale jako život per se. Umělá inteligence přináší plusy, například v ekonomice, zdravotnictví, vojenství, marketingu apod., ale i mínusy. Revoluce umělé inteligence již probíhá, avšak neřítíme se do pekla, jen musíme řídit rizika v každé úrovni fungování společnosti včetně širokého geopolitického kontextu. Vhodným řešením může být právě chytrá regulace.
Jan Romportl mluvil o tom, že UI otevírá bezprecedentní možnosti kognitivního válčení. Umělou inteligenci v tomto kontextu popsal jako propagandu na mega steroidech, která je tak sofistikovaná, že ji ani nelze poznat. Proto vnímá současnou situaci jako permanentní válečný stav. Jako příklad uvedl hrozby v kybernetickém prostoru. UI je tak potřebné vnímat i jako destabilizační prvek, který může stát v opozici integrity demokratických organismů. Doporučil, aby Evropská unie při nastavování a vymáhání pravidel pro využívání umělé inteligence argumentovala nejenom etikou, ale i silou, např. právě v oblasti kognitivních strategií, kde je vhodná jak defenziva, tak ofenziva. Akt o umělé inteligenci hodnotí kladně, ale to bohužel nic nemění na tom, že EU v závodě o vývoj nástrojů s UI nemá stejně vysoké tempo, jako jiní hráči.
Jak bude vypadat naše společnost s umělou inteligencí?
Konference byla dále ozvláštněna inspirativním rozhovorem s Matyášem Boháčkem, který je studentem a výzkumníkem na Stanford University. Tento geniální techno optimista byl jako svěží vítr. Kromě nespočetných pozitivních možností, která nám UI již přináší a může přinést, ale také upozornil na rizika, které známe i neznáme, např. akcelerace fake news. Rovněž zdůraznil význam označování výstupů, pro které byla použita UI, a optimalizaci UI jako prevenci její degenerace. Vyzdvihnul, že umělá inteligence má enormní význam pro zpracování dat, v medicíně atd. Konkrétní dopady na pojišťovnictví eviduje především ve zrychlení reportingu. Pojistný podvod díky detekci prostřednictvím umělé inteligence nezmizí, bude jen sofistikovaněji.
Následující panelová diskuse byla věnována využití umělé inteligence optikou etiky a práva. Zazněla také varovná otázka, zda máme vůbec ještě šanci UI udržet na uzdě. Alžběta Krausová, výzkumnice v oblasti práva UI, za největší etické výzvy označila transparentnost, humanocentrický přístup, vysvětlitelnost UI a riziko i neúmyslného zakotvení hodnot nebo předsudků.
Alžběta Krausová rovněž poukázala na paralelu mezi Aktem o umělé inteligenci a obecným nařízením o ochraně osobních údajů (GDPR). Za prvé se jedná o akty s ambicí tzv. bruselského efektu, které mají potenciál být globální legislativní inspirací. Další podobností je, že GDPR bylo první vlaštovkou regulace UI, konkrétně článek 22 GDPR, který upravuje automatizované rozhodování. Alžběta Krausová hodnotí Akt o umělé inteligenci pozitivně, z jejího pohledu se nejedná o brzdu vývoje, ale o klíčové nastavení hodnot, včetně klasifikace rizik. Unifikující regulace je nezbytná, což vysvětlila na protipólu roztříštěné úpravy v USA. Taktéž upozornila na přicházející evropskou regulaci odpovědnosti v rámci UI.
Skeptičtější byl příspěvek Miroslava Singra, ředitele institucionálních vztahů a hlavního ekonoma Generali CCE Holding. Uvedl, že umělou inteligenci nelze do finančního sektoru nepustit, jde i o globální konkurenceschopnost EU.
Na to navázal Jan Romportl, který UI charakterizoval jako velmi rychlý vůz bez brzd. Upozornil na některá rizika, např. deceptive AI (klamavá umělá inteligence) či určitou nezvratnost vývoje podle vložených dat. Akt o umělé inteligence byl z jeho strany rovněž hodnocen kladně, jelikož v rámci možností vytváří jednoduché, transparentní prostředí pro vývoj a následné férové využití UI, např. i u úvěrového scoringu. CEO společnosti prg.ai Lukáš Kačena považuje za klíčové vzdělávání, počítaje v to etické hranice využití UI. V návaznosti na vstup Miroslava Singra uvedl, že Akt o umělé inteligenci bývá často vnímám jako brzda technologického rozvoje, ale faktem je, že v globálním závodě o vývoj umělé inteligence nejsme rovnocennými hráči. Na druhé straně se tázal, zda lze vůbec UI nevyužívat, aby pomohla lidstvu, např. u klimatických změn.
Využití umělé inteligence v médiích
Podnětem k zamyšlení byla i prezentace novináře Václava Moravce. Ten představil téma „Ve stínu ChatGPT: Umělá inteligence v každodenním životě a v žurnalistice očima české populace“. Vycházel z výzkumu, na kterém spolupracoval s Fakultou sociálních studií Univerzity Karlovy. Ve zkratce, v rámci české populace patří mezi techno optimisty spíš lidé do 30 let. Techno pesimistů je dvakrát více. Jedna třetina populace má praktickou zkušenost s GPT, ale tento počet dál více méně stagnuje.
Pokročilé jazykové modely (LLM) je podle Václava Moravce vhodné vnímat jako nová informační média, po vzoru sociálních sítí. Proto je nezbytný jejich transparentní trénink. V žurnalistice dále predikoval hybridní vztah (např. Seznam zprávy využívající umělou inteligenci na přípravu ilustrací, projekt Gott navždy nebo pravidelné zprávy ČTK o cenách pohonných hmot generované UI), jako výzvu spíš vnímá ochotu financování takto připravovaných zpráv ze strany čtenářů.
Jak umělá inteligence mění české pojišťovny?
Závěrečný panel byl věnován umělé inteligenci v praxi pojišťoven. Dušan Quis, CEO Allianz pojišťovny, a.s., a Filip Král, člen představenstva Kooperativa pojišťovny, a.s., mluvili o obezřetném zavádění umělé inteligence v jejich institucích. Zdeněk Drbohlav, zakladatel společnosti Intermap Technologies, s.r.o. představil analýzu budoucích rizik, např. na projektu Povodňových map. Jindřich Hašek, zakladatel a CEO DataVision s.r.o. zdůraznil význam kvalitních dat a jejich bezpečnosti. Linda Tejchman, právnička a spoluzakladatelka „Bruselského cedníku“ pak upozornila na očekávanou regulaci odpovědnosti umělé inteligence a další očekávané legislativní novinky. Jedná se např. o obrácené důkazní břemeno, právní domněnky pro posílení postavení člověka, důležitost lidského dohledu.
Závěrečné slovo patřilo opět Janu Matouškovi, výkonnému řediteli ČAP. Uvidíme, jaké téma přiláká odborníky z různých sektorů na výroční konferenci ČAP příští rok.
