Pro finanční sektor platí celá řada specifických regulací. Některá jsou průřezová a společná pro celý více oblastí, jako jsou například pravidla pro boj proti praní špinavých peněz a financování terorismu (AML/CFT) nebo pro ochranu spotřebitele. Jiné předpisy upravují poskytování distribuci konkrétních produktů, například pojištění, investic, úvěrů nebo nově také kryptoměn (nařízení MiCA).
Pokud se na tyto povinnosti podíváme ryze provozně, mnoho z nich vyžaduje zavedení interních procesů a postupů, při kterých často opakují velmi obdobné kroky. Jde například o kontrola dokumentů či dokladů předložených klientem, monitoring správné komunikace vlastních zaměstnanců s klienty, vyhodnocování podkladů, monitoring podezřelých nebo neobvyklých aktivit atd.
Procesy, který jsou už nyní realizovány manuálně nebo poloautomaticky, zahrnují sérii opakujících se kroků a existuje k nim řada dat a informací… Ano, vidím to stejně jako vy! Typický kandidát na vylepšení pomocí umělé inteligence!
Data máme, je na čem se učit a co rozvíjet, pojďme zkusit být efektivnější a ušetřit. Ušetřit čas, peníze i kapacity.
Které činnosti jsou vhodné pro AI?
Ve kterých procesech finanční instituce mohou využívat, a mnohdy už to také zkoušejí, některé prvky umělé inteligence?
Typickými příklady jsou:
Nabídka produktů
Určování cen a podmínek produktu
Schvalování žádostí o finanční produkt či službu
Identifikace a kontrola klienta (tzv. KYC a KYT monitoring)
Monitoring a vyhodnocování podezření na podvodné jednání
Podpůrné procesy na back-office, např. vyhodnocování a zpracování klientských žádostí
Řada činností v IT, od vývoje a testování kódu, přes datovou analytiku až po provozní monitoring
4 hlavní rizika AI ve finančním sektoru
Využití umělé inteligence může výrazně usnadnit práci. Konkrétním zaměstnancům i celým týmům. Organizacím jako takovým může AI ušetřit kapacity vynakládané na opakující se procesy a činnosti.
Ovšem nic v životě není zadarmo. Ani nasazení umělé inteligence. Jaká jsou hlavní rizika AI ve finančním sektoru? Můžeme je rozdělit do těchto čtyř kategorií:
Interní informace
Osobní údaje, bankovní tajemství, know-how, obchodní plány, informace s dopadem na cenu akcií… Pokud tyto informace uniknou, třeba k dalším uživatelům AI nástroje, může to mít pro finanční instituci velmi neblahé důsledky.
Kybernetická bezpečnost
Přílišné, lépe řečeno slepé spoléhání se na AI může výrazně oslabit celkovou úroveň kybernetické bezpečnosti. Z jednoho úhlu pohledu instituci hrozí zavlečení bezpečnostní chyby či slabiny, kterou jí poradí nebo naprogramuje AI. Na druhé straně je nutné být si vědom rizika neodhalení nebo špatného posouzení bezpečností události AI nástrojem. Ani jedno rozhodně není žádoucím výsledkem a mnoho času, kapacit a peněz takováto chyba neušetří…
Regulace
Ať už se jedná o průřezovou regulaci, jako je GDPR, nebo sektorovu úpravu, nasadit AI bez alespoň základního zhodnocení a nastavení dodatečných pravidel může být problematické z řady aspektů. Například využití osobních údajů pro vývoj AI nebo jejich možné sdílení s dalšími uživateli, předávání osobních údajů mimo EU, ale třeba také (ne)dokumentovatelnost postupů finanční instituce, porušení mlčenlivosti, nedostatečné zajištění práv nebo přímo diskriminace spotřebitele atd.
Právní rizika
Čtete si podmínky k využívaným AI službám? Víte, že obrázek, který vám AI namaluje, často vůbec nesmíte veřejně používat, a že naopak ke všem vstupům dáváte neomezenou licenci provozovateli služby?
Jste AI pštros?
Uvedli jsme si čtyři hlavní kategorie rizik využití AI ve finančním sektoru. Jak AI ve finanční instituci, ale vlastně v jakékoliv organizaci, interně řešit?
Základními možnostmi jsou:
AI neřešit (scénář pštros)
AI zakázat (scénář nahý císař)
AI přiměřeně a v klidu kontrolovat
I bez bližšího vysvětlování je asi zjevné, která varianta je pro organizaci nejlepší. Nejvýhodnější, nejbezpečnější, nejefektivnější. Jen pro jistotu, není to ani varianta pštros, ani varianta nahý císař.
Proč ne?
Protože i když bude organizace AI ignorovat, nebo ji císařským výnosem na věky věků zakáže, většinou si k ní AI stejně najde cestičku. Možná nejdřív na IT oddělení, kde bude někdo potají zkoušet rychleji a lépe psát kód nebo testovat. Nebo na marketingu, který bude chtít lepší obrázky a chytlavější slogany. Ignorovat rizika související s AI je prostě krátkozraké a každou organizaci to dříve či později dožene.
Jak AI využít chytře a bezpečně?
Umělé inteligence není třeba se bát. Je to nástroj jako každý jiný, i když zřejmě v řadě ohledů přelomový. Ale prostě nástroj, který lze využít ve prospěch společnosti, úřadu, k ochraně veřejných zájmů i práv jednotlivců.
Jak AI využívat chytře, kontrolovaně a efektivně, s minimalizací rizik?
Klíčem je těchto 8 kroků:
Stanovit jasnou strategii organizace k AI
Nastavení a zavedení pravidel pro používání AI
Proškolit zaměstnance o výhodách, nevýhodách a rizicích AI a podmínkách jejího využití v organizaci
Nastavit kritéria pro výběr a posuzování procesů, ve kterých lze AI využít
Definovat citlivé informace, které do AI nástrojů provozovaných jako službu nelze vkládat
Nastavit pravidla a odpovědnosti pro výběr konkrétních AI nástrojů, včetně kontroly smluvních podmínek, hodnocení rizik a technického nastavení služby
Zmapovat, jestli už AI náhodou není v organizaci využívána, pokud ano, uvést její používání do souladu s pravidly
Zavést kontroly pro ověření, zda AI v praxi funguje i s časovým odstupem tak, jak organizace chce (kontrola výstupů, změn dokumentace a technického nastavení)
A pak se do toho pustit. Protože AI je především příležitost. Tak ji pojďme využít!
