Když si nemůžete být úplně jistí, nedělejte to! S rozvojem AI hrozí dokonalejší podvody

Generativní umělá inteligence bývá v Česku tu a tam připodobňována k centrálnímu mozku lidstva neboli CML ze seriálu Návštěvníci. V něm jde o to, že do roku 1984 přijede mise z budoucnosti, aby zajistila výpočty pro možný přesun Země či jiného tělesa, který by zachránil planetu před srážkou s kometou, kterou CML předvídal. Na Zemi jsou však „návštěvníci“ okradeni a centrální mozek lidstva jim pošle náhradní peníze. V oblasti financí ale umělá inteligence zcela selže a pošle peníze o sto let starší, z roku 1884. Vedoucí mise pak rozhořčeně volá, že „ten počítač je idiot“.

Mohla by být současná umělá inteligence v oblasti financí úspěšnější, než jak ukazovala tehdejší seriálová fikce? Možná ano, ale na svou šanci si bude muset v bankovním světě nejspíš ještě nějaký čas počkat.

Generativní umělá inteligence – která se v roce 2022 stala široce dostupnou a od té doby hýbe světovými debatami – by podle Jitky Haubové, členky představenstva Komerční banky zastávající roli Chief Operations Officer, mohla teoreticky najít v bankovnictví uplatnění v mnoha směrech. Při přípravě dokumentů a analýz všeho druhu. V chatovacích službách, které poskytují rady a podporu klientům. V oblasti programování bankovních aplikací či služeb. Nebo třeba při výkladu a uplatňování vnitřních směrnic banky.

To všechno by nejspíš generativní AI mohla zvládat velmi dobře, možná dokonce výborně. Banky ovšem musejí být při jejím využívání maximálně obezřetné. „Pro nás musí být vždy na prvním místě bezpečnost dat našich klientů. Banky nemohou nikdy připustit, aby byly tyto údaje vystaveny jakémukoli riziku,“ říká Jitka Haubová. Potenciálně riskantní může být jakákoli situace, kterou nemá daná banka plně pod kontrolou. „Umělá inteligence se rozhoduje na základě algoritmů, které někdo naprogramoval. Pro banky bude z principu nepřijatelné, aby se spoléhaly na nástroje, u kterých nemají stoprocentně pod kontrolou, na jakých principech fungují,“ vysvětluje Jitka Haubová.

Martin Kobza, člen představenstva České spořitelny, který se digitalizaci bankovnictví věnuje už více než patnáct let, zdůrazňuje, že každá novinka musí bezpodmínečně splňovat přísné bezpečnostní standardy a odpovídat nařízením ze strany regulátora trhu, tedy ČNB. Bezpečnost bankovních domů a z toho vyplývající důvěra klientů jsou podle něj pro celé odvětví naprosto klíčové.

Opatrné využití

To však neznamená, že by pro tuzemské banky nebyla generativní umělá inteligence mimořádně důležitým tématem, a to hned v několika směrech. Své zaměstnance podporují v tom, aby se s umělou inteligencí naučili pracovat. Zkoumají, jak by bylo možné s pomocí nástrojů založených na umělé inteligenci zefektivnit vlastní administrativu. Některé prvky umělé inteligence se také snaží zapracovat do vlastních digitálních služeb pro klienty. 

Komerční banka i Česká spořitelna mají své uzavřené verze ChatGPT, k nimž mají přístup pouze jejich zaměstnanci. „Každý měsíc položili naši lidé tomuto internímu ChatGPT přes tři sta tisíc dotazů,“ říká Martin Kobza z České spořitelny. Při celkovém počtu zhruba deseti tisíc zaměstnanců to znamená více než jeden dotaz na člověka a den. 

Povzbuzování personálu k tomu, aby se seznamoval s technologickými novinkami, mělo zjevný dopad. Velký zájem o užívání interního KB ChatGPT ze strany zaměstnanců pozoruje i Komerční banka. Jitka Haubová zdůrazňuje, že i v tomto interním a uzavřeném prostředí se pracuje pouze s takovými informacemi, které spadají do kategorie „veřejně dostupné“. 

Banky integrují prvky AI také do svých služeb, ovšem tak, že je mají plně pod kontrolou. 

Příkladem by mělo být například vylepšování digitálního bankovnictví George v Erste Group, kam patří i Česká spořitelna. Projekt, který si interně pojmenovali jako „Hey, George“, má posunout interakci klientů s jejich digitálním bankovnictvím do nové dimenze. I v té ale budou potřeba určité hranice. „Pro klienta bude skvělé když jej George upozorní na to, že mu pravidelně zůstávají nějaké volné peníze na účtu, nebo jej navede na funkce aplikace, které zatím nezná,“ popisuje modelovou situaci Martin Kobza, který v rámci představenstva České spořitelny odpovídá za oblasti IT a operations. Zároveň ale podle něj zatím nelze generativní umělé inteligenci svěřit tvorbu doporučení, kam by měl člověk své peníze konkrétně investovat. „Pořád je to jen algoritmus, jenž vygeneruje odpověď, která je hezká, ale ne vždy správná. Nemůžeme připustit riziko, že by došlo k omylu, který by klienta poškodil,“ říká. 

Podle Jitky Haubové může být do budoucna generativní AI užitečným pomocníkem pro bankéře nebo i klienty, kteří sami investují. Ovšem pořád jen pomocníkem. „Na základě kvalitního zadání může udělat dobrou rešerši informací z veřejně dostupných zdrojů. Potom si k tomu ovšem musí sednout člověk, který tomu rozumí, závěry takové analýzy revidovat a udělat rozhodovací proces sám,“ říká členka představenstva Komerční banky.

Pomoc i pro podvodníky

Rozvoj generativní umělé inteligence bedlivě nesledují jen samotné banky, ale také zločinecké skupiny, které se snaží bankovní klienty okrádat. Jejich výhoda spočívá v tom, že žádnou odpovědnost ani brzdy nemají.

Vladimíra Žáčková, která působí jako specialistka kybernetické bezpečnosti ve společnosti Eset, popisuje základní oblasti, ve kterých mohou zločinecké struktury generativní umělou inteligenci zneužívat.

Nejprve však zdůrazňuje, že mezi experty na počítačovou bezpečnost zatím není znám žádný případ toho, že by umělá inteligence sama vytvořila nějaký sofistikovaný škodlivý kód či program.

V oblasti zabezpečení financí je dlouhodobě tím nejslabším článkem člověk. Proto se digitální gangy nesnaží překonávat důkladně zabezpečené bankovní systémy, ale útočí vždy na klienty. 

Generativní umělá inteligence zlodějům pomáhá v tom, aby dovedli lépe vytvářet podvodné maily nebo falešné internetové stránky. S využitím nových technologií to všechno dovedou dělat rychleji, ve větším množství i v lepší kvalitě.

Dříve české klienty do jisté míry chránila unikátnost našeho jazyka, to už po nástupu nové generace umělé inteligence neplatí. „Vzhledem k tomu, že se často jedná o zločinecké gangy z ciziny, byly v jejich pokusech o manipulaci s klienty často neobvyklé formulace či gramatické chyby, což mohlo klienty varovat. S využitím generativní AI jsou podvodné pokusy na mnohem vyšší úrovni, a to i v českém jazyce,“ popisuje Vladimíra Žáčková. 

Další úrovní podvodů je generování falešných videí, fotek nebo hlasů. V případě finančního světa jde podle Vladimíry Žáčkové zatím zejména o zneužívání hlasu při navádění k nestandardním operacím. „Klienti bank jsou už dnes zvyklí, že finanční ústavy samy používají různé verze chatbotů, proto jim nemusí přijít divné, že s nimi komunikuje stroj. O to těžší je rozeznat, že se jedná o podvod,“ říká Vladimíra Žáčková. 

V podobných případech, kterým se říká „útoky sociálního inženýrství“, mohou klienty varovat neobvyklé požadavky, kterým čelí, a také to, že se je útočníci snaží přimět k tomu, aby jednali rychle. Například aby si rychle měnili přístupové údaje k internetovému bankovnictví, případně aby někam posílali či vybírali peníze.

Umělá inteligence se mezi zločinci využívá také k tvorbě deepfake videí – nejčastěji takových, na kterých někdo svým hlasem říká něco, co ve skutečnosti nikdy neřekl. Tato videa jsou primárně používána k vytváření dezinformačních kampaní a k manipulaci názorů z politických důvodů. V poslední době se ale začala významně vyskytovat i v oblasti finančních podvodů, obvykle se jedná o videa, na nichž známé osobnosti doporučují nějaké formy falešných investic. I tato produkce je stále dokonalejší. Zneužívají se tváře a hlasy populárních osobností ze světa umění nebo sportu, ale někdy také široce známých osob z politické scény. 

Hovoří se i o tom, že by zločinci mohli zfalšovat hlas či podobu téměř každého z nás a pokoušet se tak napálit a okrást naše blízké. Teoreticky to podle Vladimíry Žáčkové možné nejspíš je, byť zdaleka ne ke každému by se našlo dost hlasového a obrazového materiálu, se kterým by mohla AI pracovat. V praxi se to ale nyní neděje, individuální pokusy o podvod by byly moc náročné, a tak se gangy snaží spíše o plošný zásah a spoléhají na to, že se z velkého množství oslovených nějaké ovečky chytí.

Některé metody kyberzločinců ale neobsahují ani zdaleka tak sofistikovaný přístup. 

Prostě jen zkusí využít toho, po čem je zrovna poptávka. Proto vznikla obrovská spousta škodlivých internetových domén, které měly v názvu buď přímo řetězec písmen „chatgpt“, nebo jiný text, který odkazoval tímto směrem. Většinou nesměřovaly přímo k pokusům o finanční podvody, ale mohly například z uživatelů lákat informace nebo se jim pokoušet zavirovat počítač. „Jen ve druhém pololetí loňského roku naše nástroje zablokovaly více než 650 000 přístupů na takové podvodné domény,“ říká Vladimíra Žáčková ze společnosti Eset.

Ukazuje se, že kybernetičtí podvodníci se snaží využít nástupu generativní umělé inteligence a pozornosti, kterou na sebe strhává, skutečně všemi možnými směry.

Odbornice na kybernetickou bezpečnost se shoduje i s představiteli bank, že není důvod ke zvýšené panice. Pokusů o podvody sice stále přibývá, na druhé straně se ale také pořád zlepšují obranné systémy bank i informovanost klientů. Právě obezřetnost je tou nejlepší obranou, ať už útočníci používají jakoukoli technologii. Základní doporučení přitom může být docela triviální: když si něčím nejste úplně na sto procent jisti, nedělejte to.

P. S.: A když opravdu nevíte, běžte se do své banky osobně zeptat. Je to sice možná trochu old school metoda, ale s naprosto zaručenou jistotou. Falešnou bankovní pobočku asi žádná AI jen tak nevytvoří.