Falešná občanka za devět dolarů. Jak to vypadá, když AI bojuje s AI 

Na první pohled nebylo na zájemci vystupujícím pod jménem Denys Los nic divného. Zareagoval prostě na inzerát, s jehož pomocí se nejmenovaná tuzemská menší IT firma snažila na sociální síti LinkedIn najít vhodného kandidáta na pozici řadového programátora. To, že podle jím zaslaných informací pocházel z Dánska a měl asijské rysy, nebylo pro personalisty české společnosti zarážející. V době, kdy programátoři běžně pracují na dálku klidně přes půl světa, je normální, že se do české firmy hlásí cizinec.

Kandidát se firmě líbil, tudíž ho požádala o zaslání všech potřebných dokladů, což bez problémů učinil. Poskytl kopii pasu i doporučení z předchozích zaměstnání. Dokonce i kopii výpisu z dánského rejstříku trestů. Vypadalo to nadějně, vypadalo to, že firma našla kandidáta, kterého hledala. Personalistům se však přece jen některé údaje nezdály; požádali proto o konzultaci český startup Scaut, s nímž už delší dobu spolupracovali při prověřování potenciálních zaměstnanců prostřednictvím jejich online nástroje využívajícího umělou inteligenci. Právě na automatizaci screeningu uchazečů o zaměstnání se totiž Scaut zaměřuje.

„Nahráli jsme dokumenty do našeho systému, který nás začal upozorňovat na to, co s nimi asi není v pořádku. Na první pohled by bez technologie ale nebylo poznat, že jde o falza,“ vzpomíná zakladatel Scautu Petr Moroz.

Analýza dat a dokumentů využívající umělou inteligenci ukázala, že pas byl skutečně vytvořen digitálně a že ve fyzické podobě nikdy neexistoval. Podvodník použil zřejmě pro jeho vytvoření umělou inteligenci, konkrétně aplikaci Verif Tools, o které ještě bude řeč. Falešný byl i životopis a další dokumenty. Například fotografie, kterou použil uchazeč ve svém profilu na síti LinkedIn, pocházela z databáze snímků používaných pro reklamní účely. A konečně, jak se lidem ze Scautu podařilo zjistit: za jménem Denys Los se ve skutečnosti skrýval Jang Jü, mladík žijící v čínském městě Tan-tung poblíž severokorejských hranic.

Zakladatel Scautu Moroz se společně s kolegy rozhodl, že s uchazečem ještě budou dál hrát jeho hru, a domluvili se, že se spojí přes videohovor. Mladík na to přistoupil, čekal zřejmě, že půjde už jen o formalitu před finálním přijetím. Moroz ho ale v jednu chvíli požádal, aby ukázal na obrazovku originál svého pasu na jméno Denys Los. Mladík se chvilku vymlouval, že doklad nemá u sebe, nakonec se odpojil a následně přestal zcela komunikovat.

Tím ale pro tuzemskou firmu nic neskončilo. Pár dnů po videohovoru se společnosti přihlásil na pozici programátora další zahraniční zájemce. Opět se jednalo podle zaslané fotografie o Asijce, tentokrát se jmenoval Mark Gronskiy a měl žít v Estonsku. Firma kandidáta opět rychle prověřila přes platformu Scaut a poměrně rychle zjistila, že i tentokrát se jedná o osobu předkládající falzifikáty dokumentů a vystupující pod cizí identitou. Později se ukázalo, že i za tímto „uchazečem“ se skrýval podvodník z prvního případu.

„Když to zpětně procházíte, tak se divíte, jak nekvalitně byly oba pokusy provedené. Třeba u životopisů, které poslal ve formátu PDF, jen některé části překryl jinou vrstvou, pod níž se ukrývaly jiné údaje. Nekvalitní byl také podpis u toho estonského pasu. Někdo by si toho ale nemusel všimnout, protože například estonský pas měl i funkční QR kód, přes který je možné ověřit, zda není v databázi neplatných dokladů,“ dodává Morozův kolega Petr Staškevič.

Uchazeči z LinkedInu

Proč se snažil mladý Asijec dostat do firmy, která ani nespadá pod kritickou infrastrukturu státu, se už nezjistí. Pravděpodobně se ale jednalo o pokus dostat se k citlivým údajům společnosti, ke kterým by na dálku najatý programátor mohl získat přístup, případně by do systému firmy nasadil nějaký škodlivý program.

Kolik takových případů je, nikdo nedokáže říct. Firmy se pochopitelně většinou nechlubí, že se do jejich systémů dostal někdo cizí nebo nedůvěryhodný. A pokud se nějaký případ dostane do médií, většinou se mluví o tom, že na firmy zaútočili hackeři zvenku. To, že mohla být společnost napadena někým, koho předtím sama najala, už nikdo nepřizná. Práce na dálku je přitom především od doby, kdy po světě řádil covid, zcela běžná. U lidí z IT oborů o to víc, že najít kvalitního programátora nebo kodéra je poměrně komplikované. Mnoho firem tak najímá i zaměstnance, které v reálu nikdy neviděly: spoléhají se přitom právě na zaslané dokumenty a videohovory.

Některé firmy, stejně jako to bylo v případě společnosti uvedené v úvodu, využívají pro hledání nových lidí právě sociální síť LinkedIn. Ta se v Česku považuje za kvalitní místo, kde lze najít prověřené lidi: nečeká se, že by tam mohly být falešné profily, na rozdíl třeba od sítě Facebook nebo X, dříve známé jako Twitter. Jak ale ukazují některé případy za zahraničí, takové pravidlo už neplatí. Deník The Times loni popsal případ čínského agenta, který si na síti LinkedIn vytvořil celou řadu falešných profilů a s jejich pomocí začal kontaktovat vybrané zaměstnance některých britských institucí. Neměl přitom zájem o zaměstnání: chtěl se dostat k citlivým datům, za která nabízel i tučnou odměnu.

„V zahraničí se už LinkedIn nepovažuje za bezpečný a kvalitní zdroj pro hledání zaměstnanců,“ tvrdí Moroz a dodává, že po několika týdnech šetření původního případu jeho analytici identifikovali stovky navzájem propojených profilů, které využíval podvodník zmíněný v úvodu textu.

Sám LinkedIn se snaží proti podvodným účtům bojovat a aktivně je mazat. Na svém blogu společnost uvedla, že jen za druhou polovinu loňského roku její systém nepovolil založení více než 46 milionům podezřelých účtů. Dalších 17 milionů aktivních účtů sociální síť smazala.

Případ „zlomené“ nohy

Problém s falzifikáty zpracovávanými pomocí nástrojů umělé inteligence je však o dost větší a netýká se zdaleka jen zaměstnanců na dálku. Příkladem může být test, který se před pár měsíci rozhodla provést pojišťovna Kooperativa. 

Pojišťovna pochopitelně kontroluje všechny dokumenty, s jejichž pomocí lidé dokládají, že jim vznikla nějaká škoda. Při testu se ale Kooperativa rozhodla znovu zpětně prověřit asi půl milionu dokladů, které už jednou prošly kontrolou a zdály se být v pořádku.

Obrátila se proto na českou společnost Resistant AI, která se s pomocí umělé inteligence zaměřuje právě na detekování různých falzifikátů – nejen osobních dokladů, ale i různých účtů nebo lékařských zpráv. A výsledek forenzní analýzy dokumentů, které měly být v pořádku?

„Nalezli jsme kolem 1 300 nesrovnalostí, které se týkaly především faktur, úprav dat, částek, ale samozřejmě i samotného textu – co a jak se stalo. Mnoho případů je ještě v řešení, zatím jsme prokázali několik desítek podvodů,“ říká mluvčí Kooperativy Milan Káňa.

„Manipulace s vlivem na pojistné plnění byly jak v životním, tak majetkovém pojištění. Jednalo se o podvody od řádů stovek korun až po stovky tisíc korun,“ dodává.

Jako příklad uvádí třeba pokus jedné klientky, která se snažila lékařskou zprávou doložit, že měla zlomeninu patní kosti, a žádala, aby jí proto bylo vyplaceno 40 tisíc korun. Až rozbor od Resistant AI ukázal, že zprávu od svého lékaře digitálně upravila. Ve skutečnosti měla nohu jen podvrtnutou, za což by dostala o polovinu méně. Teď má smůlu a nedostane nic kvůli uvedení nepravdivých údajů.

„U neživotních pojištění se to týkalo různých úprav faktur. V jednom případě třeba náš klient nahlásil, že mu omylem spadl mobilní telefon do jezírka, a servisním protokolem dokládal, že se přístroj nepodařilo už opravit. Vyplatili jsme mu následně devět tisíc korun. Analýza Resistant AI ale ukázala, že text servisního protokolu byl digitálně upravený. Ve skutečnosti to bylo tak, že přístroj spadl klientovi do toalety a servisu se ho podařilo opravit,“ říká Káňa.

„Resistant AI prostě kryje našim likvidátorům záda. Sleduje, rozpoznává a hlásí nesrovnalosti v dokumentech, které pak likvidátoři znovu kontrolují,“ dodává.

Doklady z „e-shopu“

Podle odborníků z Resistant AI podobných podvodů přibývá. Firma, která působí po celém světě, jich podle svých dat odhaluje denně tisíce. Důvodem je snadnější způsob, jak lze nějaký dokument převést do digitální formy a tu následně upravit. 

Zatímco v minulosti nebylo úplně jednoduché nějaký dokument naskenovat nebo získat v digitální formě, dnes je to otázkou pár minut. Zvládne to vlastně téměř každý mobilní telefon. Na takové rychlosti ostatně staví své reklamy i banky, pojišťovny a další finanční instituce. V řadě marketingových sdělení se píše, že pro založení účtu nebo vyřízení nějaké žádosti stačí, aby dotyčný poslal kopii výpisu ze svého konta nebo přefocenou účtenku či fakturu, a vše bude vyřešeno během několika dnů.

„Firmy jsou tlačené do digitalizace a automatizace procesů, což je bezpochyby dobrá cesta. Na druhou stranu by s tím měla být spojena i důkladná kontrola pravosti dokumentů a údajů. A ta bohužel pokulhává,“ říká Tereza Štefková, která v Resistant AI pracuje jako research team leader a společně s dalšími kolegy zkoumá, jaké triky jsou schopni padělatelé dokumentů vymyslet.

Závazek – pošlete dokument a my žádost rychle vyřídíme – s sebou nese právě to, že lze snadněji podvádět s pozměněnými digitalizovanými dokumenty. V případě upravených zpráv od lékaře dokonce stačí i jednoduchý grafický editor, který umožňuje část dokumentu vymazat a nahradit ji textem, který mění podstatu původní listiny. Pokud se to udělá dobře, lidské oko nemá šanci to odhalit.

Jsou ale i sofistikovanější způsoby. U řady dokumentů, které se následně používají pro podvody, se dají velmi levně pořídit na internetu šablony už předvyplněných dokladů. „Na podobné případy narážíme čím dál častěji. Účty a částky na nich zůstávají stejné, mění se třeba jen jméno a datum,“ dodává Tereza Štefková.

Falešné faktury za energie a telekomunikační služby se mimochodem užívají třeba i v případě, že někdo potřebuje například pro založení bankovního konta dokázat, že bydlí na konkrétní adrese. Takové případy ale Resistant AI zaznamenává především v zahraničí. V Česku „jedou“ zejména výše zmíněné upravené lékařské zprávy a další dokumenty sloužící k pojistným podvodům.

Najít na webu aplikace, které nabízejí vytvoření falešných dokumentů v digitální podobě, není příliš složité. Zabere to pár minut. Asi nejznámější je v úvodu zmíněný nástroj Verif Tools, za kterým podle všeho stojí programátoři z Ruska. Na webu aplikace si stačí vybrat příslušný stát a následně doklad, který chcete vytvořit. Vytvořený snímek vypadá, jako kdyby průkaz ležel třeba na stole nebo ho někdo držel v ruce. Portrétní fotografii si dnes už běžně nechávají podvodníci vytvářet pomocí dalších nástrojů AI, generátorů obrazu, jako je třeba aplikace Midjourney.

V případě České republiky se na zmíněném webu nabízejí hned čtyři – kromě občanského průkazu a cestovního pasu i řidičský průkaz a pobytová karta, která se vystavuje pro ty, kdo mají v Česku povolen přechodný pobyt. Cena je jednotná 8,99 amerického dolaru, zaplatit ale musíte v bitcoinech, případně jiné kryptoměně, aby se skrylo, kdo si falešný doklad pořídil.

Na webu služby se sice píše, že za používání falzifikátů je odpovědný ten, kdo si je pořídí. Zároveň ale na něm najdete třeba i návod, jak například ze snímků z populárního editoru Photoshop odstranit metadata, která říkají, jak vznikl, a další detaily o něm. Tím se znesnadní identifikace toho, odkud snímek pochází.

Jak zadáváte heslo?

Také obranné nástroje, jak zmíněný Scaut, tak i Resistant AI, využívají pro detekování podvodů umělou inteligenci. První uvedená firma dokáže velmi rychle zkontrolovat různé registry ve většině evropských zemí a potvrdit informace ze zdrojových databází a registrů. To, co dřív nešlo, případně by trvalo dny, možná i týdny, dnes zabere maximálně desítky minut.

„Dokážeme se propojit s živnostenskými rejstříky nebo dalšími evidencemi v Bulharsku, Francii nebo ve Finsku a velmi rychle tak ověřit, zda je platné třeba číslo nějakého dokladu, kterým se někdo na dálku prokazuje. Personální oddělení většiny firem na tak hloubkovou kontrolu nemá čas,“ říká Petr Staškevič ze Scautu. Firma umí ověřit i to, zda fotografie na zaslaném dokladu je skutečná, nebo byla vytvořena digitálně. Využívá k tomu kombinaci technologií včetně právě řešení od firmy Resistant AI, která se na to specializuje.

Lidé z Resistant AI mluví o tom, že při odhalování podvodů používají tři vrstvy, jak se dokumenty pomocí umělé inteligence kontrolují. První je, že se sleduje, zda byl dokument nějak digitálně upraven. U druhé se hledají stejné vzorce mezi doklady, například používání výše zmíněných šablon. Ve třetí firma využívá údaje o digitálním původu dokumentu, například data o zařízení, které dokument pořídilo.

„Dohromady nám to dává přehled o tom, zda je doklad uměle vygenerovaný nebo modifikovaný. Třeba u portrétů na občanských průkazech nás ani tak nezajímá obsah samotné fotografie, ale její digitální vlastnosti, protože z toho lze poznat, že byl snímek vložen do jiné šablony. V případě stejných vzorců zase zjišťujeme, zda dokument či jeho části – například pozadí – nebyly už někde použité,“ vysvětluje Kristýna Schusterová z Resistant AI.

Tím ale kontrola nekončí. Kristýna Schusterová říká, že i sebelepší systém občas nedokáže odhalit, zda se jedná o pravý, či falešný doklad. To, že jde o falzifikát, může naznačit až následné chování podvodníka.

„Sledují se samozřejmě i vzorce chování zákazníků. Třeba to, když někdo vkládá jméno a heslo do nějakého registru s pomocí kláves CTRL + C a CTRL + V, může to indikovat, že má v tabulce napsaných víc hesel pro různé účty. Považuje se to za podezřelé chování,“ nastiňuje Kristýna Schusterová. Do úplných detailů ale lidé ze Scautu nebo z Resistant AI jít nechtějí, navedli by tím podvodníky, jak být úspěšnější. 

Co bude dál?

Služeb, jako je Scaut nebo Resistant AI, v poslední době přibývá. Jde o reakci na to, co se nyní v digitálním světě děje. S rostoucí kvalitou výstupů z aplikací využívajících umělou inteligenci bude počet různých pokusů pravděpodobně přibývat. Podle britské společnosti Sumsub, která se zaměřuje na podobnou problematiku jako výše zmíněné české firmy, přibývá meziročně takových podvodů velkou rychlostí.

Nejčastěji se padělají občanské průkazy a jiné osobní identifikační dokumenty: takových případů podle studie Sumsubu meziročně bylo o 163 procent více. V případě cestovních pasů je to „jen“ o 147 procent. Právě u pasů ale Česká republika patří mezi deset států, jejichž doklady se digitálně falšují nejvíc.

„Podvody se vyvíjejí spolu s nástupem služeb na dálku. V oblasti finančních služeb, cestování a dopravy již nedochází ke kontaktu s živou osobou, což přitahuje podvodníky. Také se usnadnilo vytváření nových identit. Nyní může mít jedna osoba 100 nebo 1 000 různých identit online,“ píše ve zprávě za rok 2023 produktový ředitel Sumsubu Andrew Novoselsky.

Podobně mluví i lidé ze Scautu nebo Resistant AI. „Nejsme sice ještě v bodu, kdy by nějaká generativní neuronová síť dokázala podle slovního zadání vytvořit dokonalý osobní doklad, který by byl dostatečně vizuálně přesvědčivý. Čím dál víc se ale budeme určitě setkávat s nějakým systematickým paděláním, které bude postupně sofistikovanější,“ říká Tereza Štefková.

Příkladem mohou být třeba počítačem vytvořená videa, která mají dokazovat, že zobrazovaný dokument je pravý. Některé bankovní instituce a další úřady totiž po svých klientech už delší dobu požadují, aby natočili, jak s požadovaným dokladem hýbají. I to nyní podvodníci dokážou obejít. „Je to takový boj umělé inteligence proti umělé inteligenci. Když podvodníci přijdou s něčím novým, musíme na to v rámci našich systémů hned reagovat,“ dodává Kristýna Schusterová.