Falešná občanka za devět dolarů. Jak to vypadá, když AI bojuje s AI
5. května 2024
Reportér 05/2024 · Číslo 117Falešná občanka za devět dolarů. Jak to vypadá, když AI bojuje s AI
5. května 2024
Reportér 05/2024 · Číslo 117Falešná občanka za devět dolarů. Jak to vypadá, když AI bojuje s AI
Umělá inteligence mění svět ve všech ohledech. Týká se to logicky i světa zločinu. Podvodníci vždy dokázali do svých postupů zavést nejrůznější technologické novinky a využívat je a s nástroji AI to není jiné. Raketově přibývá digitálně zfalšovaných občanských průkazů nebo pasů – odhalují je naopak jiné nástroje umělé inteligence. Po přečtení tohoto textu si možná začnete víc všímat, kdo a jaké dokumenty vám v digitální podobě posílá.
Na první pohled nebylo na zájemci vystupujícím pod jménem Denys Los nic divného. Zareagoval prostě na inzerát, s jehož pomocí se nejmenovaná tuzemská menší IT firma snažila na sociální síti LinkedIn najít vhodného kandidáta na pozici řadového programátora. To, že podle jím zaslaných informací pocházel z Dánska a měl asijské rysy, nebylo pro personalisty české společnosti zarážející. V době, kdy programátoři běžně pracují na dálku klidně přes půl světa, je normální, že se do české firmy hlásí cizinec.
Kandidát se firmě líbil, tudíž ho požádala o zaslání všech potřebných dokladů, což bez problémů učinil. Poskytl kopii pasu i doporučení z předchozích zaměstnání. Dokonce i kopii výpisu z dánského rejstříku trestů. Vypadalo to nadějně, vypadalo to, že firma našla kandidáta, kterého hledala. Personalistům se však přece jen některé údaje nezdály; požádali proto o konzultaci český startup Scaut, s nímž už delší dobu spolupracovali při prověřování potenciálních zaměstnanců prostřednictvím jejich online nástroje využívajícího umělou inteligenci. Právě na automatizaci screeningu uchazečů o zaměstnání se totiž Scaut zaměřuje.
„Nahráli jsme dokumenty do našeho systému, který nás začal upozorňovat na to, co s nimi asi není v pořádku. Na první pohled by bez technologie ale nebylo poznat, že jde o falza,“ vzpomíná zakladatel Scautu Petr Moroz.
Analýza dat a dokumentů využívající umělou inteligenci ukázala, že pas byl skutečně vytvořen digitálně a že ve fyzické podobě nikdy neexistoval. Podvodník použil zřejmě pro jeho vytvoření umělou inteligenci, konkrétně aplikaci Verif Tools, o které ještě bude řeč. Falešný byl i životopis a další dokumenty. Například fotografie, kterou použil uchazeč ve svém profilu na síti LinkedIn, pocházela z databáze snímků používaných pro reklamní účely. A konečně, jak se lidem ze Scautu podařilo zjistit: za jménem Denys Los se ve skutečnosti skrýval Jang Jü, mladík žijící v čínském městě Tan-tung poblíž severokorejských hranic.
Zakladatel Scautu Moroz se společně s kolegy rozhodl, že s uchazečem ještě budou dál hrát jeho hru, a domluvili se, že se spojí přes videohovor. Mladík na to přistoupil, čekal zřejmě, že půjde už jen o formalitu před finálním přijetím. Moroz ho ale v jednu chvíli požádal, aby ukázal na obrazovku originál svého pasu na jméno Denys Los. Mladík se chvilku vymlouval, že doklad nemá u sebe, nakonec se odpojil a následně přestal zcela komunikovat.
Tím ale pro tuzemskou firmu nic neskončilo. Pár dnů po videohovoru se společnosti přihlásil na pozici programátora další zahraniční zájemce. Opět se jednalo podle zaslané fotografie o Asijce, tentokrát se jmenoval Mark Gronskiy a měl žít v Estonsku. Firma kandidáta opět rychle prověřila přes platformu Scaut a poměrně rychle zjistila, že i tentokrát se jedná o osobu předkládající falzifikáty dokumentů a vystupující pod cizí identitou. Později se ukázalo, že i za tímto „uchazečem“ se skrýval podvodník z prvního případu.
„Když to zpětně procházíte, tak se divíte, jak nekvalitně byly oba pokusy provedené. Třeba u životopisů, které poslal ve formátu PDF, jen některé části překryl jinou vrstvou, pod níž se ukrývaly jiné údaje. Nekvalitní byl také podpis u toho estonského pasu. Někdo by si toho ale nemusel všimnout, protože například estonský pas měl i funkční QR kód, přes který je možné ověřit, zda není v databázi neplatných dokladů,“ dodává Morozův kolega Petr Staškevič.
Proč se snažil mladý Asijec dostat do firmy, která ani nespadá pod kritickou infrastrukturu státu, se už nezjistí. Pravděpodobně se ale jednalo o pokus dostat se k citlivým údajům společnosti, ke kterým by na dálku najatý programátor mohl získat přístup, případně by do systému firmy nasadil nějaký škodlivý program.
Podpořte Reportér sdílením článku
Pracuje jako ředitel médií společnosti Internet Info.