Nebezpečí umělé inteligence: Pro šíření dezinformací může být horší než trollí farmy

Nechal jste umělou inteligenci nakreslit váš portrét, nebo jste se obrátil na chatbot s nějakým dotazem?

Ne, to jsou hezká dema pro veřejnost, ale pro vědeckou komunitu jsou to věci známé už řadu let. Současné aplikace jsou samozřejmě zajímavé, ale já jsem se do nich ani neregistroval, protože vím, co umí a neumí.

 

Veřejnost je momentálně umělou inteligencí doslova okouzlena. Jak se jako vědec, který se AI zabývá řadu let, na tenhle boom díváte?

Podle mě boom kolem AI začal už před víc než deseti lety, ale běžná veřejnost to neviděla. Tehdy začaly fungovat velké modely neuronových sítí, což zní hodně vzletně, ale v podstatě jde o určitý typ matematických modelů. Samotný název neuronových sítí je dán historicky a nemá s mozkem nic společného. Ale pro veřejnost to zní určitě magicky.

 

Co se před těmi deseti lety stalo?

Pro vědeckou komunitu došlo ke zlomu, protože se nové typy AI rozběhly na zajímavých datasetech (balíky dat, na kterých se umělá inteligence učí třeba najít lidský obličej nebo rozeznat melanom rakoviny – pozn. red.). Neuronové sítě tady byly už někdy od 80. let, ale nikdo je neuměl dobře používat na velkých datech. V mé generaci Ph.D. studentů jsme je dokázali úspěšně trénovat na různých věcech, já to využil pro jazykové modely. Na tom je právě teď postavený ChatGPT (jde o chatbot, tedy o počítačový program určený k automatizované komunikaci s lidmi – pozn. red.). Není to tedy pro mě novinkou – napsal jsem disertační práci o velkých neuronových jazykových modelech v době, kdy to ještě nikdo nedělal. A dostal jsem se s tím do Ameriky. Veřejnost může mít pocit, že teď došlo k přelomovému pokroku, což je jistě pravda z hlediska aplikací, pro vědeckou komunitu to ale není tolik překvapivé.

 

Po vědecké stránce tedy žádné zásadní nové objevy?

Nové modely po vědecké stránce s ničím extra novým nepřicházejí, ale jsou postavené na obrovském množství dat. Jsou to tedy velké modely, a tím pádem samozřejmě i velmi drahé. Vytvoření modelů jako ChatGPT stojí řádově desítky až stovky milionů dolarů. Takový si na univerzitě prostě nepostavíte. To už nejsou projekty pro vědce, ale pro korporace, které mají hodně peněz.

 

Bavíte se tím, že veřejnost teď objevila umělou inteligenci a řeší, co všechno umí?

Samozřejmě je to zábavné, ale stalo se to už vícekrát. Když jsem v roce 2012 začínal v Googlu, v USA se ve veřejném prostoru o umělé inteligenci hodně mluvilo, zajímali se o ni novináři. Když jsem se pak postupně vracel do Česka a v roce 2018 vyhrál cenu Neuron, přišlo mi, že i tady byl o umělou inteligenci velký zájem. Jako téma byla velmi populární a řada těch dotazů z pohledu vědecké komunity byla až naivních.

 

AI jako příležitost

Jako třeba?

Výkřiky ve stylu, že lidi budou nahrazeni počítači, do pár let zanikne padesát procent pracovních pozic. Samá panika. Říkal jsem tehdy, že před sebou máme ještě spoustu nevyřešených problémů a umělá inteligence zatím ještě žádnou inteligencí ani není. Jsou to jen počítačové algoritmy řešící různé zajímavé úlohy, které jsme dříve přes klasické programovaní vyřešit nemohli. Přidaná hodnota tady rozhodně je. Je důležité vidět, co nám to přináší nového. Když se s novými nástroji naučíme pracovat, budeme jako společnost efektivnější – a tedy i bohatší. Když se toho naopak budeme bát s tím, že z nás umělá inteligence udělá nezaměstnané, budoucnost nám uteče. Nesmíme se nenechat zmanipulovat lidmi, kteří tvrdí, že pravděpodobnost, že nás umělá inteligence zničí do pěti let, je 32,5 procenta. I takové ptákoviny jsem zaznamenal.

 

Co teď přitahuje veřejnost na AI?

Popularitu jí během posledního roku přinesly právě nástroje jako ChatGPT nebo Midjourney. Zpřístupnění těchto nástrojů lidem, kteří v tom vidí zábavu nebo užitečnost, je skvělé. Máte nové nástroje, které dříve neexistovaly. Umožní to více lidem vytvářet zajímavý obsah.

 

A co se týká jazyka?

To je podobné. Člověk nemusí být extra spisovatel, ale během pár let vzniknou nástroje, které ho z něj tak trochu udělají, protože mu zkrátka pomohou napsat lepší text. Taky spoustě lidí došlo, že i obyčejný vyhledávač by na základě jazykových modelů mohl fungovat podstatně jinak. Nemusel by jen odkazovat na webové stránky, ale přímo generovat originální obsah, aby co nejrychleji a nejlépe odpověděl třeba na můj unikátní dotaz, na který se zatím nikdo neptal. Samozřejmě to zatím není dokonalé.

 

Chat s pacientem

Kdy by tedy AI mohla lidem zásadně změnit život? Dožijeme se toho ještě?

Doufám, že ano. Všude, kde se objevuje velké množství dat, můžeme naši společnost zefektivnit. No a efektivnější společnost znamená, že všichni budeme bohatší, budeme mít více volného času a budeme si toho moct víc koupit – prostě pokrok, který sledujeme od začátku průmyslové revoluce. Bylo by super, kdybychom se na to dívali racionálním ekonomickým pohledem.

 

Můžete být konkrétnější, kde by se to dalo takhle využít?

Třeba v oblastech, jako je zdravotnictví, kde máme miliony záznamů. Mohli bychom vzít data z celé Evropy a natrénovat statistické modely, pomocí kterých bychom predikovali, jaká rozhodnutí vedou ke zvýšení či snížení pravděpodobnosti, že člověk onemocní. Zdraví je něco, co bychom díky AI mohli zlepšit opravdu výrazně. Nejsem sám, kdo tohle říká. Mladší generace lékařů už jsou otevřené technologickým věcem a snaží se o změnu, například v projektu Ministr Zdraví. Přitom nemusíme technicky i vědecky vymýšlet nic nového, abychom to zvládli.

 

V jakých dalších oborech vidíte příležitost pro AI?

Třeba ve školství. To je také zakopané na pozicích z minulého století. Učíme se často věci, které v životě vůbec nevyužijeme. Je důležité školství personalizovat, aby se člověk učil to, co má přidanou hodnotu pro konkrétního studenta. Například aby se lidé, kteří jsou talentovaní, neučili zbytečně nezáživné věci, u kterých se nudí. A naopak méně chytří neměli nemožně těžké příklady, které je také nikam neposunou. Mohli bychom vytvořit výukový systém, ve kterém by studenti dostávali příklady relevantní k tomu, co je zajímá, čím se chtějí živit. Rozvíjet je v tom, co jim jde, ne jim vzdělávání znechutit memorováním na písemku. Plýtváme potenciálem celé společnosti, zatímco strojové učení by nám mohlo pomoci vytvořit personalizované školství.

 

Emoce nečekejte

Zvládla by AI v oblastech, jako je právě zdravotnictví nebo školství, sociální aspekt? Například projevení empatie?

To se také hodně diskutuje. Existují třeba projekty na vývoj chatbotů, kteří by pomáhali pacientům s Alzheimerem. Ti jsou často osamocení, a když nenamáhají hlavu, nemoc postupuje rychle. Když naopak musí vzpomínat a prochází si třeba chatbotem, co dělali přes den, udrží se v lepší formě. Nerad bych to ale přeháněl s empatií, ta přece jen vyžaduje pochopení druhého člověka. Strojové učení jsou naopak nástroje, které vychází z velkých datasetů. Když mi jazykový model vygeneruje větu, že mě miluje, nemyslí ji upřímně. Taková věta byla prostě někde v trénovacích datech a stroj ji zopakuje. Není za tím žádné umělé vědomí. Jen matematické modely, které generují slova do vět, které mají v daném kontextu vysokou pravděpodobnost výskytu.

 

Vidíte nějaká rizika, na která bychom si měli jako společnost dát pozor? Vždyť zneužít se dá všechno.

To je pravda. Pokud se podíváte na technologie, které byly převratné v minulém století, tak která z nich nebyla zneužita, respektive využita pro jiné než původně zamýšlené účely? Třeba letadla stavěli lidé, kteří chtěli létat. Jenže pak začala létat ve válce. Pro původní autory by to bylo zneužití. Podobných příkladů je celá řada. Teď máme válku v Evropě a její velkou součástí je propaganda. Pomocí chatbotů můžete generovat záplavu komentářů, abyste populaci protivníka zmátli. Na šíření dezinformací je to potenciálně mnohem mocnější zbraň než trollí farmy, kde si musíte najmout hromadu lidí.

 

 

Jste velmi úspěšný, ve světě jste nejcitovanějším českým vědcem, významně jste posunul pochopení textu počítačem, a tedy i vyhledávání třeba u Googlu i jeho překladače. Máte ještě nějaký vědecký sen?

Samozřejmě bych rád viděl opravdovou umělou inteligenci. Zatím ani ty nejlepší modely nemůžeme prohlásit za tak inteligentní, jako jsme my lidé. Mají pořád spoustu nedostatků, například paměť. Abychom měli systém, který má emoce, museli bychom dořešit spoustu problémů. K tomu je potřeba řady přelomových objevů. Sázím třeba na vytvoření modelů, ve kterých dochází k umělé evoluci, která by vedla ke vzniku komplexních modelů paměti nebo emocí. To je nicméně zatím science fiction. Vědecký pokrok je totiž v některých ohledech mnohem pomalejší, než by si mohla veřejnost myslet.

 

V Evropě jsme pozadu

Dlouho jste pracoval v zahraničí, nakonec jste se ale vrátil do Česka. Jak byste ty zkušenosti srovnal?

V Evropě je ještě řada nedostatků. Lidi tady často dělají vědu za málo peněz. Když už se u nás něco převratného objeví, nejsme to my, kdo na tom vydělá. Ale spíš velké korporace ze Spojených států nebo Číny. Já měl štěstí, že jsem se dostal do zahraničí, kde jsem měl skvělý plat, a teď se můžu věnovat v podstatě čemukoli, co mě baví. Když jsem se vracel, měl jsem představu, že to tady bude trochu odvážnější. Ale musím říct, že v oblasti výzkumu a aplikací moderních technologií je to tu mnohem pomalejší, než bych čekal. Evropě ekonomicky ujíždí vlak. Je hezké, když politici vypráví pohádky, jak nechceme být montovnou a chceme dělat věci s vysokou přidanou hodnotou. Vznikají různé iniciativy, ale skutek utek. Je to po celé Evropě. Zkuste vyjmenovat velké evropské technologické firmy, které výrazně používají umělou inteligenci.

 

Všichni vzpomenou především americké...

V USA máte Microsoft, Google, Netflix, Apple, Twitter, Facebook, IBM a další. V Číně ByteDance (TikTok), Baidu, Alibabu a tak dále. Čím to, že v Evropě nic takového nemáme? Máme tady snad hloupější lidi? Asi těžko, když jsme řadu převratných objevů v AI vymysleli v Evropě. Malých úspěšných AI startupů máme tisíce, ale nikdy z toho nevyroste velká silná firma. Máme dost věcí nastavených špatně, od těch základních, jako je třeba zdanění. Musíme to řešit. Nemůžeme si nechat naše nápady levně prodat do Ameriky, která nám je zabalí a draze prodá zpátky. Už nás předběhla i Čína. Řešíme často detaily a necháváme si utíkat velké peníze.

 

Sám jste pracoval pro Google, Microsoft i Facebook, nestýská se vám po korporátu, kde bylo víc peněz a větší tah na branku?

Určitě se mi nestýská, i když zkušenost to byla skvělá. Peněz tam rozhodně bylo víc, poznal jsem řadu skvělých lidí a bylo to zajímavé. Ale práce v korporacích má i své horší stránky. Jsem rád zpátky.