Za hranice člověka a dokonce dál

Budoucnost už je tu, jen zatím není rovnoměrně distribuována. Tak zní oblíbený citát technooptimistů, kteří věří, že díky technologiím bude žít lidstvo lépe: jeho autorem je spisovatel William Gibson, zakladatel kyberpunku, jednoho z žánrů science fiction, jenž je, jak říká encyklopedie, charakteristický „kombinací společenské spodiny a pokročilé technologie“, anglicky řečeno – „high tech-low life“.

Budoucnost už tu skutečně v mnoha ohledech je – pokud jde o umělou inteligenci. Často je zde sice stále jen v zárodečných formách, ale to nic nemění na znepokojivých otázkách, které jsou s jejím příchodem spojeny. Co totiž chybí – a považuji to za opravdu zásadní problém dneška –, je pochopení, jaká bouře právě přichází a jak dosud často vysmívaná umělá inteligence promění nejen naši práci a svět, ale hlavně lidské chápání vlastní podstaty, a dokonce i to, co je a není lidské.

 

•••

Loňský rok nebyl jen rokem konce covidové pandemie a začátku nesmyslné ruské invaze na Ukrajinu, ale také a možná především šlo o rok, kdy se technologie umělé inteligence dostaly do rukou nejširším masám.

Umělá inteligence – známá též pod zkratkou AI od anglického artificial intelligence – stojí například za úspěšným překladačem DeepL či generátory obrázků podle textů, jako jsou Stable Diffusion či Midjourney – nejvíce zmiňovanou technologií ovšem byla a stále je služba ChatGPT. Co to přesně je?

V podstatě jde o web, který umožňuje uživatelům povídat si s upravenou verzí umělé inteligence nazývanou GPT: momentálně má napsanou verzi 3.5 a do nynější podoby ji dovedla společnost OpenAI. Ve verzi ChatGPT je uzpůsobena tak, aby odpovídala na otázky. Chcete vědět, jaké jsou principy kvantové fyziky? Stačí se zeptat. Chcete to celé podat jazykem pro malé děti? Není problém, stačí položit otázku. Hledáte nápady na vánoční dárky? Žádná potíž, zeptejte se a my odpovíme. Potřebujete najít chybu ve svém počítačovém kódu? Není problém, položte jen dotaz.

Základním principem ChatGPT je, velmi zjednodušeně řečeno, obrovský jazykový model, který se z velkého množství textů učí, jak správně generovat jejich pokračování. Když se ho dnes zeptáte, jak vlastně funguje, a požádáte ho, aby to vysvětlil jednoduchým jazykem, odpoví přibližně takto:

„GPT, což znamená ,Generative Pre-trained Transformer‘, je druh počítačového programu, který je schopen předvídat, co bude následovat po určitých slovech nebo frázích. To mu umožňuje předpovídat, co by mohlo být dál řečeno nebo napsáno v textu. GPT modely jsou také schopné vytvářet nový text, který může vypadat, jako by byl napsán člověkem. Je to trochu, jako když si hrajete na školu a jedna osoba říká něco jako ,Ve škole jsme dnes...‘ a druhá osoba pokračuje‚ dělali přírodopis‘. GPT modely jsou schopné dělat něco podobného s textem.“

Všimněte si, že nejde o to, aby výroky byly pravdivé, takový koncept GPT vůbec nezná. Důležité je jen, aby se vygenerovaný text co nejvíce blížil takovému výsledku, za jehož plnění dostávala síť při svém učení od svých tvůrců-programátorů virtuální odměny. V případě GPT se nejedná o počítání nebo o nějaké abstraktní myšlení, jde jen o to, správně se rozhodnout, jak má text pokračovat.

 

•••

Pokud si myslíte, stejně jako já, že rozumět textu znamená vědět, jak bude správně pokračovat, můžeme klidně mluvit o tom, že v obecné rovině už umělá inteligence textům rozumí a je schopna na ně reagovat. Vzhledem k tomu, že má „načteno“ obrovské množství textů, odpovídá poměrně smysluplně na celou řadu požadavků. Od toho, že napíše kus počítačového programu, přes vygenerování nápadů na reklamní kampaň až po návrh scénáře pro film. Zkrátka cokoli, co je založené na práci s textem a jehož výsledkem je další text.

Sem samozřejmě spadají i překlady, což koneckonců opět není nic jiného než vytváření jednoho textu na základě textu jiného. Kvalita výstupu je různá a internetem kolují více či méně úsměvné výsledky. Nicméně zlepšování je nyní pouze otázkou krmení této služby umělé inteligence větším a větším množstvím dat. V průběhu roku 2023 má být uvolněna nová verze modelu s označením GPT-4. Oproti stávající verzi má být naučená překládat na základě několikanásobně většího množství textů.

Zdá se tak, že už velmi brzy projdou počítače slavným Turingovým testem. V tomto myšlenkovém experimentu legendárního matematika a zakladatele moderní informatiky Alana Turinga jde o následující otázky: Stane se někdy, že když si člověk bude povídat s dvěma jinými osobami, nebude schopen poznat, jestli ten, s kým právě mluví, je počítač? ChatGPT pokročil právě v imitování lidské konverzace velmi daleko. Jediná nejistá věc tudíž není, jestli se tak stane, ale kdy přijde chvíle, že už člověk nepozná, že nemluví s jinou lidskou bytostí, ale s umělou inteligencí. Tedy zda to bude letos, nebo v nejbližších pár letech.

 

•••

Jak už jsem naznačil, ani dva roky pandemie covidu-19, ani probíhající válka na Ukrajině nebudou mít takový dopad na celou společnost, jako má zmíněná demokratizace umělé inteligence, kterou ohlašuje právě ChatGPT. A zásah tentokrát bude mířit k profesím těch, kdo se ještě před deseti či dvaceti lety necítili ničím ohroženi.

Nejistotu, kterou přinesla globalizace ekonomiky a výroby tak zvaným modrým límečkům, tedy zjednodušeně řečeno manuálně pracujícím, nyní kvůli nástupu umělé inteligence pocítí límečky bílé: tedy lidé pracující v kancelářích nebo u počítačů. Srovnat nynější situaci nakonec můžeme s ještě starším děním, než je globalizace posledních desetiletí – totiž s nástupem industriální revoluce v 19. století, která převrátila společenská uspořádání celých světadílů. Tehdy byli dělníci přesvědčeni, že jim stroje berou práci. A nyní bude brát práci umělá inteligence lidem, kteří byli přesvědčeni, že dělají něco, co stroje ze samé podstaty nezvládnou, protože to jsou jen stroje.

Tušení této změny se již objevuje v řadě reakcí, které umělá inteligence vyvolává. Jestliže dnes AI umí napsat školní práci, která bez problému projde na střední škole, není divu, že ji mnohé americké střední školy už nyní zakazují. Jenže tak jako luddité, řemeslníci, kteří v Anglii před zhruba dvěma sty lety rozbíjeli stroje s tím, že jim berou práci, nevyřešili nic, stejně ani dnešní pokusy zakázat používání umělé inteligence nic nevyřeší. Stejně jako s nástupem industrializace, i dnes totiž AI vyvolává otázky: Co je na tom, co děláme, skutečně lidské a co se dá prostě nahradit strojem? Je například to, jak máme nastavené požadavky na písemné a seminární práce studentů, adekvátní době, ve které žijeme? Nebo přišel čas tohle všechno přehodnotit?

 

•••

Existují i další reakce, které též známe z doby úsvitu strojů v průmyslu. Totiž že stroje jsou fajn, ale nikdy nebudou tak kreativní. Dobrou ilustrací jsou nynější reakce překladatelů. Ti nejlepší z nich s kritickým odstupem říkají, že kvalita strojových překladů je dobrá, ale překlad je umění a to zůstává strojům zapovězeno. A mají pravdu, skutečně je možné, že stroje nikdy nebudou lepší v překladu Shakespeara do češtiny. Jenže v 99,99 procenta dalších textů budou stroje pravděpodobně lepší než lidé. Stejně jako pásová výroba nezničila úplně řemeslníky, pouze zredukovala jejich počet. Úměrně tomu, jak roste role strojového překladu, bude ubývat skutečných překladatelů a jejich místo nahradí spíše editoři. Exploze strojového překladu však zásadně promění naše vnímání kultur. Pravděpodobně pokročíme zase o krok dál ke kultuře globální, v níž jazyky už nebudou představovat žádnou zásadní bariéru.

Politická uspořádání postavená na jazykových hranicích se dost možná začnou definitivně poroučet, s čímž ovšem patrně ztratíme i kus své vlastní identity. Přitom je známo, že globalizace přivedla modré límečky v mnoha západních zemích k volbám populistů a extrémní pravice. Jak budou reagovat na nástup umělé inteligence límečky bílé, uvidíme velmi brzo. Mimochodem – ani tak lukrativní povolání jako právník nejsou dnes před nástupem AI chráněna. U soudu ještě nějakou dobu bude určitě potřeba živých lidí – přece jen máme dojem, že spravedlnost je lidská záležitost –, ale třeba sepisování smluv půjde strojům brzy lépe.

Umělá inteligence je totiž „krmena“ miliony a miliony textů, aby se naučila, jak má správně pokračovat. Při každém dotazu vygeneruje novou a v zásadě jedinečnou odpověď, nejde ji moc přistihnout při tom, že by své odpovědi pouze skládala z jiných textů. Jiné texty jsou tím, co ji učí. Díky tomu je schopná nejen psát, ale například také napodobovat různé styly. Když se jí zeptáte, ať vám vysvětlí, odkud má svoje znalosti, a požádáte ji, aby vám odpověděla ve stylu tweetů Donalda Trumpa, udělá to.

Ještě lépe je to vidět v těch případech, kdy se jedná o umělou inteligenci generující obrázky, jakou je například již zmíněná Midjourney, která funguje na podobných principech jako ChatGPT. Ostatně jako ilustrace k této eseji posloužila právě služba Midjourney: zadáním bylo nakreslit novináře-reportéra ve stylu Alfonse Muchy. Mimochodem, už před pár lety vznikl v Česku projekt Digitální filosof, který generoval další texty ve stylu vybraných filozofů.

Nemusí se přitom jednat jen o imitace slavných osobností. Už dnes máme projekty, které se snaží o co nejvěrnější vytvoření digitální kopie skutečné osobnosti na zakázku klienta. Doba, kdy bude technicky možné si koupit digitální kopii vašeho zesnulého partnera, tak již není daleko. Pokusy v tomto směru dnes nejsou ničím neobvyklým.

 

 

•••

Dosud jsem mluvil jen o umělé inteligenci, s níž jsme v kontaktu prostřednictvím počítače. Ten si ale většina z nás představuje poněkud staromódně jako přístroj s displejem a klávesnicí, kterou tu a tam může nahradit třeba hlasový vstup. Jenže realita je jiná. Počítače se stávají zcela běžnými přístroji, které nás obklopují. Jak říká spisovatel Cory Doctorow – už nejezdíme auty, nelítáme letadly, do pater nás nevynáší výtahy. Ve skutečnosti sedíme v počítačích, které jezdí, lítají a vozí lidi mezi patry. A také perou, svítí či nám pouštějí filmy.

A v takovém světě není těžké si představit robota, který bude mít podobu vaší tragicky zesnulé partnerky nebo partnera a bude s vámi vstávat i ulehat. Staneme se tedy digitálně nesmrtelnými?

Jestli se vám teď udělalo poněkud nevolno, je to v pořádku. Narazili jsme totiž na hranice toho, co považujeme obecně za lidské. Nicméně na otázky, které nás v této souvislosti napadají, musíme začít hledat odpovědi. Ty totiž nejsou zdaleka jasné. Kdo se stane nesmrtelným? Náš otisk? Je možné vůbec chápat něco, co je umělé, jako člověka? Poznáme výhledově, kdo je android a kdo člověk? A budou naše kopie před usnutím taky počítat elektronické ovečky? Na mnohé z těchto otázek se snaží odpovědět literatura science fiction, stejně jako filozofické myšlenkové experimenty.

 

•••

Abychom to shrnuli. Technologie a její možnosti tak jako už dříve v historii předběhly jiné oblasti lidského života, jakou je třeba právo, etika, pedagogika a mnohé další. Nyní přichází čas investovat maximum úsilí právě do nich: a to ve smyslu, aby byly schopny vyrovnat se s faktem, že mnohé, co měly tyto vědní obory za lidské, už napříště nebude jen lidské. Humanitní vědy budeme potřebovat proto, aby nás naučily znovu rozumět nejen člověku, ale i technice.

Francouzský básník a spisovatel Louis Aragon napsal ve svém románu Pařížský venkovan slavný surrealistický výkřik: Najděme meze člověka a překročme je. Dnes se těmto mezím blížíme stále rychleji a je jen otázkou času, kdy jich dosáhneme. Po jejich překročení čeká lidstvo další velké dobrodružství, srovnatelné s tím, když opice slezly ze stromů.

 

Autor (*1974) je vysokoškolský pedagog, odborník na analýzy sociálních sítí a sémiotik. Vede studia nových médií na Filozofi cké fakultě Univerzity Karlovy v Praze. Na téže fakultě vystudoval estetiku a následně tam absolvoval doktorandský program Informační věda. Kromě akademické kariéry pracoval i v soukromém sektoru, kde se zabýval sociálními sítěmi. Od roku 2017 do roku 2021 byl ředitelem Nadačního fondu nezávislé žurnalistiky. V roce 2014 byl v rámci cen českého internetu Křišťálová Lupa zvolen odbornou porotou „osobností roku“.