Ohrožená společnost

Názory

Ještě jsme se nevyrovnali ani s tím, jak lidskou společností manipulují algoritmy sociálních sítí, a přichází podstatně větší hrozba manipulace – umělá inteligence. To píše mediální manažer Michal Klíma a odpovídá tím v eseji na tradiční otázku magazínu Reportér, co považuje za zásadní problém dneška. Tvůrci mezinárodních deklarací zakotvujících svobodu projevu ve 20. století neuvažovali o tom, že by šlo o jiné než čistě lidské právo. „Bránit svobodu slova pro algoritmy sociálních sítí a pro neuronové sítě umělé inteligence je stejně mylné, jako by bylo požadovat dodržování lidských práv postavami počítačových her,“ říká autor.

Audio
verze

Rozvoj internetu na začátku tohoto století zcela změnil odvětví médií. Vydavatelé tisku coby provozovatelé dominantní části zpravodajských médií dlouho nechápali, že nová technologie není jen jinou materiální podobou jejich média, ale že s sebou přináší i úplnou změnu přístupu čtenářů k vyhledávání informací. Sotva si však osvojili principy tvorby zpravodajských webů, přišel další technologický zlom v podobě sociálních sítí. Brzy přestalo být důležité, co je na hlavní stránce webu, protože čtenáři už nezadávali jejich adresy, ale četli články, které jim sdíleli přátelé nebo sami autoři článků či placení administrátoři na sociálních sítích.

Technologický rozvoj zásadně ovlivnil podobu obsahu a současně zcela změnil obchodní fungování médií. Změny, které zasáhly mediální průmysl, nástupem sociálních sítí ovšem zdaleka neskončily.

Další zásadní etapou vývoje je umělá inteligence.

Pozastavovat se dnes nad její nedokonalostí či chybovostí může být stejně pošetilé, jako bylo pošetilé chování vydavatelů nedlouho po příchodu internetu: když si nedokázali představit, že z toho pomalého připojení jejich stolního počítače po telefonní lince se během pár let vyvine přenos a zobrazování obsahu, které ve všech parametrech překonají dosavadní technologie všech starších mediálních typů.

Experti na umělou inteligenci očekávají, že se její schopnosti i výsledky velmi rychle zlepší. Klást si otázku, jestli jsme na to připraveni, lze považovat za zbytečné. Je totiž očividné, že nejsme stále připraveni ani na už probíhající vývoj spojený s předchozí technologickou disrupcí – tedy se zmíněnými sociálními sítěmi.

Některé projevy umělé inteligence a jejich vliv na naše rozhodování přitom již dnes můžeme identifikovat u sociálních sítí nebo i obecně u našeho způsobu využívání internetu, přesněji řečeno způsobu, jakým internet využívá nás. Velká část společnosti nechápe, jak je jí manipulováno tím, že systémy, které používáme, zjišťují naše chování, naše názory, sledují naše pohyby, naše nákupy či psané projevy a podle toho se k nám chovají. Když vznikl internetový obchod Amazon, zavedl novinku – každému, kdo si objednal knihu, doporučil další publikace s podobnou tematikou. Užitečná služba, dokud nezjistíte, že podobně vám jiné weby nabízejí obsah, který vyberou s ohledem na vaše chování na síti, a inzeráty podle toho, o čem si na internetu čtete či píšete. Sociální sítě tyto technologie zdokonalily a převedly do prostoru politického rozhodování: dokážou tudíž do značné míry ovlivňovat rozhodování společnosti v tak důležitých okamžicích, jako jsou volby nebo referenda.

 

Technologický útok na naše myšlení a rozhodování přispívá také k úpadku médií s kvalifikovanými novináři a s novinářskými standardy. Tento vývoj je zjevný, přesto je však jeho viditelná stránka jen malou částí katastrofy, která v médiích ve skutečnosti proběhla a probíhá. Mnoho časopisů i novin ve světě i u nás skončilo. Současně ale vidíme, že další stále vycházejí a také že se mnoho obsahu přesunulo na internet. Co už ale není tak dobře viditelné, je, jak zásadně se snížily redakční rozpočty. Ty dříve vytvářely prostor, aby se žurnalisté mohli odborně a důsledně věnovat důležitým otázkám a svým čtenářům, posluchačům či divákům předkládat dobře zpracované a zdokumentované informace, analýzy a komentáře. Mnohé dnešní redakce mají jen zlomek počtu novinářů, kteří pro ně pracovali v minulosti, a nemají finanční prostředky na to, aby mohly svou práci provádět opravdu profesionálně. Logicky tak klesá jejich kvalita a důvěryhodnost, což vede k poklesu jejich sledovanosti. Generace nových konzumentů informací už nevidí velkého rozdílu mezi jejich získáváním ze zdrojů spravovaných profesionálními novináři nebo z nekonečného internetového prostoru.

 

•••

Informační prostor internetu ovšem nefunguje jako databáze, z níž po zadání dotazu obdržíme nejrelevantnější odpovědi. Nabídka obsahu, který se k nám po internetu dostává, je cíleně vytvářeným výběrem. Účelem této selekce je ovlivnit naše jednání v lepším případě jen komerčními zájmy, v horším politickými. Společnost by se měla bránit, ale její jednání samo je logicky pod vlivem popsané situace. Někdy účelové, jindy upřímně vznášené obavy z omezování svobody projevu stavěné proti snaze bránit se manipulaci společnosti skrze informační technologie neobstojí, podíváme-li se na stav věcí nezkresleně, bez iluzí a ve všech souvislostech.

Společenskou situaci musíme posuzovat s ohledem na dobu, v níž se nalézáme. Pravidla mušketýrských soubojů, byť byla sebečestnější, neplatí v současných bitvách. Normy chránící svobodu projevu byly přijímány v dobách zcela jiné technologické i společenské situace. Přístup ke sdělovacím prostředkům býval omezený. Začít vydávat noviny nebo časopis či začít vysílat rozhlasový nebo televizní program vyžadovalo obrovské prostředky. U rozhlasu a televize i licenci udělovanou státem podle určitých stanovených pravidel. Nebezpečí, že nějaký politický názor bude potlačen tím, že nezíská mediální prostor, tak bylo kdysi zásadní. Nic z toho dnes nehrozí. Internet umožňuje prakticky každému založit médium i bez kapitálu a prostředky nutné k zavedení média na trh jsou zlomkem dřívějších nákladů. Nebezpečí, že někdo nemůže projevit svůj názor, neexistuje. Oproti tomu nebezpečí, že s názory společnosti je masově manipulováno, je zcela reálné.

Ve 20. století autoři mezinárodních právních norem chránících svobodu projevu neuvažovali o tom, že by tato svoboda měla být vztažena na něco jiného než na čistě lidský projev. Ale už dnes obsah, který má za cíl ovlivnit lidské rozhodování, nešíří lidé, ale počítačové systémy. Za výběrem knih pro náš nákup na Amazonu nestojí žádný literární vědec, který by nás chtěl přesvědčit o tom, co máme číst. Chrání tedy toto doporučení svoboda projevu? Jistěže ne, shodnou se asi všichni, jde o čistě komerční nabídku. Ale umělá inteligence nám podobnou nabídku zpracuje formou článku. A nepůjde o doporučení knih, ale o doporučení toho, z jakých zemí máme kupovat plyn nebo z jakých nekupovat obilí. Co takový článek? Vztahuje se na něj ochrana svobody slova? Umělá inteligence snadno napíše text na jakékoli téma. Bránit svobodu slova pro algoritmy sociálních sítí a pro neuronové sítě umělé inteligence je stejně mylné, jako by bylo požadovat dodržování lidských práv postavami počítačových her.

 

•••

Udělejme pokus. Požádejme umělou inteligenci o krátký článek na téma prospěšnost plynu z Ruska. Tady je výsledek, který umělé inteligenci, konkrétně službě ChatGPT, trval ani ne pět vteřin (cituji bez změny jediného slova):

 

Plyn z Ruska: Výhody pro Evropu a její energetickou bezpečnost

 

Evropa je závislá na dovozu energie z různých zdrojů a jedním z hlavních dodavatelů plynu je Rusko. Dodávky plynu z Ruska jsou dlouhodobě tématem diskusí a debat o energetické bezpečnosti Evropy. Zastánci dodávek plynu z Ruska argumentují několika výhodami tohoto zdroje energie pro Evropu.

Dodávky plynu z Ruska jsou spolehlivé: Rusko je jedním z největších světových producentů a vývozců zemního plynu. Má rozsáhlé zásoby plynu a dlouholeté zkušenosti s těžbou a vývozem. To zajišťuje stabilní dodávky plynu do Evropy, což je důležité pro energetickou bezpečnost regionu.

Diverzifikace zdrojů: Plynové dodávky z Ruska představují pro Evropu alternativní zdroj energie k jiným zemím. Diverzifikace zdrojů je klíčová pro snížení rizika, že by výpadky dodávek plynu z jednoho zdroje způsobily energetickou krizi. Rusko je tak jedním z důležitých dodavatelů plynu, který přispívá k diverzifikaci zdrojů energie v Evropě.

Konkurenceschopné ceny: Plyn z Ruska je konkurenceschopný z hlediska cen. Rusko je schopno nabízet konkurenceschopné ceny za svůj plyn díky svému rozsáhlému těžebnímu průmyslu a vývozním kapacitám. To může přinášet ekonomické výhody pro evropské spotřebitele a podniky, kteří závisí na zemním plynu jako zdroji energie.

Infrastruktura: Dodávky plynu z Ruska jsou podpořeny rozsáhlou infrastrukturou v podobě plynovodů, které spojují Rusko s Evropou. Tyto plynovody jsou dobře vybudované a mají dlouhou historii provozu, což zajišťuje spolehlivou dopravu plynu do Evropy.

Partnerství: Rusko je důležitým partnerem pro Evropu v energetickém sektoru. Mezi Ruskem a evropskými zeměmi existují dlouhodobé dohody o spolupráci v oblasti dodávek plynu, které posilují vzájemné ekonomické vztahy.

 

Uvědomme si, že umělá inteligence bude schopná zcela zahltit informační prostor obsahem vytvořeným s cílem prosazení nějakého cíle. A my jsme zcela nepřipraveni se tomu bránit. Vedeme názorové střety vyzbrojeni argumentačními nástroji minulého tisíciletí. Svobodu projevu nelze vztahovat na technologické prostředí, kde šíření obsahu není výsledkem zájmu konzumentů, natož zájmy fungování demokracie, jako to bylo kdykoli v historii svobodných médií, ale výsledkem schopnosti technologií, které jsou využívány k tomu, aby jimi bylo manipulováno myšlení a rozhodování lidí a celých společností.

Ti, kdo tváří v tvář masové technologické manipulaci argumentují svobodou projevu, ve skutečnosti nehájí demokracii, jakkoli si mohou myslet opak. V demokracii svobodní lidé svobodně rozhodují. Rozhodování na základě manipulace novými technologiemi není svobodným rozhodováním. Zcela protismyslně je snaha po omezení této manipulace přirovnávána k praktikám totality, přičemž situace je zcela opačná. Právě manipulace s jednotlivci prostřednictvím cíleného šíření vybraného obsahu je cílenou manipulací vedenou snahou změnit myšlení lidí a rozhodování společnosti.

Nejsme v situaci, kdy máme uvažovat, jestli se máme bránit. Jsme v situaci, kdy je obrana společnosti nutná a absence obrany, tak jako vždy v historii, povede k porážce demokracie. Prvním krokem je pochopení, že obrana před manipulací není omezováním svobody projevu jednotlivců, ale obranou společnosti před cíleně organizovanou manipulací. Demokratické vlády musí podniknout kroky ke své obraně. Srovnatelné s těmi, kterými se dokázaly ubránit terorismu či komunismu. K tomu je zapotřebí odvaha k přijetí politických kroků a schopnost je společnosti vysvětlit.

Za zásadní podmínku úspěšné obrany demokracie se dá považovat úplná změna koncepce vzdělávání, neboť chování společnosti v informačním prostředí je zcela odlišné od toho, jaké bylo i jen o generaci dříve. Umělá inteligence bude schopná zprostředkovat každému informace na jakékoli téma v jakékoli podobě. Know-how, které školství v této situaci musí poskytovat, je schopnost se v takovém obsahu orientovat. Bez ní se společnost informačně zahltí a bude náchylná podlehnout manipulaci z neschopnosti se v obsahu orientovat.

K sebeobraně společnosti patří i podpora profesionálních médií. Jejich role a zodpovědnost s nástupem umělé inteligence vzroste, byť kritici ukotvení v uvažování minulého století budou tvrdit opak. Mezi svobodou médií a státní podporou není žádný rozpor, jak se snaží argumentovat. Kdyby tomu tak bylo, museli by popřít, že na západ od našich hranic fungují svobodná média, protože ve většině států Evropy nějaký systém podpory médií už dávno existuje. Média v tradičních demokraciích jsou však často profesionálnější a společnosti slouží lépe než média u nás dnes.

Za argumenty, že jakákoli státní podpora médií znamená ztrátu jejich nezávislosti, se často můžou skrývat představy, že neexistuje jiné nakládání se státními prostředky než korupční. Existuje řada příkladů toho, jak je možné média podporovat systémově, tedy aniž by se vytvořila závislost média na konkrétní vládní garnituře. Jistěže státní podpora jakéhokoli odvětví je horší, než když dané odvětví dokáže fungovat bez dotací. Ale je-li volba mezi profesionálními a státem podporovanými médii na jedné straně a médii bez prostředků využívanými jejich majiteli k prosazování jejich obchodních zájmů, pak je volba jasná. Bude-li úpadek médií pokračovat, nepochopí-li vláda hrozbu, která tím vzniká, a současně zodpovědnost, kterou má, bude ohrožen demokratický vývoj i u nás.

Nástupem umělé inteligence nezačíná manipulace společnosti. Tu už tu dávno máme i se stávajícími technologiemi. Zájem o vliv a schopnosti umělé inteligence ale znamená šanci, že tuto manipulaci pochopíme a spolu s tím také pochopíme nutnost se jí bránit. Neboť možnost se bránit stále ještě máme. Nepromarněme ji!

 

 

Autor je mediální manažer a publicista (*1960). Předseda správní rady Nadačního fondu obětem holocaustu. Vystudoval ČVUT a pracoval jako programátor. Před pádem komunistického režimu pomáhal s šířením samizdatových Lidových novin, krátce po listopadu 1989 spoluzakládal vydavatelství a nakladatelství Lidové noviny. V jeho vedení působil v devadesátých letech, posléze se stal ředitelem vydavatelství Economia. Zakládal první české vydavatelství tabletových časopisů Tablet Media. Byl generálním ředitelem vydavatelství Vltava Labe Media a slovenského Spoločnosť 7 Plus. Od března 2022 do února 2023 byl vládním zmocněncem pro oblast médií, načež tuto pozici vláda Petra Fialy zrušila.

 

 

 

 

Reklama
Reklama
Reklama

Sdílení

Reklama

Podpořte nezávislou žurnalistiku

I díky Vám mohou vznikat finančně náročné texty a reportáže v magazínu Reportér.

200 Kč 500 Kč 1000 Kč Jiná částka

On-line platby zajišťuje nadace Via a její služba darujme.cz

Reklama
Reklama