Kapitola 2 Leviathan Reloaded
Klimatická změna a UI jako hobbesovský problém pro zranitelnou civilizaci

Úvod
Příběh na začátku této knihy vychází z myšlenky, že dva vzájemně propojené děje – klimatická změna a pokrok v oblasti umělé inteligence (UI) – nastolují problém politického, konkrétně problém politického tak, jak ho formuluje moderní západní filosofická tradice: jako problém svobody a s tím souvisejícího napětí mezi svobodou jednotlivce a prospěchem kolektivu. Je to dávný problém, který se však nyní znovu vynořuje v novém kontextu: tato kniha se jím zabývá ve světle potenciálního využití UI a možných řešení klimatické změny, a dělá tak v naději, že taková diskuze může být následně využita k vytváření a kritickému vyhodnocování různých scénářů a vizí naší globální budoucnosti.
Začněme tedy: v čem přesně spočívá problém týkající se svobody? Nejprve se podíváme na několik formulací tohoto problému a jeho odpovídajících řešení, jak je nacházíme v dějinách politické filosofie. Začneme od myšlenky, která také vznikla v době krize, konkrétně během Anglické občanské války: od Leviathana. Potom představím (mnohem pozdější) koncept „Tragédie občiny“ a následně vznesu další otázky, které spojují problém svobody s otázkami týkajícími se vědění, etiky a demokracie. Tím vznikne první a stručný pokus (esej) prozkoumat, na jaké hranice naráží svoboda a jaké výzvy stojí před liberálním myšlením z hlediska umělé inteligence a klimatické změny – což dále rozvinu v následujících kapitolách.

Přirozený stav a volání po monstru či smrtelném bohu, který by tento problém vyřešil
Většina obyvatel Evropy by dnes uvedla, že v otázce přístupu k novým technologiím dává přednost liberálně demokratické cestě, což znamená, že rozvoj těchto technologií by neměl ohrožovat svobodu a demokracii. A navzdory dojmu z mnoha sci-fi filmů, které zobrazují opačný vývoj, najdou se i mezi lidmi zabývajícími se budoucností technologií tací, podle kterých se může onen pozitivnější vývoj podařit. Například James Hughes v knize Citizen Cyborg (2004) hájí existenci technologií schopných vylepšovat lidské bytosti, ale hájí ji způsobem, který zachovává svobodu a demokracii. Hughes vychází z osvícenských ideálů svobody, rovnosti a solidarity a domnívá se, že by se tyto ideály mohly stát pohonnou silou transhumanismu (projektu s cílem re-designovat člověka). Takový postoj naznačuje, že lze technologie, jako je UI, úspěšně včlenit do liberálně demokratického institučního rámce, tedy přinejmenším tehdy, pokud usilujeme nejen o svobodu, ale i o rovnost a solidaritu (k tomuto bodu se později ještě vrátím).
Jiní autoři jsou méně optimističtí. Například Paul Nemitz (2018) se obává, že UI představuje pro budoucnost demokracie hrozbu z důvodu akumulace digitální moci, kdežto Harari (2015) se domnívá, že demokracie nemá dost sil, aby mohla zvládnout nástup UI a biotechnologií, které „by brzy mohly zcela proměnit celou naši společnost i ekonomiku“. Podle Harariho je „liberální příběh (...) nedostatečný (…) a chceme-li přežívat i vzkvétat v jednadvacátém století, budeme ho muset překonat.“ Jako lidé nejsme svobodní jedinci, ale „hackovatelní živočichové“ (Harari 2018). Stačí se však podívat už na současnou situaci, a bude zřejmé, že takové poměrně nové technologie, jako je internet a UI, nemusí nutně vést k rozvoji svobody a demokracie; mohou se z nich stejně tak stát ideální nástroje pro autoritativní režimy či pro vládce v „demokraciích“ s autoritativní tendencí. Jakou ale máme alternativu? Je snad absolutní svoboda lepším řešením ve vztahu k těmto technologiím? Je lepší nepodřizovat UI ani vyspělé technologie vůbec žádné kontrole? Dnes jsme ve vztahu k technologiím, zejména na globální úrovni, svědky právě velice slabého řízení a slabé spolupráce, o nějaké silné globální vládě ani nelze mluvit. Proto se zdá, že stojíme před volbou (dilematem) mezi dvěma zly: mezi autoritářstvím a radikálním libertarianismem.
Podobně ani různá navrhovaná řešení klimatické změny nejsou nezbytně příběhem svobody a demokracie a ani zde nevidíme v současnosti téměř žádné vládnutí na globální úrovni. I v této otázce by většina lidí opět uvedla, že stojí na straně svobody a demokracie. Marcel Wissenburg už ukázal v knize Zelený liberalismus (Green Liberalism, 1998), že liberalismus jako politická filosofie je schopen do sebe pojmout zelené myšlenky i myšlenky související s udržitelností, třebas to znamená, že bude nutno smířit se s určitým omezením svobody (např.: jistá omezení vlastnických práv a omezení proti zneužívání přírodních zdrojů). Jak si ale liberalismus doopravdy povede, až se ocitne pod tlakem klimatické krize, to zatím není vůbec jasné. Abychom klimatickou krizi mohli vyřešit, bude podle všeho zřejmě nutné zavést mnohem radikálnější opatření – opatření, která ukazují spíše směrem k autoritářství, neboť obnášejí mnohem drastičtější omezení svobody, jako je například regulace individuálního chování i regulace chování organizací. Jak může liberalismus přežít tuto krizi? Zasadí snad liberalismu klimatická krize poslední ránu? Avšak na druhou stranu, k čemu by vedla opačná možnost, totiž možnost charakterizovaná naprostou absencí vládnutí a koordinace na globální úrovni, což je vlastně současný stav? Jak je možné zvládnout klimatickou krizi v kontextu více méně volnotržní situace? V otázce klimatické změny tak stojíme před dilematem, které se podobá dilematu vyvolanému UI: zdá se, že máme na výběr mezi absolutní svobodou – která sice zachovává svobodu, ale za cenu neřešení konkrétního problému – a absolutním autoritářstvím, které sice řeší daný problém, ale za cenu omezení svobody.
Toto dilema není pro politické filosofy ničím neznámým. Lze tvrdit, že globální situace související s budoucností UI a s otázkami vládnutí vyvolanými klimatickou změnou se dost podobá situaci, kterou filosof Thomas Hobbes v sedmnáctém století nazval „přirozeným stavem“ (state of nature). V knize Leviathan (poprvé vydané roku 1651) líčí situaci vyznačující se absolutní svobodou a neexistencí vlády. Aplikováno na klimatickou krizi a UI by srovnatelný přirozený stav znamenal, že jednotlivci se pouze sami za sebe rozhodují, co dělat ohledně klimatické změny a UI. Ačkoliv v jiných oblastech může vládnutí existovat, jakmile dojde na UI a klima, existuje pouze soukromý soud, soukromá politika a soukromé jednání. Totéž by se dalo aplikovat i na firmy a státy na globální úrovni: rozhodnutí ohledně UI i klimatické změny dělá každý aktér sám bez jakékoliv centrální autority, jíž by byli všichni regulováni. Každý usiluje zachovat sám sebe; všichni se snaží přežít a vyhrát.
A to vede k problémům. Podle Hobbese je přirozený stav nemající žádnou zastřešující politickou autoritu stavem soupeření a konfliktu, a to zejména konfliktu o zdroje. Jelikož lidé usilují o zisk a postavení, rodí se násilí a válka: válka „všech proti všem“ (84). Lidé zažívají „neustálý strach a hrozbu násilné smrti a jejich životy jsou „osamělé, zbídačené, zlé, brutální a krátké“ (Hobbes 1996, 84). Něco z toho vidíme i dnes, když státy mezi sebou (téměř) válčí o zbývající ropu, když si každá země vytváří vlastní pravidla pro UI a když má každá korporace vlastní etické principy upravující využití UI. Jako by na globální úrovni panoval přirozený stav: brutální závod o UI bez globální vlády a, co se klimatické změny týká, boj států a národů o přežití v podmínkách, které budou pravděpodobně čím dál horší.
S ohledem na klimatickou změnu je možné ještě dodat, že nastala také určitá „tragédie občiny“ („Tragedy of the Commons“). S myšlenkou „tragédie občiny“ přišel v devatenáctém století ekonom W. F. Lloyd a jejím prostřednictvím oponoval Adamu Smithovi: pokud budou jednotlivci jednat podle svých vlastních zájmů, nepovede to k všeobecnému blahu, jak tvrdil Smith, ale naopak k vyčerpání společných zdrojů. Jako příklad použil Lloyd spásání obecních pastvin („the commons“, „občiny“): není-li toto spásání regulováno, bude na obecní pastvině každý pást co nejvíc zvířat, aby maximalizoval svůj zisk, což ale povede k vyčerpání občiny. Řešením je regulace. V podobném duchu se týž pojem používá i při diskuzích o životním prostředí a klimatické změně jako argument na obranu udržitelnosti rozvoje a nutnosti podnikat kroky na ochranu před klimatickou změnou: bez regulace bude Země i s jejími ekosystémy a zdroji používána stejně jako obecní pastviny (the commons), což povede k jejímu vyčerpání a zničení. Americký ekolog a filosof Garrett Hardin psal už v roce 1968, že využívání takových zdrojů, jako jsou oceány, řeky a lesy, povede k jejich vyčerpání, pokud za ně současně nepřijmeme odpovědnost a nezačneme je náležitým způsobem spravovat. Součástí téhož problému je i to, že takové zdroje považujeme za volně dostupné. Později, v roce 1987, uvedla Brundtlandská komise ve své slavné zprávě, že podobný problém se rýsuje i na globální úrovni, a na základě vcelku hobbesovské úvahy volala po ustavení globální správy nad společnými zdroji (the commons):

Země jen jedna, ale světů je víc. Život nás všech je závislý na jediné biosféře. Přesto však každá společnost, každý stát usiluje o vlastní přežití a prosperitu, a málo se přitom ohlíží na důsledky, jaké to bude mít pro ostatní. Někteří spotřebovávají zdroje Země takovým tempem, že pro budoucí generace mnoho nezbude.
(Světová komise pro životní prostředí a rozvoj 1987)

Zpráva s politováním konstatuje, že hlavní překážku z hlediska ustavování správy nad „globální občinou“ (the global commons) a jejími ekosystémy představují především tradiční formy národní suverenity. Všechny státy jsou však závislé na této občině (the commons), a proto správa „společného“ vyžaduje „mezinárodní spolupráci a zavádění jednotně odsouhlasených režimů pro dohled, rozvoj a postup v duchu společného zájmu“ (WCED 1987). Pokud tuto definici „občiny“, kterou používá zpráva světové komise, rozšíříme z toho, co leží mimo rámec národních jurisdikcí, na planetu jako celek i s její atmosférou, jejichž znečištění a nadměrné využívání ohrožuje nás všechny, a představuje tak Tragédií občiny, mohli bychom volat po (větší) mezinárodní spolupráci a po globální správě celé planety.
Problém tedy spočívá v tom, že na globální úrovni čelíme jak hobbesovské situaci, tak i situaci typu „tragédie občiny“, přičemž překážku pro změnu představuje nacionalismus. Zatímco koncept „tragédie občiny“ má ve vztahu k řešení klimatické změny své limity – namísto pouhé regulace bychom „spásání“ měli raději úplně zastavit, například v případě těžby a používání fosilních paliv –, u hobbesovské situace lze snadno obhájit tvrzení, že „přirozený stav“ je (stále ještě) přesný popis naší stávající situace: absence planetární vlády a správy nad společnými ekosystémy vede ke katastrofám – včetně katastrofy klimatické.
Jak tuto situaci napravit? Hobbes si představoval, že jednotlivci přistoupí na určitou dohodu, na společenskou smlouvu, podle níž se jednotlivci podřídí absolutní suverénní autoritě a moci, která přináší mír a ochranu. Jednotlivci souhlasí s omezením sebe sama, aby unikli z bídných podmínek a zachovali vlastní život. Hobbes pro tuto autoritu používá pojmenování Leviathan, pojmenování obludy, ale takové, která je nutná k zachování míru. Leviathan je jakýsi „Smrtelný Bůh“ (Hobbes 1996) schopný vyvolávat „mocný teror“ slovem i mečem, čímž zajišťuje bezpečnost. Ta pak umožňuje jednotlivcům přežití.
Vzhledem k našemu zájmu o UI je dobré poznamenat, že Hobbesova metaforická výbava nezahrnuje pouze ono biblické monstrum v podobě mořského hada (Hobbes si vypůjčil Leviathana z knihy Jób), ale i automaty. Když na samém začátku knihy popisuje Leviathana, používá přitom jako metaforu právě automat. Leviathan je „umělý člověk“ napodobující lidskou bytost. Hobbes ho přirovnává k automatům, které se pohybují samy od sebe a tím pádem mají „umělý život“. Leviathan či „Commonwealth“ či „Stát“ je

umělý člověk; ač větší rozměrem i silou než člověk přirozený, k jehož ochraně a obraně je určený; a v němž jeho suverenita spočívá jako umělá duše, jako něco, co dává život a pohyb celému tělu.

Leviathan je tak umělé „politické tělo“ – řečeno současným jazykem: je to kyborgovské tělo politiky nebo robotické tělo politiky – sestávající z úředníků, vykonavatelů a tak dále a stvořené úmluvami a dohodami, které dohromady dávají sociální smlouvu. Leviathan je kyborgovské tělo stvořené sociální smlouvou. Podstatu a fungování těchto dohod přirovnává Hobbes k posvátnému fiat, ke slovu pronesenému židovsko-křesťanským Bohem, jež performativně stvořilo člověka i všechno ostatní, co je přirozené. Leviathan je umělý konstrukt, automat, kterého přivedl k životu nikoliv nějaký bůh, ale lidé za pomocí slov. Vypůjčíme-li si pojem z filosofie jazyka dvacátého století od Johna Searlea, můžeme říct, že Leviathan je stvořený lingvistikou deklarací (Searle 1995, 2006). Je to právě tento artefakt, co ukončuje ony brutální, ohavně soupeřivé a násilné podmínky.
Kdybychom se nechali inspirovat hobbesovským myšlením, mohli bychom volat po nějakém zeleném Leviathanovi či klimatickém Leviathanovi, který by byl dosazen na místo suveréna na globální úrovni a jehož smyslem by bylo zajistit regulaci schopnou zabránit vyhynutí lidských společenstev i zničení životního prostředí, které samo je podmínkou jejich přežití (a stejně tak je i podmínkou jejich rozkvětu – prozatím však nevykračujme z hobbesovského rámce). Kolektivně bychom se – jako lidský druh – rozhodli a shodli dovolit takovémuto monstru, aby nás omezovalo. Toto kyborgovské politické tělo by nám na globální úrovni mohlo pomáhat efektivně řešit klimatickou změnu a zajistit přežití lidstva vůbec. A stejně by se dalo postupovat i při řešení dalšího globálního „přírodního stavu“ v případě UI. V tomto případě by takový Leviathan mohl například bránit zneužití UI pro válečné účely a zamezovat dalším typům neregulovaného jednání a mohl by také nastavit hranice bezbřehému soutěžení. Jelikož, jak tvrdí argument tohoto typu, sebeomezení na straně jednotlivců, korporací ani národů nefunguje, je lépe vytvořit nějakou autoritu, jíž bychom regulaci svěřili – na všech úrovních. Výsledkem takové smlouvy by byl Leviathan, protože by se jednalo o umělý politický konstrukt, o hobbesovský automat, který byl stvořen z našeho rozhodnutí pomocí dohod (slov) a který disponuje dostatečnou autoritou a silou, aby zajistil, že environmentální krize je řešena a že UI podléhá dostatečné kontrole k zajištění přežití a míru pro jednotlivce, státy i lidstvo. Pokud to neuděláme, argumentuje hobbesián, věci dopadnou zle.
Povšimněme si, že takováto globální hobbesovská situace i s ní spojená potřeba zavést globální autoritu a koordinaci může nastat také pod tlakem (hrozících) katastrof, jako jsou pandemie a samozřejmě i vznik dalších technologií. Nick Bostrom, další transhumanistický filosof, ve svém nedávném článku „Hypotéza zranitelného světa“ („The Vulnerable World Hypothesis“, 2019) varuje, že věda a technologie mohou vyvést civilizaci z rovnováhy. Globální vláda se pak jeví jako nástroj opětné stabilizace zranitelného světa, „tedy světa, ve kterém technologický rozvoj dosáhl takové úrovně, na které je bezmála jisté, že dojde ke zničení civilizace téměř z definice“ (Bostrom 2019). Vždycky bude možné, aby vznikla taková technologie – Bolstrom pro ni používá onu zvláštní a potenciálně problematickou metaforu „černá koule“ – která civilizaci zničí. Jak uvedl i ve své předchozí práci, když pojednával o existenčních hrozbách, touto ničivou silou ohrožující lidstvo jako celek by mohla být právě UI. Totéž by ale mohly způsobit i jaderné či biologické zbraně. Nenastane-li globální koordinace, bude to konec civilizace. V rámci toho, co Bostrom nazývá „semi-anarchistické základní nastavení (…) Neexistuje žádný spolehlivý mechanismus umožňující řešit globální koordinační problémy ani ochraňovat globální občinu“. Jako Hobbesův Leviathan je i tato globální vláda navrhována jako určitý druh nutného zla zajišťujícího přežití naší civilizace, jelikož toho lze dosáhnout jen pomocí kolektivní akce:

Množina státních aktérů tedy naráží na problém nezbytnosti kolektivního jednání. Nezdar při řešení tohoto problému znamená destrukci civilizace ať už při jaderném armagedonu či při jiné srovnatelné katastrofě. Aby se civilizace dovedla (s tímto typem zranitelnosti) vypořádat, potřebuje k tomu robustní schopnost dosahovat globální koordinace.
(Bostrom 2019)

Zdá se, že Bostromův argument se hodí i na globální oteplování: jakmile bude dosaženo bodu zlomu (tipping point) (a mnoho lidí dnes tvrdí, že už ho dosaženo bylo), je zřejmě jediným možným řešením kolektivní akce v podobě globální vlády. Alternativou je globální katastrofa a možná i konec civilizace, jak ji známe. Proto potřebujeme ono monstrum, potřebujeme robotické politické tělo. (Uveďme, že toto hodnocení klimatické situace se liší od Bostromova vlastního názoru, podle něhož současný stav globálního oteplování ještě není dost nebezpečný – Bostrom nás vyzývá, abychom si představili situaci „s mnohem větším potenciálem zničit civilizaci než za současných podmínek“, například, nárůst tepoty o 15 až 20 stupňů Celsia.)
Jak by uznal i Bostrom, toto hobbesovské řešení je problematické z hlediska svobody, jelikož lidé jsou v jeho rámci podřízeni vládě absolutní autority. Je tu však ještě další problém. Hobbesovký automat či smrtelný Bůh nemá jen quasi-božskou kvalitu všemohoucnosti; aby bylo možno udržet pořádek, muselo by toto monstrum také všechno vidět. Hobbes cituje z knihy Jób 41: „Na všechno vysoké pohlíží svrchu.“ To by se dalo chápat jako výzvu k dohlížení (surveillance), jež je pro výkon oné quasi-božské moci nezbytné. Později, v osmnáctém století, nastínil Jeremy Bentham ideál panoptikonu: vězení, v němž by všichni vězni mohli být neustále sledování, ale vězni sami by nevěděli, zda zrovna sledováni jsou či ne. Dnes hrozí, že UI a další informační technologie uvrhnou pod neustálý dohled celou společnost: že nastane „společnost dohlížení“ (Lyon 2001), „společnost kontroly“ (Deleuze 1992) či to, co Shoshana Zuboff (2019) nazvala „dohledovým kapitalismem“ – takový ekonomický řád, který využívá lidskou zkušenost jako surový materiál podléhající komerčním praktikám těžení, predikcí a prodeje, a v němž stroje nejsou využívány jen k vládě nad přírodou, ale i nad lidskou přirozeností – chování jednotlivců, skupin i celých národů je přizpůsobováno požadavkům tržních cílů (Zuboff 2019). I když ne všechno dohlížení musí nutně probíhat shora dolů (existuje i dohlížení mezi rovnocennými členy skupiny a sebe-dohlížení) a i když otázka moci je složitější, než jak ji zde pojímáme (viz například dílo Michela Foucaulta), je očividné, že dnes mají k dispozici hojnost nástrojů k dohlížení a manipulaci nejen autoritativní vládci se svými hobbesovskými automaty, ale i mocní korporátní hráči.
Jedním takovým nástrojem je samozřejmě UI. Ta je součástí problému i součástí řešení: na jedné straně technologie sama představuje hobbesovský problém a na druhé straně je možné ji využít k řešení konkrétních problémů pomocí kontroly, manipulace a dohlížení. Bostrom například za účelem stabilizování zranitelných bodů navrhuje nejen světovou vládu, ale i prediktivní zajišťování bezpečnosti fungující na základě všudypřítomného dohledu (Bostrom 2019). I když uznává, že by to mohlo napomáhat despotickým režimům a „umožňovat, aby hegemonická ideologie a netolerantní většinový názor ovládly všechny aspekty života“, vyjmenovává několik kladných důsledků, které by dohled a světová vláda přinesly: kromě celkové stabilizace civilizační zranitelnosti bychom touto cestou mohli dospět také ke snížení zločinnosti, předcházení válkám, řešení environmentálních problémů a k sociálním transferům směrem ke globální chudině. I když tedy taková řešení jako globální vláda a dohled obnášejí svá rizika i výhody, jejich hlavní – hobbesovský – smysl spočívá v tom, že jsou schopny efektivně řešit daný problém. Pomocí kolektivní akce a globální koordinace lze dosáhnout oslabení civilizační zranitelnosti vůči k UI, klimatické změně a tak dále, a tím předejít globální pohromě a zajistit další pokračování lidské civilizace. Pro naše účely tedy lze Bostromův scénář interpretovat jako ztělesnění hobbesovského argumentu, který ospravedlňuje zavedení centrální autority poukazem na nezbytnost nastolit vzájemnou koordinace k zachování přežití, bezpečnosti a míru.