Jedno ze zásadních témat je hledání rovnováhy neboli harmonie mezi dvěma přístupy ke světu. Podle toho prvního lze v principu vše dekódovat, pochopit, předpovědět – a tím pádem i řídit. Druhý přístup naopak předpokládá, že možnosti poznávat, chápat a předpovídat jsou z principu omezené.

První přístup je spjatý s materialismem, redukcionismem a determinismem. V takovém světě v zásadě nic nebrání vzniku robotů podobných těm z Čapkova dramatu R.U.R., kteří jednou dost možná nahradí a překonají lidi.

Náš mozek je totiž jen výkonný počítač, jehož data mohou být časem přenesena do paměti ještě výkonnějších strojů.

Druhý přístup naopak říká, že k tajům fungování čehokoli včetně lidského mozku se můžeme jen přibližovat, ale úplného porozumění dosáhnout nelze. Takový přístup je většinou spojován s idealismem, holistickým pohledem a existencí náhody.

Text je ukázkou z knihy Život v době robotů – Jak udržet vládu nad AI a zachovat svět pro lidi.

Jejím autorem je Dalibor Vavruška, matematik, který působil jako investiční analytik a stratég v předních světových finančních institucích včetně Citigroup, ING a Credit Suisse. Knihu vydalo nakladatelství Grada.

Ukázky zveřejňujeme s jejich souhlasem.

Na lidi nahlíží jako na jedinečné bytosti, které robotem nejspíš nahradit nepůjde. Taková dvojakost, dualita stavů a pohledů na svět není nic ojedinělého.

Nekonečné množství kyvadel

Ta základní dualita je kvantová, kdy se malé částice někdy chovají jako kousky hmoty a jindy jako vlny. Určitá dualita je i v tom, že kvantová mechanika vysvětluje svět mikročástic docela jiným způsobem, než obecná teorie relativity popisuje vesmír.

V živé přírodě se tvorové rodí a umírají, přijímají a vylučují, nadechují se a vydechují. Jejich srdce se stahuje a uvolňuje. Někdy jsou predátory, jindy jsou sami potravou, někdy soutěží a jindy spolupracují, chvílemi vzájemně komunikují a pak se zas snaží před ostatními skrýt.

Stresují se anebo odpočívají, jsou plní síly či unavení a nemocní. Občas zkouší nové věci a jindy se chovají tak, jak jsou zvyklí.

Skoro to vypadá, jako by se svět skládal z nekonečného množství kyvadel. Jejich neustálým pohybem mezi dvěma stavy jako by příroda stále něco ověřovala, hledala rovnováhu, a tím zajišťovala svou vlastní evoluci.

Někdy se ale stane velmi zvláštní věc. Dva jakoby protichůdné stavy nastanou zároveň. Bakterie v našich tělech jsou zároveň útočníky i spolutvůrci imunity. Také náš mozek může být příkladem – ve stejnou chvíli myslí dvěma naprosto různými způsoby, a přesto funguje skvěle.

Nebo přístup vědců při zkoumání kvantové mechaniky – ti si představovali, že elektron při pokusu s dvojitou štěrbinou jako by prolétal dvěma otvory ve stejnou chvíli. Takové jevy obvykle nastanou, když něčemu nemůžeme tak zcela přijít na kloub. Čím urputněji se snažíme je logicky vysvětlit, tím větší absurdity nás napadají.

Dnes se se chápání toho, že svět není vždy černobílý a jednoduše popsatelný, moc nenosí. Společnost se spíš domnívá, že dualitu a nejistoty postupně překonáme pomocí technologií.

Všimněme si: místo chůze, kdy opatrně našlapujeme pravou a pak zase levou nohou, jsme vynalezli kolo. Místo třepotu ptačích křídel máme zas rotující vrtuli letadla. Podobnou změnu teď čeká i naše myšlení kvůli umělé inteligenci.

Stejně jako letadlo, které na rozdíl od poletujícího ptáčka míří za svým cílem jasně a přímo, i AI má úkol jasný – efektivitu, které dosáhne zpracováním co nejvíce dat se zapojením maximálního výpočetního výkonu. Pokusy a omyly se přesouvají kamsi do počítačů, v reálném světě už chytré stroje cílí na „jistotu“.

Nám je přitom celkem jedno, že nedýchají, neodpočívají, aby nabraly síly, ani nejedí, nemají srdce, emoce či pohlaví. Vidíme to vše naopak jako jejich přednosti a necháváme je za sebe myslet. Co když ale z hlediska evoluce lidského rodu není strojové myšlení zas až tak výhodné?

Nechme teď stranou, že nám roboti mohou brát práci, dělat chyby nebo se nás budou snažit mást a ovládat. Vynechme i fakt, že stejně jako kola aut nezdolají každý terén a letadlo zdaleka nepřistane všude, i strojové myšlení narazí na limity kvůli způsobu svého fungování.

Je tu totiž ještě další problém. Co když se chytré stroje se svojí nadlidskou inteligencí přiblíží k samotné hranici možného poznání a začnou produkovat z pohledu běžných lidí čím dál tím větší absurdity?

Pokud bychom jako lidstvo všechny ty nejkomplexnější myšlenky, které AI nastolí, považovali za vrchol vědění a snažili bychom se jim bezmezně přizpůsobovat, mohlo by nás to zavést do slepých uliček. Taková AI by nám třeba mohla vnucovat nihilismus, morální relativismus nebo řešení environmentálních problémů tím, že ublížíme lidem.

Kdy je neznalost výhodou

Abychom se toho vyvarovali a zachovali svět pro lidi, musíme pochopit, že je třeba uznat limity našeho poznání, být pokorní. Tak jako ryba nikdy neuvidí souš a krtek se těžko podívá do korun stromů, i my jsme součástí celku, který nás nějak ovlivňuje a z něhož, ať se budeme snažit jakkoli urputně, vždy uvidíme jen část.

Navíc není vždy pravda, že čím větší část uvidíme, tím lepší šance přežít máme. Poznání nám sice přináší pokrok, rafinovaně jsme se naučili brát si z přírody to, co potřebujeme, a technologiemi takové věci přetvářet.

Dokud však zůstaneme lidskými bytostmi, měla by spousta lidských věcí – od tlukotu našich srdcí až po milování – zůstat důležitější než hon za čímkoli včetně poznání. Poznáváme totiž, abychom lépe žili, a ne naopak.

Proto i neznalost – tedy opak poznání – je někdy výhodou. Třeba kdyby poznání odvedlo naši pozornost od podstatných věcí a my se kvůli němu začali topit v úvahách o zbytečnostech, v uměle vytvořených problémech, a ztráceli tak cestu jeden k druhému.

Proto je třeba ochránit způsob myšlení, na který je lidský mozek evolučně stavěn. Včetně kritického myšlení, intuice a svobodné vůle, našich přirozených rádců, čím se zabývat. Když se nám to hodí, využijme AI, a rozšiřme si tak naše obzory.

Zároveň se ale nebojme z vlastní vůle říct, že nějaká data nás už nezajímají. Přílišné množství informací totiž přináší nečekanou hrozbu. Na rozdíl od Sokrata, který v takové situaci prohlašoval „vím, že nic nevím“, bychom si totiž mohli začít myslet, že s nejinteligentnějším strojem už známe všechno. Nebo aspoň mnohem víc než kdokoli jiný.

Ve skutečnosti bychom se ale jen dívali jedním směrem a nepřipustili si, že druzí se mohou dívat jinam. Ztratili bychom tak přirozené pochyby a holistické myšlení, jehož úkolem je bdít nad takovou nabubřelostí. Aby se nám to nestalo, nesmíme v AI vidět křišťálovou kouli, která zjevuje nezpochybnitelnou pravdu, ale jen nástroj, který používáme podle své vůle.

Materialisté a idealisté

Přesto zůstaňme trochu materialisty. Těmi, kdo mluví přímo a zabývají se hlavně věcmi, na které mají kvalifikaci. Přitom nedají dopustit na „objektivní“ data. Považují je za pravdu, kterou je třeba rychle využít na cestě za konkrétními cíli, jako když se šelma rozhlédne, aby se vrhla na svou kořist.

Stejně jako ona vidí svou oběť jako potravu, ne jako jedinečnou bytost. Materialistům jde hlavně o požitky a obdiv ostatních. Věří, že pomocí informací a technologií zvládnou kopírovat prakticky cokoli, a že tedy nic není jedinečné. Někteří dokonce touží „zkopírovat“ i svůj vlastní mozek do cloudu, a stát se tak nesmrtelnými.

Nevadí jim proto nahrazovat přirozené věci věcmi umělými a všechno řešit technologickými inovacemi. Zvlášť když tím něco ušetří, získají nebo si myslí, že je to dobré pro obecné blaho.

Zároveň v sobě ale nepošlapme duše idealistů. Těch, kteří neberou vše doslova (jako Gábina, když naslouchala Tomášovým láskyplným bláznivinám). Význam přikládají nejen tomu, co je řečeno, ale i tomu, co řečeno není, ačkoli by mohlo.

Sami často mluví v nadsázce nebo s humorem. Zabývají se hlavně tím, co jim velí jejich vnitřní hlas. Svět vnímají jako celek, ze kterého vidíme jen část, takže nikdo nemá právo prohlašovat, že jeho chápání je to jediné správné.

Svou pravdu proto hledají sami, od okolí si berou jen inspiraci. Často o něčem raději dlouho přemýšlejí, než aby se bezhlavě vrhli do velkých změn. Namísto luxusu staví na odiv své ideály. Na každou bytost a věc se dívají jako na něco jedinečného, v přírodě hledají vnitřní harmonii, a jsou tak skeptičtí k umělým náhražkám.

Zejména co se týče mezilidských vztahů. V dobách nejistoty a velkých změn, kdy nic není jisté a všechno se relativizuje, jsou to právě jejich myšlenky, které nás často drží pohromadě a dávají nám smysl a naději. Nepodléhejme jim však úplně. I ideály je třeba měnit podle měnících se znalostí a možností.

Nenechme se ale zcela unést ani materialisty, a to i přes to, že jejich technologie a postupy často potřebujeme. Některé těžkosti způsobené rozvojem techniky se totiž nedají vyřešit ještě složitějšími inovacemi. Zůstaňme tak otevřeni oběma možnostem.

Buďme týmovými hráči se smyslem pro blaho společenství a celého lidstva. Jindy zas dravými konkurenty, kteří nemají sebemenšího slitování s chybami svých soupeřů. Nebo taky rebely, co boří zavedená pravidla. Ať už jsme ale kýmkoli, vždy se na čas od AI odpojme, abychom se zas s nadšením vrátili.

A ještě jednu důležitou věc nakonec. Nesnažme se s velkou pompou tvrdit, že AI lidstvu přinese blaho, nebo naopak věštit katastrofu. Musíme proto pracovat s oběma možnostmi, a kdykoli jen to jde, věci ovlivňovat, aby se vyvíjely správným směrem.

Jen taková rovnováha neboli harmonie nám umožní i nadále žít jako lidé, nejen „fungovat“ jako čmeláci s duší v cloudu. Právě ona je totiž klíčem k přirozené evoluci, a od robotů nás tak odlišuje.