Umělá inteligence, AI (artificial intelligence), je fenomén, který Sundar Pichai, výkonný ředitel společnosti Google, označil za „významnější objev pro lidstvo, než bylo ovládnutí ohně či využívání elektřiny“. Co ale AI je? Jednoduše řečeno, jde o „nehmotné“ informace a příkazy.

AI se podobá příběhům. Jen není zaznamenána v knihách nebo v našich hlavách, ale v počítačích, různých chytrých zařízeních a v sítích z nich vytvořených. Stejně jako příběhy ovlivňuje lidi a prostřednictvím lidí zasahuje do okolního světa. Už třeba tím, že na některé věci upozorní a jiné spíš skryje.

Získává tím ohromnou možnost ovlivňovat, co si lidé koupí nebo komu dají hlas ve volbách. Taky nás může zahlcovat informacemi, takže spoustu věcí, které bychom si jinak uvědomili, jednoduše přehlédneme.

Dříve, než si toho kdo všimne, se tak AI stane mocnou silou. A vůbec k tomu nepotřebuje armádu robotů a nad nimi se vznášejících dronů.

Text je ukázkou z knihy Život v době robotů – Jak udržet vládu nad AI a zachovat svět pro lidi.

Jejím autorem je Dalibor Vavruška, matematik, který působil jako investiční analytik a stratég v předních světových finančních institucích včetně Citigroup, ING a Credit Suisse. Knihu vydalo nakladatelství Grada.

Ukázky zveřejňujeme s jejich souhlasem.

AI má mnoho podob. Jako autopilot plní přání řidiče za volantem, jako program pro kontrolu výroby, dopravy nebo bezpečnosti zase plní přání provozních manažerů, úředníků či plánovačů.

Může se stát i nebezpečnou zbraní. Kdyby se vymkla kontrole, mohla by začít sledovat i své vlastní zájmy a cíle. A my bychom si toho na počátku ani nemuseli všimnout.

Lepší civilizace

Toto všechno si budou lidé čím dál víc uvědomovat. Už dnes je AI rozděluje do dvou táborů. Jedni v ní vidí skvělou budoucnost, řešení velkých problémů lidstva, včetně hladu, nemocí a boje se změnami klimatu.

Je pro ně cestou k vývojově vyspělejší civilizaci. Chtějí, abychom se v zájmu pokroku přizpůsobili: vše podstatné bychom měli řídit pomocí mobilních aplikací, digitálních systémů, platit bychom měli digitálními penězi. Je to tak pohodlnější, efektivnější, takže by nás to také mělo učinit šťastnějšími.

Druzí vidí AI spíš jako fatální hrozbu, která nás připraví o práci i soukromí, bude si pohrávat s naším myšlením a vytrhne nás z reálného světa. Lidé budou v důsledku toho zažívat ohromné trauma.

Společnost se navíc stane na AI závislou. Bude pak stačit jeden obrovský výpadek proudu, kyberútok či sluneční bouře, které naši civilizaci ochromí a způsobí velkou tragédii.

Autor této knihy se domnívá, že by společnost neměla směřovat k odlidštěné technokracii, založené na neustálém honu za pohodlím a požitky, k zbožštění technologií a slepé víře v jejich schopnost zachránit svět.

Nelze se ovšem upínat ani k utopii přírodního či výlučně spirituálního života, která slepě odmítá rozumný technologický pokrok. Zejména tam, kde pokrok společnost potřebuje pro své fungování a rozvoj.

Tato kniha ukazuje různá úskalí vstupu AI do našeho života, zároveň navrhuje principy pro soužití člověka s rozvíjející se AI (tedy naší přeměny v Sapiens roboticus), které nazývá AI pro lidi neboli AI 4P (AI for people). Zabývá se přitom řadou zásadních otázek. Jsou to například tyto:

1. Máme chtít, aby nám AI pomohla si ještě víc podmanit přírodu? Bylo by to vůbec rozumné, když dnes vidíme, jak na přírodu dopadá naše dosavadní působení?
2. Má AI masově zasahovat do přirozené evoluce? Opravdu chceme předělávat proces, který vytvořil nejen nás, ale i celou živou přírodu?
3. Stane se „vševědoucí“ AI novou modlou opřenou o nedostižně hluboké poznání a digitální cloud novým „nebem“?
4. Zpochybní AI některé pravdy uznávané současnou vědou, aniž by přinesla nový ucelený pohled na svět? Nedala by tím mnohým lidem důvod navrátit se ke spiritualitě?
5. Jak se postavíme k robotům, kteří se začnou chovat, jako kdyby byli vědomými bytostmi? Mohou lidé vedle takových strojů vůbec žít?
6. Měli bychom AI dovolit bez omezení vylepšovat lidskou mysl a umožnit implantovaným přístrojům zasahovat do fungování našich těl?
7. Jak změní AI naši kulturu, včetně chápání pojmů dobra, zla a lidské svobody?
8. Měli bychom se bát hrozby „zlých“ robotů?
9. Anebo bychom se měli bát spíš těch „dobrých“, že nás zahrnou hojností a náš život pak ztratí smysl?
10. Kdyby AI všem přinesla hojnost, rovnost a život bez utrpení, měla by pak ještě smysl lidská láska, oddanost a odpovědnost?
11. Lze vůbec vybudovat ekonomiku, ve které budou lidé i nadále hrát prim, a AI přitom bude každému oddaně sloužit?
12. Máme vnímat dnešní AI jako začátek dlouhodobé prosperity, nebo naopak zkázy?

Respekt ke křehké duši

Tato kniha se snaží svá řešení formulovat jako praktická a zároveň lidská. Mohla by to být třetí cesta – lidé budují AI pro sebe, tak aby posilovala každého z nich, aby všem otevírala nové možnosti.

Nejde však o AI s ambicí od základů předělávat svět a lidi způsoby, které dřív nebyly možné. Naopak – nová technologie musí respektovat přirozenou evoluci všech živých bytostí, různost kultury a víry, smysl práce, ale i křehkost lidské duše a lásky. Musí zachovat po tisíce let budovanou civilizaci, ve které dominuje člověk.

Ten, který má jako jediný práva, odpovědnost a kontrolu nad nastavováním a plněním společenských cílů. Pro to, aby takové pravomoci byly lidem ponechány, existují pádné důvody.

Ani z věcí, které jsou pro AI v principu řešitelné, nebudou jednotlivé stroje a systémy v žádném okamžiku schopné pochopit a vyřešit vše. Jako lidé si už po tisíciletí vysvětlujeme nepoznané a nepoznatelné vírami.

Na nich jsme vybudovali kultury, které nám zatím pomáhaly přežít. I kdybychom si teď mysleli, že AI nabídne lepší řešení, zcela založené na znalostech, jedno je jisté. Na rozdíl od našeho těla, mozku a dosavadních společenských kultur takové řešení není a jen tak nebude ozkoušené evolucí.

Bylo by tedy pošetilé si od AI nechat vsugerovávat věci, jimž nerozumíme, a brát je jako dogmata, nebo dokonce nová náboženství. Tato kniha proto ukazuje, jak AI rozvíjet při zachování kultury a myšlení, v jejichž středu je člověk. AI se nesmí stát spasitelem, ale spíš sluhou.

Pokoří AI lidské myšlení?

Je tu ještě jedna otázka, která napadá snad každého, komu leží na srdci dopady umělé inteligence na společnost. Položme ji tedy hned a přímo: Pokoří AI lidské myšlení, stane se inteligentnější než my, a vezme nám tak možnost o mnohém rozhodovat?

Vezme nám díky svým schopnostem práci také v organizačních, kreativních a výzkumných oblastech? Nebo dokonce přinese konec lidské dominance na Zemi?

Již dnes AI myslí a tvoří v mnoha ohledech lépe než člověk. To není spekulace, ale fakt. Nedá se tedy vyloučit, že na jejím základě jednou vznikne zásadně vyšší forma inteligence, než je ta naše.

Lidem by pak nezbylo než s ní splynout, i za cenu drastických změn v životě a v chápání svobody. Například bychom ji nechali nepřetržitě sledovat a vyhodnocovat život každého jednotlivce, v mnoha ohledech jej ovlivňovat či řídit, nebo dokonce stanovovat kolektivní cíle.

Na oplátku bychom využívali její podporu v čemkoli, čím se zabýváme. Skloubením člověka a AI by nakonec mohli vzniknout i nadlidé, kyborgové. Nezasvěcení by je dokonce mohli mít za jakési bohy či mimozemšťany. Fakticky by tak ale vznikla nová civilizace. Co by se pak stalo s ostatními lidmi, lze jen stěží domýšlet.