Pětice největších amerických firem, které jsou v oboru AI hlavními hráči – Microsoft, Apple, NVIDIA, Alphabet (Google) a Amazon – má společně tržní hodnotu přesahující deset bilionů dolarů. To je víc než pětina hodnoty všech firem na amerických burzách a třetina amerického HDP.

V důležitých oblastech, například ve vývoji operačních systémů chytrých telefonů, tyto firmy buď světově zcela dominují, nebo se o takovou dominanci dělí s několika málo konkurenty, zejména z Asie.

Mají tak nakročeno k vítězství v konkurenčním boji o inteligentní technologie, které by se časem mohly stát součástí prakticky všech složitějších výrobků. To má vážné důsledky.

Kratší konec provazu

Pro státy je často obtížné tyto globální hegemony regulovat. Už nyní státy sice přicházejí s různými zákony a nařízeními, regulace inovací ale není jednoduchá a zákaz těchto technologií často nepřichází v úvahu.

Text je ukázkou z knihy Život v době robotů – Jak udržet vládu nad AI a zachovat svět pro lidi.

Jejím autorem je Dalibor Vavruška, matematik, který působil jako investiční analytik a stratég v předních světových finančních institucích včetně Citigroup, ING a Credit Suisse. Knihu vydalo nakladatelství Grada.

Ukázky zveřejňujeme s jejich souhlasem.

Regulátoři proto zpravidla tahají za kratší konec provazu. AI platformy často vědí o lidech víc než stát či jeho úřady, a proto jsou schopny vynucovat určité typy chování, aniž by do dané země vůbec vkročily.

Zároveň jsou schopny ovlivňovat důvěryhodnost států a jejich politických reprezentantů lépe, než jsou státy a politici schopni ovlivňovat důvěryhodnost těchto platforem. To do jisté míry nabourává společenskou smlouvu mezi lidmi a státem.

Kdyby pak AI platformy přišly s vlastními narativy nebo ekonomickými nástroji (měnami, platebními systémy), případně by začaly zásadně zasahovat do morálních hodnot lidí, mohlo by dojít k revoluční změně ve fungování civilizace.

Ohromné změny mohou ale nastat i bez jasně časově vymezené technologické revoluce. AI bude nejspíš postupně pronikat téměř do každého složitějšího výrobku.

Jako chytrý telefon nahradil rádio, televizor, kameru, zápisník či mapu, osobní robot-sluha může nahradit třeba pečovatelskou službu, brýle pro virtuální realitu zase obrazy na stěnách a technologie mRNA klasické léky. Každý takový nový produkt přitom nahradí hned několik současných zároveň.

To ale zásadně změní ekonomiku. Továrnu na výrobu robotů je totiž možné postavit prakticky kdekoli, zejména když práci v ní budou čím dál tím víc obstarávat sami roboti a pokročilé technologie umožní vyrábět s použitím méně přírodních zdrojů.

Ekonomická hodnota se tak přesune k patentům a datům, tedy nehmotným věcem, které nejsou vázány k žádné lokalitě. Naopak hodnota fyzických věcí, jako půdy, přírodních zdrojů, fyzických předmětů nebo klasických průmyslových podniků, by mohla klesnout, protože už nebudou tolik potřeba, a jejich využití by mohlo být omezeno regulacemi.

To by ale zásadně oslabilo vliv států, pod jejichž jurisdikcí se nachází právě věci, které mají jasně danou lokaci. A kdyby se lidé začali cítit víc jako uživatelé platforem a technologií než jako občané států, došlo by k ohromnému přeskupení moci ve prospěch vlastníků technologických gigantů.

Myslet na lidi

Takovému novému systému se někdy říká technofeudalismus. Nástup technofeudalismu by nebyl nutně dobrou zprávou pro lidi.

Ať už jsou politické systémy národních států jakkoli nedokonalé, pořád jde o vládu lidí nad lidmi. Každý lídr – demokraticky zvolený politik i autoritářský vládce – musí myslet aspoň do určité míry na lidi, neboť může být pohnán k zodpovědnosti.

Lidé mají aspoň teoretickou šanci vládnoucí garnituru nahradit jinou, což se v ideálním případě děje formou demokratických voleb. AI platformy, na jejichž rozhodování se ne zrovna transparentně podílejí nejen lidé, ale i sama umělá inteligence způsoby, kterým žádný člověk nerozumí, naproti tomu odpovědnost nenesou, „svrhnout“ je prakticky nelze, nesledují nutně lidské evoluční cíle ani netrpí výčitkami.

U stále složitějších systémů bude čím dál tím těžší najít viníky a pohnat je k zodpovědnosti. Služby AI platforem se dnes mohou jevit sebeatraktivnější, sebebezpečnější a sebedůvěryhodnější.

V okamžiku, kdy se na nich staneme závislými, se ale tohle všechno může změnit, aniž se nás na to někdo bude ptát. AI 4P (umělá inteligence pro lidi) by proto neměla být postavena primárně na velkých privátních platformách, nad kterými jednotlivé národní státy nemají kontrolu.

Každý stát musí být schopen AI platformy regulovat, buď samostatně, nebo v koalici s jinými státy. Mezi AI platformami musí být skutečná konkurence, tak aby se posílila role jednotlivce jako zákazníka.

Kde konkurence není praktická, například u jednotných systémů pro digitální identitu, by mělo jít o veřejnou licencovanou službu, za niž ponese konečnou odpovědnost stát. Lidem by pak nadále vládli konkrétní lidé, zatímco anonymní či netransparentní AI systémy by práva lidí neurčovaly.