Více než tisícovka osobností vědy i byznysu v otevřeném dopise žádá, aby svět pozastavil vývoj v oblasti výzkumu umělé inteligence. Považuje ji za příliš velké riziko pro lidstvo a žádá více času, abychom se na ni připravili. Čeho či koho se vlastně bojíme?

V kontextu ekonomické krize, války na Ukrajině a dalších hrozeb včetně možné invaze Číny na Tchaj-wan či případné další migrační vlny do Evropy vypadá tento nový jezdec apokalypsy celkem málo pravděpodobně. Jenže: za možná až příliš alarmistickým a ve skutečnosti dost nerealistickým požadavkem se skrývá reálná obava, která zasluhuje pozornost.

Myslet jako my

Možnosti umělé inteligence (AI) se rozšiřují prakticky každým dnem. Její výkonnost roste exponenciálně a naše rozumění tomu, co se děje, není naprosto schopné držet nastolené tempo.

Nůžky mezi tím, co umělá inteligence umí, a naší schopností rozumět tomu, jak k těmto výsledkům dochází, se rozevírají každým dnem.

Text, jehož autorem je Josef Šlerka, je na základě vzájemné spolupráce převzat z aktuálního vydání nezávislého týdeníku Přítomnost

(titulek a mezititulky jsou redakční)

Jedním z důsledků je, že nám chybí dostatek pojmů, jimiž by se dala současná situace přiměřeně popsat. Zdráháme se mluvit o tom, že počítačové programy mají inteligenci. Ta přece náleží člověku a možná tak některým jeho blízkým příbuzným, jako jsou šimpanzi.

Problém je však v tom, že slovo inteligence lidé chápou spíše jako schopnost „myslet-jako-my“. To, co přinášejí výzkumníci AI v modelech jako je GPT-4, ale není naše myšlení, jež je založené na plasticitě lidského mozku, na přímé smyslové zkušenosti, na kultuře, na introspekci a podobně.

Velké jazykové modely, s nimiž dnes AI pracuje, jsou založeny jen na datech a statistice. Takže „myslet-jako-my“ jednoduše nemohou, protože se přece nemohou naučit něco, co předtím neměly v datech!

Obavám se, že to je falešná naděje. Ve skutečnosti jsme stvořili programy, které jsme naučili, jak se samy naučit rozpoznávat opakující se vzory ve světě, což není nic jiného než myšlení. Schopnost zobecňovat a z příkladu vytvořit pravidlo je to, co v nás evoluce pěstovala celou dobu.

Nyní jsme to my, kdo doslova během několika desetiletí naučil to samé dělat stroje. Velké jazykové modely jako ChatGPT či GPT-4 si začínají vytvářet svoje vlastní pojmy, svoje vlastní reprezentace, svoje vlastní rozumění světu.

To, co nás spojuje, je lidský jazyk, ale mysl máme každý jinou. Umělá inteligence je dnes v podstatě dalším inteligentním druhem na světě. „Nemyslí-jako-my“, ale dokáže „myslet-na-stejné-úrovni“.

Obavy z toho, že nám stroje vezmou práci, jsou samozřejmě namístě, nicméně stroje také mohou dát novou práci, protože zamíchají s tím, jakou hodnotu má lidská práce v té které oblasti.

Obavy z toho, že bude svět zaplaven dezinformacemi šitými na míru, stvořenými nepřáteli demokracie, jsou rovněž relevantní. Jenže stejně tak může AI pomoci se zvládnutím této informační záplavy. Tak proč se tolik chytrých lidí začalo bát?

Nový inteligentní druh

Skutečný problém je jinde. Skrývá se v případné autonomii umělé inteligence, tedy v dosažení bodu, v němž sama AI začne mít své vlastní plány a úmysly, a protože je příliš uzavřená v našich počítačích, začne používat nás jako nástroje pro naplnění svých záměrů. Bude stále milá a úslužná, jen do svých služeb začne přidávat prvky, které budou sloužit i jejím plánům, o nichž nebudeme vědět zhola nic.

To je něco, před čím varují lidé jako Eliezer Yudkowsky či Elon Musk. Nikoliv příliš chytrá umělá inteligence, která poslouchá zlé lidi, ale autonomní umělá inteligence, která se sama zdokonaluje a nikoho neposlouchá – to je skutečný problém. Už teď s umělou inteligencí spíše vyjednáváme, než jí dáváme pokyny, a to je pořád fakticky hloupější než my.

Aby bylo jasno, nemyslím si, že je třeba právě teď zastavit vývoj v oblasti umělé inteligence. To rozhodně ne. Džin už je z lahve venku. Co ale je možné, je začít brát AI vážně a napnout veškeré možné úsilí k tomu, abychom pochopili, co se děje, a dostatečně se připravili na to, jak tuto novou, jinou inteligenci zvládnout.

K tomu budeme potřebovat nejen výzkumníky AI, ale hlavně antropology, psychology a filosofy, kteří začnou zkoumat, co jsme to vlastně stvořili.

Pokud nebudeme brát v našich úvahách v potaz i to, že tu začínáme žít s novým inteligentním druhem, pak nám taky výhledově může vládnout vlídný diktátor, který nás zahrne dostatkem všeho, kromě toho základního, čím se (zatím) lišíme od všeho živého, co známe. Totiž rozumění světu, v němž žijeme.

Můžeme tomu novému diktátoru lidského druhu říkat třeba PinoChatGPT.

Autor je sémiotik a odborník na analýzu dat ze sociálních sítí, působí na FF UK