Aleš Rozehnal: Umělá inteligence není ani umělá, ani inteligentní
KOMENTÁŘ. Umělá inteligence je mediálním hitem posledních měsíců. Za aplikace využívající umělou inteligenci jsou vydávány například nástroje na generování textu nebo vytváření uměleckých děl jako je ChatGPT nebo AI Art, popřípadě nástroje rozumějící lidské řeči jako je Siri nebo Alexa. Na těchto systémech však není nic umělého ani inteligentního.
Média popisují tyto systémy jako nějaké myslící bytosti, které jsou schopny rozhodovat a řešit složité problémy. Líčí historky, jak se tyto systémy naučily lhát, jak vymyslely neznámou řeč nebo jak přestaly poslouchat člověka.
Aby se jednalo o inteligenci umělou, musela by být vytvořena, respektive spoluvytvořena samotným systémem.
Výše uvedené systémy jsou pouze souborem algoritmů, který je vytvořen lidmi rozhodujícími o tom, jaké vstupy a výstupy bude systém mít, jak bude zpracovávat data a jaká rozhodnutí bude z těchto dat činit.
Pokud by se lidé spolehli na „umělou inteligenci“ v domnění, že je skutečně inteligentní, učiní svět předvídatelnějším a hloupějším.
Pohlídat si trh
Navzdory tomu média často vykreslují umělou inteligenci jako něco podobného lidské inteligenci, co se dokáže sama učit, přizpůsobovat a rozhodovat.
Jedná se však o nástroj, který byl naprogramován lidmi, a nemůže fungovat mimo parametry, které mu byly nastaveny. Využívá výhradně díla lidí, a to zejména vědců, umělců či žurnalistů.
To je také důvodem, proč nástroje jako ChatGPT dokážou vyprodukovat něco alespoň vzdáleně kreativního. Jejich data byla totiž vytvořena skutečně existujícími lidmi, s jejich složitou inteligencí a emocemi.
Tyto systémy nejsou schopny samostatného myšlení ani uvažování. Jsou omezeny daty, kterými disponují. Je pravda, že množství dat, které umí zpracovat, je obrovské. Nicméně záleží na kvalitě těchto dat, jaká bude kvalita výstupů.
Část těchto systémů spočívá v porovnávání vzorů, a to velkou rychlostí. Ani v tom ale skutečná inteligence nespočívá. Neméně důležitá je schopnost zobecňovat, kterou tyto systémy nemají.
Nic na tom nemění ani nedávná výzva renomovaných technologických odborníků, jako například Elona Muska z Tesly, Emada Mostaquea ze Stability AI, Sama Altmana z OpenAI, Demise Hassabise z DeepMind nebo Kevina Scotta z Microsoftu, k okamžitému pozastavení veškerého vývoje umělé inteligence na šest měsíců.
Tato výzva totiž měla stěží něco jiného než finanční motiv a snahu eliminovat další hráče na trhu a přinést obrovské zisky tomu, kdo bude technologicky nejdál.
Stíny formální logiky
Například ChatGPT není průlomovým objevem, ale jedná se produkt založený na veřejně přístupné výzkumné práci, která je již několik let stará.
Jediný rozdíl je v tom, že tato technologie nebyla dříve široce dostupná prostřednictvím uživatelsky pohodlného rozhraní. ChatGPT je tak dobře řízený, ale předvídatelný statistický stroj.
Technologie označované jako umělá inteligence jsou závislé na obrovském množství dat a superrychlém výpočetním výkonu pro jejich zpracování.
To je také důvod, proč by měl být vývoj těchto systémů nějak regulován. Obecně známé je například jejich využívání na platformách sociálních sítí, které vede k polarizaci společnosti ohrožující její soudržnost.
Tyto systémy totiž kromě jiného zmnožují záměrné dezinformace jednoduše proto, že jsou naprogramovány, aby produkovaly další podobná data.
Systémy, které označujeme jako umělou inteligenci, nikdy skutečně inteligentní nebudou, protože programy mohou disponovat s úctyhodným množstvím dat, ale nemohou přesáhnout stín formální logiky.
Pokud by se lidé spolehli na „umělou inteligenci“ v domnění, že je skutečně inteligentní, učiní svět předvídatelnějším a hloupějším.
Nová kniha HlídacíPes.org
Publikace vyjde v omezeném nákladu. Pořízením publikace podpoříte projekt HlídacíPes.org.
Kniha nebude ve volné distribuci. Lze ji získat pouze jako poděkování za dar v minimální výši 599 Kč.
Knihu začneme distribuovat krátce před 17. listopadem 2024.
Více o knizePořídit knihu
Pop-up mobil Mobile (207451)SMR mobil článek Mobile (207411)SMR mobil článek 2 Mobile (207416)SMR mobil článek 2 Mobile (207416-2)SMR mobil článek 2 Mobile (207416-3)SMR mobil pouze text Mobile (207431)Recommended (5901)Čtěte též
Telegram – síť, kde se potká terorista, dealer i disident. A také ruský tlampač
Místo, kde se potká terorista, dealer i disident. Populární je i v Česku
Skyscraper 2 Desktop (211796-4)
10 komentářů
Tyto systémy totiž kromě jiného zmnožují záměrné dezinformace jednoduše proto, že jsou naprogramovány, aby produkovaly další podobná data.
Taka pokad je to tak produkuji jednoduše proto dezinformace že jsou naprogarmované.
To zní jako typický komentář člověka, co o fungování těch nástrojů po technické stránce nic neví. Nějak jste si zadefinoval pojmy „umělá“ a „inteligence“ (jinak než je definuje zbytek světa) a pak tvrdíte, že AI tyhle vaše definice nesplňuje. No dobře. A co?
V podstatě popisujete princip učení se z předchozí zkušenosti, který používají všechny živé organismy včetně člověka.
Clovek ma intuici, ktera predchazi mechanismu „inteligence“ a nese jej a umoznuje napr. vtipnost, basnictvi ci duchovnost. Nic z toho proto AI nezvlada, neni skutecne tvoriva, takze pri sirsim trendovem uplatneni muze skutecne debilizovat spolecnost a zcela instantizovat poznavani a vedeni.
Nejznámější produkt uměle inteligence je Zelenskyj. Ten se naučil jedno slovo: „Dej“ a objíždí s tím celý svět.
Jen američanům musí za zbraně platit, protože válka je nejlepší kšeft..
Z jakého důvodu sem motáte své scestné názory na vojenskou pomoc napadené zemi, to mi hlava nebere.
Možná , že kdyby byla pro napsání článku použita AI, nebo pisatel rozumící podstatě věci . Byl by jiný. Ale co bych se páral s kritikou..zadávám promt AI .. napiš reakci na tento článek :
Umělá inteligence: Oprava názorů a vystižení nedostatků
Umělá inteligence (UI) je téma, které se v posledních měsících stalo mediálním hitem. Tento článek však přináší několik nedostatků a zkreslení ve vnímání UI, které by měly být opraveny.
Prvním omylem je tvrzení, že UI není ani umělá, ani inteligentní. Naopak, UI je právě technologií, která využívá algoritmů a výpočetního výkonu k provádění úkolů, které jsou tradičně spojovány s lidskou inteligencí. Je pravda, že UI nevytváří samovolně své vlastní programy a rozhodnutí, ale to neznamená, že není umělá ani inteligentní. Je navržena a vytvořena lidmi a má schopnost adaptovat se na různé úkoly a situace.
Dále je zde narážka na to, že média líčí UI jako myslící bytosti schopné rozhodovat a řešit složité problémy. Je však důležité si uvědomit, že média často používají zjednodušené termíny, aby přiblížila koncept UI širšímu publiku. Neznamená to však, že by tato zjednodušení byla přesná. Je třeba rozlišovat mezi skutečnými autonomními bytostmi a UI, která je nástrojem v rukou lidí.
Tvůrce článku také poukazuje na to, že UI je omezena daty, kterými disponuje, a že nemá schopnost samostatného myšlení ani uvažování. Je pravda, že UI je závislá na datových sadách, které jí poskytují informace a kontext, na základě kterých může provádět úkoly. Avšak tato omezení neznamenají, že UI není užitečná ani inteligentní. Je to prostě nástroj, který rozšiřuje možnosti, schopnosti a efektivitu lidské práce.
Dalším bodem je zmínka o nedávné výzvě odborníků, kteří navrhovali pozastavit vývoj UI. Tvůrce článku naznačuje, že tato výzva měla především finanční motiv a snahu o eliminaci konkurence na trhu. Je však důležité si uvědomit, že výzvy tohoto druhu jsou často zaměřeny na etické a bezpečnostní aspekty vývoje UI, aby se minimalizovaly potenciální negativní dopady a zneužití technologie.
Nakonec je zde narážka na to, že UI nedokáže přesáhnout stín formální logiky a nemůže být skutečně inteligentní. Je pravda, že UI je založena na algoritmech a statistickém zpracování dat. Nicméně to neznamená, že UI není schopna vykazovat inteligentní chování v rámci svých definovaných úkolů. UI může analyzovat a zpracovávat obrovské množství dat rychleji a přesněji než člověk, a to je jedna z jeho hlavních předností.
Celkově lze tedy říci, že UI je skutečnou technologií, která má potenciál vylepšit a rozšířit lidské schopnosti. Je důležité vnímat UI realisticky a nezveličovat ani zlehčovat jeho možnosti a omezení. Správné pochopení a využívání UI může přinést významné inovace a pozitivní změny ve společnosti.
Příští článek bude o tom, že cukrová vata není vata, nebo o tom, že pomazánkové máslo není máslo (pardon, to už tu vlastně bylo). AI je pouze označení pro širokou skupinu algoritmů, nikdo krom clickbait novinářů (doufám) netvrdí, že by se jednalo o myslící bytost.
Ohledně toho, že AI není nic jiného než statistický nástroj pro generování nových dat z dat starých: copak u myslících bytostí to je jiné? Zkuste si představit člověka, který se narodil bez smyslů (bez zdrojů informace), myslíte že by byl schopen vytvořit něco inteligentního? Možná byl, já si to ale nemyslím. Argumentovat tedy, že AI není inteligentní protože pouze napodobuje věci, které už někdy viděla mi přijde trochu mimo.
Stanislav Lem kdysi napsal povídku o silně inteligentní bytosti, žijící v podzemí své planety a neschopné vidět ani na hvězdy z jejího povrchu, která si vydedukovala celý vesmír vč. toho, že když k ní přiletěli pozemšťané, byla s to s nimi komunikovat v jejich jazyce 🙂
Ohledně té AI: nechali ji vygenerovat pojednání o římské zbroji. Pro laiky vypadající velmi věrohodně, nicméně odborník ji strhal v podstatě větu po větě jako snůšku nesmyslů. Závěr je jasný: nevěřit ničemu, co AI vygeneruje.
Autor se podle mne trochu neplodně zabývá významem slov („umělá „, „inteligence „), aniž by však dohlédl skutečných rizik s tím spojených, ba dokonce ona rizika bagatelizuje. Je nesporné, že se jedná o nejvýznamnější technologický fenomén současnosti, jak přitom z moderní historie dobře víme, mnoho velkých vynálezů sloužilo jak ku prospěchu lidstva, tak i k jeho cílené likvidaci, v případě umělé inteligence se toto „dvojí využití“ přímo nabízí, bohužel.
Nepochybně je umělá, neboť byla uměle vytvořená. Nevyrostla z nenadání na louce. Jestli je inteligentní, záleží na definici. Pokud je inteligence to, že úspěšně vyřeší test inteligence, tak je inteligentní. Pokud je definici inteligence to, že vyřeší na základě vstupu dat problém, na který ji tvůrce konkrétně nenaprogramoval, je inteligentní. Stejně tak například ale i jednoduchý algoritmus, který spočítá počet znaku vstupního textu. Autor algoritmu ho nenaprogramoval na úplně kazdou situaci, ale dokáže spočítat libovolně dlouhý text. Ta naše ui se lisi jen složitosti. I u toho prostého algoritmu si člověk může představovat, jak nad tím problémem přemýšlí, jak je spokojený se svou odpovědi, jak po úspěšně vykonané práci odpočívá a na pozadí si hraje piškvorky. Ale to jen když nevi, jak funguje. Tahle UI je tak složitá, že jen málokdo ví, jak funguje, takže mozek dělá co umí a naprojektuje si do ní vlastní představy. Někdo řekl, že dostatečně pokročilá technologie se zdá člověku jako magie. V těmhle případě řekněme jako živa bytost.
Prostě, záleží na definici pojmu inteligence. Článek by měl začínat definováním pojmu, jinak je o ničem.
A mimochodem, hrál jsem si dost s chatgpt, v tomhle stavu neslouží k zjišťování informací, je to spíš generátor důvěryhodné znějících lži a manipulaci. Její správné využití je, zadat ji aby napsala obsáhle a důvěryhodně text podle mého zadani. Neříkám, že to tak má být nebo musí být, ale takhle teď funguje.