Podcast Smrtelník, díl 18 – Jan Romportl – část A: optismistický softcore

Václav Dejčmar v dvoudílném podcastu diskutuje o budoucnosti světa s filozofem a předním českým expertem na AI Janem Romportlem. Když tento podcast vznikal, po hodině rozhovoru jsme se ocitli v hluboké depresi. Existuje tolik verzí budoucnosti, v nichž se může vše pokazit. Proto jsme podcast raději ukončili a z této první hodiny udělali „díl B“. A pokračovali novým podcastem („díl A“), který jsme však zarámovali zcela jinak: donutili jsme se k optimismu. Slavný filozof Karl Popper totiž kdysi prohlásil: „Optimismus je povinnost! Budoucnost je otevřená. Není předurčena. Nikdo ji nedokáže předpovědět, kromě náhodných tipů. My všichni přispíváme k tomu, jaká bude, tím, co děláme. My všichni jsme stejnou měrou odpovědní za její úspěch. Ti, kteří nám slibují ráj na zemi, nikdy nevyprodukovali nic jiného než peklo.“ Užijte si tento netradiční podcastový formát. Seznam diskutovaných odkazů najdete na www.smrtelnik.cz/podcastČást A – optimistický softcore: Proč je stále obvyklejší pocit úzkosti z umělé inteligence? Lidé v AI laboratořích často propadají psychóze, že jejich výtvor má duši. Může mít současná AI nějakou formu vědomí? Čím jsou atraktivní nabídky osobních agentů, kteří slibují, že budou „námi za nás“? Jak zařídit, aby vše dopadlo dobře? Zachrání nás radikální humanismus? Je představitelná celoplanetární dohoda o regulaci AI? A jaká by mohla být realistická verze budoucnosti s pokročilou superinteligencí (AGI), ve které lidstvo přežije a projde velkým filtrem?Část B – pesimistický hardcore: Dobrý sluha, ale zlý pán? Co se na nás řítí? Čeho všeho se bát? AI sice umí zvýšit osobní produktivitu, ale opravdu zvýší i světové HDP? Je zodpovědné, že nám techno-oligarchové slibují ráj? Co bude mít z AI běžný člověk, který se oprávněně obává, že díky agentům přijde o svou placenou práci? K čemu vůbec potřebujeme AGI (Artificial General Intelligence) a nestačí nám modely, které už máme? Všichni vnímáme, že jsme uprostřed ohromné transformace všeho, kdy dochází k rozhození křehké rovnováhy, kterou dlouhý čas budovala evoluce. Proč tedy šíleným tempem dál rozvíjíme vynález, o kterém řada expertů soudí, že bude mít na lidstvo tragické dopady a ani jeho tvůrci ho nebudou umět uřídit – viz P(doom) index?Slavný psycholog Carl Gustav Jung prohlásil: "V psychologii člověk nevlastní nic, co sám skutečně neprožil. Proto nestačí pouhý intelektuální vhled, neboť člověk zná jen slova, nikoliv podstatu věcí zevnitř." Nevědomě tak dobře popsal rozdíl mezi AI, která zná jen slova, ale nic neprožívá, a člověkem. Nicméně zároveň platí výrok filozofů jazyka, že "všechno jsou slova a slova jsou všechno". Díky technologii umělé neuronové sítě nad ohromným množstvím dat umí dnešní AI chatbot skrze slova výborně imitovat člověka, včetně jeho emocí a jeho prožívání. Jak je to možné? Protože v samotném jazyku je ukryt velmi dobrý model světa včetně detailních informací o lidském nitru a lidské zkušenosti. A umělá inteligence se zkrátka naučila tento lidský "model", který se vyvíjel tisíciletí, bravurně modelovat. Tak lze vysvětlit, proč je možné pokročilé verze AI slovy dokonce "URAZIT", a tím reálně snížit jejich výkon (např. ve vibe programování). Avšak stále zbývá principiální otázka: jaký je mezi imitací (AI) a imitovaným (člověkem) rozdíl? Když je dnes nezávislý pozorovatel zvenku — z jejich samotné vzájemné komunikace — spolehlivě odlišit nedokáže.