Kniha 3. - Stroj v Dušínoj

Ve třetím díle se podíváme pod kapotu lidského myšlení, abychom lépe pochopili rozdíly a podobnosti mezi strojovým a člověčím chápáním světa. V názvu 3. knihy: Stroj v duchovi si Yudkowski hraje s myšlenkou "ducha ve stroji" a jeho zrcadlení v bio-mechanické podstatě našeho myšlení. Ukážeme si, že naše vědomí není nehmotná magická entita, ale fyzický výpočetní systém vytvořený slepou evolucí. Dějiny nás nepostavily ke zdravému a udržitelnému fungování v pokročilé civilizaci. Spíš z nás udělaly kreativní plniče (a obcházeče) pravěkých vyhlášek. Odhalíme, jak nás zrazuje jazyk při nekonečných bitvách o definice. Naučíme se praktický nástroj „zákazu klíčového slova“, který přinutí mysl popsat syrovou realitu bez slovní schovávané. Přenese nás to až k zásadnímu zvratu: proč jsou lidské hodnoty jako spravedlnost, krása či láska neuvěřitelně křehkým konceptem. Proč je osudovou chybou předpokládat, že vyspělá umělá inteligence od nás automaticky přejme lidskou morálku. Prozkoumáme tezi ortogonality i mrazivou realitu problému souladu AI s lidskými hodnotami (AI alignment) – výzvy, kde i drobná chyba v dobře míněném zadání může znamenat nevratnou katastrofu. Hosted on Acast. See acast.com/privacy for more information.