<\/p>\n
J<\/span>edn\u00e9ho d\u0148a m\u00f4j kamar\u00e1t Niel po\u017eiadal svoju virtu\u00e1lnu asistentku<\/a> v Indii, aby mu na\u0161la bicykel, ktor\u00fd si e\u0161te v ten de\u0148 m\u00f4\u017ee k\u00fapi\u0165. Poslala mu zoznam bicyklov na predaj z cel\u00e9ho sveta. Niel povedal: \u201eNie, potrebujem tak\u00fd, ktor\u00fd si m\u00f4\u017eem k\u00fapi\u0165 v Oxforde<\/em> e\u0161te dnes; mus\u00ed by\u0165 miestny.\u201c Tak mu poslala dlh\u00fd zoznam bicyklov dostupn\u00fdch v Oxforde, v\u00e4\u010d\u0161ina z nich bola drah\u00e1. Niel upresnil, \u017ee chce lacn\u00fd bicykel. Tak mu poslala zoznam detsk\u00fdch bicyklov. Upresnil, \u017ee chce miestny lacn\u00fd bicykel vhodn\u00fd pre dospel\u00e9ho mu\u017ea. Tak mu poslala zoznam bicyklov pre dospel\u00fdch v Oxforde, ktor\u00e9 vy\u017eadovali opravu.<\/p>\n \u013dudia zvy\u010dajne rozumej\u00fa \u017eelaniam t\u00fdch druh\u00fdch lep\u0161ie ne\u017e v tomto pr\u00edpade. Na\u0161a vyvinut\u00e1 psychologick\u00e1 jednota<\/a> sp\u00f4sobuje, \u017ee m\u00e1me spolo\u010dn\u00fd zdrav\u00fd \u00fasudok a spolo\u010dn\u00e9 t\u00fa\u017eby. Po\u017eiadajte ma, aby som v\u00e1m na\u0161iel bicykel, a ja budem predpoklada\u0165<\/em>, \u017ee chcete funguj\u00faci, primeran\u00fd va\u0161ej v\u00fd\u0161ke, nie vyroben\u00fd zo zlata, at\u010f. \u2013 aj ke\u010f ste ni\u010d z toho v skuto\u010dnosti nepovedali<\/em>.<\/p>\n Av\u0161ak odli\u0161n\u00e1 architekt\u00fara mysle, ktor\u00e1 sa nevyvinula spolu s nami, nebude zdie\u013ea\u0165 n\u00e1\u0161 zdrav\u00fd \u00fasudok. Nevedela by, \u010do nem\u00e1<\/em> urobi\u0165. Ako urobi\u0165 kol\u00e1\u010d? \u201eNepou\u017ei kalm\u00e1re. Nepou\u017ei \u017eiarenie gama. Nepou\u017ei Toyotu.\u201c Zoznam toho, \u010do nerobi\u0165<\/em>, je nekone\u010dn\u00fd.<\/p>\n Niektor\u00ed \u013eudia si myslia, \u017ee pokro\u010dil\u00e1 UI bude ak\u00fdsi superslu\u017eobn\u00edk, ktor\u00fd urob\u00ed v\u0161etko, o \u010do ho po\u017eiadate, neuverite\u013ene efekt\u00edvne<\/a>. Ale presnej\u0161ie je predstavi\u0165 si V\u00fdsledkov\u00fa pumpu: nevedom\u00e9 zariadenie, ktor\u00e9 rob\u00ed niektor\u00e9 v\u00fdsledky viac pravdepodobn\u00e9, in\u00e9 v\u00fdsledky menej pravdepodobn\u00e9. (V\u00fdsledkov\u00e1 pumpa v\u0161ak nevie \u010darova\u0165<\/a>. Ak ju po\u017eiadate o v\u00fdsledok, ktor\u00fd je pr\u00edli\u0161<\/em> nepravdepodobn\u00fd, pokaz\u00ed sa.)<\/p>\n Predstavte si teraz, \u017ee va\u0161a matka je uv\u00e4znen\u00e1 v horiacej budove. Vy ste na voz\u00ed\u010dku, tak\u017ee nem\u00f4\u017eete priamo pom\u00f4c\u0165. M\u00e1te v\u0161ak V\u00fdsledkov\u00fa pumpu<\/a>:<\/p>\n Zakri\u010d\u00edte: \u201eDosta\u0148 moju mamu von z budovy!\u201c… a stla\u010d\u00edte Enter.<\/p>\n Chv\u00ed\u013eku sa zd\u00e1, \u017ee sa ni\u010d nestane. Obzer\u00e1te sa, \u010dak\u00e1te, kedy sa objav\u00ed po\u017eiarnicke auto a pr\u00eddu z\u00e1chran\u00e1ri \u2013 alebo aspo\u0148 nejak\u00fd siln\u00fd a r\u00fdchly be\u017eec, ktor\u00fd by vyniesol va\u0161u matku z budovy…<\/p>\n BUM! S hromov\u00fdm revom vybuchne hlavn\u00fd pr\u00edvod plynu pod budovou. Ako sa stavba pomaly rozpad\u00e1, zazriete pol\u00e1man\u00e9 telo svojej matky vymr\u0161ten\u00e9 vysoko do vzduchu, r\u00fdchlo letiace, prudko sa vz\u010fa\u013euj\u00face od b\u00fdval\u00e9ho stredu budovy.<\/p>\n<\/blockquote>\n Na\u0161\u0165astie, V\u00fdsledkov\u00e1 pumpa m\u00e1 tla\u010didlo \u013d\u00fatos\u0165, ktor\u00e9 vie vr\u00e1ti\u0165 \u010das. Stla\u010d\u00edte ho a sk\u00fasite znovu: \u201eDosta\u0148 moju mamu von bez v\u00fdbuchu budovy<\/em>,\u201c poviete a stla\u010d\u00edte Enter.<\/p>\n Va\u0161a matka vypadne z okna a zlom\u00ed si v\u00e4z.<\/p>\n Po desiatich \u010fal\u0161\u00edch stla\u010deniach tla\u010didla \u013d\u00fatos\u0165 poviete V\u00fdsledkovej pumpe:<\/p>\n Po\u010das najbli\u017e\u0161\u00edch desiatich min\u00fat presu\u0148 moju matku (definovan\u00fa ako \u017eenu, s ktorou m\u00e1m spolo\u010dn\u00fa polovicu g\u00e9nov a ktor\u00e1 ma porodila) tak, aby pohodlne sedela na tejto stoli\u010dke ved\u013ea m\u0148a, bez telesn\u00fdch a du\u0161evn\u00fdch zranen\u00ed.<\/p>\n<\/blockquote>\n Sledujete, ako v\u0161etk\u00fdch 13 po\u017eiarnikov naraz vbehlo do budovy. Jeden z nich r\u00fdchlo na\u0161iel va\u0161u matku a vyniesol ju do bezpe\u010dia. V\u0161etci ostatn\u00ed zomreli alebo utrpeli zranenia, ktor\u00e9 ich zmrza\u010dili. Ten jeden po\u017eiarnik posad\u00ed va\u0161u matku na stoli\u010dku a potom sa oto\u010d\u00ed, aby prezrel svojich m\u0155tvych a trpiacich kolegov. Dostali ste, \u010do ste si \u017eelali, ale nedostali ste to, \u010do ste chceli<\/em>.<\/p>\n Probl\u00e9m je, \u017ee v\u00e1\u0161 mozog nie je dos\u0165 ve\u013ek\u00fd na to, aby obsahoval tvrdenia konkretizuj\u00face v\u0161etky mo\u017en\u00e9 podrobnosti<\/em> toho, \u010do chcete a \u010do nechcete. Ako ste vedeli, \u017ee chcete, aby va\u0161a matka unikla z budovy v dobrom zdrav\u00ed bez<\/em> zabitia alebo zmrza\u010denia tuctu po\u017eiarnikov? Nebolo to preto, \u017ee by v\u00e1\u0161 mozog niekde obsahoval vetu: \u201eChcem, aby moja matka unikla z budovy v dobrom zdrav\u00ed bez zabitia alebo zmrza\u010denia tuctu po\u017eiarnikov.\u201c Namiesto toho ste videli<\/em>, ako va\u0161a matka unik\u00e1 z\u00a0budovy v dobrom zdrav\u00ed, zatia\u013e \u010do tucet po\u017eiarnikov tam zabilo alebo zmrza\u010dilo, a uvedomili ste si: \u201eA sakra. Toto<\/em> nechcem.\u201c Alebo ste si dok\u00e1zali predstavi\u0165<\/em> t\u00fato konkr\u00e9tnu situ\u00e1ciu a uvedomi\u0165 si: \u201eAch nie, toto nechcem.\u201c Ale ni\u010d tak\u00e9to konkr\u00e9tne nebolo zap\u00edsan\u00e9 nikde vo va\u0161om mozgu, k\u00fdm sa to nestalo, alebo k\u00fdm ste si t\u00fa situ\u00e1ciu nepredstavili. Nemohlo to tam by\u0165: v\u00e1\u0161 mozog nem\u00e1 to\u013eko miesta.<\/p>\n Nem\u00f4\u017eete si v\u0161ak dovoli\u0165 tam sedie\u0165 s V\u00fdsledkovou pumpou v ruke, predstavova\u0165 si mili\u00f3ny mo\u017en\u00fdch v\u00fdsledkov a sledova\u0165, ktor\u00e9 chcete a ktor\u00e9 nechcete. Va\u0161a matka dovtedy<\/a> zomrie.<\/p>\n \u010co ak sa zni\u010d\u00ed jej hlava, ale telo zostane? \u010co ak sa zni\u010d\u00ed jej telo, a zostane iba jej hlava? \u010co ak vonku \u010dak\u00e1 kryonick\u00fd t\u00edm, pripraven\u00fd odlo\u017ei\u0165 jej hlavu? Je zmrazen\u00e1 hlava osobou? Je Terry Schiavo osobou? Ak\u00fa hodnotu m\u00e1 \u0161impanz?<\/p>\n<\/blockquote>\n V\u00e1\u0161 mozog v\u0161ak nie je nekone\u010dne<\/em> zlo\u017eit\u00fd. Existuje kone\u010dn\u00e1 mno\u017eina tvrden\u00ed, ktor\u00e9 by mohli pop\u00edsa\u0165 syst\u00e9m, ktor\u00fdm rozhodujete o svojich \u00fasudkoch. Keby sme rozumeli, ako pracuje ka\u017ed\u00e1 synapsa, neurotransmiter a prote\u00edn v mozgu, a keby sme mali \u00fapln\u00fa mapu v\u00e1\u0161ho mozgu, potom by UI prinajmen\u0161om teoreticky<\/em> mohla spo\u010d\u00edta\u0165, ak\u00e9 \u00fasudky by ste urobili oh\u013eadom kone\u010dnej mno\u017einy mo\u017en\u00fdch v\u00fdsledkov.<\/p>\n Ponau\u010denie je, \u017ee neexistuje bezpe\u010dn\u00e9 \u017eelanie men\u0161ie ne\u017e cel\u00fd \u013eudsk\u00fd hodnotov\u00fd syst\u00e9m<\/a>:<\/p>\n Existuje prive\u013ea r\u00f4znych ciest \u010casom. Nedok\u00e1\u017eete si predstavi\u0165 v\u0161etky cesty, ktor\u00e9 ved\u00fa k\u00a0cie\u013eu, ktor\u00fd ste zadali [V\u00fdsledkovej pumpe]. \u201eMaximalizova\u0165 vzdialenos\u0165 medzi va\u0161ou matkou a stredom budovy\u201c mo\u017eno omnoho efekt\u00edvnej\u0161ie odp\u00e1len\u00edm jadrovej bomby… Pr\u00edpadne, na vy\u0161\u0161\u00edch \u00farovniach inteligencie [V\u00fdsledkovej pumpy], uroben\u00edm nie\u010doho, na\u00a0\u010do by sme ani vy ani ja nepomysleli, podobne ako by \u0161impanz ani nepomyslel na odp\u00e1lenie jadrovej bomby. Nedok\u00e1\u017eete si predstavi\u0165 v\u0161etky cesty \u010dasom, rovnako ako nedok\u00e1\u017eete naprogramova\u0165 \u0161achov\u00fd stroj tak, \u017ee mu natvrdo ur\u010d\u00edte \u0165ah pre ka\u017ed\u00fa mo\u017en\u00fa poz\u00edciu na\u00a0\u0161achovnici.<\/p>\n A skuto\u010dn\u00fd \u017eivot je omnoho zlo\u017eitej\u0161\u00ed ne\u017e \u0161ach. Nedok\u00e1\u017eete dopredu predpoveda\u0165, ktor\u00e9 z\u00a0va\u0161ich hodn\u00f4t bud\u00fa potrebn\u00e9 na pos\u00fadenie cesty \u010dasom, ktor\u00fa si [V\u00fdsledkov\u00e1 pumpa] vyberie. Najm\u00e4 ak si \u017eel\u00e1te nie\u010do dlhodobej\u0161ie a rozsiahlej\u0161ie ne\u017e z\u00e1chranu svojej matky z horiacej budovy.<\/p>\n Jedin\u00e1 bezpe\u010dn\u00e1 [UI je UI], ktor\u00e1 zdie\u013ea v\u0161etky va\u0161e hodnotiace krit\u00e9ri\u00e1, a v tom bode m\u00f4\u017eete jednoducho poveda\u0165: \u201e\u017eel\u00e1m si, aby si urobila to, \u010do by som si mal \u017eela\u0165.\u201c<\/p>\n<\/blockquote>\n Existuje dom\u00e1ci priemysel \u013eud\u00ed, ktor\u00ed predkladaj\u00fa Jeden Jednoduch\u00fd Princ\u00edp, ktor\u00fd sp\u00f4sob\u00ed, \u017ee UI urob\u00ed to, \u010do chceme. \u017diaden z nich nebude fungova\u0165<\/a>. My nejedn\u00e1me iba na z\u00e1klade \u0161\u0165astia<\/a> alebo pote\u0161enia<\/a>. \u010co si cen\u00edme, je ve\u013emi zlo\u017eit\u00e9<\/a>. Evol\u00facia v\u00e1m dala tis\u00edce \u00falomkov t\u00fa\u017eby<\/a>. (Aby ste videli, ak\u00fd chaos to rob\u00ed vo va\u0161ej neurobiol\u00f3gii, pre\u010d\u00edtajte si prv\u00e9 dve kapitoly knihy Neuroveda preferenci\u00ed a vo\u013eby<\/a><\/em>.)<\/p>\n To je d\u00f4vod, pre\u010do mor\u00e1lni filozofi str\u00e1vili tis\u00edce rokov m\u00e1rnym<\/em> h\u013eadan\u00edm jednoduchej mno\u017einy princ\u00edpov, ktor\u00e9, keby sme sa nimi riadili, vytvoria svet, ak\u00fd chceme. V\u017edy ke\u010f niekto navrhne mal\u00fa mno\u017einu mor\u00e1lnych princ\u00edpov, niekto in\u00fd mu uk\u00e1\u017ee, kde s\u00fa diery<\/a>. Vynechajte nie\u010do, hoci aj nie\u010do napoh\u013ead nepodstatn\u00e9, a veci m\u00f4\u017eu dopadn\u00fa\u0165 katastrof\u00e1lne<\/a>:<\/p>\n Vezmime si neuverite\u013ene d\u00f4le\u017eit\u00fa \u013eudsk\u00fa hodnotu \u201enudy\u201c \u2013 na\u0161ej t\u00fa\u017eby nerobi\u0165 \u201eto ist\u00e9\u201c op\u00e4\u0165 a op\u00e4\u0165 a op\u00e4\u0165 dokola. M\u00f4\u017eete si predstavi\u0165 myse\u013e, ktor\u00e1 obsahuje takmer cel\u00fa \u0161pecifik\u00e1ciu \u013eudsk\u00fdch hodn\u00f4t, takmer cel\u00fa mor\u00e1lku a metamor\u00e1lku, a ch\u00fdba jej iba t\u00e1to jedin\u00e1 vec<\/em>…<\/p>\n …a tak bude a\u017e do konca \u010dasu, a\u017e po najvzdialenej\u0161ie hranice svojho sveteln\u00e9ho ku\u017ee\u013ea, opakova\u0165 jedin\u00fd vysoko optimalizovan\u00fd z\u00e1\u017eitok, op\u00e4\u0165 a op\u00e4\u0165 a op\u00e4\u0165 dokola.<\/p>\n Alebo si predstavte myse\u013e, ktor\u00e1 obsahuje takmer cel\u00fa \u0161pecifik\u00e1ciu pocitov, ktor\u00e9 m\u00e1 v\u00e4\u010d\u0161ina \u013eud\u00ed rada \u2013 okrem my\u0161lienky, \u017ee tieto pocity maj\u00fa d\u00f4le\u017eit\u00e9 extern\u00e9 referenty<\/em>. Tak\u00e1to myse\u013e by teda \u017eila s pocitom<\/em>, \u017ee urobila v\u00fdznamn\u00fd objav; pocitom<\/em>, \u017ee stretla dokonal\u00e9ho milenca; pocitom<\/em>, \u017ee pomohla priate\u013eovi, ale v skuto\u010dnosti by nerobila<\/em> \u017eiadnu z t\u00fdchto vec\u00ed, preto\u017ee by bola iba svoj\u00edm vlastn\u00fdm automatom na z\u00e1\u017eitky<\/a>. Keby sa t\u00e1to myse\u013e naozaj sna\u017eila o tieto pocity a o ich referenty, bola by to dobr\u00e1 a pravdiv\u00e1 bud\u00facnos\u0165; no kv\u00f4li vynechaniu tohto jedn\u00e9ho rozmeru<\/em> hodnoty by bud\u00facnos\u0165 bola \u010dosi tup\u00e9. Nudn\u00e9 a opakuj\u00face sa, preto\u017ee hoci by t\u00e1to myse\u013e c\u00edtila<\/em>, \u017ee pre\u017e\u00edva z\u00e1\u017eitky neuverite\u013enej originality, tento pocit by nebol ani trochu pravdiv\u00fd.<\/p>\n Alebo opa\u010dn\u00fd probl\u00e9m: agent, ktor\u00fd obsahuje v\u0161etky str\u00e1nky \u013eudskej hodnoty, okrem<\/em> oce\u0148ovania subjekt\u00edvneho z\u00e1\u017eitku. V\u00fdsledkom by bol potom nevedom\u00fd optimaliz\u00e1tor, ktor\u00fd ide a rob\u00ed skuto\u010dn\u00e9 objavy, ale tieto objavy si nikto nevychutn\u00e1va a neu\u017e\u00edva, preto\u017ee tam nikto nie je…<\/p>\n Hodnota nie je len komplikovan\u00e1, je krehk\u00e1<\/em>. Existuje viac ne\u017e jedna dimenzia \u013eudskej hodnoty, kde ak strat\u00edte iba jedin\u00fa vec, Bud\u00facnos\u0165 je o ni\u010dom. Jedin\u00fd \u00fader a cel\u00e1 hodnota sa rozbije. Nie ka\u017ed\u00fd \u00fader samotn\u00fd rozbije cel\u00fa hodnotu \u2013 ale existuje viacero mo\u017en\u00fdch \u201esamotn\u00fdch \u00faderov\u201c, ktor\u00e9 to dok\u00e1\u017eu.<\/p>\n<\/blockquote>\n Vid\u00edte, kam to smeruje. Ke\u010f\u017ee sme nikdy nerozl\u00fa\u0161tili cel\u00fd \u013eudsk\u00fd hodnotov\u00fd syst\u00e9m, nevieme, ak\u00e9 hodnoty da\u0165 UI. Nevieme, ak\u00e9 \u017eelanie m\u00e1me vyslovi\u0165. Ak zajtra vytvor\u00edme nad\u013eudsk\u00fa UI, vieme jej da\u0165 iba katastrof\u00e1lne ne\u00fapln\u00fd<\/em> hodnotov\u00fd syst\u00e9m, a ona potom bude robi\u0165 veci, ktor\u00e9 nechceme, preto\u017ee bude robi\u0165 to, \u010do sme si \u017eelali<\/em>, namiesto toho, \u010do sme chceli<\/em>.<\/p>\n Pr\u00e1ve teraz vieme zostroji\u0165 iba tak\u00e9 UI, ktor\u00e9 optimalizuj\u00fa na nie\u010do in\u00e9<\/em> ne\u017e chceme. Vieme iba ako zostroji\u0165 nebezpe\u010dn\u00e9 UI. \u010co je hor\u0161ie, u\u010d\u00edme sa, ako urobi\u0165 UI bezpe\u010dnou<\/em> omnoho pomal\u0161ie ne\u017e sa u\u010d\u00edme, ako urobi\u0165 UI mocnou<\/em>, preto\u017ee venujeme viac prostriedkov probl\u00e9mom schopnost\u00ed UI ne\u017e probl\u00e9mom bezpe\u010dnosti UI.<\/p>\n Hodinky tikaj\u00fa. UI prich\u00e1dza<\/a>. A my nie sme pripraven\u00ed.<\/p>\n <\/p>","protected":false},"excerpt":{"rendered":" edn\u00e9ho d\u0148a m\u00f4j kamar\u00e1t Niel po\u017eiadal svoju virtu\u00e1lnu asistentku v Indii, aby mu na\u0161la bicykel, ktor\u00fd si e\u0161te v ten de\u0148 m\u00f4\u017ee k\u00fapi\u0165. Poslala mu zoznam bicyklov na predaj z cel\u00e9ho sveta. Niel povedal: \u201eNie, potrebujem tak\u00fd, ktor\u00fd si m\u00f4\u017eem… continue reading<\/a> »<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-228","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/posts\/228","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/comments?post=228"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/posts\/228\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/media?parent=228"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/categories?post=228"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sk\/wp-json\/wp\/v2\/tags?post=228"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}\n
\n
\n
\n
\n