Môj vlastný príbeh
Niekedy v tomto storočí stroje prekročia ľudskú úroveň inteligencie a schopností. Táto udalosť – „Singularita“ – bude najdôležitejšou udalosťou v našich dejinách, a jej úspešné prejdenie bude najdôležitejšou vecou, ktorú kedy urobíme.
Osobnosti od Alana Turinga a Jacka Gooda po Billa Joya a Stephena Hawkinga nás na toto upozorňovali; nezávisí to od naplnenia konkrétnej predstavy Raya Kurzweila o Singularite „zrýchľujúcej sa zmeny“. Prečo si myslím, že Hawking a spol. majú pravdu, a čo s tým môžeme urobiť?
Zoči-voči Singularite je môj pokus odpovedať na tieto otázky.
Osobné pozadie
Začnem svojím osobným pozadím. Pomôže vám to vedieť, kto som a odkiaľ prichádzam. Táto informácia je čiastočným svedectvom, ako by ste mali reagovať na ďalšie veci, ktoré hovorím.
Keď moje náboženské názory konečne podľahli skutočnosti, dekonvertoval som a začal som písať blog, kde som ostatným vysvetľoval ateizmus a naturalizmus. Common Sense Atheism (ateizmus zdravého rozumu) sa stal jedným z najznámejších ateistických blogov na internete. Bavilo ma prekladať články profesionálnych filozofov do zrozumiteľnej angličtiny, a bavilo ma diskutovať s odborníkmi z danej oblasti v mojom podkaste Conversations from the Pale Blue Dot. Navyše, keď som stratil náboženstvo, nebolo mi zrejmé, čomu mám veriť alebo čo by som mal robiť so svojím životom, takže som využil svoj blog na hľadanie odpovedí.
Zaujímal som sa aj o rozumnosť, prinajmenšom od mojej dekonverzie, počas ktorej som objavil, aké ľahké je byť silno presvedčený o veciach, pre ktoré nemám žiadne dôkazy; o veciach, ktoré sa dávno ukázali ako nepravdivé; dokonca o úplných nezmysloch. Ako môže byť ľudský mozog tak neuveriteľne pomýlený? Bolo mi zrejmé, že nie som Aristotelov „rozumný živočích“. Namiesto toho som Gazzanigov racionalizujúci živočích. Kritické myslenie bolo významnou témou Common Sense Atheism, a kritizovaním chybného myslenia ateistov som strávil rovnako veľa času ako kritizovaním chybného myslenia veriacich.
Explózia inteligencie
Môj záujem o rozumnosť ma nevyhnutne priviedol (myslím, že uprostred roku 2010) k pokladu, ktorý predstavovala zbierka článkov o mainstreamovej kognitívnej vede o rozumnosti: webová stránka Less Wrong (menej chybne). Tu som sa po prvýkrát stretol s myšlienkou explózie inteligencie od I. J. Gooda:
Definujme si ultrainteligentný stroj ako stroj, ktorý dokáže vo všetkom ďaleko prekonať rozumové schopnosti každého človeka, akokoľvek chytrého. Keďže navrhovanie strojov je jednou z týchto rozumových schopností, ultrainteligentný stroj by vedel navrhnúť ešte lepšie stroje; nepochybne by nastala „explózia inteligencie“, a ľudská inteligencia by zostala ďaleko pozadu… Prvý ultrainteligentný stroj je teda posledným vynálezom, ktorý človek bude musieť urobiť.
O svojom prvom stretnutí s týmto známym odstavcom píšem tu. V skratke:
Goodov odstavec ma prevalcoval ako vlak. Nie svojou absurdnosťou, ale svojou jasnou pravdivosťou. Explózia inteligencie bola priamym dôsledkom vecí, ktorým som už veril, iba som si to neuvedomil! Ľudia si neuvedomujú dôsledky svojho presvedčenia automaticky, takže som si nevšimol, že môj svetonázor už zahŕňa aj explóziu inteligencie.
Strávil som týždeň hľadaním protiargumentov, aby som si overil, či mi niečo neuniklo, a potom som prijal explóziu inteligencie ako pravdepodobnú (za predpokladu, že vedecký pokrok bude pokračovať). A hoci som nečítal o zložitosti hodnôt od Eliezera , čítal som Davida Huma a Joshuu Greena. Takže som už rozumel, že náhodne vybraná umelá inteligencia takmer určite nebude zdieľať naše hodnoty.
Moja reakcia na tejto objav bola okamžitá a transformujúca:
Priebežne som pozastavil svoje zvyčajné projekty a ďalší mesiac som strávil čítaním takmer všetkého, čo Eliezer napísal. Našiel som aj články od Nicka Bostroma a Steva Omohundra. Začal som písať články pre Less Wrong a učiť sa jeho komunity. Prihlásil som sa do programu stážistov Inštitútu Singularity a prijali ma. Dal som výpoveď vo svojej práci v L.A., presťahoval som sa do Berkeley, tvrdo som zamakal, prijali ma, a začal som zbierať výskumné práce súvisiace s rozumnosťou a explóziou inteligencie.
Ako raz povedal môj kamarát Will Newsone: „Zdá sa, že Luke má dve kópie génu „Ber myšlienky vážne“.“.
Fanatizmus?
Samozrejme, čo jedni ľudia chvália ako „branie vážnych myšlienok vážne“, druhí vidia ako vrodený sklon k fanatizmu. Viem si predstaviť, že niekto povie toto:
Neprekvapuje ma to. Luke vyrástol v presvedčení, že má celosvetové poslanie zachrániť ľudstvo, prv než svet zanikne s príchodom supermocnej bytosti (návrat Krista). Stratil svoju vieru a tým aj svoj dramatický zmysel života. Strach z prázdnoty ho spravil náchylným nechať sa zviesť niečím, čo vyzeralo ako morálny realizmus… a jeho potreba dramatického zmyslu ho spravila náchylným nechať sa zviesť Singularitariánstvom.
Na toto by som mohol odpovedať, že je to iba „psychologizovanie“, ktoré sa vyhýba dôkazom pre moje tvrdenia ohľadom explózie inteligencie. Čo je pravda, ale na druhej strane: Dôveryhodné údaje o mojej psychológii dávajú určité bayesovské svedectvo o tom, ako by ste mali reagovať na moje slová na tejto stránke.
Prípadne by som mohol vysvetliť, prečo si nemyslím, že sa stalo práve toto, hoci niektoré prvky sú určite pravdivé. (Napríklad si nespomínam na pocit, že návrat Krista sa blíži, alebo že mám celosvetové poslanie zachrániť každú jednu dušu, hoci ako evanjelikálny kresťan som mal takéto postoje ako teologickú povinnosť. Ale určite je pravda, že ma lákajú „dramatické“ veci, ako napríklad rocková skupina Muse alebo film Avatar.) Ale nechcem už v tejto kapitole zachádzať ešte ďalej do mojej osobnej psychológie.
Tretia odpoveď by mohla apelovať na sociálny dôkaz. Zdá sa, na Common Sense Atheism bola skupina čitateľov, ktorí si moje materiály prečítal tak dôkladne, že získali silnú úctu voči môjmu vážnemu záväzku byť k sebe intelektovo poctivý a zmeniť svoj názor, keď sa mýlim, takže keď som začal písať o téme Singularity, pomysleli si: „Nuž, myslel som si, že tie veci o Singularite sú hodne ujeté, ale ak to Luke berie vážne, možno je na tom viac, než si uvedomujem“ a potom ma nasledovali na Less Wrong (kde teraz prispievam pravidelne). Spomeniem aj, že dôležitým príčinným faktorom môjho vymenovania za výkonného riaditeľa Inštitútu Singularity po takom krátkom čase v organizácii bolo, že zamestnanci Inštitútu Singularity videli, že som vážne oddaný rozumnosti a zbavovaniu sa predsudkov, vážne oddaný hovoreniu „ups“ a zmene názoru v reakcii na argument, a vážne oddaný konaniu v rámci mojich možností skôr podľa teórie rozhodovania než podľa zvykov a emócií, hoci mám k tomu sklony.
V rámci prieskumu možných reakcií na horeuvedené obvinenie z „fanatizmu“ som už ponúkol nejakú obranu. Ale ďalej už s tým nepôjdem. Chcem, aby ľudia brali to, čo poviem, s primeranou rezervou. Predsa len, som iba človek. Dúfam, že moji čitatelia vezmú do úvahy nielen moju ľudskú omylnosť, ale aj silu argumentov a dôkazov, ktoré postupne dodám ohľadom príchodu strojovej superinteligencie.