Zostrojenie utópie

Už som hovoril o tom, ako môžu veci s UI dopadnúť veľmi, veľmi zle. Žiaden Boh nás nezachráni, zostala nám len fyzika – a nič v zákonoch fyziky nehovorí, že ľudstvo nemôže zle dopadnúť a vymrieť. Ale takisto nám nič vo fyzike nebráni vytvoriť budúcnosť lepšiu než čokoľvek, čo si teraz vieme predstaviť – skutočnú utópiu.

Predstavte si našich jaskynných predkov, ako pozerali na vtáky, ktoré sa im vznášali nad hlavami. Nedokázali si predstaviť, že o tisíce rokov neskôr budú milióny ľudí lietať okolo sveta lietadlami každý deň. Naši predkovia pozerali aj na hviezdy a planéty – nesnívalo sa im však, že jedného dňa budeme chodiť po mesiaci. Kedysi bola doba, keď priemerný človek nemohol očakávať, že po tridsiatke bude ešte dlho žiť. Ďalších 40 alebo 50 rokov navyše bolo nepredstaviteľných.

Je ľahké podceniť, čo prinesie budúcnosť. Keď myslíme na svet po Singularite, je dôležité si uvedomiť, že prínosy úspešnej Singularity môžu byť omnoho väčšie než si teraz dokážeme predstaviť, keďže naša predstavivosť je obmedzená.

Ďalšia vec, ktorú si musíme uvedomiť je, že tieto zmeny nemusia trvať tisíce rokov. Mnohé technológie, na ktorých by sa dala utópia postaviť, sa vyvíjajú už teraz, a budúce technológie sa budú vyvíjať omnoho rýchlejšie, ak ich budú vyvíjať emulácie celých mozgov a superinteligentné UI. Ekonóm Robin Hanson nám pripomína:

Hoci taký rýchly rast môže vyzerať absurdne, uvedomme si, že v období lovectva a zberačstva sa ekonómia zdvojnásobila deväťkrát; v období farmárstva sa zdvojnásobila sedemkrát; a v súčasnej priemyselnej dobe sa zatiaľ zdvojnásobila desaťkrát. Ak je z nejakého zatiaľ neznámeho dôvodu počet zdvojnásobení v týchto troch obdobiach podobný, zdá sa, že ďalšie obdobie tu už malo byť.

To, čo idem teraz povedať, môže znieť ako vedecká fantastika, ale to nie je dôvod odmietať to. Máme dlhú históriu premieňania vedeckej fantastiky na vedeckú skutočnosť. A dnes to nekončí.

Skutočná utópia

„Utópia.“ Túto predstavu je jednoduché pochopiť, keď si uvedomíte, že práve toto sme vždy hľadali. Meníme svet okolo nás, aby vyhovoval našim potrebám a túžbam, tak ako žiaden iný tvor pred nami. Ale so strojovou superinteligenciou na našej strane by sme mohli byť omnoho úspešnejší v uskutočnení utópie než kedykoľvek predtým. Predstavte si, čo by nám mohol povedať cestovateľ v čase z vesmíru po Singularite:

Moje vedomie je široké a hlboké, môj život dlhý. Čítal som všetkých vašich autorov – a mnohých ďalších. Zakúsil som život v mnohých formách a z mnohých uhlov: v džungli i na púšti, v priekope i v paláci, v stepi, na vidieku i v uliciach mesta. Plavil som sa po oceánoch kultúry, plával som a potápal som sa v nich. Počas milióna rokov úsilie ľudských bytostí vybuduje úchvatné stavby; ešte aj skromné polypy za ten čas navŕšia útes. A videl som húfy farebných rýb životopisov, každá z nich jeden životný príbeh, ako sa trblietajú pod dvíhajúcimi sa morskými vlnami.

Utópia nie je miesto, kde sa ľudia oddávajú nekončiacemu zdroju prázdneho potešenia. Obyvatelia utópie majú technológiu na simulovanie a prežívanie tisícov prostredí a svetov. Nie je tam nedostatok nových a zmysluplných zážitkov.

Obyvatelia utópie nie sú bezmyšlienkovité trúdy, ktoré nikdy nepoužívajú svoj mozog, aby niečo vyriešili. Tak ako jednoduchšia počítačová hra nemusí byť nutne zábavnejšia, obyvatelia utópie budú stále čeliť výzvam, a prežívať radosť z ich prekonania.

Utópia nie je nezmyselná, predvídateľná, ani nudná. Ľudia žijúci v utópii sa časom stávajú silnejšími, nie slabšími. Ich životy sú čoraz vzrušujúcejšie a skvelejšie, ich emócie čoraz pestrejšie a vzrušujúcejšie. Postupom času sa stávajú naplnenejšími, nie prázdnejšími.

Utópia je svet, v ktorom je naša skúsenosť obmedzená iba našou túžbou a predstavivosťou.

Bez bolesti

Začnime niečím jednoduchým: Predstavte si život bez bolesti. Bolesť nie je fyzikálny zákon. Je to dôsledok (1) súčasnej ľudskej biológie a (2) našej nevedomosti ako ju zmeniť alebo prekonať. Bolesť je iba mechanizmus, na ktorý evolúcia náhodou natrafila, ktorý nás informuje, že „tomuto by si sa mal vyhýbať“ alebo „o toto zranenie by si sa mal postarať“. Mohli by sme však mať systémy, ktoré nám dajú tú istú informáciu aj bez bolesti. Tak to robia dnešné UI. V budúcnosti budeme vedieť ovládnuť bolesť, v ľudských telách aj iných podkladoch.

A to je stále nič v porovnaní s tým najlepším, čo môže prísť, ak urobíme UI správne.

Bez smrti a starnutia

Neodstránili by sme iba bolesť; mohli by sme sa rovnako zbaviť aj starnutia a smrti. Smrť a starnutie tiež nie sú súčasťou fyzikálnych zákonov. Tiež sú to iba dôsledky súčasnej ľudskej biológie a našej nevedomosti, ako ju zmeniť alebo prekonať. Turritopsis nutricula alebo „nesmrteľná medúza“ je biologicky nesmrteľná, pretože sa nevyvinula tak, aby umrela po pár desaťročiach ako ľudia. A keby sme svoje mysle nahrali do počítačov, mohli by sme si robiť záložné kópie a dosiahnuť digitálnu nesmrteľnosť.

Chceli by ste vôbec žiť večne? Myslím si, že to dobre vystihol Patrick Hayden, keď povedal: „Osobne celý život počúvam o Vážnych Filozofických Otázkach, ktoré pred nás stavia predĺženie života, a môj postoj bol vždy ten, že som ochotný vážne sa týmto otázkam venovať toľko storočí, koľko len bude treba.“

Odstrániť smrť a starnutie nie je len zbožné prianie alebo vedecká fantastika. Čím viac budeme rozumieť, ako smrť a starnutie fungujú, tým viac ich budeme vedieť ovládať.

Radikálny blahobyt

V roku 1959 Richard Feynman urobil prednášku s názvom: „Veľa miesta naspodku“. V nej Feynman hovoril o tom, ako nám nič vo fyzike nebráni stavať veci atóm po atóme. Zvažoval, aké by to malo dôsledky na ukladanie informácií, chemickú syntézu, priemyselnú výrobu. O desaťročia neskôr vznikla oblasť nanotechnológie, inšpirovaná Feynmanovou lekciou. Dnes dokážeme zostrojiť niektoré veci atóm po atóme, presne ako Feynman predpovedal, a naše schopnosti v tejto oblasti z roka na rok rastú.

Krátko nato vznikla predstava molekulárnej nanotechnológie (MNT). MNT je technológia, ktorú použijeme na vybudovanie budúcnosti. Pomocou inteligentne riadených nanotovární alebo sebareplikujúcich nanorobotov a zásob materiálu dokážeme rýchlo zostaviť ľubovoľné štruktúry. Ak môžeme atómy usporiadať do ľubovoľnej zostavy (v rámci fyzikálnych zákonov), môžeme si vyrobiť banán bez toho, že by sme ho pestovali. Môžeme si vyrobiť auto bez veľkých tovární na montovanie. Ak sa to skladá z atómov, pravdepodobne si to vyrobíte pomocou MNT a dostatočnej inteligencie.

Prečo je to dôležité? Chudoba existuje z veľkej časti kvôli slabej distribúcii zdrojov. Keby jedlo a bývanie bolo v takom dostatku ako povedzme vzduch, nikto by nebol bezdomovcom ani by nehladoval; vďaka MNT by bolo smiešne platiť za auto desaťtisíce dolárov. Veci, ktoré dnes považujeme za luxus, by boli viacmenej rovnako dostupné každému. Ak dokážete manipulovať hmotu na úrovni atómov, vyrobiť diamantovú kocku je rovnako ľahké ako vyrobiť kocku uhlia.

Nekonečné dobrodružstvo

Dôsledky bezpečnej a efektívnej MNT idú ďalej než odstránenie chudoby a zjednodušenie našich životov. MNT otvára možnosti na vytvorenie omnoho silnejších počítačov, pretože sklady dát a štruktúry na ich spracovanie by mohli byť usporiadané tak dokonale a efektívne, ako je len fyzikálne možné.

Čo by sme mohli urobiť s takýmito rozsiahlymi výpočtovými zdrojmi? Pomyslite na Pandoru, z Jamesovho Cameronovho filmu Avatar. Pandora je fiktívny svet, taký úžasný, dych vyrážajúci, a odlišný od nášho. Napriek všetkým jeho fantastickým prvkom ľuďom pripadali zážitky z neho skutočné. Niekoľko pohyblivých obrázkov na plátne vytvorilo takú hlbokú skúsenosť, že ľudia odchádzali z kín smutní pri predstave, že nikdy nebudú žiť na Pandore.

Predstavte si vytvorenie počítačovej simulácie Pandory, do ktorej by ste mohli vstúpiť. Mohli by ste žiť ako obyvateľ Pandory celý ľudský život. Mohli by ste vidieť, počuť, a cítiť tento svet rovnako intenzívne ako v skutočnosti. Mohli by sme simulovať tisíce rozličných svetov a všetky ich zažiť.

Zostrojenie utópie

Tieto príklady ukazujú sotva minimum z toho, ako dobrá by mohla byť kladná Singularita z pohľadu výskumného inžinierstva. Skutočný výsledok kladnej Singularity by asi bol dosť odlišný, napríklad o dosť menej antropomorfný.

Opäť: naše dnešné obmedzenia nie sú napevno dané fyzikou, ale hranicami našej inteligencie a zdrojmi, ktoré dokážeme využívať pri našej terajšej úrovni inteligencie. Ak budú sebazdokonaľujúce sa stroje jednať v našom záujme, môžeme prekročiť svoje biologické hranice.

Ľudia vždy chceli mať viac, než nám vesmír štandardne dával. Chceme zažiť zvuky, ktoré v prírode neexistujú, tak skladáme hudbu. Chceme ochutnať niečo chutnejšie než čokoľvek, čo na svete rastie samo od seba, tak varíme a vymýšľame jedlá. Chceme skúmať svety za hranicami nášho rodiska, tak staviame lode, autá, lietadlá a rakety, aby nás odniesli do vzdialených krajín. Vymýšľame literatúru, film a umenie, aby sme zažili svet z inej perspektívy.

Vždy sme si zostavovali svoju vlastnú utópiu a robíme to stále. S pomocou superinteligencie budeme mať možnosť robiť to rýchlejšie, lepšie, a dôkladnejšie než kedykoľvek predtým.

Ale iba ak sa o to pokúsime. Iba ak sa rozhodneme, že zajtrajšia utópia je dôležitejšia než drobné vylepšenia našich dnešných, už dosť bohatých životov.

Už som písal:

Nachádzame sa v kľúčovom okamihu histórie Zeme. Ako balvan usadený na vrcholku hory, stojíme v nestabilnom bode. Nemôžeme na tomto mieste zostať stáť: UI príde, ak bude veda napredovať. Čoskoro sa zosypeme po niektorej zo strán hory na nové stabilné miesto.

Ktorým smerom potlačíš tento balvanty?