Neodvracajte sa
Možno ste už počuli o japonských veteránoch, ktorí odmietli uveriť správam o kapitulácii Japonska v roku 1945. Jedným z nich bol poručík Hiroo Onoda, ktorý velil ďalším trom vojakom na ostrove Lubang vo Filipínach. Vyše desať rokov sa živili kokosovými orechmi a banánmi v džungli a odmietali uveriť, že vojna skončila:
Zhadzovali im leták za letákom. Nechávali im noviny. Zhadzovali im fotografie a listy od príbuzných. Priatelia a príbuzní sa im prihovárali cez megafóny. Vždy im bolo niečo podozrivé, takže nikdy neuverili, že vojna naozaj skončila.
Jeden po druhom Onodovi vojaci zomreli alebo sa vzdali, ale samotný Onoda neuveril v porážku Japonska až do roku 1974, takmer 30 rokov po skončení vojny. Neskôr spomína:
Zrazu všetko sčernelo. Zúrila vo mne víchrica. Cítil som sa ako hlupák… čo som to robil celé tie roky?
Študent rozumnosti chce pravdivé presvedčenia, aby mohol lepšie dosiahnuť svoje ciele. Chce reagovať na dôkazy veľmi odlišne než Onoda. Chce zmeniť názor hneď, keď je dostatok dôkazov, ktoré to zdôvodňujú (v súlade s tým, čo už vie, a so zákonmi teórie pravdepodobnosti). Držanie sa nepravdivých presvedčení môže mať vážne dôsledky: napríklad 30 rokov na kokosových orechoch.
Onoda bol cvičený v rovnakom druhu militaristického dogmatizmu, ktorý vytvoril pilotov kamikaze, a bol naučený veriť, že porážka Japonska je najhorší možný výsledok, aký si možno predstaviť. Onoda sa teda prirodzene odvracal od dôkazov, že Japonsko prehralo vojnu, keďže bol vycvičený veriť, že tento výsledok je emocionálne a mentálne nemysliteľný.
Jedna zo zručností v zbierke nástrojov rozumného myslenia je všimnúť si, kedy nastane toto „odvrátenie sa“ a konať proti nemu. Túto zručnosť budeme potrebovať, keď sa začneme pozerať na dôsledky myšlienok, o ktorých sme práve hovorili – že UI je nevyhnutná, ak bude veda napredovať, a že UI môže byť omnoho inteligentnejšia (a preto omnoho mocnejšia) než ľudia. Keď preskúmame dôsledky týchto myšlienok, bude užitočné rozumieť, čo sa deje v ľudskom mozgu, keď zvažuje myšlienky s neželanými dôsledkami. Ako uvidíme, nepotrebujeme vojenskú indoktrináciu na to, aby sa ľudský mozog odvrátil preč. Naopak, odvrátenie sa je štandardnou vlastnosťou ľudskej psychológie, známou pod názvami ako „motivované poznávanie“ a „racionalizácia“.
Ako extrémny príklad si vezmime kreacionistu. Bude prijímať pochybné dôkazy v prospech svojej pozície, ale bude prehnane skeptický voči dôkazom proti nej. Bude hľadať dôkazy, ktoré by mohli potvrdiť jeho pozíciu, ale nebude hľadať najsilnejšie dôkazy proti nej. (A tak sa stretávam s kreacionistami, ktorí nikdy nepočuli o endogénnych retrovírusoch.)
Mnohí z nás robia podobné veci každý týždeň v (dúfam) menej zrejmých a škodlivých veciach. Odvraciame sa od nepohodlných právd a volieb, hovoriac: „je lepšie neunáhliť sa“. Vyhýbame sa skutočným slabým miestam našich presvedčení. Začíname s už vytvoreným názorom, a argumenty preň si nájdeme až dodatočne. Nevedome filtrujeme dostupné dôkazy, aby sme zvýhodnili svoje terajšie presvedčenia. Vyvraciame slabé argumenty proti našim pozíciám, ale nepokúšame sa zvážiť najsilnejšie možné argumenty proti našim pozíciám.
A tieto procesy sú zvyčajne automatické a nevedomé. Nemusíte byť mimoriadne iracionálny človek, aby ste sa takto odvrátili. Nie, budete mať sklon sa odvracať automaticky, ani si to neuvedomíte, a budete musieť vynaložiť vedomé myšlienkové úsilie, aby ste sa neodvrátili od nepohodlných faktov. A nemyslím tým spievanie: „Nedopusti sa sklonu k potvrdzovaniu. Nedopusti sa sklonu k potvrdzovaniu…“ Myslím tým niečo účinnejšie.
Aké druhy vedomého myšlienkového úsilia môžete vynaložiť, aby ste oponovali reakcii „odvrátenia sa“?
Jedna rada je ponechať si ústupovú líniu:
Minulý večer som sa rozprával s [osobou, ktorá] práve vyhlásila (a) svoje presvedčenie v existenciu duše a (b) že neverí v kryoniku, pretože verí, že duša by nezostala v zmrazenom tele. Opýtal som sa: „Ale odkiaľ to vieš?“ Zo zmätku, ktorý prebleskol jej tvárou bolo dosť jasné, že jej táto otázka nikdy nenapadla…
… „Daj si záležať na tom,“ poradil som jej, „aby si si predstavila, ako by svet vyzeral, keby neexistovali žiadne duše, a čo by si v takom prípade robila. Nemysli na všetky možné dôvody, prečo by to tak byť nemohlo, iba to prijmi ako predpoklad a potom si predstav dôsledky. Takže si pomyslíš, „No, keby neexistovali duše, mohla by som sa jednoducho prihlásiť na kryoniku,“ alebo „Keby neexistoval Boh, aj tak by som sa mohla naďalej správať morálne“ namiesto toho, aby si bola príliš vystrašená z tejto predstavy. Čo sa týka sebaúcty, mala by si skúsiť veriť pravde bez ohľadu na to, aké je to nepohodlné… [a] čo sa týka ľudskej prirodzenosti, pomáha, ak najprv spravíš presvedčenie menej nepohodlným a až potom sa snažíš vyhodnotiť dôkazy preň.“
Samozrejme, dôkazy musíte stále zvažovať poctivo.. Existujú presvedčenia, ktoré ma strašia, a ktoré stále odmietam, ako aj presvedčenia, ktoré ma priťahujú, ktoré stále prijímam. Dôležité však je predstaviť si situáciu jasne a tým ju urobiť menej strašidelnou, aby váš ľudský mozog mohol férovejšie vyhodnocovať relevantné dôkazy.
Ponechať si ústupovú líniu je nástroj, ktorý používame pred bojom. Technika proti odvráteniu sa, použiteľná počas boja, je slovne pomenovať reakciu odvrátenia sa. Keď sa pristihnem, že si myslím veci ako: „Zdá sa mi, že som čítal, že cukor vlastne nie je až taký škodlivý,“ v myšlienkach dodám: „ale to môže byť motivované poznávanie, pretože mám práve veľkú chuť zjesť tento koláč.“
Je to ako stlačenie tlačidla pauza na mojom rozhodovacom module, ktoré mi poskytne čas zapojiť svoje „moduly zvedavosti“, ktoré som vycvičil, aby chceli vedieť, čo je naozaj pravda, namiesto ospravedlňovania jedenia koláčov. Napríklad si predstavím, čo by mohlo zle dopadnúť, keby som v danej veci došiel k nepravdivému presvedčeniu – vďaka motivovanému poznaniu alebo nejakej inej chybe myslenia. V tomto prípade si môžem predstaviť, že priberiem hmotnosť alebo že budem mať dlhodobo nižšiu energiu, ako možné dôsledky toho, keby som sa mýlil ohľadom účinkov konzumácie cukru. Keby som zvažoval, či si kúpiť poistenie proti vyhoreniu, predstavoval by som si, čo sa môže stať, ak sa mýlim v mojom intuitívnom úsudku ohľadom kúpy poistenia.
Tieto nástroje budú užitočné, keď sa zamyslíme nad dôsledkami UI. Ideme sa rozprávať o dosť náročných veciach, ale pamätajte: Neodvracajte sa. Pozerajte sa skutočnosti do očí a neustupujte.