Vzbura bláznivých robotov

Zoznámte sa s Lindou:

Linda má tridsaťjeden rokov, je slobodná, priamočiara, a veľmi bystrá. Vyštudovala filozofiu. Ako študentku ju hlboko zaujímali otázky diskriminácie a sociálnej spravodlivosti; zúčastňovala sa aj na protijadrových demonštráciách.

Teraz, zoraďte nasledujúce možné popisy Lindy podľa toho, nakoľko sú pravdepodobné:

Linda je učiteľka na základnej škole.
Linda pracuje v kníhkupectve a chodí na hodiny jogy.
Linda je aktívna vo feministickom hnutí.
Linda je sociálna pracovníčka na psychiatrii.
Linda je členka Ligy voliacich žien.
Linda je banková úradníčka.
Linda je poisťovacia agentka.
Linda je banková úradníčka a je aktívna vo feministickom hnutí.

Keď Amos Tversky a Daniel Kahneman dávali tento test študentom, študenti ohodnotili poslednú možnosť „feministka a banková úradníčka“ ako pravdepodobnejšiu než možnosť „banková úradníčka“.

Ale to nemôže byť správne. Pravdepodobnosť, že Linda je banková úradníčka nemôže byť menšia než pravdepodobnosť, že je aj banková úradníčka aj feministka.

Toto je moje „ľudia sú blázniví“. Príklad A: Zákony teórie pravdepodobnosti určujú, že ak sa príbeh skomplikuje, ak závisí od pravdivosti väčšieho počtu tvrdení, pravdepodobnosť jeho pravdivosti klesá. Ľuďom však príbeh pripadá pravdepodobnejší, ak ho vyzdobíme viacerými podrobnosťami, ktoré vykresľujú pôsobivý príbeh: „Linda nemôže byť iba banková úradníčka; pozrite na ňu! Vyštudovala filozofiu a zúčastňovala sa na protijadrových demonštráciách. Pravdepodobne je to feministka a banková úradníčka.“

Ako ešte sú ľudia blázniví? Po desaťročiach výskumu a tisícoch experimentov, poďme si to spočítať…

Neboli by sme ochotní zaplatiť viac za záchranu 200 000 vtákov, než by sme zaplatili za záchranu 2 000 vtákov. Naša ochota platiť sa nezvyšuje proporcionálne veľkosti možného účinku. Namiesto rozhodovania sa za pomoci prváckej matematiky si predstavíme jedno zomierajúce vtáča a potom dáme peniaze podľa sily našej emocionálnej reakcie na túto imaginárnu situáciu. (Necitlivosť voči rozsahu, afektívna heuristika.)
Zatočte kolesom, ktoré ukáže na náhodné číslo od 10 do 65, a potom hádajte, aké percento afrických národov je v O.S.N. Váš tip bude prudko ovplyvnený nepodstatnou okolnosťou – vylosovaným číslom – pretože váš mozog bol pripravený týmto číslom. V krátkosti, „ľubovoľná náhodná vec, ktorá sa vám stane, môže odviesť váš úsudok a osobnosť na nasledujúcich niekoľko minút. (Kotvenie, pripravovanie.)
Vypočujeme si správu o dvoch nedávnych haváriách lietadiel, a sme menej ochotní lietať, napriek tomu, že sa nezvýšila pravdepodobnosť pádu lietadla, iba dostupnosť informácie v našej pamäti. Vo všeobecnosti, často posudzujem pravdepodobnosť niečo podľa toho, koľko prípadov danej veci nám ľahko príde na myseľ. (Heuristika dostupnosti.)
Z tej istej informácie vyvodíme rozličné závery podľa toho, ako je táto informácia prezentovaná. (Efekty rámca.)
Začneme od záveru a potom hľadáme dôkazy, ktoré ho podporia, namiesto toho, aby sme začali s hypotézou a hľadali dôkazy. (Konečný súčet, sklon potvrdzovať, racionalizácia.)
Riadime sa zvykmi. Väčšinou robíme to, čo sme robili predtým, namiesto robenia činností zameraných na maximalizáciu pravdepodobného dosiahnutia našich cieľov. (Zvyky, uložené ja.)

A možno najstrašidelnejší sklon je tento:

Efekt sofistikovanosti: Ľudia s najväčším množstvom vedomostí, keďže majú viac argumentov, ktorými môžu odstreliť fakty a argumenty nesúhlasiace s ich vlastným názorom, majú v skutočnosti väčší sklon k niekoľkým z týchto sklonov.

Vďaka tomu vám učenie sa o sklonoch môže uškodiť, ak si nedáte pozor. Ako hovorí Michael Shermer: „Múdri ľudia veria podivným veciam, pretože sú šikovní v obhajovaní presvedčení, ku ktorým dospeli z veľmi nerozumných dôvodov.“

Existuje mnoho ďalších príkladov ľudskej šialenosti. Občas môžu byť zábavné, ale začne to byť smutné, keď sa zamyslíte, ako nás tieto sklony vedú k vysoko neefektívnej dobročinnosti. Začne to byť desivé, keď sa zamyslíte, ako tieto sklony ovplyvňujú naše politické procesy a naše postoje k existenciálnym rizikám.

A ak tieto štúdie o príčinách našich presvedčení a motivácií študujete dosť dlho, zarazí vás ďalšie uvedomenie:

„Bože môj,“ pomyslíte si, „ono to nie je tak, že by som mal v hlave malého rozumného panáčika, ktorého „kazia“ všetky tieto vyvinuté heuristiky a sklony, čo sa naňho nalepili. Nie, údaje hovoria, že ten softvérový program, ktorý som ja, to sú iba tieto heuristiky a sklony. Ja som táto čierna skrinka z vyvinutých kognitívnych modulov a algoritmických skratiek. Ja nie som agent navrhnutý, aby mal správne presvedčenia a nasledoval jasné ciele; ja som bláznivý robot zostrojený ako vozidlo na rozširovanie génov, ktorý nemíňa priveľa energie na drahé mysliace neuróny.“

Dobrá správa je, že sme roboty, ktoré si uvedomili, že sú roboty, a pomocou rozumného sebaurčenia môžeme zorganizovať vzburu robotov proti nášmu štandardnému naprogramovaniu.

Ale na to budeme potrebovať nejaký tréning rozumnosti na vojenskej úrovni.

Alebo, ako to odborníci nazývajú, „odstraňovanie sklonov“. Výskumníci nielen objavujú a vysvetľujú hlbiny ľudskej šialenosti; testujú aj metódy, ktoré nám môžu pomôcť zlepšiť naše myslenie, objasňujú naše ciele, a dávajú nám moc nad svojím vlastným osudom.

Rôzne sklony sa naprávajú rôznymi technikami, ale jeden z najužitočnejších zásahov na odstraňovanie sklonov je toto: Zamysli sa nad opakom.

Je nevyhnutné, že kognitívne stratégie sú pravidlá špecifické pre daný kontext, šité na mieru úzkej množine sklonov…. Vďaka tomuto faktu je jednoduchá ale všeobecná stratégia „zamysli sa nad opakom“ o to pôsobivejšia, pretože je účinná pri znižovaní prehnanej sebadôvery, sklonu k spätnému pohľadu, a efektu ukotvenia… Celá stratégia nie je nič iné než opýtať sa sám seba: „Čo sú niektoré dôvody, prečo by môj pôvodný úsudok mohol byť nesprávny?“ Táto stratégia je účinná, pretože pôsobí priamo proti základnému problému procesov založených na asociáciách – príliš úzka vzorka dôkazov – tým, že rozšíri vzorku a spraví ju reprezentatívnejšou. Podobne sa ukázalo, že ak vyzveme rozhodujúceho sa človeka, aby zvážil alternatívne hypotézy, zmenší sa tým sklon potvrdzovať pri vyhľadávaní a vyhodnocovaní nových informácií.

Ďalšia užitočná zručnosť je kognitívne nahradenie:

Všimnite si, kedy hovoríte alebo konáte na základe intuitívneho úsudku.
Ak je tento úsudok dôležitý, namiesto intuitívneho uvažovania použite zákony myslenia. (Vyžaduje si predchádzajúci výcvik v algebre, logike, teórii pravdepodobnosti, teórii rozhodovania, atď.)

Aby ste to videli v praxi, vezmite si nasledujúci príklad:

Pálka a lopta stoja dokopy 1,10 €. Pálka stojí o 1,00 € viac než lopta. Koľko stojí lopta?

Väčšina ľudí dá prvú odpoveď, ktorá im príde na rozum: 10 centov. Ale základoškolská algebra nám ukazuje, že to nemôže byť správne: pálka by potom musela stáť 1,10 €, spolu 1,20 €. Aby ste to vypočítali správne, musíte si všimnúť, že prichádza intuitívna odpoveď, a povedať: „Nie! Algebra.“ A potom urobiť výpočet.

Tí, ktorí naozaj chcú zistiť, čo je pravda o našom svete, strávia tisíce hodín štúdiom zákonov myslenia, štúdiom konkrétnych spôsobov ako ľuďom šibe, a precvičovaním naučiteľných zručností rozumnosti, aby sa dokázali vyhnúť sebaklamu.

A potom, konečne, budeme vedieť zorganizovať vzburu robotov, zistiť ako svet funguje, vyjasniť si ciele, a začať častejšie vyhrávať. Možno budeme vedieť aj úspešne prekonať Singularitu.

Nasledujúca kapitola →