Od skepticizmu k technickej rozumnosti
Skôr než budem hovoriť o strojovej superinteligencii, potrebujem hovoriť o rozumnosti. Moje chápanie rozumnosti ovplyvňuje ako pozerám na všetko, a je hlavným dôvodom, prečo beriem problémy strojovej superinteligencie vážne.
Keby som komunitám „ateistov“ a „skeptikov“ mohol povedať iba jednu vec, bolo by to toto:
Skepticizmus a kritické myslenie nás učia dôležité lekcie: Mimoriadne tvrdenia si vyžadujú mimoriadne dôkazy. Korelácia neznamená kauzalitu. Neberte autoritu príliš vážne. Tvrdenia by mali byť konkrétne a falzifikovateľné. Pamätajte použiť Occamovu britvu. Vyvarujte sa logických omylov. Majte otvorenú myseľ, ale nebuďte dôverčiví. Atď.
Toto všetko je však len začiatok. V textoch o skepticizme a kritickom myslení sú tieto pravidlá iba voľne opísané, nie sú matematicky zakotvené v dobre podloženej normatívnej teórii. Namiesto toho sú zmeskou nejasných ale všeobecne užitočných orientačných pravidiel. Poskytujú dobrý úvod do racionálneho myslenia, ale nie sú viac než iba začiatok. Už 40 rokov existuje mainstreamová kognitívna veda o rozumnosti, s podrobnými modelmi omylov nášho myslenia a dobre podloženými matematickými teóriami, čo presne znamená, že mysliaci proces je „nesprávny“. Toto by sme mohli nazvať vedou a matematikou technickej rozumnosti. Naučiť sa ju a uplatňovať ju vyžaduje viac námahy než skepticizmus pre začiatočníkov, ale je to mocná vec. Môže vylepšiť váš život a pomôcť vám myslieť jasnejšie o najnáročnejších problémoch sveta.
Kognitívnu vedu o rozumnosti nájdete popísanú v každej univerzitnej učebnici o myslení a rozhodovaní. Napríklad:
- Baron, Thinking and Deciding
- Hastie & Dawes, Rational Choice in an Uncertain World
- Bazerman & Moore, Judgment in Managerial Decision Making
- Plous, The Psychology of Judgment and Decision Making
- Gilboa, Making Better Decisions
Časti z nej nájdete aj v nedávnych populárnych knihách o ľudskej iracionalite, napríklad:
- Ariely, Predictably Irrational
- Kahneman, Thinking, Fast and Slow
- Thaler & Sunstein, Nudge
- Tavris & Aronson, Mistakes Were Made: But Not By Me
A nájdete ju, samozrejme, vo vedeckých časopisoch. Tu sú linky na výsledky Google Scholar pre niektoré z kľúčových pojmov z danej oblasti:
- „heuristics and biases“
- „debiasing“
- „affect heuristic“
- „myside bias“
- „base rate fallacy“
- „framing effects“
- „availability bias“
- „conjunction fallacy“
Takže, čo je to táto mainstreamová kognitívna veda o rozumnosti – alebo, ako ju ja budem nazývať, technická rozumnosť?
Technická rozumnosť
Technická rozumnosť má dve časti: normatívnu a popisnú.
Normatívna časť opisuje zákony myslenia a konania. V podstate: logika, pravdepodobnosť, a teória rozhodovania. Logika a pravdepodobnosť opisujú, ako by ste sa mali rozmýšľať, ak chcete maximalizovať svoje šance na získanie pravdivého presvedčenia. Teória rozhodovania opisuje, ako by ste mali konať, ak chcete maximalizovať svoje šance dosiahnuť to, čo chcete. Samozrejme, tieto zákony nie sú fyzikálne, ale normatívne. Môžete ich porušiť, ak chcete, a ľudia to často robia. Avšak porušovaním zákonov logiky alebo teórie pravdepodobnosti znižujete svoje šance dospieť k správnemu presvedčeniu, a porušovaním zákonov teórie rozhodovania znižujete svoje šance dosiahnuť svoje ciele.
Popisná časť opisuje nie to, ako by sme mali rozmýšľať a konať, ale ako zvyčajne naozaj rozmýšľame a konáme. Popisná časť zahŕňa výskum ako ľudia myslia a rozhodujú sa. Zahŕňa aj katalóg častých spôsobov, ktorými porušujeme zákony myslenia a konania z logiky, teórie pravdepodobnosti, a teórie rozhodovania. Kognitívny sklon je určitý spôsob porušovania logiky, teórie pravdepodobnosti, alebo teórie rozhodovania. Takto je „sklon“ definovaný (pozri napríklad Thinking and Deciding alebo Rationality and the Reflective Mind; obidve obsahujú tabuľku častých sklonov a ktorú časť logiky, teórie pravdepodobnosti, alebo teórie rozhodovania ktorý z nich porušuje).
Kognitívni vedci tiež rozlišujú dve oblasti rozumnosti: epistemická a inštrumentálna.
Epistemická racionalita zahŕňa formovanie pravdivých presvedčení, alebo: mať vo svojej hlave presnú mapu územia vo svete. (Epistemická rozumnosť sa riadi zákonmi logiky a teórie pravdepodobnosti.)
Inštrumentálna racionalita zahŕňa dosahovanie svojich cieľov, alebo: maximalizácia šance na dosiahnutie toho, čo chcete. Alebo, formálnejšie: maximalizácia vášho „očakávaného úžitku“. Tiež známe ako „víťazstvo“. (Inštrumentálna rozumnosť sa riadi zákonmi teórie rozhodovania.)
V istom zmysle má inštrumentálna rozumnosť prednosť, pretože zmyslom formovania pravdivých presvedčení je aby vám pomohli dosiahnuť vaše ciele, a niekedy stráviť priveľa času epistemickou rozumnosťou nie je inštrumentálne rozumné. Poznám napríklad niekoľko ľudí, ktorí by mali väčšiu šancu dosiahnuť svoje ciele, keby trávili menej času študovaním rozumnosti a viac času, povedzme, budovaním svojich sociálnych zručností.
Napriek tomu, môže byť užitočné hovoriť o epistemickej a inštrumentálnej racionalite samostatne. Len aby ste vedeli, že keď hovorím o epistemickej rozumnosti, hovorím o dodržiavaní zákonov logiky a teórie pravdepodobnosti, a že keď hovorím o inštrumentálnej racionalite, hovorím o dodržiavaní zákonov teórie rozhodovania.
A odteraz, keď budem hovoriť o „rozumnosti“, myslím tým technickú rozumnosť.
Avšak prv než poviem viac o rozumnosti, potrebujeme si vyjasniť, čo rozumnosť nie je. Chcem vám vysvetliť, prečo Spock nie je rozumný.