Från skepticism till teknisk rationalitet
Innan jag pratar om superintelligenta maskiner, så behöver jag prata om rationalitet. Min förståelse av rationalitet formar hur jag ser allt, och det är den främsta anledningen till att jag tar problemen med superintelligenta maskiner på allvar.
Om jag kunde säga endast en sak till ”ateist”- och ”skeptiker”-gemenskaperna skulle det vara detta:
Skepticism och kritiskt tänkande ger oss viktiga lärdomar: extraordinära påståenden kräver extraordinära bevis. Samband betyder inte orsak. Ta inte auktoritet på för stort allvar. Påståenden bör vara specifika och falsifierbara. Kom ihåg att använda Ockhams rakkniv. Se upp för logiska felslut. Var öppensinnad men inte lättlurad. Et cetera.
Men detta är bara början. I skrivelser om skepticism och kritiskt tänkande är dessa riktlinjer endast löst specificerade, och de är inte matematiskt grundade i en välbefogad normativ teori. Istället är de en samling diffusa men generellt användbara tumregler. De är en bra inkörsport till rationellt tänkande, men de är inte mer än en början. I fyrtio år har det funnits en vedertagen kognitiv vetenskap om rationalitet, med detaljerade modeller av hur vårt tänkande går fel samt välbefogade matematiska teorier om vad det betyder för en tankeprocess att vara ”fel.” Detta är vad vi kan kalla vetenskapen och matematiken om teknisk rationalitet. Det kräver mer arbete för att lära sig och utöva än nybörjar-skepticism gör, men det är kraftfullt. Det kan förbättra ditt liv och hjälpa dig att tänka tydligare om världens svåraste frågor.
Du hittar den kognitiva vetenskapen om rationalitet redogjord för i varje universitets-lärobok om tänkande och beslutsfattande. Till exempel:
- Baron, Thinking and Deciding
- Hastie and Dawes, Rational Choice in an Uncertain World
- Bazerman and Moore, Judgment in Managerial Decision Making
- Plous, The Psychology of Judgment and Decision Making
- Gilboa, Making Better Decisions
Du hittar också delar av den i de senaste populära böckerna om mänsklig irrationalitet. Till exempel:
- Ariely, Predictably Irrational
- Kahneman, Thinking, Fast and Slow
- Thaler and Sunstein, Nudge
- Tavris and Aronson, Mistakes Were Made (But Not by Me)
Och du kommer, naturligtvis, att finna den i de akademiska journalerna. Här är länkar till Google Scholar-resultat för några av fältets vanliga termer:
- “heuristik och bias”
- “avbiasering”
- “affektheuristik”
- “konfirmeringsbias”
- “basprisfel”
- “inramningseffekter”
- “tillgänglighetsbias”
- “konjunktionsfel”
Så vad är denna vedertagna kognitiva vetenskap om rationalitet – eller, som jag kommer att kalla det, teknisk rationalitet?
Teknisk Rationalitet
Teknisk rationalitet kan delas in i två delar: normativ och deskriptiv.
Den normativa delen beskriver tanke- och handlingslagar – logik, sannolikhetslära och beslutsteori. Logik och sannolikhetslära beskriver hur du bör resonera om du vill maximera dina chanser att skaffa sanna åsikter. Beslutsteori beskriver hur du bör agera om du vill maximera dina chanser att skaffa det du vill. Naturligtvis är dessa inte fysiska lagar utan normativa lagar. Du kan bryta dessa lagar om du vill, och människor gör ofta det. Men om du bryter logikens lagar eller sannolikhetslära så minskar du dina chanser att komma fram till sanna åsikter; om du bryter mot lagarna i beslutsteori så minskar du dina chanser att uppnå dina mål.
Den deskriptiva delen beskriver inte hur vi bör resonera och agera, men snarare hur vi vanligtvis brukar resonera och agera. Det deskriptiva programmet omfattar forskning om hur människor tänker och fattar beslut. Det innehåller också en katalog över vanliga sätt på vilka vi bryter mot tanke- och handlingslagarna från logik, sannolikhetslära och beslutsteori. Ett kognitivt bias är ett särskilt sätt att bryta mot logik, sannolikhetslära, eller beslutsteori. Det är så ”bias” definieras (se, t.ex., Thinking and Deciding eller Rationality and the Reflective Mind, varav båda två har en tabell över vanliga bias och vilken del av logik, sannolikhetslära, eller beslutsteori som bryts av var och en av dem).
Kognitiva forskare särskiljer också på två domäner av rationalitet: epistemisk och instrumentell.
Epistemisk rationalitet avser bildandet av sanna åsikter, eller att ha i huvudet, en noggrann karta över området där ute i världen. Epistemisk rationalitet styrs av logikens lagar och sannolikhetslära.
Instrumentell rationalitet avser att uppnå dina mål, eller att maximera dina chanser att få det du vill. Eller, mer formellt, maximera din ”förväntade nytta.” Detta är också känt som ”att vinna.” Instrumentell rationalitet styrs av lagarna i beslutsteori.
På ett sätt har instrumentell rationalitet högre prioritet eftersom att meningen med att bilda sanna åsikter är att hjälpa dig att uppnå dina mål, och ibland är det inte instrumentellt rationellt att spendera alltför mycket tid på epistemisk rationalitet. Till exempel så känner jag en del personer som lättare skulle uppnå sina mål om de spenderade mindre tid på att studera rationalitet och mer tid på att, exempelvis, utveckla sina sociala färdigheter.
Det kan ändå vara användbart att tala om epistemisk och instrumentell rationalitet separat. Kom ihåg att när jag talar om epistemisk rationalitet, så talar jag om att följa logikens lagar och sannolikhetslära, och att när jag talar om instrumentell rationalitet så talar jag om att följa lagarna i beslutsteori.
Och från och med nu, när jag talar om ”rationalitet”, så menar jag teknisk rationalitet.
Innan jag säger mer om rationalitet, så måste jag vara säker på att vi är överens om vad rationalitet inte är. Jag vill förklara varför Spock inte är rationell.