{"id":8,"date":"2011-11-25T12:29:15","date_gmt":"2011-11-25T20:29:15","guid":{"rendered":"http:\/\/facingthesing.wpengine.com\/?p=8"},"modified":"2014-05-10T14:48:27","modified_gmt":"2014-05-10T21:48:27","slug":"from-skepticism-to-technical-rationality","status":"publish","type":"post","link":"https:\/\/intelligenceexplosion.com\/sv\/2011\/from-skepticism-to-technical-rationality\/","title":{"rendered":"Fr\u00e5n skepticism till teknisk rationalitet"},"content":{"rendered":"<p>\ufeff<span class=\"dropcap\">I<\/span>nnan jag pratar om superintelligenta maskiner, s\u00e5 beh\u00f6ver jag prata om rationalitet. Min f\u00f6rst\u00e5else av rationalitet formar hur jag ser <em>allt<\/em>, och det \u00e4r den fr\u00e4msta anledningen till att jag tar problemen med superintelligenta maskiner p\u00e5 allvar.<\/p>\n<p>Om jag kunde s\u00e4ga endast en sak till &#8221;ateist&#8221;- och &#8221;skeptiker&#8221;-gemenskaperna skulle det vara detta:<\/p>\n<blockquote><p>Skepticism och kritiskt t\u00e4nkande ger oss viktiga l\u00e4rdomar: extraordin\u00e4ra p\u00e5st\u00e5enden kr\u00e4ver extraordin\u00e4ra bevis. Samband betyder inte orsak. Ta inte auktoritet p\u00e5 f\u00f6r stort allvar. P\u00e5st\u00e5enden b\u00f6r vara specifika och falsifierbara. Kom ih\u00e5g att anv\u00e4nda Ockhams rakkniv. Se upp f\u00f6r logiska felslut. Var \u00f6ppensinnad men inte l\u00e4ttlurad. Et cetera.<\/p>\n<p>Men detta \u00e4r bara b\u00f6rjan. I skrivelser om skepticism och kritiskt t\u00e4nkande \u00e4r dessa riktlinjer endast l\u00f6st specificerade, och de \u00e4r inte matematiskt grundade i en v\u00e4lbefogad normativ teori. Ist\u00e4llet \u00e4r de en samling diffusa men generellt anv\u00e4ndbara tumregler. De \u00e4r en bra ink\u00f6rsport till rationellt t\u00e4nkande, men de \u00e4r inte mer \u00e4n en b\u00f6rjan. I fyrtio \u00e5r har det funnits en vedertagen kognitiv vetenskap om rationalitet, med detaljerade modeller av hur v\u00e5rt t\u00e4nkande g\u00e5r fel samt v\u00e4lbefogade matematiska teorier om vad det <em>betyder<\/em> f\u00f6r en tankeprocess att vara &#8221;fel.&#8221; Detta \u00e4r vad vi kan kalla vetenskapen och matematiken om teknisk rationalitet. Det kr\u00e4ver mer arbete f\u00f6r att l\u00e4ra sig och ut\u00f6va \u00e4n nyb\u00f6rjar-skepticism g\u00f6r, men det \u00e4r kraftfullt. Det kan f\u00f6rb\u00e4ttra ditt liv och hj\u00e4lpa dig att t\u00e4nka tydligare om v\u00e4rldens sv\u00e5raste fr\u00e5gor.<\/p><\/blockquote>\n<p>Du hittar den kognitiva vetenskapen om rationalitet redogjord f\u00f6r i varje universitets-l\u00e4robok om t\u00e4nkande och beslutsfattande. Till exempel:<\/p>\n<ul>\n<li>Baron, <a href=\"http:\/\/www.amazon.com\/Thinking-Deciding-Jonathan-Baron\/dp\/0521680433\/\"><em>Thinking and Deciding<\/em><\/a><\/li>\n<li>Hastie and Dawes, <a href=\"http:\/\/www.amazon.com\/Rational-Choice-Uncertain-World-Psychology\/dp\/1412959039\/\"><em>Rational Choice in an Uncertain World<\/em><\/a><\/li>\n<li>Bazerman and Moore, <a href=\"http:\/\/www.amazon.com\/Judgment-Managerial-Decision-Making-Bazerman\/dp\/0470049456\/\"><em>Judgment in Managerial Decision Making<\/em><\/a><\/li>\n<li>Plous, <a href=\"http:\/\/www.amazon.com\/Psychology-Judgment-Decision-Making-McGraw-Hill\/dp\/0070504776\/\"><em>The Psychology of Judgment and Decision Making<\/em><\/a><\/li>\n<li>Gilboa, <a href=\"http:\/\/www.amazon.com\/Making-Better-Decisions-Decision-Practice\/dp\/1444336525\/\"><em>Making Better Decisions<\/em><\/a><\/li>\n<\/ul>\n<p>Du hittar ocks\u00e5 delar av den i de senaste popul\u00e4ra b\u00f6ckerna om m\u00e4nsklig irrationalitet. Till exempel:<\/p>\n<ul>\n<li>Ariely, <a href=\"http:\/\/www.amazon.com\/Predictably-Irrational-Revised-Expanded-Decisions\/dp\/0061353248\/\"><em>Predictably Irrational<\/em><\/a><\/li>\n<li>Kahneman, <a href=\"http:\/\/www.amazon.com\/Thinking-Fast-Slow-Daniel-Kahneman\/dp\/0374275637\/\"><em>Thinking, Fast and Slow<\/em><\/a><\/li>\n<li>Thaler and Sunstein, <a href=\"http:\/\/www.amazon.com\/Nudge-Improving-Decisions-Health-Happiness\/dp\/014311526X\/\"><em>Nudge<\/em><\/a><\/li>\n<li>Tavris and Aronson, <a href=\"http:\/\/www.amazon.com\/Mistakes-Were-Made-But-Not\/dp\/0156033909\/\"><em>Mistakes Were Made (But Not by Me)<\/em><\/a><\/li>\n<\/ul>\n<p>Och du kommer, naturligtvis, att finna den i de akademiska journalerna. H\u00e4r \u00e4r l\u00e4nkar till <em>Google<\/em> <em>Scholar<\/em>-resultat f\u00f6r n\u00e5gra av f\u00e4ltets vanliga termer:<\/p>\n<ul>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?q=%22heuristics+and+biases%22&amp;hl=en&amp;btnG=Search&amp;as_sdt=1%2C5&amp;as_sdtp=on\">heuristik och bias<\/a>\u201d<\/li>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?hl=en&amp;q=debiasing&amp;btnG=Search&amp;as_sdt=0%2C5&amp;as_ylo=&amp;as_vis=0\">avbiasering<\/a>\u201d<\/li>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?hl=en&amp;q=%22affect+heuristic%22&amp;btnG=Search&amp;as_sdt=0%2C5&amp;as_ylo=&amp;as_vis=0\">affektheuristik<\/a>\u201d<\/li>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?hl=en&amp;q=%22myside+bias%22&amp;btnG=Search&amp;as_sdt=0%2C5&amp;as_ylo=&amp;as_vis=0\">konfirmeringsbias<\/a>\u201d<\/li>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?hl=en&amp;q=%22base+rate+fallacy%22&amp;btnG=Search&amp;as_sdt=0%2C5&amp;as_ylo=&amp;as_vis=0\">basprisfel<\/a>\u201d<\/li>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?hl=en&amp;q=%22framing+effects%22&amp;btnG=Search&amp;as_sdt=0%2C5&amp;as_ylo=&amp;as_vis=0\">inramningseffekter<\/a>\u201d<\/li>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?q=%22availability+bias%22&amp;hl=en&amp;btnG=Search&amp;as_sdt=1%2C5&amp;as_sdtp=on\">tillg\u00e4nglighetsbias<\/a>\u201d<\/li>\n<li>\u201c<a href=\"http:\/\/scholar.google.com\/scholar?hl=en&amp;q=%22conjunction+fallacy%22&amp;btnG=Search&amp;as_sdt=0%2C5&amp;as_ylo=&amp;as_vis=0\">konjunktionsfel<\/a>\u201d<\/li>\n<\/ul>\n<p>S\u00e5 vad \u00e4r denna vedertagna kognitiva vetenskap om rationalitet &#8211; eller, som jag kommer att kalla det, teknisk rationalitet?<\/p>\n<h3>Teknisk Rationalitet<\/h3>\n<p>Teknisk rationalitet kan delas in i tv\u00e5 delar: normativ och deskriptiv.<\/p>\n<p>Den normativa delen beskriver tanke- och handlingslagar &#8211; logik, sannolikhetsl\u00e4ra och beslutsteori. Logik och sannolikhetsl\u00e4ra beskriver hur du b\u00f6r <em>resonera<\/em> om du vill maximera dina chanser att skaffa sanna \u00e5sikter. Beslutsteori beskriver hur du b\u00f6r <em>agera<\/em> om du vill maximera dina chanser att skaffa det du vill. Naturligtvis \u00e4r dessa inte fysiska lagar utan normativa lagar. Du kan bryta dessa lagar om du vill, och m\u00e4nniskor g\u00f6r ofta det. Men om du bryter logikens lagar eller sannolikhetsl\u00e4ra s\u00e5 minskar du dina chanser att komma fram till sanna \u00e5sikter; om du bryter mot lagarna i beslutsteori s\u00e5 minskar du dina chanser att uppn\u00e5 dina m\u00e5l.<\/p>\n<p>Den deskriptiva delen beskriver inte hur vi <em>b\u00f6r<\/em> resonera och agera, men snarare hur vi vanligtvis <em>brukar<\/em> resonera och agera. Det deskriptiva programmet omfattar forskning om hur m\u00e4nniskor t\u00e4nker och fattar beslut. Det inneh\u00e5ller ocks\u00e5 en katalog \u00f6ver vanliga s\u00e4tt p\u00e5 vilka vi bryter mot tanke- och handlingslagarna fr\u00e5n logik, sannolikhetsl\u00e4ra och beslutsteori. Ett kognitivt bias \u00e4r ett s\u00e4rskilt s\u00e4tt att bryta mot logik, sannolikhetsl\u00e4ra, eller beslutsteori. Det \u00e4r s\u00e5 &#8221;bias&#8221; <em>definieras<\/em> (se, t.ex., <a href=\"http:\/\/www.amazon.com\/Thinking-Deciding-Jonathan-Baron\/dp\/0521680433\/\"><em>Thinking and Deciding<\/em><\/a> eller <a href=\"http:\/\/www.amazon.com\/Rationality-Reflective-Mind-Keith-Stanovich\/dp\/0195341147\/\"><em>Rationality and the Reflective Mind<\/em><\/a><em>,<\/em> varav b\u00e5da tv\u00e5 har en tabell \u00f6ver vanliga bias och vilken del av logik, sannolikhetsl\u00e4ra, eller beslutsteori som bryts av var och en av dem).<\/p>\n<p>Kognitiva forskare s\u00e4rskiljer ocks\u00e5 p\u00e5 tv\u00e5 dom\u00e4ner av rationalitet: epistemisk och instrumentell.<\/p>\n<p>Epistemisk rationalitet avser <em>bildandet av sanna \u00e5sikter<\/em>, eller att ha i huvudet, en noggrann karta \u00f6ver omr\u00e5det d\u00e4r ute i v\u00e4rlden. Epistemisk rationalitet styrs av logikens lagar och sannolikhetsl\u00e4ra.<\/p>\n<p>Instrumentell rationalitet avser <em>att uppn\u00e5 dina m\u00e5l<\/em>, eller att maximera dina chanser att f\u00e5 det du vill. Eller, mer formellt, maximera din &#8221;f\u00f6rv\u00e4ntade nytta.&#8221; Detta \u00e4r ocks\u00e5 k\u00e4nt som \u201datt vinna.&#8221; Instrumentell rationalitet styrs av lagarna i beslutsteori.<\/p>\n<p>P\u00e5 ett s\u00e4tt har instrumentell rationalitet h\u00f6gre prioritet eftersom att meningen med att bilda sanna \u00e5sikter \u00e4r att hj\u00e4lpa dig att uppn\u00e5 dina m\u00e5l, och ibland \u00e4r det inte instrumentellt rationellt att spendera alltf\u00f6r mycket tid p\u00e5 epistemisk rationalitet. Till exempel s\u00e5 k\u00e4nner jag en del personer som l\u00e4ttare skulle uppn\u00e5 sina m\u00e5l om de spenderade <em>mindre<\/em> tid p\u00e5 att studera rationalitet och mer tid p\u00e5 att, exempelvis, utveckla sina sociala f\u00e4rdigheter.<\/p>\n<p>Det kan \u00e4nd\u00e5 vara anv\u00e4ndbart att tala om epistemisk och instrumentell rationalitet separat. Kom ih\u00e5g att n\u00e4r jag talar om epistemisk rationalitet, s\u00e5 talar jag om att f\u00f6lja logikens lagar och sannolikhetsl\u00e4ra, och att n\u00e4r jag talar om instrumentell rationalitet s\u00e5 talar jag om att f\u00f6lja lagarna i beslutsteori.<\/p>\n<p>Och fr\u00e5n och med nu, n\u00e4r jag talar om &#8221;rationalitet&#8221;, s\u00e5 menar jag teknisk rationalitet.<\/p>\n<p>Innan jag s\u00e4ger mer om rationalitet, s\u00e5 m\u00e5ste jag vara s\u00e4ker p\u00e5 att vi \u00e4r \u00f6verens om vad rationalitet <em>inte<\/em> \u00e4r. Jag vill f\u00f6rklara varf\u00f6r <a href=\"http:\/\/en.wikipedia.org\/wiki\/Spock\">Spock<\/a> inte \u00e4r rationell.<!--more--><\/p>","protected":false},"excerpt":{"rendered":"<p>\ufeffnnan jag pratar om superintelligenta maskiner, s\u00e5 beh\u00f6ver jag prata om rationalitet. Min f\u00f6rst\u00e5else av rationalitet formar hur jag ser allt, och det \u00e4r den fr\u00e4msta anledningen till att jag tar problemen med superintelligenta maskiner p\u00e5 allvar. Om jag kunde&hellip;  <a href=\"https:\/\/intelligenceexplosion.com\/sv\/2011\/from-skepticism-to-technical-rationality\/\">continue reading<\/a> &raquo;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-8","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/posts\/8","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/comments?post=8"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/posts\/8\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/media?parent=8"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/categories?post=8"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/tags?post=8"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}