{"id":6,"date":"2011-11-25T12:28:06","date_gmt":"2011-11-25T20:28:06","guid":{"rendered":"http:\/\/facingthesing.wpengine.com\/?p=6"},"modified":"2015-05-26T10:23:51","modified_gmt":"2015-05-26T17:23:51","slug":"preface","status":"publish","type":"post","link":"https:\/\/intelligenceexplosion.com\/sv\/2011\/preface\/","title":{"rendered":"Min egen ber\u00e4ttelse"},"content":{"rendered":"

N<\/span>\u00e5gon g\u00e5ng detta sekel s\u00e5 kommer maskiner att \u00f6vertr\u00e4ffa m\u00e4nsklig intelligens och f\u00f6rm\u00e5ga. Denna h\u00e4ndelse \u2013 \u201dintelligensexplosionen\u201d \u2013 kommer vara den viktigaste h\u00e4ndelsen i v\u00e5r historia, och att navigera den f\u00f6rst\u00e5ndigt kommer vara det viktigaste vi n\u00e5gonsin kan g\u00f6ra. Notabiliteter fr\u00e5n Alan Turing1<\/sup><\/a> och I. J. Good<\/a> till Bill Joy<\/a> och Stephen Hawking<\/a> har varnat oss om detta. Varf\u00f6r tror jag Hawking och kompani har r\u00e4tt, och vad kan vi g\u00f6ra \u00e5t saken? Att m\u00f6ta Intelligensexplosionen<\/em> \u00e4r mitt f\u00f6rs\u00f6k att besvara dessa fr\u00e5gor.<\/p>\n

Personlig Bakgrund<\/h3>\n

Jag t\u00e4nkte b\u00f6rja med min personliga bakgrund. Det kommer hj\u00e4lpa att veta vem jag \u00e4r som person och vilken bakgrund jag kommer ifr\u00e5n. Den informationen \u00e4r viss<\/em> bevisning f\u00f6r hur du borde p\u00e5verkas av de andra sakerna jag s\u00e4ger. N\u00e4r mina religi\u00f6sa uppfattningar till slut gav vika f\u00f6r verkligheten s\u00e5 avkonverterade<\/a> jag och startade en blogg i avsikt att f\u00f6rklara ateism och naturalism f\u00f6r andra. Common Sense Atheism<\/em> kom att bli en av de popul\u00e4raste ateist-bloggarna p\u00e5 internet. Jag \u00f6versatte uppsatser av yrkesm\u00e4ssiga filosofer till begriplig engelska, och jag fick tillf\u00e4lle att tala med experter inom omr\u00e5det i min podcast <\/a>Conversations from the<\/em> Pale Blue Dot<\/em><\/a>. Dessutom, att mista religionen sa inte vad jag borde<\/em> tro eller borde<\/em> g\u00f6ra med mitt liv, s\u00e5 jag anv\u00e4nde min blogg f\u00f6r att s\u00f6ka svar. Jag har ocks\u00e5 intresserat mig f\u00f6r rationalitet, \u00e5tminstone sedan min avkonvertering, vilket ledde till uppt\u00e4ckten att jag med l\u00e4tthet kunde vara helt \u00f6vertygad om saker jag inte hade n\u00e5gra bevis f\u00f6r, saker som hade bevisats osanna, och rentutav fullst\u00e4ndig nonsens. Hur kunde den m\u00e4nskliga hj\u00e4rnan vara s\u00e5 otroligt vilseledd? Uppenbarligen s\u00e5 var jag inte Aristoteles\u2019 \u201drationella djur.\u201d Ist\u00e4llet var jag Gazzaniga\u2019s <\/a>rationaliserande<\/em><\/a> djur. Kritiskt t\u00e4nkande hade en betydande roll i Common Sense Atheism<\/em>, och jag spenderade lika mycket tid \u00e5t att kritisera bristf\u00e4lligt t\u00e4nkande hos ateister som hos teister.<\/a><\/p>\n

Intelligensexplosion<\/h3>\n

Mitt intresse f\u00f6r rationalitet ledde mig oundvikligen (i mitten av 2010, tror jag) till en skattg\u00f6mma av artiklar om kognitionsvetenskapen f\u00f6r rationalitet: webbsajten <\/a>Less Wrong<\/em><\/a>. Det var h\u00e4r som jag f\u00f6rst st\u00f6tte p\u00e5 id\u00e9n om intelligensexplosion:<\/a><\/p>\n

L\u00e5t en ultraintelligent maskin definieras som en maskin som kan l\u00e5ngt mer \u00f6verstiga alla intellektuella aktiviteter av vilken m\u00e4nniska som helst oavsett hur smart han\/hon \u00e4r. D\u00e5 designen av maskiner \u00e4r en av dessa intellektuella aktiviteter kan en ultraintelligent maskin konstruera \u00e4nnu b\u00e4ttre maskiner; det skulle odiskutabelt bli en ’intelligensexplosion,\u2019 och intelligensen hos m\u00e4nniskan skulle bli l\u00e4mnad l\u00e5ngt efter. D\u00e4rf\u00f6r \u00e4r den ultraintelligenta maskinen den sista uppfinningen som m\u00e4nniskan n\u00e5gonsin beh\u00f6ver g\u00f6ra.2<\/sup><\/a><\/p><\/blockquote>\n

Jag ber\u00e4ttar om mitt m\u00f6te med denna k\u00e4nda paragraf <\/a>h\u00e4r<\/a>. Kort sammanfattat:<\/a><\/p>\n

Good\u2019s paragraf k\u00f6rde \u00f6ver mig som ett t\u00e5g. Inte f\u00f6r att det var absurt, men eftersom det helt klart var sant. Intelligensexplosion var en direkt f\u00f6ljd till saker jag redan trodde, jag hade bara inte m\u00e4rkt det! M\u00e4nniskor propagerar inte sin tro automatiskt, s\u00e5 jag hade inte m\u00e4rkt att min v\u00e4rldsbild redan innebar intelligensexplosion. Jag spenderade en vecka p\u00e5 att leta upp motargument f\u00f6r att kontrollera om jag hade f\u00f6rsummat n\u00e5got, och sedan accepterade jag intelligensexplosion som sannolikt (s\u00e5vida vetenskapliga framsteg fortsatte). Och \u00e4ven om jag inte hade l\u00e4st Eliezer\u2019s artikel<\/a> om komplexiteten i v\u00e4rderingar<\/a>, s\u00e5 hade<\/em> jag l\u00e4st David Hume<\/a> och Joshua Greene<\/a>. S\u00e5 jag f\u00f6rstod redan att en arbitr\u00e4r artificiell intelligens n\u00e4stan s\u00e4kerligen inte skulle dela v\u00e5ra v\u00e4rderingar.<\/p><\/blockquote>\n

Min reaktion till denna uppt\u00e4ckt var omedelbar och omdanande:<\/a><\/p>\n

Jag lade mina andra projekt p\u00e5 is och spenderade n\u00e4sta m\u00e5nad p\u00e5 att l\u00e4sa n\u00e4stan allt Eliezer hade skrivit. Jag fann ocks\u00e5 artiklar av Nick Bostrom<\/a> och Steve Omohundro<\/a>. Jag b\u00f6rjade skriva artiklar f\u00f6r Less Wrong och l\u00e4rde mig av deras community. Jag l\u00e4mnade in en ans\u00f6kan till G\u00e4stprofessor-programmet vid Forskningsinstitutet f\u00f6r maskinintelligens och godtogs. Jag sade upp mig fr\u00e5n mitt jobb i L.A., flyttade till Berkeley, jobbade arslet av mig, blev anst\u00e4lld, och b\u00f6rjade samla forskning relaterad till rationalitet och intelligensexplosion.<\/p><\/blockquote>\n

Som min v\u00e4n Will Newsome en g\u00e5ng sade, \u201dLuke verkar ha tv\u00e5 kopior av \u2018<\/a>ta-id\u00e9er-seri\u00f6st<\/a>\u2019-genen.\u201d<\/a><\/p>\n

Fanatism?<\/h3>\n

Naturligtvis, vad somliga prisar som ”att ta seri\u00f6sa id\u00e9er seri\u00f6st\u201d, ser andra som en medf\u00f6dd tendens till fanatism. H\u00e4r \u00e4r en kommentar jag kan t\u00e4nka mig att n\u00e5gon g\u00f6r:<\/a><\/p>\n

Jag \u00e4r inte f\u00f6rv\u00e5nad. Luke v\u00e4xte upp i tron om \u200b\u200batt han var p\u00e5 ett kosmiskt uppdrag f\u00f6r att r\u00e4dda m\u00e4nskligheten innan v\u00e4rlden gick till \u00e4nda i och med ankomsten av en \u00f6verm\u00e4ktig gestalt (Kristi \u00e5terkomst). Han f\u00f6rlorade sin tro och d\u00e4rf\u00f6r ocks\u00e5 hans k\u00e4nsla av episka syfte. Hans r\u00e4dsla f\u00f6r nihilism gjorde honom mottaglig f\u00f6r f\u00f6rf\u00f6relse av n\u00e5got som k\u00e4ndes som moralisk realism, och hans behov av att ha ett episkt syfte gjorde honom mottaglig f\u00f6r f\u00f6rf\u00f6relse av existentiell riskreduktion.<\/p><\/blockquote>\n

Ett svar jag skulle kunna ge \u00e4r att s\u00e4ga att detta inte \u00e4r annat \u00e4n ”psykologiserande” och att det f\u00f6rsummar m\u00e4ngden bevis f\u00f6r p\u00e5st\u00e5endena jag nu f\u00f6rsvarar ang\u00e5ende intelligensexplosion. Det \u00e4r sant, men \u00e5terigen: rimliga fakta om min psykologi utg\u00f6r faktiskt<\/em> vissa <\/a>Bayesiska bevis<\/a> f\u00f6r hur du borde f\u00f6rh\u00e5lla dig till de ord jag skriver i denna bok. Ett annat svar jag skulle kunna ge \u00e4r att f\u00f6rklara varf\u00f6r jag inte tror att det var s\u00e5 det gick till, \u00e4ven om vissa delar av det naturligtvis \u00e4r sant. (Till exempel s\u00e5 minns jag inte att jag k\u00e4nde<\/em> att Kristi \u00e5terkomst stundade, eller att jag var p\u00e5 ett kosmiskt uppdrag f\u00f6r att r\u00e4dda varenda sj\u00e4l, \u00e4ven om jag som en evangelier var teologiskt f\u00f6rpliktigad dessa st\u00e4llningar. Men det \u00e4r definitivt s\u00e5 att jag dras till ”episka” saker s\u00e5 som rockbandet Muse och filmen Avatar<\/em>.) Men jag har inte f\u00f6r avsikt att fokusera det h\u00e4r kapitlet \u00e4nnu mer p\u00e5 min personliga psykologi. Ett tredje svar skulle vara att h\u00e4nvisa till sociala bevis. Det verkar finnas en klass av l\u00e4sare p\u00e5 Common Sense Ateism<\/em> som har l\u00e4st mina skriverier s\u00e5 noga att de har utvecklat en stark respekt f\u00f6r mitt seri\u00f6sa engagemang i intellektuell sj\u00e4lv-\u00e4rlighet och att \u00e4ndra mig n\u00e4r jag har fel, s\u00e5 n\u00e4r jag b\u00f6rjade skriva om fr\u00e5gor g\u00e4llande intelligensexplosion t\u00e4nkte de, ”Ja, jag brukade t\u00e4nka att de h\u00e4r id\u00e9erna om intelligensexplosion var r\u00e4tt tokiga, men om Luke<\/em> tar det p\u00e5 allvar s\u00e5 kanske det finns n\u00e5got av substans i de trots allt\u201d, och s\u00e5 f\u00f6ljde de mig till Less Wrong<\/em> (d\u00e4r jag nu skrev regelbundet). Jag ska ocks\u00e5 n\u00e4mna att en viktig orsak till varf\u00f6r jag blev f\u00f6rvaltningschef hos Institutet f\u00f6r maskinintelligens efter s\u00e5 kort tid i organisationen var att personalen s\u00e5g att jag p\u00e5 allvar engagerade mig i rationalitet och att reducera bias; att jag p\u00e5 allvar var helt h\u00e4ngiven till att s\u00e4ga \u201doj\u201d och \u00e4ndra min \u00e5sikt och besvara argument, och att jag p\u00e5 allvar agerade p\u00e5 beslutsteori s\u00e5 ofta jag kunde, snarare \u00e4n p\u00e5 vana och k\u00e4nslor som jag skulle vara ben\u00e4gen till. I kartl\u00e4ggningen av mina m\u00f6jliga svar till ”fanatism”-kritiken ovan s\u00e5 har jag redan satt upp n\u00e5got av ett f\u00f6rsvar. Men l\u00e4ngre \u00e4n s\u00e5 vill jag inte g\u00e5. Jag vill<\/em> att folk ska ta vad jag s\u00e4ger med en redig nypa salt. Jag \u00e4r, trots allt, bara m\u00e4nsklig. F\u00f6rhoppningsvis kommer mina l\u00e4sare att ta h\u00e4nsyn till inte bara min m\u00e4nsklighet men ocks\u00e5 de kraftfulla argument och bevis jag senare kommer att leverera ang\u00e5ende ankomsten av superintelligenta maskiner.<\/a><\/p>\n

* * *<\/p>\n

<\/small>1<\/sup><\/a>A. M. Turing, \u201cIntelligent Machinery, A Heretical Theory\u201d (A lecture given to \u201951 Society\u2019 at Manchester, 1951).<\/small> 2<\/sup><\/a>Irving John Good, \u201cSpeculations Concerning the First Ultraintelligent Machine,\u201d in Advances in Computers<\/em>, ed. Franz L. Alt and Morris Rubinoff, vol. 6 (New York: Academic Press, 1965), 31\u201388, doi<\/span>:10.1016\/S0065-2458(08)60418-0<\/a>.<\/small><\/a><\/p>","protected":false},"excerpt":{"rendered":"

\u00e5gon g\u00e5ng detta sekel s\u00e5 kommer maskiner att \u00f6vertr\u00e4ffa m\u00e4nsklig intelligens och f\u00f6rm\u00e5ga. Denna h\u00e4ndelse \u2013 \u201dintelligensexplosionen\u201d \u2013 kommer vara den viktigaste h\u00e4ndelsen i v\u00e5r historia, och att navigera den f\u00f6rst\u00e5ndigt kommer vara det viktigaste vi n\u00e5gonsin kan g\u00f6ra. Notabiliteter… continue reading<\/a> »<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-6","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/posts\/6","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/comments?post=6"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/posts\/6\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/media?parent=6"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/categories?post=6"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/sv\/wp-json\/wp\/v2\/tags?post=6"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}