{"id":117,"date":"2011-12-15T13:17:44","date_gmt":"2011-12-15T21:17:44","guid":{"rendered":"http:\/\/facingthesing.wpengine.com\/?p=117"},"modified":"2014-12-01T13:46:52","modified_gmt":"2014-12-01T21:46:52","slug":"not-built-to-think-about-ai","status":"publish","type":"post","link":"https:\/\/intelligenceexplosion.com\/it\/2011\/not-built-to-think-about-ai\/","title":{"rendered":"Non siamo fatti per pensare all’IA"},"content":{"rendered":"

<\/p>\n

N<\/b>ei film della serie Terminator<\/i>, la AI Skynet<\/a><\/u> diventa consapevole di s\u00e9, uccide miliardi di persone, e semina robot killer per spazzare i focolai residui di resistenza umana.\n<\/p>\n

Il che sembra orribile. Ma in un intervento<\/a><\/u> alla National Public Radio<\/i> sull\u2019esplosione di intelligenza, il programmatore di eBay Keefe Roedersheimer ha spiegato che la creazione di una superintelligenza artificiale reale<\/i> sarebbe molto peggiore di cos\u00ec.<\/p>\n

MARTIN KASTE (NPR): Molto peggiore di Terminator<\/i>?<\/p>\n

KEEFE ROEDERSHEIMER: Molto, molto peggiore.<\/p>\n

KASTE:… \u00c8 un disastro, con persone che si nascondono sotto edifici in fiamme, colpiti da laser. Voglio dire, come potrebbe essere peggiore di cos\u00ec<\/i>?<\/p>\n

ROEDERSHEIMER: Con tutte le persone morte.1<\/a><\/u><\/p>\n

Perch\u00e9 ha detto questo? Perch\u00e9 per la maggior parte degli scopi che un\u2019AI potrebbe avere\u2014 siano essi provare l\u2019ipotesi di Riemann <\/a><\/u>o massimizzare la produzione di petrolio\u2014la semplice ragione \u00e8 che<\/a><\/u> \u201cl\u2019AI non vi ama, n\u00e9 vi odia, ma siete fatti di atomi che pu\u00f2 usare per qualcos\u2019altro.\u201d2<\/a><\/u> E quando una AI superumana nota che noi umani probabilmente resisteremmo<\/i> a vedere i nostri atomi usati per \u201cqualcos\u2019altro\u201d, e quindi poniamo una minaccia all\u2019AI e ai suoi scopi, sar\u00e0 motivata a spazzarci via il pi\u00f9 in fretta possibile\u2014non in un modo che espone la sua debolezza critica a un intrepido team di eroi che potrebbero salvare il mondo se solo mettessero da parte le loro differenze… No. Per la maggior parte degli obiettivi di un\u2019AI, spazzare la minaccia umana ai suoi obiettivi nel modo pi\u00f9 efficiente possibile, massimizzer\u00e0 la sua utilit\u00e0 attesa<\/a><\/u>.<\/p>\n

<\/p>\n

E diciamolo: ci sono modi pi\u00f9 semplici di uccidere gli umani che mandare robot umanoidi<\/i> che camminano e sembrano divertirsi a scagliare gli umani contro il muro invece di spezzargli semplicemente il collo. \u00c8 molto meglio se l\u2019attacco \u00e8 improvviso, ha effetti simultanei in tutto il mondo, \u00e8 rapidamente letale, e dribbla le contromisure disponibili. Per esempio: perch\u00e9 non usare semplicemente tutta quella superintelligenza per mettere a punto un supervirus che si diffonde nell\u2019aria, ed \u00e8 altamente contagioso e fatale? Una mutazione del virus dell<\/a><\/u>\u2019influenza del<\/a><\/u> 1918<\/a><\/u> uccise il 3% della popolazione terrestre, e questo avvenne prime che i viaggi aerei (che diffondono malattie in tutto il mondo) fossero comuni, e senza che un\u2019oncia di intelligenza partecipasse alla progettazione del virus. Aggiungete una punta di intelligenza, e avete una squadra di olandesi che creano una variante dell\u2019influenza aviaria che \u201cpotrebbe uccidere met\u00e0 della umanit\u00e0<\/a><\/u>.\u201d3<\/a><\/u> Una superintelligenza potrebbe creare qualcosa di molto peggiore. Oppure l\u2019AI potrebbe nascondersi sottoterra, o sfrecciare nello spazio e ucciderci con tecnologia esistente<\/i>: qualche migliaio di armi nucleari<\/a><\/u>.<\/p>\n

Il punto non \u00e8 che uno qualunque di questi particolari<\/i> scenari \u00e8 probabile. Sto solo cercando di evidenziare che la realt\u00e0 della situazione pu\u00f2 essere, ovviamente, molto diversa da quella necessaria per confezionare una storia interessante. Nelle parole<\/a><\/u> del filosofo Oxfordiano Nick Bostrom:<\/p>\n

Quand\u2019\u00e8 stata l\u2019ultima volta che avete visto un film sull\u2019improvvisa estinzione dell\u2019umanit\u00e0 (senza preavviso e senza essere sostituita da un\u2019altra civilt\u00e0)?4<\/a><\/u><\/p>\n

La storia migliora se la lotta pu\u00f2 essere plausibilmente vinta da una qualunque parte. Il Signore degli anelli <\/i>non avrebbe venduto altrettante copie se Frodo avesse fatto la cosa pi\u00f9 ragionevole e avesse fatto cadere l\u2019anello nel vulcano dal dorso di una gigantesca aquila<\/a><\/u>. E non \u00e8 una storia interessante se gli umani improvvisamente perdono<\/i>, punto e basta.<\/p>\n

Quando pensiamo all\u2019AI, non dovremmo generalizzare quello che racconta la fiction<\/a><\/u>. Purtroppo, i nostri cervelli lo fanno automaticamente<\/i>.<\/p>\n

Un famoso studio del 1978 chiese a dei soggetti di giudicare quale, tra due pericoli, occorresse pi\u00f9 spesso. I soggetti pensavano che gli incidenti causassero tante morti quanto la malattia, e che l\u2019omicidio fosse frequente quanto il suicidio.5<\/a><\/u> In realt\u00e0, le malattie causano SEDICI volte pi\u00f9 morti degli incidenti, e il suicidio \u00e8 due volte pi\u00f9 frequente dell\u2019omicidio. Cos\u2019\u00e8 successo?<\/p>\n

Dozzine di studi sulla euristica della disponibilit\u00e0<\/a><\/u> suggeriscono che noi giudichiamo la frequenza o la probabilit\u00e0 degli eventi da quanto facilmente si presentano alla mente. Non \u00e8 un male in s\u00e9 che si siano evolute delle euristiche nel nostro ambiente ancestrale, in cui non potevamo controllare le effettive<\/i> frequenze su Wikipedia<\/i> o determinare le effettive<\/i> probabilit\u00e0 con il Teorema di Bayes<\/a><\/u>. L\u2019euristica del cervello \u00e8 rapida, economica, e spesso ci azzecca.<\/p>\n

Ma, come molte delle nostre euristiche cognitive evolute, l\u2019euristica della disponibilit\u00e0 produce spesso risultati errati. Gli incidenti sono pi\u00f9 vividi delle malattie, e quindi vengono in mente pi\u00f9 facilmente, portandoci a sopravvalutare la loro frequenza rispetto alle malattie. Lo stesso vale per omicidio e suicidio.<\/p>\n

L’ euristica della disponibilit\u00e0 spiega<\/a><\/u> anche perch\u00e9 la gente pensa che volare sia pi\u00f9 pericoloso che guidare, quando \u00e8 vero il contrario: solo che un incidente aereo \u00e8 pi\u00f9 vivido e viene coperto ampiamente dai media, quando accade, quindi lo richiamiamo meglio alla memoria e il cervello stesso \u00e8 portato a pensare che la disponibilit\u00e0 di un evento indichi la sua probabilit\u00e0.<\/p>\n

Che cosa fa il vostro cervello quando si pensa all\u2019intelligenza artificiale sovrumana? Molto probabilmente, controlla tutte le istanze di AI sovrumana che ha incontrato – che, a peggiorare le cose, sono tutte le fiction che avete visto – e la probabilit\u00e0 assegnata a ciascun scenario \u00e8 determinata da quanto bene si abbina con gli scenari che vengono in mente pi\u00f9 facilmente (perch\u00e9 li avee incontrati nelle fiction). In altre parole<\/a><\/u>, “le fiction irrompono e pensano al posto vostro”.<\/p>\n

Quindi, se avete delle intuizioni su come saranno le IA sovrumane, sono probabilmente basate sulle fiction, senza che nemmeno ve ne rendiate conto.<\/p>\n

Ecco perch\u00e9 ho iniziato \u201cAffrontare l’Esplosione di Intelligenza\u201d parlando di razionalit\u00e0<\/a><\/u>. Il momento in cui cominciamo a pensare all\u2019AI \u00e8 anche il momento in cui ci imbattiamo direttamente nell\u2019insieme di modalit\u00e0 comuni in cui gli umani tipicamente falliscono. Generalizzare a partire dalle prove immaginarie \u00e8 uno di quei metodi. Eccone alcuni altri<\/a><\/u>:<\/p>\n