{"id":244,"date":"2012-03-03T07:38:45","date_gmt":"2012-03-03T15:38:45","guid":{"rendered":"http:\/\/facingthesing.wpengine.com\/?p=244"},"modified":"2014-12-06T14:44:36","modified_gmt":"2014-12-06T22:44:36","slug":"ai-the-problem-with-solutions","status":"publish","type":"post","link":"https:\/\/intelligenceexplosion.com\/it\/2012\/ai-the-problem-with-solutions\/","title":{"rendered":"Il problema dell’IA, e le sue soluzioni"},"content":{"rendered":"

<\/p>\n

Ci troviamo in un momento cruciale, nella Storia della Terra. Come un masso in bilico sulla cima di una montagna, stiamo in un punto instabile. Non possiamo restare dove siamo: l<\/a><\/u>\u2019A<\/a><\/u>I arriver\u00e0<\/a><\/u>, se il progresso scientifico continua. Presto rotoleremo da un lato della montagna o dall\u2019altro, fino a un nuovo punto di pace duratura.<\/p>\n

Una possibile soluzione resta l\u2019estinzione umana. Un\u2019altra potrebbe essere un totalitarismo globale stabile<\/a><\/u> che ferma il progresso scientifico, per quanto improbabile sembri.1<\/a><\/u><\/p>\n

Che dire dell\u2019intelligenza artificiale? L\u2019AI porta all\u2019esplosione di intelligenza<\/a><\/u> e, poich\u00e9 non sappiamo come dare a un\u2019AI obiettivi benevoli, di default un\u2019esplosione di intelligenza ottimizzer\u00e0 il mondo per conclusioni accidentalmente disastrose<\/a><\/u>. Un\u2019esplosione di intelligenza controllata<\/i>, d\u2019altro canto, potrebbe ottimizzare il mondo a fin di bene. (Approfondir\u00f2 il punto nel prossimo capitolo.)<\/p>\n

Per quanto mi riguarda, sto dedicando tutti i miei<\/i> sforzi nella direzione di questo risultato: un\u2019esplosione di intelligenza controllata.<\/p>\n

Per una breve parentesi storica, siamo in grado di comprendere (per quanto confusamente) la nostra situazione attuale e influenzare il lato della montagna su cui probabilmente cadremo. Che cosa faremo, quindi?<\/p>\n

Progresso Intellettuale Differenziale<\/h3>\n

Quel che fa per noi \u00e8 un progresso intellettuale differenziale<\/a><\/u>:<\/p>\n

Il progresso intellettuale differenziale consiste nel dare la priorit\u00e0 al progresso intellettuale che riduce<\/i> i rischi, rispetto al progresso intellettuale che li aumenta<\/i>. Applicato ai rischi AI in particolare, un piano di progresso intellettuale differenziale vorrebbe che il nostro progresso sui problemi scientifici, filosofici e tecnologici della sicurezza<\/i> AI surclassi il nostro progresso sui problemi delle capacit\u00e0<\/i> dell\u2019AI, cos\u00ec da sviluppare un\u2019AI superumana sicura<\/i> prima di sviluppare un\u2019AI superumana qualsiasi<\/i>. La nostra prima AI superumana dev\u2019essere sicura, perch\u00e9 potremmo non avere una seconda chance.<\/p>\n

<\/p>\n

Per semplificare molto, la ricerca sulla sicurezza dell\u2019AI \u00e8 in gara con quella sulle capacit\u00e0 dell\u2019AI. In questi momento, \u00e8 il secondo filone di ricerca a vincere, e in realt\u00e0 sta continuamente progredendo. L\u2019umanit\u00e0 sta puntando di pi\u00f9 nella ricerca sulle capacit\u00e0 dell\u2019AI che sulla sicurezza dell\u2019AI.<\/p>\n

Solo che se la gara la vince la ricerca sulle capacit\u00e0 AI, l\u2019umanit\u00e0 perde.
\nSe la vince quella sulla sicurezza, l\u2019umanit\u00e0 vince.<\/p>\n

Sono in molti a sapere cosa significa fare ricerca sulle capacit\u00e0 AI. \u00c8 la maggior parte<\/i> del lavoro di cui avete letto sull\u2019AI. Ma cosa significa puntare sulla sicurezza AI?<\/p>\n

Questo articolo<\/a><\/u> contiene una lunga lista di categorie di problemi nella ricerca sulla sicurezza AI, ma per il momento lasciate che vi faccia qualche esempio. (Saltate questa lista, se volete evitare lo spaventoso gergo tecnico.)<\/p>\n