Non distogliere lo sguardo

Forse hai sentito del soldato giapponese che si rifiutava di credere ai dispacci sulla sconfitta del Giappone nel 1945. Uno di loro fu il Luogotenente Hiroo Onoda, che aveva la responsabilità di altri tre soldati sull’isola di Lubang, nelle Filippine. Per più di un decennio vissero di banane e noci di cocco nella giungla, rifiutando di credere che la guerra fosse finita.

Fu distribuito un volantino dietro l’altro. Uscirono dei giornali. Arrivarono le fotografie e le lettere dei parenti. Amici e parenti parlarono nei microfoni. Niente: c’era sempre qualcosa che non li convinceva completamente, perciò non credettero mai che la guerra fosse davvero finita.1

Uno dopo l’altro, i soldati di Onoda morirono o si arresero, ma lo stesso Onoda non si convinse della resa giapponese fino al 1974, quasi trent’anni dopo la fine della guerra. In seguito, ricordò:

All’improvviso si fece tutto nero. Una tempesta si sollevò dentro me. Mi sentii un idiota…. che cosa avevo fatto per tutti questi anni?2

Lo studente di razionalità vuole convinzioni vere, così da poter ottenere meglio i suoi scopi. Risponderà all’evidenza, dunque, meglio di quanto fece Onoda. Cambierà le sue convinzioni non appena vi saranno prove sufficienti per giustificare tale cambiamento (stando a quel che già sa e alle leggi della teoria delle probabilità). Mantenere convinzioni false, dopotutto, può avere conseguenze serie: tanto per dirne una, fare la cacca per trent’anni in un guscio di cocco.

Onoda era stato fomato in quel tipo di dogmatismo militare che crea i piloti kamikaze, ed era stato portato a credere che la disfatta giapponese fosse il peggior scenario immaginabile. Pertanto, distolse lo sguardo dalle prove che il Giappone aveva perso la guerra, visto che era stato condizionato a ritenere questo risultato emotivamente e mentalmente inconcepibile.

Una delle abilità, nella cassetta dei ferri del pensiero razionale, è quella di notare quando si verifica un tale “distoglimento dello sguardo” e contrastarlo. Dobbiamo conquistare questa abilità, man mano che iniziamo a vedere le implicazioni delle idee che abiamo appena discusso—che l’AI è inevitabile se il progresso scientifico continua, e che l’AI può essere molto più intelligente (e quindi più potente) di quanto non siano gli umani. Quando esamineremo le implicazioni di queste idee, sarà utile comprendere cosa succede nei cervelli umani quando considerano idee dalle conseguenze sgradite. Come vedremo, al cervello umano non seve un indottrinamento militare per girare lo sguardo. In effetti, voltarsi e non guardare è una caratteristica standard della psicologia umana e va sotto nomi come “cognizione motivata” e “razionalizzazione.”

Per fare un esempio estremo, consideriamo il creazionista. Accetterà ogni prova dubbia a supporto della sua posizione, e sarà oltremodo scettico sulle solide prove a sfavore. Cercherà prove che possano confermare la sua posizione, ma sfuggirà le più forti prove contrarie. (Pertanto, incontro creazionisti che non hanno mai sentito parlare dei retrovirus endogeni.)

La maggior parte di noi fa cose come questa in continuazione, anche se in modi (si spera) meno ovvi e nocivi. Ci voltiamo di fronte a scelte e verità scomode, dicendo, “È meglio sospendere il giudizio.” Trascuriamo i punti veramente deboli delle nostre convinzioni. Iniziamo con un’opinione preconcetta e dopo cerchiamo argomenti che la sostengano. Filtriamo, senza rendercene conto, le prove a nostra disposizione così da sostenere le nostre convinzioni attuali. Rifiutiamo le tesi più deboli contro la nostra posizione, e non cerchiamo di ponderare i più forti argomenti possibili contro le nostre.

E questi processi, di norma, sono automatici e subconsci. Non serve essere una persona particolarmente irrazionale, per distogliere lo sguardo. No: di norma tenderete a distogliere lo sguardo senza nemmeno notarlo, e dovrete esercitare uno sforzo mentale consapevole per non distogliere lo sguardo da fatti sgradevoli. E non intendo ripetere la cantilena, “Evita i bias di conferma. Evita i bias di conferma….” Intendo qualcosa di più efficace.

Che tipi di sforzo mentale consapevole si possono esercitare per contrastare il “distoglimento dello sguardo”?

Un primo suggerimento è quello di lasciarti una linea di sicurezza:

Ieri sera ho conversato con [una che] aveva appena dichiarato (a) la sua fede nell’anima; e (b) che non credeva nella crionica perché credeva che l’anima non sarebbe rimasta nel corpo congelato. Le chiesi, “Ma come fai a saperlo?” Dalla confusione che le si leggeva in faccia, era abbastanza chiaro che non si era mai posta la questione….

“Sincerati,” le suggerii, “di visualizzare come sarebbe il mondo se non ci fossero le anime, e cosa faresti a quel punto. Non pensare a tutte le ragioni per cui non può essere così, accettalo solo come premessa e poi visualizza le conseguenze. Penserai quindi, ‘Be’, se non ci sono anime, firmerò per la crionica,’ oppure ‘Se Dio non esiste, mi accontenterò di essere una persona morale,’ piuttosto che lasciare l’ipotesi così orribile da affrontare com’è. Per rispetto di voi stessi, dovreste provare a credere alla verità, non importa quanto spiacevole… [e] per come è fatta la natura umana, rendere una convinzione meno sgradevole, prima di provare a valutarne le prove, aiuta.”

Naturalmente, dovete ancora ponderare le prove in modo corretto. Continuo a rifiutare posizioni che mi spaventano, e ad accettare posizioni che mi attraggono. Ma è importante visualizzare uno scenario chiaramente e renderlo meno spaventoso, così che il vostro cervello umano possa valutare in modo più giusto le prove sul punto.

Lasciarsi una linea di sicureza è uno strumento da utilizzare prima della battaglia. Una tecnica anti-distoglimento, da usare durante la battaglia, è quella di chiamare per nome, a voce alta, la reazione di distoglimento. Mi sorprendo a pensare cose come “Mi sembra di leggere che lo zucchero non faccia poi tanto male,” e mentalmente aggiungo, “ma questa potrebbe semplicemente essere cognizione motivata, perché adesso ho davvero voglia di quel biscotto.”

È un po’ come premere pausa sul mio modulo prendi-decisioni, dandomi il tempo di tirare in ballo i miei “moduli curiosità,” che sono formati per voler sapere qual è la verità piuttosto che giustificare la voglia di biscotti. Per esempio, mi immagino cosa potrebbe andare male se giungessi a convinzioni false sul punto—a causa di cognizioni motivate o di qualche altro errore di ragionamento. In quel caso, potrei immaginare di ingrassare o avere meno energia nel lungo periodo come possibile conseguenza dell’essermi sbagliato sugli effetti dell’assunzione di zucchero. Se stessi considerando un’assicurazione antincendio, immaginerei cosa potrebbe capitare se mi sbagliassi sul mio giudizio intuitivo sul comprare l’assicurazione o no.

Questi strumenti saranno importanti, quando considereremo le implicazioni dell’AI. Stiamo per parlare di merda pesante, ma ricordate: non distogliete lo sguardo. Guardate negli occhi la realtà, e non voltatevi.

* * *

1Jennifer Rosenberg, “The War is Over… Please Come Out,” About.com, accessed November 10, 2012,http://history1900s.about.com/od/worldwarii/a/soldiersurr.htm.

2Hiroo Onoda, No Surrender: My Thirty-Year War, 1st ed., trans. Charles S. Terry (New York: Kodansha International, 1974).

(English) Next Chapter →