Le Leggi Del Pensiero

Se qualcuno non è d’accordo con me sulle leggi della logica, della teoria della probabilità, e sulla teoria delle decisioni, allora non andrò molto lontano con loro nel discutere l’esplosione di intelligenza, perché finiranno con l’argomentare che l’intelligenza umana funziona per magia, o che una macchina, man mano che diventerà più intelligente, può solo diventare anche più benevola, o che è semplice specificare cosa vogliano gli umani, o qualche altra affermazione strampalata. Vediamo quindi di metterci d’accordo sulle basi, prima di cercare un accordo su argomenti più complessi.

Logica

Per fortuna, non molte persone dissentono sulla logica. Così come per la matematica, potremmo fare errori per ignoranza, ma una volta che qualcuno ci dà una prova per il Teorema di Pitagora o per l’invalidità dell’affermazione del conseguente, ci troviamo d’accordo. Logica e Matematica sono sistemi deduttivi, dove la conclusione di un argomento di successo segue necessariamente dalle sue premesse, dati gli assiomi del sistema che stai usando: teoria dei numeri, geometria, logica del predicato, ecc. (Naturalmente, non si può sfuggire totalmente all’incertezza: la famosa dimostrazione di Andrew Wiles dell’ultimo teorema di Fermat è lunga oltre cento pagine, quindi anche se la rielaborassi da capo per conto mio non sarei sicuro di non aver fatto un errore da qualche parte.)

Perché dovremmo permettere alle leggi della logica di dettare il nostro pensiero? La cosa non deve sembrarvi inquietante. Le leggi della logica sono radicate nel modo in cui abbiamo accettato di parlare tra noi. Se mi dite “la macchina di fronte a te è al 100% rossa e, allo stesso tempo e nello stesso modo, al 100% blu”, il problema non è tanto che si sta “operando in diverse leggi della logica”, ma piuttosto che stiamo parlando lingue diverse. Parte di ciò che intendo, quando dico che la macchina di fronte a me è “100% rossa” è che “non è al 100% blu nello stesso modo nello stesso momento”. Se non siete d’accordo, allora non stiamo parlando la stessa lingua. Stai parlando una lingua che utilizza molti suoni e grafie della mia, ma non significa le stesse cose.

Solo che la logica è un sistema di certezze, e il nostro mondo è incerto.
Nel nostro mondo, non dobbiamo parlare di certezze ma di probabilità.

Teoria della Probabilità

Date a una bambina la religione, e farà fatica a scrollarsela di dosso anche quando incontrerà la scienza. Datele prima la scienza, e quando scoprirà la religione le sembrerà strampalata.

Per questa ragione, inizierò spiegando la corretta teoria della probabilità, e solo dopo spiegherò quella scorretta.
Cos’è la probabilità? È una misura di quanto plausibilmente una data proposizione sia vera, date le altre cose in cui credete. E qualunque sia la nostra teoria della probabilità, dovrebbe essere coerente con il buon senso (coerente con la logica, ad esempio), e dovrebbe essere auto-coerente (se potete calcolare la probabilità con due metodi, i due metodi dovrebbero fornire la stessa risposta).

Diversi autori hanno mostrato che gli assiomi della teoria della probabilità si possono derivare da questi assunti, più la logica.^1,2
In altre parole, la teoria della probabilità è semplicemente un’estensione della logica. Se accettate la logica, e accettate gli assunti (molto deboli) di cui sopra su cos’è la probabilità, allora, che lo sappiate o no, avete accettato la teoria della probabilità.

Un’altra ragione per accettare la teoria della probabilità è (parlando fuori dei denti) questa: se non l’accettate, e siete disposti a scommettere sulla verità delle vostre convinzioni, allora qualcuno che sta usando la teoria della probabilità può prendersi tutti i vostri soldi. (Per la dimostrazione, date un’occhiata agli argomenti del Dutch Book.)³

Forse, la regola più utile da derivare dagli assiomi della teoria della probabilità è il Teorema di Bayes, che vi dice esattamente come la probabilità assegnata a un’affermazione dovrebbe cambiare man mano che incontrate nuove informazioni. (Nella scienza cognitiva della razionalità, molte distorsioni cognitive sono definite in termini di come violano o la logica di base o il Teorema di Bayes.) Se non state usando il Teorema di Bayes per aggiornare le vostre convinzioni, allora state violando la teoria della probabilità, che è un’estensione della logica.

Naturalmente, il cervello umano è troppo lento per fare calcoli Bayesiani espliciti in continuazione. Ma potete sviluppare euristiche mentali che approssimino i calcoli Bayesiani meglio della nostra euristica “di default”.
Non è questo il luogo di un completo tutorial sulla logica o sulla teoria della probabilità o sull’allenamento alla razionalità. Voglio solo presentare gli strumenti principali che useremo così potrò spiegare, più avanti, perché sono arrivato a una conclusione invece che a un’altra sull’esplosione di intelligenza. Nondimeno, potreste volere come minimo leggere questo breve tutorial sul Teorema di Bayes, prima di continuare.

Per finire, vi devo dare una rapida spiegazione del perché il frequentismo, la teoria della probabilità che probabilmente avete imparato a scuola come me, è sbagliata. Mentre l’approccio Bayesiano vede la probabilità come una misura di incertezza sul mondo, il frequentismo vede la probabilità come “la proporzione di volte che l’evento si presenterebbe dopo un lungo ciclo di esperimenti ripetuti.” Menzionerò a riguardo due tra almeno quindici problemi⁴

• Il frequentismo non deriva dalle leggi della logica, e non è auto-coerente. Sotto il frequentismo, calcolare una probabilità con due metodi differenti può spesso portare a due diversi risultati.

• Il frequentismo giudica la probabilità basandosi non esclusivamente su ciò che sappiamo ma anche su una lunga serie di “esperimenti” ipotetici che potremmo non osservare mai, e che sono definiti solo vagamente. In altre parole, il frequentismo abbandona l’empirismo.

Se il frequentismo è sbagliato, perché è così popolare? Le ragioni sono molte, e sono riviste in questo libro sulla storia del Teorema di Bayes.⁵ Ad ogni modo, quando parlo della teoria della probabilità, mi riferirò al Bayesianismo.

Teoria Delle Decisioni

Ho spiegato perché vi sono delle leggi del pensiero applicabili alla razionalità epistemica (acquistare convinzioni vere), e vi ho rimandato ad alcuni tutorial dedicati. Ma possono esserci leggi del pensiero che riguardano la razionalità strumentale (il massimizzare gli obiettivi di qualcuno)? Quello che vogliamo non è soggettivo, e quindi non soggetto a regole?

Sì, è possibile avere un qualunque numero di obiettivi. Ma quando si tratta di ottenere al massimo grado questi obiettivi, di regole sì che ce ne sono. Se ci pensi, dovrebbe essere ovvio. Qualunque scopo voi abbiate, ci sono modi molto stupidi di provare ad ottenerli. Se volete sapere cosa esiste, non dovreste mettere la testa sotto la sabbia e rifiutarsi di osservare ciò che esiste. E se volete ottenere degli scopi nel mondo, probabilmente non dovreste paralizzare tutto il corpo, a meno che paralizzarvi sia il vostro unico scopo.

Entriamo più nello specifico. La Teoria delle decisioni parla di come scegliere tra possibili azioni sulla base di quanto desiderate i possibili risultati di tali azioni.

Come funziona? Possiamo descrivere quello che volete con una cosa chiamata funzione di utilità, che assegna a ogni possibile risultato (o “descrizione di un intero futuro possibile”) un numero che esprime quanto lo si desidera. Forse una sola pallina di gelato ha quaranta “utils” per voi, la morte di vostra figlia ha -274.000 utils per voi, e così via. Questa rappresentazione numerica di tutto ciò che vi interessa è la vostra funzione di utilità.

Possiamo unire le vostre convinzioni probabilistiche e la vostra funzione di utilità per calcolare l’utilità attesa per ogni azione in esame. L’utilità attesa di un’azione è l’utilità media dei possibili esiti dell’azione, ponderata per la probabilità assegnata al verificarsi di ciascun risultato.

Supponiamo che voi stiate camminando lungo una superstrada con la vostra bambina. Si vede un chiosco di gelati dall’altra parte dell’autostrada, ma di recente vi siete fatti male alla gamba e non siete in grado di muovervi rapidamente attraverso l’autostrada. Dato ciò che si sa, se si fa attraversare la superstrada a vostra figlia per ottenere un gelato, c’è una probabilità del 60% di ottenere un gelato, una probabilità del 5% che la vostra bambina sia uccisa da un’auto in corsa, e altre probabilità di altri risultati.

Per calcolare l’utilità attesa del far attraversare l’autostrada a tua figlia per ottenere un gelato, si moltiplica l’utilità del primo risultato per la sua probabilità : 0,6 × 40 = 24. Poi, a questo si aggiunge l’utilità dell’altro possibile risultato risultato, moltiplicato per la sua probabilità : 24 + ( -274.000 × 0,05) = -13.676. E supponiamo che la somma dei prodotti dei programmi di utilità e le probabilità di altri possibili risultati sia pari a zero. L’ utilità attesa di far attraversare l’autostrada a vostra figlia per ottenere un gelato è quindi molto negativa (come il buonsenso suggerisce). Probabilmente dovreste scegliere un’altra delle azioni disponibili, per esempio non far attraversare l’autostrada a vostra figlia per un gelato, o qualche azione con un’utilità attesa ancora più elevata.

Un agente razionale mira a massimizzare la propria utilità attesa, perché un agente che fa così sarà, in media, in grado di ottenere il massimo possibile di ciò che vuole, date le sue credenze e desideri.

Sembra intuitivo che un agente razionale dovrebbe massimizzare la propria utilità attesa, ma perché questo modo di fare le cose dovrebbe essere l’unico razionale? Perché non cercare di minimizzare la peggiore possibile perdita? Perché non cercare di massimizzare la somma ponderata dei cubi delle possibili funzioni di utilità?

La giustificazione del principio di “massimizzare l’utilità attesa ” è stato scoperto nel 1940 da von Neumann e Morgenstern. In breve, hanno dimostrato che, se si accettano alcuni assiomi sulle preferenze, un agente può agire soltanto in coerenza con le proprie preferenze, scegliendo l’azione che massimizza l’utilità attesa.⁶

Quali sono questi assiomi? Come gli assiomi della teoria della probabilità, sono semplici ed intuitivi. Per esempio, uno di loro è l’assioma della transitività, che dice che se un agente preferisce A a B, e B a C, allora deve preferire A a C. Questo assioma è motivato dal fatto che a qualcuno con preferenze non transitive può essere sottratto tutto il suo denaro anche solo facendogli fare gli scambi che preferisce.

Non entrerò nei dettagli qui perché questo risultato è stato largamente accettato: un agente razionale massimizza l’utilità attesa.

Sfortunatamente, gli umani non sono agenti razionali. Come vedremo nel prossimo capitolo, gli umani sono pazzi.

* * *

¹E. T. Jaynes, Probability Theory: The Logic of Science, ed. G. Larry Bretthorst (New York: Cambridge University Press, 2003), doi:10.2277/0521592712.

²Stefan Arnborg and Gunnr Sjödin, “On the Foundations of Bayesianism,” AIP Conference Proceedings 568, no. 1 (2001): 61–71, http://connection.ebscohost.com/c/articles/5665715/foundations-bayesianism.

³Kenny Easwaran, “Bayesianism I: Introduction and Arguments in Favor,” Philosophy Compass 6 (5 2011): 312–320, doi:10.1111/j.1747-9991.2011.00399.x.

⁴Alan Hájek, “‘Mises Redux’—Redux: Fifteen Arguments Against Finite Frequentism,” Erkenntnis 45, no. 2 (November 1996): 209–227, doi:10.1007/BF00276791.

⁵Sharon Bertsch McGrayne, The Theory That Would Not Die: How Bayes’ Rule Cracked the Enigma Code, Hunted Down Russian Submarines, and Emerged Triumphant from Two Centuries of Controversy (New Haven, CT: Yale University Press, 2011).

⁶John Von Neumann and Oskar Morgenstern, Theory of Games and Economic Behavior, 2nd ed. (Princeton, NJ: Princeton University Press, 1947).

(English) Next Chapter →