Dallo Scetticismo Alla Razionalità Tecnica
Prima che inizi a parlare della superintelligenza artificiale, devo parlare di razionalità. La mia visione della razionalità informa il modo in cui vedo ogni cosa, ed è la ragione principale per cui prendo i problemi della superintelligenza artificiale tanto seriamente.
Se potessi dire una sola cosa alla comunità degli “atei” e degli “scettici”, sarebbe questa:
Lo scetticismo ed il pensiero critico ci insegnano lezioni importanti. Affermazioni straordinarie richiedono prove straordinarie. Correlazione non implica causazione. Non prendete l’autorità troppo seriamente. Le affermazioni devono essere specifiche e falsificabili. Ricordatevi di applicare il rasoio di Occam. Attenti alle fallacia della logica. Mantenete la vostra mente aperta, ma non siate creduloni. Eccetera.
Ma è solo l’inizio. Scrivendo di scetticismo e pensiero critico, queste linee guide sono specificate in modo molto blando, e non sono radicate matematicamente in una teoria normativa ben fondata. Sono invece una specie di pesca a sorpresa di regole pratiche vaghe ma generalmente utili. Forniscono un eccellente introduzione al pensiero razionale, ma sono solo un inizio. C’è stata, per quarant’anni, una scienza cognitiva “mainstream” della razionalità, con modelli dettagliati su come il nostro pensiero si sbaglia e teorie matematiche ben giustificate su cosa significhi per un processo di pensiero l’essere “sbagliato.” Sono queste le cose che potremmo chiamare scienza e matematica della razionalità tecnica. Richiedono più sforzo, per la pratica e l’apprendimento, dello scetticismo di primo livello, ma è potente. Possono migliorare la vostra vita e aiutarvi a pensare più chiaramente ai problemi più difficili del mondo.
Troverete la scienza cognitiva della razionalità descritta in ogni manuale universitario su come pensare e prendere decisioni. Per esempio:
- Baron, Thinking and Deciding
- Hastie and Dawes, Rational Choice in an Uncertain World
- Bazerman and Moore, Judgment in Managerial Decision Making
- Plous, The Psychology of Judgment and Decision Making
- Gilboa, Making Better Decisions
Ne troverete tracce in recenti libri introduttivi sull’irrazionalità umana. Per esempio:
- Ariely, Predictably Irrational
- Kahneman, Thinking, Fast and Slow
- Thaler and Sunstein, Nudge
- Tavris and Aronson, Mistakes Were Made (But Not by Me)
E naturalmente, ne troverete traccia nelle pubblicazioni accademiche. Ecco alcuni link ai risultati di GoogleScholar per alcuni dei termini più comuni del settore:
- “euristica e bias”
- “debiasing”
- “euristica dell’affetto”
- “bias di conferma”
- “fallacia della frequenza di base”
- “effetti di framing”
- “bias della disponibilità”
- “fallacia della congiunzione”
Allora, qual è la scienza cognitiva principale della razionalità—o, come la chiamerò io, razionalità tecnica?
Razionalità Tecnica
La razionalità tecnica è composta di due parti: normativa e descrittiva.
La parte normativa descrive le leggi del pensiero e dell’azione—logica, teoria della probabilità e delle decisioni. La logica e la teoria della probabilità descrivono come dovreste ragionare se volete massimizzare le vostre possibilità di acquisire convinzioni fondate. La teoria delle decisioni descrive come dovreste agire se volete massimizzare la possibilità di ottenere quello che volete. Naturalmente sono leggi fisiche, non normative. Si possono violare, volendo, e spesso la gente lo fa. Ma se violi le leggi della logica o della teoria della probabilità, diminuisci le tue possibilità di pervenire a convinzioni vere; se violi le leggi della teoria delle decisioni riduci le possibilità di conseguire i vostri scopi.
La parte descrittiva non descrive come dovremmo ragionare ed agire, ma come effettivamente, di norma, ragioniamo ed agiamo. Il programma descrittivo include la ricerca su come gli umani pensano e decidono. Include inoltre un catalogo di modi comuni in cui violiamo le leggi del pensiero e dell’azione secondo logica, teoria delle probabilità e teoria delle decisioni. Un bias cognitivo è un modo particolare di violare la logica, la teoria delle probabilità o la teoria delle decisioni. È questo che definisce un “bias” (vedi, p.e, Thinking and Deciding o Rationality and the Reflective Mind, ciascuno dei quali ha una tabella di bias comuni che illustra quale parte della logica, della teoria delle probabilità o delle decisioni ciascuno di essi violano).
Gli scienziati cognitivi distinguono inoltre due domini della razionalità: epistemica e strumentale.
La razionalità epistemica ha a che fare con il formarsi convinzioni vere, o l’avere in testa un’accurata mappa del territorio là fuori nel mondo. La razionalità epistemica è governata dalle leggi della logica e della teoria della probabilità.
La razionalità strumentale ha a che fare con l’ottenere i vostri obiettivi, o massimizzare le possibilità di ottenere quel che volete. O, più formalmente, massimizzare la tua “utilità attesa.” È nota anche come “vincita.” La razionalità strumentale è governata dalle leggi della teoria delle decisioni.
In un certo senso, la razionalità strumentale ha la priorità, perché lo scopo di formarsi convinzioni vere è quello di aiutarci a raggiungere i nostri scopi, e a volte spendere troppo tempo sulla razionalità epistemica non è strumentalmente razionale. Per esempio, conosco alcune persone che sarebbero più disposte a raggiungere i loro obiettivi se spendessero meno tempo a studiare la razionalità e più tempo a, diciamo, sviluppare le loro abilità sociali.
Nondimeno, può essere utile parlare della razionalità epistemica e strumentale separatamente. Vi basti sapere che, quando parlo della razionalità epistemica, sto parlando di seguire le leggi della logica e della teoria della probabilità, e che quando parlo della razionalità strumentale, invece, parlo del seguire le leggi della teoria delle decisioni.
E da ora in poi, col termine “razionalità,” intendo “razionalità tecnica”.
Prima che approfondisca la razionalità, tuttavia, voglio sincerarmi che tutti si sia d’accordo su cosa non è la razionalità. Voglio spiegare perché Spock non è razionale.