Du scepticisme à la rationalité technique
Avant que j’aborde la super-intelligence des machines, je dois de parler de rationalité. Ma compréhension de la rationalité dirige la façon dont j’aborde toutce que je perçois, et c’est la principale raison pour laquelle je prends les problèmes de super-intelligence au sérieux.Si je ne pouvais dire qu’une chose aux communautés « athées » et « sceptiques », ce serait ça :
Le scepticisme et l’esprit critique nous apprennent d’importantes leçons : les affirmations extra-ordinaires nécessitent des preuves extra-ordinaires. Corrélation n’implique pas causalité. L’autorité ne doit pas être prise trop sérieusement. Toute affirmation devrait être spécifique et réfutable. Se rappeler d’utiliser le Rasoir d’Occam. Attention aux raisonnements fallacieux. Garder l’esprit ouvert, sans être crédule. Etc.
Mais ceci n’est que le commencement. Dans les écrits sur le scepticisme et l’esprit critique, ces lignes de conduite ne sont que vaguement spécifiées, et elles ne sont pas mathématiquement ancrées dans une théorie normative justifiée. Elles sont un pot-pourri de règles de base assez vagues mais souvent utiles. Elles sont une bonne porte d’entrée vers la pensée rationnelle, mais elles n’en sont qu’un commencement. Pendant 40 ans, il y a eu un courant dominant dans les sciences cognitives de la rationalité, avec des modèles détaillés sur la façon dont notre esprit se trompe et avec des théories mathématiques précises sur ce que cela signifie pour un processus de pensée d’être « erroné ». C’est ce que nous pourrions appeler la science et les mathématiques de la Rationalité Technique. Cela demande plus d’effort à apprendre et à pratiquer que le scepticisme de base, mais c’est puissant. Cela peut améliorer votre vie et vous aider à penser plus clairement sur les problèmes mondiaux les plus difficiles.
Donc, quel est ce courant dominant des sciences cognitives de la rationalité ? Vous le trouverez décrit dans tous les manuels universitaires sur la pensée et la prise de décision. Par exemple :
- Baron, Thinking and Deciding
- Hastie & Dawes, Rational Choice in an Uncertain World
- Bazerman & Moore, Judgment in Managerial Decision Making
- Plous, The Psychology of Judgment and Decision Making
- Gilboa, Making Better Decisions
Vous en trouverez aussi des éléments dans les récents livres populaires sur l’irrationalité humaine, par exemple :
- Ariely, Predictably Irrational
- Kahneman, Thinking, Fast and Slow
- Thaler & Sunstein, Nudge
- Tavris & Aronson, Mistakes Were Made: But Not By Me
Et vous le trouverez aussi, bien sûr, dans les revues académiques. Voici des liens vers les résultats Google Scholar pour quelques termes parmi les plus communs du domaine :
- « heuristiques et biais«
- « débiaiser«
- « heuristique de l’affect«
- « biais de confirmation«
- « négligence de la taille de l’échantillon«
- « effet de cadrage«
- « heuristique de disponibilité«
- « biais de représentativité«
La Rationalité Technique
Cette rationalité technique contient deux parties, normative et descriptive.
La partie normative décrit les lois de la pensée et de l’action. En gros : logique, théorie des probabilités, et théorie de la décision. La logique et la théorie de la décision décrivent comment vous devez raisonner si vous voulez maximiser vos chances d’acquérir de vraies croyances. La théorie de la décision décrit comment vous devez agir si vous voulez maximiser vos chances d’acquérir ce que vous voulez. Bien sûr, ce ne sont pas des lois physiques mais des lois normatives. Vous pouvez enfreindre ces lois si vous le décidez, et les gens le font souvent. Mais si vous enfreignez les lois de la logique ou de la théorie des probabilités, vous réduisez vos chances d’arriver à de vraies croyances, et si vous enfreignez les lois de la décision, vous réduisez vos chances d’atteindre vos objectifs.
La partie descriptive décrit non pas comment nous devrions raisonner et agir, mais plutôt comment nous raisonnons et agissons habituellement. Le programme descriptif inclut les recherches sur la façon dont nous pensons et décidons. Il inclut aussi un catalogue des façons courantes que nous avons d’enfreindre les lois de la pensée et de l’action par manque d’utilisation de la logique, de la théorie des probabilités, et de la théorie de la décision. Un biais cognitif est une façon particulière d’enfreindre la logique, ou la théorie des probabilités, ou encore la théorie de la décision. C’est ainsi que « biais » est défini (voir, par exemple, Thinking and Deciding ou Rationality and the Reflective Mind, qui incluent chacun un tableau des biais communs et quelle partie de la logique, de la théorie des probabilités, ou de la théorie de la décision est enfreinte pour chaque biais).
Les scientifiques en cognition distinguent aussi deux domaines de rationalité : épistémique et instrumentale.
La rationalité épistémique concerne la formation de vraies croyances, ou : avoir dans votre tête une carte précise du territoire qu’est le monde. (La rationalité épistémique est gouvernée par les lois de la logique et de la théorie des probabilités.)
La rationalité instrumentale concerne l’atteinte de vos objectifs, ou : maximiser vos chances d’obtenir ce que vous désirez. Ou, plus formellement : maximiser votre « espérance d’utilité ». Aussi connue sous le nom de « gagner ». (La rationalité instrumentale est gouvernée par les lois de la théorie de la décision.)
Dans un sens, la rationalité instrumentale prend la priorité, car l’intérêt de former des vraies croyances est de vous aider à atteindre vos objectifs, et parfois, passer trop de temps sur la rationalité épistémique n’est pas rationnel, instrumentalement parlant. Par exemple, je connais des personnes qui auraient plus de chances d’atteindre leurs objectifs si elles passaient moins de temps à étudier la rationalité, et plus de temps, disons, à développer leurs compétences sociales.
Malgré tout, il peut être utile de parler de rationalité épistémique et instrumentale séparément. Sachez simplement que quand je parle de rationalité épistémique, je parle de suivre les lois de la logique et de la théorie des probabilités, et que quand je parle de rationalité instrumentale, je parle de suivre les lois de la théorie de la décision.
Et à partir d’ici, quand je parle de « rationalité », il s’agit de Rationalité Technique.
Néanmoins, avant que j’en dise plus sur la rationalité, je veux être certain que tout soit clair sur ce que la rationalité n’est pas. Je veux expliquer pourquoi Spock n’est pas rationnel.