Pourquoi Spock n’est pas rationnel
M. Spock, de Star Treck, n’est pas l’exemple de logique et de rationalité que l’on pourrait croire. Au contraire, il est un « homme de paille » de rationalité utilisé pour montrer (incorrectement) que l’émotion humaine et l’irrationalité sont meilleures que la logique.
Voici une scène typique :
McCoy : Eh bien, M. Spock, [les aliens] n’ont pas été effrayés bien longtemps, n’est-ce pas ?
Spock : Une réaction très illogique. Quand nous avons révélé nos armes supérieures, ils auraient dû s’enfuir.
McCoy : Vous voulez dire qu’ils auraient dû nous respecter ?
Spock : Bien sûr !
McCoy : M. Spock, le respect est un processus rationnel. N’avez-vous jamais pensé qu’ils puissent réagir émotionellement, avec colère ?
Spock : Docteur, je ne suis pas responsable de leur imprévisibilité.
McCoy : Ils étaient parfaitement prévisibles, pour quiconque a des émotions ! Vous devriez l’admettre, M. Spock : votre précieuse logique les a amenés sur nous !
Evidemment, il n’y a rien de logique à s’attendre à ce que des êtres non-logiques agissent logiquement. Spock avait beaucoup d’éléments indiquant que ces aliens étaient émotifs, donc s’attendre à ce qu’ils agissent rationnellement était purement irrationnel !
J’ai volé cet exemple dans la présentation de Julia Galef « The Straw Vulcan« . Son second exemple de « rationalité d’homme de paille », ou « Rationalité hollywoodienne » est l’idée que nous ne devrions pas prendre de décision tant que nous n’avons pas toutes les informations nécessaires. Celui-ci apparait aussi dans Star Trek. Des amibes géantes de l’espace sont apparues non loin de l’Enterprise, et Kirk demande à Spock son analyse. Spock répond : « Je n’ai aucune analyse à cause d’un manque d’information… Les ordinateurs ne contiennent rien sur ce phénomène. C’est au-delà de notre expérience, et les nouvelles informations ne sont pas encore significatives. »
Parfois il est rationnel de chercher plus d’information avant d’agir, mais parfois vous devez agir simplement sur ce que vous pensez savoir. Vous devez peser le pour et le contre entre le coût d’obtenir plus d’information et la valeur de cette information. Réfléchissez à cet autre exemple de Gerd Gigerenzer, à propos d’un homme qui se demande qui épouser :
Il devrait regarder les probabilités des multiples conséquences d’épouser chacune d’entre elles — si oui ou non la femme lui parlerait toujours après qu’ils soient mariés, si elle s’occuperait de leurs enfants, ou quoi que ce soit qu’il considère important — et l’utilité de chacune de ces conséquences… Après de nombreuses années de recherche il découvrirait probablement que son choix final aurait déjà épousé quelqu’un d’autre qui n’aurait pas fait ces calculs, et serait juste tombé amoureux d’elle.
Une telle attitude est irrationnelle, c’est un échec à faire le bon calcul de valeur de l’information.
Le troisième exemple de Julia sur la Rationalité Hollywood est le principe erroné que « être rationnel signifie ne jamais avoir recours à l’intuition ». Par exemple, dans un épisode de Star Trek, Kirk et Spock jouent aux échecs. Quand Kirk met Spock échec et mat, Spock répond : « Votre approche illogique des échecs a parfois ses avantages, Capitaine. »
Mais quelque chose qui permet de gagner aux échecs ne peut pas être irrationnel (dans la perspective de gagner aux échecs). Si une méthode permet de gagner aux échecs, c’est la méthode qu’une personne rationnelle utiliserait. Si l’intuition vous donne de meilleurs résultats qu’un lent raisonnement délibéré, alors rationnellement vous devriez utiliser l’intuition. Et parfois, c’est le cas, par exemple si vous avez développé une bonne intuition des échecs sur des milliers de parties et que vous jouez une partie d’échecs rapides qui vous empêche de réfléchir aux implications de tous les coups possibles par un raisonnement délibéré.
Le quatrième principe de Julia sur la Rationalité Hollywood est : « être rationnel signifie n’avoir aucune émotion ».
A l’évidence, les émotions ruinent souvent nos tentatives de penser et d’agir rationnellement. Quand nous sommes anxieux, nous surestimons les risques. Quand nous nous sentons vulnérables, nous avons plus de chances de croire à des superstitions et des théories de conspiration. Mais ça ne veut pas dire qu’une personne rationnelle devrait essayer de détruire toutes ses émotions. Les émotions sont ce qui crée beaucoup de nos objectifs, et elles peuvent aussi parfois nous aider à accomplir nos objectifs. Si vous voulez aller courir et brûler un peu de gras, et si vous savez qu’écouter de la musique énergisante vous met dans un état émotionnel d’excitation qui augmente vos chances d’aller courir, alors la chose rationnelle à faire est d’écouter de la musique énergisante.
La rationalité appliquée correctement est la « réussite systématique« . La rationalité épistémique concerne le fait d’avoir les croyances ayant le plus de chances d’être vraies, et la rationalité instrumentale concerne le fait de prendre des décisions qui maximisent vos chances d’obtenir le plus possible ce que vous souhaitez. Donc, ainsi que le dit Julia :
Si vous pensez que vous agissez rationnellement, mais que vous obtenez toujours la mauvaise réponse, et que vous finissez toujours dans un état pire que vous ne devriez, alors la conclusion que vous devez en tirer n’est pas que la rationalité est mauvaise. C’est que « vous êtes mauvais en rationalité ».
Je reviendrai bientôt au sujet de la Singularité, mais je veux passer encore deux articles sur la rationalité. Il y a les Lois de la Pensée, et nous devons nous mettre d’accord sur ce qu’elles sont avant de commencer à discuter de sujets complexes tels que l’IA. Sinon, nous allons bloquer sur des désaccords factuels, et découvrir par la suite que nous sommes vraiment au point mort à cause d’un désaccord sur la bonne méthode pour savoir quels faits sont corrects.