La retraite de la superstition
Il était une fois, un monde entièrement magique.
Pourquoi l’éclair éclatait-il et la terre tremblait-elle ? Les dieux étaient en colère.
Pourquoi certains devenaient-ils fous ? Des démons les possédaient.
Pourquoi certains prospéraient-ils ? Ils avaient fait le bien dans une vie antérieure ou bien les dieux les favorisaient.
Mais d’autres étaient trop curieux pour prendre la « magie » comme une réponse. En dépit d’erreurs et d’opposition, ils ont chacun joué un petit rôle pour délier l’arc-en-ciel, et beaucoup ont trouvé que la vérité qui s’y cachait était encore plus belle que le mystère.
Des millions ont continué à insister sur le surnaturel. Nos cerveaux sont conçus pour la superstition, après tout. La religion est naturelle ; la science et la théorie des probabilités ne le sont pas. (Détection hyperactive d’organisation, biais cognitifs, et toutes ces choses.)
Mais les astronomes prédisaient des éclipses que les sorciers n’anticipaient pas, et les médecins soignaient ceux pour qui les prêtres ne pouvaient rien. Après bien des résistances, les surnaturalistes ont laissé les mouvements des étoiles et des planètes à la physique. Par la suite, ils ont laissé les maladies aux germes et aux virus. Ils ont laissé l’élan vital à la biologie et à la biochimie. Ils ont laissé les maladies mentales à la neuropsychologie. Les explications magiques ont diminué face aux lumières de la science : la superstition était en retraite.
Tim Minchin l’a fort bien dit :
Tous les mystères ayant été résolus se sont révélés comme n’étant pas de la magie.
C’est dans les sombres recoins de l’ignorance humaine — origines cosmiques, conscience, intelligence — que le raisonnement magique prend racine. William James voyait ça avec mépris :
Quand quelqu’un se tourne vers l’édifice magistral des sciences physiques, et voit comment il a été élevé ; quels milliers de vies d’hommes désintéressés gisent dans ses fondations ; quelle patience et quel ajournement, quelle abnégation de préférences, quelle soumission aux lois glaciales des faits sont forgés dans ses propres pierres et dans son mortier… et combien semble stupide et méprisable chaque petit sentimentaliste qui vient souffler ses ronds de fumée, et prétendre décider les choses à partir de ses rêves intimes ! »
Même les scientifiques et les réductionnistes peuvent être surpris à utiliser le raisonnement magique, car nous avons tous des pensées cachées ; le cerveau humain n’étend pas automatiquement les mises à jour de ses croyances à travers son réseau entier de croyances. Ainsi, vous pouvez surprendre un neuroscientifique dire que la conscience s’avérera ne pas être composée d’atomes. Ainsi, vous pouvez surprendre des psychologues dire que les humains pourraient bien avoir un libre arbitre contra-causal, contrairement à tous les autres animaux et en contradiction avec les lois de la physique.
Ainsi, vous pouvez surprendre des philosophes dire que des machines ne peuvent pas penser, des informaticiens agir comme si l’intelligence humaine représentait la limite haute de l’intelligence, et des chercheurs en IA penser que les machines seront forcément de plus en plus bienveillantes à mesure qu’elles gagneront en intelligence.
Tournons-nous vers l’une de ces idées — celle que l’intelligence humaine « générale » est spéciale, et ne peut pas être dupliquée par une machine — et observons la retraite de la superstition.
Ray Kurzweil a inclus la planche suivante dans son livre de 1999 :
Dans la planche de Ray, un homme représentant la race humaine liste frénétiquement les tâches que seule l’intelligence humaine peut accomplir, mais elles tombent par terre presque aussitôt qu’il les scotche au mur. Les machines peuvent désormais composer de la musique, jouer aux échecs et à Jeopardy!, comprendre un discours continu, sélectionner des actions en bourse, guider des missiles, reconnaitre des visages, diagnostiquer des problèmes de santé, et bien plus encore. Quand Ray a publié la planche, les machines ne pouvaient pas conduire de voiture, mais maintenant elles peuvent le faire.
C’est vrai qu’il y a beaucoup de choses que les machines ne peuvent pas encore faire, mais ceux qui invoquent ces faits pour défendre le caractère spécial et hors de porté de l’intelligence humaine me rappellent ceux qui pointent les mystères de la conscience ou des origines cosmiques pour défendre l’existence de Dieu. C’est peine perdue.
Certes, écrire des nouvelles et faire de la recherche sont des choses que seuls les humains semblent pouvoir faire, car en 4 milliards d’années de vie sur Terre, seuls les humains l’ont jamais fait. Mais n’oubliez pas : pendant 99,99995% de cette histoire, aucune espèce n’avait écrit de nouvelle ou fait de la recherche. Avec du recul, il semblera que le cerveau humain était la première d’une grande série d’architectures de l’esprit pouvant écrire des nouvelles et faire de la recherche, et seulement par un laps de temps insignifiant de quelques milliers d’années.
En réalité, la tâche de « faire de la recherche » est déjà en train d’être relayée aux machines. En 2009, un robot nommé Adam a été programmé avec notre connaissance scientifique de la levure, et a ensuite posé ses propres hypothèses, les a testées, a évalué les résultats, et a fait des découvertes scientifiques originales. La même équipe travaille désormais sur une IA scientifique encore plus puissante nommée Eve.
L’IA arrive. Elle arrivera forcément si la science continue, car l’intelligence (l’optimisation efficiente inter-domaines) fonctionne par le traitement d’information, et la viande humaine n’est pas la seule plateforme de traitement de l’information. C’est pourquoi nous pouvons construire des machines qui jouent aux échecs, composent de la musique, et font de la recherche, et c’est pourquoi nous pouvons aussi créer une intelligence informatique « générale » de niveau humain.