La Conception de l’Utopie

J’ai déjà dit comment les choses peuvent très très mal se passer avec l’IA. Avec aucun Dieu pour nous sauver, il nous reste la physique –et rien dans les lois de la physique ne dit que l’humanité ne va pas échouer misérablement et mourir. Mais rien non plus dans les lois de la physique ne nous empêche de créer un futur meilleurs que tout ce que l’on peut actuellement imaginer –une vraie utopie.

Imaginez nos ancêtres des cavernes regardant des oiseaux planer au dessus d’eux. Ils n’ont pas pu imaginer que des milliers d’années plus tard, des millions d’humains voleraient chaque jour autour du monde dans des jets. Nos ancêtres ont aussi regardé les étoiles et les planètes –et ils n’ont jamais rêvé qu’on allait marcher un jour sur la Lune. Il y avait un temps où l’humain moyen ne pouvait pas espérer vivre longtemps après trente ans.

Il est facile de sous-estimer ce que le futur va apporter. Quand nous pensons à un univers après une explosion d’intelligence, il est important de reconnaître que les bénéfices d’une explosion d’intelligence réussie pourraient être bien plus grands que ce que l’on peut imaginer actuellement, parce que notre imagination est limitée.

Une autre chose que nous devons comprendre est que ces changements n’ont pas nécessairement besoin de milliers d’années pour se produire. Beaucoup de technologies avec lesquelles l’utopie pourrait être crée sont en train d’être développées maintenant, et les technologies futures seront développées bien plus rapidement si des simulations de cerveaux entiers et des IA super-intelligentes les développent. L’économiste Robin Hanson nous rappelle:

Bien qu’une telle croissance puisse sembler loufoque, considérez que dans l’ère de la chasse et de la cueillette, l’économie a doublé 9 fois; que dans l’ère de l’agriculture, elle a doublé 7 fois; et que dans l’ère actuelle de l’industrie, elle a jusque là doublé 10 fois. Si, pour une raison encore inconnue, le nombre de doublement est similaire pour ces trois ères, alors il semble que nous soyons déjà en retard pour une autre transition.

Ce que je vais dire peut sembler être de la science-fiction, mais il n’y a aucune raison le rejeter. Nous avons, à de nombreuses reprises, transformé la science-fiction en faits scientifiques. Et ça ne va pas s’arrêter maintenant.

La Vraie Utopie

« Utopie. » C’est un concept facile à comprendre une fois que vous vous rendez compte que c’est ce que nous avons toujours voulu avoir. Nous transformons le monde autour de nous pour qu’il corresponde à nos envies et à nos désires comme aucune créature avant nous. Mais, avec des machines super-intelligentes à nos cotés, nous pourrions crée l’utopie avec bien plus de succès que jamais auparavant. Considérez ce qu’un voyageur temporel d’un univers où une explosion d’intelligence a eu lieu pourrait nous dire:

Ma conscience est large et profonde, ma vie, longue. J’ai lu tous vos auteurs –et bien plus. J’ai connu la vie sous diverses formes et sous divers angles: la jungle et le désert, le caniveau et le palace, la lande et le ruisseau de banlieue et la ruelle d’une ville. J’ai navigué dans les hautes mers des cultures, et j’y ai nagé, et j’y ai plongé. Que de merveilleux édifices se construisent en un millions d’années par les efforts des homoncules, comme les humbles polypes s’accumulent pour donner, avec le temps, un récif. Et j’ai vu des biographies comme des bancs de poissons, où chacun est l’histoire d’une vie, scintiller dans les profondeurs de l’océan.

L’utopie n’est pas un monde où les humains ont une source sans fin de plaisirs. Les citoyens de l’utopie ont la technologie pour simuler et vivre dans des milliers d’environnements et de mondes. Il n’y a pas de pénuries de nouvelles expériences qui ont du sens.

Les citoyens de l’utopie ne sont pas des drones sans cervelle qui ne se servent jamais de leur cerveau pour résoudre des problèmes quelconques. De la même façon que rendre un jeu vidéo plus facile ne le rend pas toujours plus amusant, les citoyens de l’utopie font encore face à des challenges et ressentent la joie de les surmonter.

L’utopie n’est pas vide de sens, prédictible, ou ennuyeuse. Les gens qui vivent dans l’utopie deviennent plus forts, et non pas plus faibles, avec le temps. Leurs vies deviennent plus excitantes et magnifiques, leurs émotions plus variées et plus excitantes. Ils deviennent plus accomplis avec le temps, et non pas le contraire.

L’utopie est un monde où notre vécu est limité seulement par notre désire et notre imagination.

Pas de Douleur

Commençons avec quelque chose de simple: Imaginez la vie sans douleur. La douleur n’est pas une loi de la physique. C’est une conséquence de (1) la biologie humaine actuelle et (2) le fait que nous ignorons comment la modifier ou la transcender. La douleur est juste un mécanisme que l’évolution a trouvé pour nous informer que « vous devez évitez cela » ou « vous devriez vous occuper de cette blessure. » Mais nous pourrions avoir des systèmes qui nous donnent cette information sans nous faire ressentir aussi de la douleur. C’est comme cela que les IA font de nos jours. Dans le futur, nous pourrons maîtriser la douleur, dans les corps humains et dans d’autres substrats.

Et ce n’est rien comparé au meilleurs de ce qui peut arriver, si nous faisons bien l’IA.

Ni Mort ni Vieillissement

Nous n’éliminerions pas seulement la douleur; nous pourrions nous débarrasser aussi de la mort et du vieillissement. La mort et le vieillissement ne sont pas non plus écrits dans les lois de la physique. Elles aussi sont simplement les conséquences de la biologie humaine actuelle et du fait que nous ignorons comment la modifier ou la transcender. Turritopsis nutricula, la « méduse immortelle », est biologiquement immortelle car elle n’a pas évolué comme les humains pour mourir au bout de quelques décennies. Et si nos esprits sont téléchargés vers des ordinateurs, nous seront capable de faire des copies de sauvegarde et atteindre l’immortalité digitale.

Auriez-vous même envie de vivre indéfiniment? Je pense que Patrick Hayden a bien compris la chose quand il a dit, « Personnellement, j’ai entendu parler pendant toute ma vie des problèmes philosophiques sérieux posés par l’extension de la durée de vie, et mon attitude a toujours été que j’ai envie d’être aux prises avec ces problèmes pendant autant de siècles que nécessaire. »

Éliminer la mort et le vieillissement, ce n’est pas simplement prendre ses désirs pour des réalités ou de la science-fiction. Plus nous comprenons les mécanismes du vieillissement et de la mort, plus nous pourrons les contrôler.

L’Abondance Radicale

En 1959, Richard Feynman a donné une conférence appelée « Beaucoup de place en bas. » Dans cette conférence, Feynman a expliqué que rien dans les lois de la physique ne nous empêche de construire des objets atomes par atomes. Il a considéré les implications que cela aurait pour le stockage de l’information, la synthèse chimique, et l’industrie manufacturière. Des décennies après, le domaine de la nanotechnologie a émergé, inspiré par la conférence de Feynman. Aujourd’hui nous sommes capable de construire certaines choses atomes par atomes, comme l’avait prédit Feynman, et notre capacité a faire cela grandit chaque année.

La nanotechnologie moléculaire (MNT) a été envisagée peu de temps après. La MNT est la technologie que nous allons utiliser pour construire le futur. Avec des nano-usines ou des nano-bots se répliquant eux-mêmes intelligemment dirigés et un stock de matériaux, nous serons capable d’ériger rapidement des structures arbitraires. Si nous pouvons réarranger des atomes dans n’importe quelles configurations que nous souhaitons (tant qu’elles obéissent aux lois de la physique), nous pouvons fabriquer une banane sans avoir à la faire pousser. Nous pouvons fabriquer une voiture sans avoir besoin de grandes usines pour l’assembler. Si c’est fait d’atomes, vous pouvez probablement le construire avec la MNT et une intelligence suffisamment avancée.

Pourquoi cela est-il important? La pauvreté existe, dans une large mesure, à cause d’une mauvaise allocation de ressources. Si la nourriture et l’habitat étaient aussi abondants que l’air par exemple, alors personne ne serait sans domicile ou affamé, et la MNT rendrait ridicule l’achat d’une voiture pour des dizaines de milliers de dollars. Des choses que nous considérons comme des biens de luxes aujourd’hui seraient plus ou moins accessibles à chacun. Quand vous êtes capables de manipuler la matière à l’échelle atomique, faire un bloc de diamant est aussi facile que faire un bloc de charbon.

De l’Aventure sans Fin

Les implications d’une MNT sûre et efficace iraient au-delà de l’élimination de la pauvreté et rendraient nos vies plus faciles. La MNT ouvre des possibilité pour créer des ordinateurs bien plus puissants parce que les structures de stockage et de traitement de données pourraient être conçues aussi parfaitement et efficacement qu’il est physiquement possible.

Que pourrions nous faire avec de telles ressources computationnelles? Pensez à Pandora, du film Avatar de James Cameron. Pandora, un monde fictif, est magnifique, à couper le souffle, et très différent du notre. Pourtant, malgré tous ses éléments fantastiques, l’expérience de ce monde chez les gens avait l’air réelle. Un ensemble d’images qui bougent sur un écran a crée une expérience si profonde, que les gens sont sortis du théâtre déprimés à l’idée qu’ils ne pourraient pas vivre sur Pandora.

Imaginez créer une simulation sur ordinateur de Pandora et être capable d’entrer cette simulation. Vous pourriez vivre comme un habitant de Pandora pendant une vie entière. Vous pourriez voir, entendre, goutter, et sentir cet univers aussi intensément qu’une personne dans le monde réel. Nous pourrions simuler des milliers d’univers différents et passer du temps dans chacun d’eux.

La Conception de l’Utopie

Ces exemples suggèrent un strict minimum pour envisager, dans l’esprit de l’ingénierie exploratoire, à quel point une explosion d’intelligence positive serait bénéfique. Le résultat réel d’une explosion d’intelligence positive sera probablement complètement différent, par exemple bien moins anthropomorphique.

Encore une fois: nos limitations actuelles ne sont pas dues à la physique, mais aux limites de notre intelligence et des ressources qui peuvent être utilisées à notre niveau actuel d’intelligence. Avec des machines qui s’améliorent elles-mêmes agissant pour nous, nos limites biologiques peuvent être transcendées.

Les humains ont toujours voulu plus que ce que l’univers nous offre par défaut. Nous voulons ressentir des sons qui n’existent pas dans la nature, donc nous faisons de la musique. Nous voulons goutter des choses plus délicieuses que ce qui pousse tout seul, donc nous cuisinons. Nous voulons explorer des mondes au-delà de celui où nous avons évolué, donc nous construisons des bateaux, des voitures, des avions et des vaisseaux spatiaux pour nous transporter vers des endroits lointains. Nous inventons la littérature, les films et l’art pour vivre le monde d’une autre perspective.

Nous créons, et nous avons toujours crée notre propre utopie. Avec la super-intelligence, nous aurons l’opportunité de le faire plus vite, mieux, et plus complètement que jamais auparavant.

Mais seulement si nous essayons. Seulement si nous décidons que l’utopie demain est plus importante que de petites améliorations à nos vies déjà riches aujourd’hui.

Nous nous trouvons à un moment crucial de l’histoire de la Terre. Tel un rocher perché sur le sommet d’une montagne, nous sommes dans une situation instable. Nous ne pouvons demeurer où nous sommes: L’IA arrive si on suppose que le progrès scientifique continue. D’ici peu, nous allons tomber d’un coté de la montagne ou de l’autre vers un endroit stable.

Dans quelle direction allez-vous pousser le rocher?