J’ai d\u00e9j\u00e0 dit comment les choses peuvent tr\u00e8s tr\u00e8s mal se passer avec l’IA. Avec aucun Dieu pour nous sauver, il nous reste la physique –et rien dans les lois de la physique ne dit que l’humanit\u00e9 ne va pas \u00e9chouer mis\u00e9rablement et mourir. Mais rien non plus dans les lois de la physique ne nous emp\u00eache de cr\u00e9er un futur meilleurs que tout ce que l’on peut actuellement imaginer –une vraie utopie.<\/p>\n
Imaginez nos anc\u00eatres des cavernes regardant des oiseaux planer au dessus d’eux. Ils n’ont pas pu imaginer que des milliers d’ann\u00e9es plus tard, des millions d’humains voleraient chaque jour autour du monde dans des jets. Nos anc\u00eatres ont aussi regard\u00e9 les \u00e9toiles et les plan\u00e8tes –et ils n’ont jamais r\u00eav\u00e9 qu’on allait marcher un jour sur la Lune. Il y avait un temps o\u00f9 l’humain moyen ne pouvait pas esp\u00e9rer vivre longtemps apr\u00e8s trente ans.<\/p>\n
Il est facile de sous-estimer ce que le futur va apporter. Quand nous pensons \u00e0 un univers apr\u00e8s une explosion d’intelligence, il est important de reconna\u00eetre que les b\u00e9n\u00e9fices d’une explosion d’intelligence r\u00e9ussie pourraient \u00eatre bien plus grands que ce que l’on peut imaginer actuellement, parce que notre imagination est limit\u00e9e.<\/p>\n
Une autre chose que nous devons comprendre est que ces changements n’ont pas n\u00e9cessairement besoin de milliers d’ann\u00e9es pour se produire. Beaucoup de technologies avec lesquelles l’utopie pourrait \u00eatre cr\u00e9e sont en train d’\u00eatre d\u00e9velopp\u00e9es maintenant, et les technologies futures seront d\u00e9velopp\u00e9es bien plus rapidement si des simulations de cerveaux entiers et des IA super-intelligentes les d\u00e9veloppent. L’\u00e9conomiste Robin Hanson nous rappelle:<\/p>\n
Bien qu’une telle croissance puisse sembler loufoque, consid\u00e9rez que dans l’\u00e8re de la chasse et de la cueillette, l’\u00e9conomie a doubl\u00e9 9 fois; que dans l’\u00e8re de l’agriculture, elle a doubl\u00e9 7 fois; et que dans l’\u00e8re actuelle de l’industrie, elle a jusque l\u00e0 doubl\u00e9 10 fois. Si, pour une raison encore inconnue, le nombre de doublement est similaire pour ces trois \u00e8res, alors il semble que nous soyons d\u00e9j\u00e0 en retard pour une autre transition.<\/p>\n
Ce que je vais dire peut sembler \u00eatre de la science-fiction, mais il n’y a aucune raison le rejeter. Nous avons, \u00e0 de nombreuses reprises, transform\u00e9 la science-fiction en faits scientifiques. Et \u00e7a ne va pas s’arr\u00eater maintenant.<\/p>\n
La Vraie Utopie<\/p>\n
\u00ab\u00a0Utopie.\u00a0\u00bb C’est un concept facile \u00e0 comprendre une fois que vous vous rendez compte que c’est ce que nous avons toujours voulu avoir. Nous transformons le monde autour de nous pour qu’il corresponde \u00e0 nos envies et \u00e0 nos d\u00e9sires comme aucune cr\u00e9ature avant nous. Mais, avec des machines super-intelligentes \u00e0 nos cot\u00e9s, nous pourrions cr\u00e9e l’utopie avec bien plus de succ\u00e8s que jamais auparavant. Consid\u00e9rez ce qu’un voyageur temporel d’un univers o\u00f9 une explosion d’intelligence a eu lieu pourrait nous dire:<\/p>\n
Ma conscience est large et profonde, ma vie, longue. J’ai lu tous vos auteurs –et bien plus. J’ai connu la vie sous diverses formes et sous divers angles: la jungle et le d\u00e9sert, le caniveau et le palace, la lande et le ruisseau de banlieue et la ruelle d’une ville. J’ai navigu\u00e9 dans les hautes mers des cultures, et j’y ai nag\u00e9, et j’y ai plong\u00e9. Que de merveilleux \u00e9difices se construisent en un millions d’ann\u00e9es par les efforts des homoncules, comme les humbles polypes s’accumulent pour donner, avec le temps, un r\u00e9cif. Et j’ai vu des biographies comme des bancs de poissons, o\u00f9 chacun est l’histoire d’une vie, scintiller dans les profondeurs de l’oc\u00e9an.<\/p>\n
L’utopie n’est pas un monde o\u00f9 les humains ont une source sans fin de plaisirs. Les citoyens de l’utopie ont la technologie pour simuler et vivre dans des milliers d’environnements et de mondes. Il n’y a pas de p\u00e9nuries de nouvelles exp\u00e9riences qui ont du sens.<\/p>\n
Les citoyens de l’utopie ne sont pas des drones sans cervelle qui ne se servent jamais de leur cerveau pour r\u00e9soudre des probl\u00e8mes quelconques. De la m\u00eame fa\u00e7on que rendre un jeu vid\u00e9o plus facile ne le rend pas toujours plus amusant, les citoyens de l’utopie font encore face \u00e0 des challenges et ressentent la joie de les surmonter.<\/p>\n
L’utopie n’est pas vide de sens, pr\u00e9dictible, ou ennuyeuse. Les gens qui vivent dans l’utopie deviennent plus forts, et non pas plus faibles, avec le temps. Leurs vies deviennent plus excitantes et magnifiques, leurs \u00e9motions plus vari\u00e9es et plus excitantes. Ils deviennent plus accomplis avec le temps, et non pas le contraire.<\/p>\n
L’utopie est un monde o\u00f9 notre v\u00e9cu est limit\u00e9 seulement par notre d\u00e9sire et notre imagination.<\/p>\n
Pas de Douleur<\/p>\n
Commen\u00e7ons avec quelque chose de simple: Imaginez la vie sans douleur. La douleur n’est pas une loi de la physique. C’est une cons\u00e9quence de (1) la biologie humaine actuelle et (2) le fait que nous ignorons comment la modifier ou la transcender. La douleur est juste un m\u00e9canisme que l’\u00e9volution a trouv\u00e9 pour nous informer que \u00ab\u00a0vous devez \u00e9vitez cela\u00a0\u00bb ou \u00ab\u00a0vous devriez vous occuper de cette blessure.\u00a0\u00bb Mais nous pourrions avoir des syst\u00e8mes qui nous donnent cette information sans nous faire ressentir aussi de la douleur. C’est comme cela que les IA font de nos jours. Dans le futur, nous pourrons ma\u00eetriser la douleur, dans les corps humains et dans d’autres substrats.<\/p>\n
Et ce n’est rien compar\u00e9 au meilleurs de ce qui peut arriver, si nous faisons bien l’IA.<\/p>\n
Ni Mort ni Vieillissement<\/p>\n
Nous n’\u00e9liminerions pas seulement la douleur; nous pourrions nous d\u00e9barrasser aussi de la mort et du vieillissement. La mort et le vieillissement ne sont pas non plus \u00e9crits dans les lois de la physique. Elles aussi sont simplement les cons\u00e9quences de la biologie humaine actuelle et du fait que nous ignorons comment la modifier ou la transcender. Turritopsis nutricula, la \u00ab\u00a0m\u00e9duse immortelle\u00a0\u00bb, est biologiquement immortelle car elle n’a pas \u00e9volu\u00e9 comme les humains pour mourir au bout de quelques d\u00e9cennies. Et si nos esprits sont t\u00e9l\u00e9charg\u00e9s vers des ordinateurs, nous seront capable de faire des copies de sauvegarde et atteindre l’immortalit\u00e9 digitale.<\/p>\n
Auriez-vous m\u00eame envie de vivre ind\u00e9finiment? Je pense que Patrick Hayden a bien compris la chose quand il a dit, \u00ab\u00a0Personnellement, j’ai entendu parler pendant toute ma vie des probl\u00e8mes philosophiques s\u00e9rieux pos\u00e9s par l’extension de la dur\u00e9e de vie, et mon attitude a toujours \u00e9t\u00e9 que j’ai envie d’\u00eatre aux prises avec ces probl\u00e8mes pendant autant de si\u00e8cles que n\u00e9cessaire.\u00a0\u00bb<\/p>\n
\u00c9liminer la mort et le vieillissement, ce n’est pas simplement prendre ses d\u00e9sirs pour des r\u00e9alit\u00e9s ou de la science-fiction. Plus nous comprenons les m\u00e9canismes du vieillissement et de la mort, plus nous pourrons les contr\u00f4ler.<\/p>\n
L’Abondance Radicale<\/p>\n
En 1959, Richard Feynman a donn\u00e9 une conf\u00e9rence appel\u00e9e \u00ab\u00a0Beaucoup de place en bas.\u00a0\u00bb Dans cette conf\u00e9rence, Feynman a expliqu\u00e9 que rien dans les lois de la physique ne nous emp\u00eache de construire des objets atomes par atomes. Il a consid\u00e9r\u00e9 les implications que cela aurait pour le stockage de l’information, la synth\u00e8se chimique, et l’industrie manufacturi\u00e8re. Des d\u00e9cennies apr\u00e8s, le domaine de la nanotechnologie a \u00e9merg\u00e9, inspir\u00e9 par la conf\u00e9rence de Feynman. Aujourd’hui nous sommes capable de construire certaines choses atomes par atomes, comme l’avait pr\u00e9dit Feynman, et notre capacit\u00e9 a faire cela grandit chaque ann\u00e9e.<\/p>\n
La nanotechnologie mol\u00e9culaire (MNT) a \u00e9t\u00e9 envisag\u00e9e peu de temps apr\u00e8s. La MNT est la technologie que nous allons utiliser pour construire le futur. Avec des nano-usines ou des nano-bots se r\u00e9pliquant eux-m\u00eames intelligemment dirig\u00e9s et un stock de mat\u00e9riaux, nous serons capable d’\u00e9riger rapidement des structures arbitraires. Si nous pouvons r\u00e9arranger des atomes dans n’importe quelles configurations que nous souhaitons (tant qu’elles ob\u00e9issent aux lois de la physique), nous pouvons fabriquer une banane sans avoir \u00e0 la faire pousser. Nous pouvons fabriquer une voiture sans avoir besoin de grandes usines pour l’assembler. Si c’est fait d’atomes, vous pouvez probablement le construire avec la MNT et une intelligence suffisamment avanc\u00e9e.<\/p>\n
Pourquoi cela est-il important? La pauvret\u00e9 existe, dans une large mesure, \u00e0 cause d’une mauvaise allocation de ressources. Si la nourriture et l’habitat \u00e9taient aussi abondants que l’air par exemple, alors personne ne serait sans domicile ou affam\u00e9, et la MNT rendrait ridicule l’achat d’une voiture pour des dizaines de milliers de dollars. Des choses que nous consid\u00e9rons comme des biens de luxes aujourd’hui seraient plus ou moins accessibles \u00e0 chacun. Quand vous \u00eates capables de manipuler la mati\u00e8re \u00e0 l’\u00e9chelle atomique, faire un bloc de diamant est aussi facile que faire un bloc de charbon.<\/p>\n
De l’Aventure sans Fin<\/p>\n
Les implications d’une MNT s\u00fbre et efficace iraient au-del\u00e0 de l’\u00e9limination de la pauvret\u00e9 et rendraient nos vies plus faciles. La MNT ouvre des possibilit\u00e9 pour cr\u00e9er des ordinateurs bien plus puissants parce que les structures de stockage et de traitement de donn\u00e9es pourraient \u00eatre con\u00e7ues aussi parfaitement et efficacement qu’il est physiquement possible.<\/p>\n
Que pourrions nous faire avec de telles ressources computationnelles? Pensez \u00e0 Pandora, du film Avatar de James Cameron. Pandora, un monde fictif, est magnifique, \u00e0 couper le souffle, et tr\u00e8s diff\u00e9rent du notre. Pourtant, malgr\u00e9 tous ses \u00e9l\u00e9ments fantastiques, l’exp\u00e9rience de ce monde chez les gens avait l’air r\u00e9elle. Un ensemble d’images qui bougent sur un \u00e9cran a cr\u00e9e une exp\u00e9rience si profonde, que les gens sont sortis du th\u00e9\u00e2tre d\u00e9prim\u00e9s \u00e0 l’id\u00e9e qu’ils ne pourraient pas vivre sur Pandora.<\/p>\n
Imaginez cr\u00e9er une simulation sur ordinateur de Pandora et \u00eatre capable d’entrer cette simulation. Vous pourriez vivre comme un habitant de Pandora pendant une vie enti\u00e8re. Vous pourriez voir, entendre, goutter, et sentir cet univers aussi intens\u00e9ment qu’une personne dans le monde r\u00e9el. Nous pourrions simuler des milliers d’univers diff\u00e9rents et passer du temps dans chacun d’eux.<\/p>\n
La Conception de l’Utopie<\/p>\n
Ces exemples sugg\u00e8rent un strict minimum pour envisager, dans l’esprit de l’ing\u00e9nierie exploratoire, \u00e0 quel point une explosion d’intelligence positive serait b\u00e9n\u00e9fique. Le r\u00e9sultat r\u00e9el d’une explosion d’intelligence positive sera probablement compl\u00e8tement diff\u00e9rent, par exemple bien moins anthropomorphique.<\/p>\n
Encore une fois: nos limitations actuelles ne sont pas dues \u00e0 la physique, mais aux limites de notre intelligence et des ressources qui peuvent \u00eatre utilis\u00e9es \u00e0 notre niveau actuel d’intelligence. Avec des machines qui s’am\u00e9liorent elles-m\u00eames agissant pour nous, nos limites biologiques peuvent \u00eatre transcend\u00e9es.<\/p>\n
Les humains ont toujours voulu plus que ce que l’univers nous offre par d\u00e9faut. Nous voulons ressentir des sons qui n’existent pas dans la nature, donc nous faisons de la musique. Nous voulons goutter des choses plus d\u00e9licieuses que ce qui pousse tout seul, donc nous cuisinons. Nous voulons explorer des mondes au-del\u00e0 de celui o\u00f9 nous avons \u00e9volu\u00e9, donc nous construisons des bateaux, des voitures, des avions et des vaisseaux spatiaux pour nous transporter vers des endroits lointains. Nous inventons la litt\u00e9rature, les films et l’art pour vivre le monde d’une autre perspective.<\/p>\n
Nous cr\u00e9ons, et nous avons toujours cr\u00e9e notre propre utopie. Avec la super-intelligence, nous aurons l’opportunit\u00e9 de le faire plus vite, mieux, et plus compl\u00e8tement que jamais auparavant.<\/p>\n
Mais seulement si nous essayons. Seulement si nous d\u00e9cidons que l’utopie demain est plus importante que de petites am\u00e9liorations \u00e0 nos vies d\u00e9j\u00e0 riches aujourd’hui.<\/p>\n
Nous nous trouvons \u00e0 un moment crucial de l’histoire de la Terre. Tel un rocher perch\u00e9 sur le sommet d’une montagne, nous sommes dans une situation instable. Nous ne pouvons demeurer o\u00f9 nous sommes: L’IA arrive si on suppose que le progr\u00e8s scientifique continue. D’ici peu, nous allons tomber d’un cot\u00e9 de la montagne ou de l’autre vers un endroit stable.<\/p>\n
Dans quelle direction allez-vous pousser le rocher?<\/p>","protected":false},"excerpt":{"rendered":"
J’ai d\u00e9j\u00e0 dit comment les choses peuvent tr\u00e8s tr\u00e8s mal se passer avec l’IA. Avec aucun Dieu pour nous sauver, il nous reste la physique –et rien dans les lois de la physique ne dit que l’humanit\u00e9 ne va pas… continue reading<\/a> »<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-290","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/290","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/comments?post=290"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/290\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/media?parent=290"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/categories?post=290"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/tags?post=290"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}