{"id":6,"date":"2011-11-25T12:28:06","date_gmt":"2011-11-25T20:28:06","guid":{"rendered":"http:\/\/facingthesing.wpengine.com\/?p=6"},"modified":"2015-05-26T10:23:51","modified_gmt":"2015-05-26T17:23:51","slug":"preface","status":"publish","type":"post","link":"https:\/\/intelligenceexplosion.com\/fr\/2011\/preface\/","title":{"rendered":"Mon histoire personnelle"},"content":{"rendered":"

U<\/span>n jour, au cours de ce si\u00e8cle, les machines surpasseront les niveaux humains d’intelligence et de capacit\u00e9. Cet \u00e9v\u00e9nement \u2014 la \u201cSingularit\u00e9\u201d \u2014 sera le plus important de notre histoire, et r\u00e9ussir \u00e0 y naviguer de mani\u00e8re avis\u00e9e sera la chose la plus importante que nous puissions jamais faire. Des sommit\u00e9s telles qu’Alan Turing<\/a>, Jack Good<\/a>, Bill Joy<\/a> et Stephen Hawking<\/a> nous ont avertis \u00e0 ce sujet. Ces questions ne d\u00e9pendent pas de l’arriv\u00e9e d’une Singularit\u00e9 du \u00ab\u00a0changement acc\u00e9l\u00e9r\u00e9\u00a0\u00bb telle que la con\u00e7oit Ray Kurzweil<\/a>. Pourquoi je pense qu’Hawking et compagnie ont raison, et que pouvons-nous y faire ? Face \u00e0 la Singularit\u00e9<\/em> est ma tentative pour r\u00e9pondre \u00e0 ces questions.<\/p>\n

Exp\u00e9rience personnelle<\/h3>\n

Je vais commencer avec mon exp\u00e9rience personnelle. Il est utile de savoir qui je suis et d’o\u00f9 je viens. Ces informations indiquent en partie<\/em>\u00a0comment vous devriez r\u00e9agir vis-\u00e0-vis de ce que je vais dire. Quand mes croyances religieuses ont finalement succomb\u00e9 \u00e0 la r\u00e9alit\u00e9, je me suis d\u00e9converti<\/a> et ai lanc\u00e9 un blog pour expliquer l’ath\u00e9isme et le naturalisme.\u00a0Common Sense Atheism<\/a>\u00a0<\/em>est devenu l’un des blogs les plus populaires sur l’ath\u00e9isme. J’ai aim\u00e9 traduire les articles de philosophes professionnels dans un anglais accessible, et j’ai aim\u00e9 parler avec des experts du domaine pour mon podcast Conversations from the Pale Blue Dot<\/a><\/em>. De plus, perdre ma religion ne m’avait pas dit ce en quoi je devais<\/em>\u00a0croire ou ce que je devais<\/em>\u00a0faire de ma vie, et j’ai utilis\u00e9 mon blog pour chercher des r\u00e9ponses. Au final, j’\u00e9crivais plus sur la moralit\u00e9 que sur la philosophie de la religion. Mes opinions morales ont chang\u00e9 plusieurs fois, et mon avis le plus \u00e0 jour sur la th\u00e9orie morale est r\u00e9sum\u00e9 ici<\/a>. Essentiellement, j’en suis venu \u00e0 penser que le langage moral est si confus et si contentieux que nous devrions abandonner enti\u00e8rement notre vocabulaire moral. J’essaie d’\u00e9viter de me classer comme un \u00ab\u00a0r\u00e9aliste moral\u00a0\u00bb ou \u00ab\u00a0anti-r\u00e9aliste moral\u00a0\u00bb car chacune de ces d\u00e9finitions peut me correspondre selon la fa\u00e7on dont ces termes sont d\u00e9finis, et les gens emploient ces termes de nombreuses fa\u00e7ons. Que l’anti-r\u00e9alisme ou le r\u00e9alisme moral naturaliste soient \u00ab\u00a0vrais\u00a0\u00bb d\u00e9pend en partie de la fa\u00e7on dont chacun utilise le langage moral, comme Richard Joyce l’explique dans son \u00e9tude Metaethical Pluralism<\/a>, et comme je l’argumente dans Pluralistic Moral Reductionism<\/a>. J’ai aussi un int\u00e9r\u00eat dans la rationalit\u00e9, du moins depuis ma d\u00e9conversion, durant laquelle j’ai d\u00e9couvert que je pouvais facilement \u00eatre tr\u00e8s confiant en certaines choses pour lesquelles je n’avais aucune preuve, choses qui se sont av\u00e9r\u00e9es fausses, voire m\u00eame totalement insens\u00e9es. Comment le cerveau humain pouvait-il autant se m\u00e9prendre ? Clairement, je n’\u00e9tais pas<\/em> \u00ab\u00a0l’animal rationnel\u00a0\u00bb d’Aristote. A la place, j’\u00e9tais l’animal rationalisant<\/a><\/em>\u00a0de Gazzaniga. L’esprit critique \u00e9tait un point important dans Common Sense Atheism<\/em>, et j’ai pass\u00e9 autant de temps \u00e0 critiquer la pauvre r\u00e9flexion chez les ath\u00e9es que la pauvre r\u00e9flexion chez les d\u00e9istes.<\/p>\n

L’explosion de l’intelligence<\/h3>\n

Mon int\u00e9r\u00eat pour la rationalit\u00e9 m’a conduit (vers mi-2010, me semble-t-il) \u00e0 un v\u00e9ritable tr\u00e9sor d’articles sur la science cognitive de la rationalit\u00e9 : le site Less Wrong<\/a>. C’est ici que j’ai d\u00e9couvert l’id\u00e9e d’explosion de l’intelligence, d\u00e9crite par I.J. Good<\/a> :<\/p>\n

D\u00e9finissons une machine ultra-intelligente comme \u00e9tant une machine pouvant largement surpasser toutes les activit\u00e9s intellectuelles de n’importe quel homme, aussi intelligent soit-il. Etant donn\u00e9 que la conception de machines est l’une de ces activit\u00e9s intellectuelles, une machine ultra-intelligente pourrait concevoir des machines encore meilleures ; il y aurait alors indubitablement une \u00ab\u00a0explosion de l’intelligence\u00a0\u00bb, et l’intelligence de l’homme serait laiss\u00e9e loin derri\u00e8re… Ainsi, la premi\u00e8re machine ultra-intelligente est la derni\u00e8re invention que l’homme aura besoin de faire.<\/p><\/blockquote>\n

Je raconte l’histoire de ma premi\u00e8re rencontre avec ce fameux paragraphe ici<\/a>. Pour faire court :<\/p>\n

Le paragraphe de Good m’a roul\u00e9 dessus comme un train. Non pas parce qu’il \u00e9tait absurde, mais parce qu’il \u00e9tait clairement correct. L’explosion de l’intelligence \u00e9tait une cons\u00e9quence directe de choses en lesquelles je croyais d\u00e9j\u00e0, mais dont je n’avais juste pas fait le rapprochement ! Connecter ses croyances<\/a> n’est pas quelque chose que les humains font automatiquement, je n’avais donc pas remarqu\u00e9 que mes vues sur le monde impliquaient une explosion de l’intelligence. J’ai pass\u00e9 une semaine \u00e0 chercher des contre-arguments, \u00e0 v\u00e9rifier si je ne manquais pas quelque chose, et j’ai fini par accepter que l’explosion de l’intelligence \u00e9tait probable (tant que le progr\u00e8s scientifique continuerait). Et m\u00eame si je n’avais pas lu Eliezer<\/a> sur la complexit\u00e9 de la valeur, j’avais<\/em> lu David Hume<\/a> et Joshua Greene<\/a>. J’avais donc d\u00e9j\u00e0 compris qu’une intelligence artificielle arbitraire ne partagerait tr\u00e8s probablement pas nos valeurs.<\/p><\/blockquote>\n

Ma r\u00e9ponse \u00e0 cette d\u00e9couverte fut imm\u00e9diate et transformatrice :<\/p>\n

Je mis mes autres projets en pause et passai le mois suivant \u00e0 lire presque tout ce qu’Eliezer avait \u00e9crit. J’ai aussi trouv\u00e9 des articles de [Nick] Bostrom<\/a> et [Steve] Omohundro<\/a>. J’ai commenc\u00e9 \u00e0 \u00e9crire des articles pour Less Wrong et \u00e0 apprendre gr\u00e2ce \u00e0 la communaut\u00e9. J’ai postul\u00e9 au \u00ab\u00a0Singularity Institute\u2019s Visiting Fellows program\u00a0\u00bb et ai \u00e9t\u00e9 accept\u00e9. J’ai d\u00e9missionn\u00e9 de mon travail \u00e0 Los Angeles, j’ai d\u00e9m\u00e9nag\u00e9 \u00e0 Berkeley, j’ai travaill\u00e9 comme un fou, j’ai \u00e9t\u00e9 embauch\u00e9, et j’ai commenc\u00e9 \u00e0 regrouper les recherches li\u00e9es \u00e0 la rationalit\u00e9 et \u00e0 l’explosion de l’intelligence.<\/p><\/blockquote>\n

Ainsi que l’a dit un jour mon ami Will Newsome, \u201cLuke semble avoir deux exemplaires du g\u00e8ne \u2018Prend les id\u00e9es au s\u00e9rieux\u2019.\u201d<\/p>\n

Fanatisme ?<\/h3>\n

Bien s\u00fbr, ce que certains qualifient de \u201cprendre les id\u00e9es au s\u00e9rieux,\u201d d’autres y voient une tendance inn\u00e9e au fanatisme. Voici un commentaire que quelqu’un pourrait faire :<\/p>\n

Je ne suis pas surpris. Luke a grandi en pensant qu’il avait la mission cosmique de sauver l’Humanit\u00e9 avant la fin du monde et l’arriv\u00e9e d’un \u00eatre super-puissant (le retour du Christ). Il a perdu sa foi, et avec \u00e7a, son sens d’une cause \u00e9pique. Sa peur du nihilisme l’a rendu sensible aux charmes de quelque chose semblable \u00e0 du r\u00e9alisme moral\u2026 et son besoin d’une cause \u00e9pique l’a rendu sensible aux charmes du Singularitarianisme.<\/p><\/blockquote>\n

Une r\u00e9ponse que je pourrais donner \u00e0 \u00e7a serait de dire que \u00e7a revient juste \u00e0 \u201cpsychologiser\u201d, et que \u00e7a ne r\u00e9pond pas aux arguments que je d\u00e9fends concernant l’explosion de l’intelligence. C’est vrai, mais l\u00e0 encore : des faits plausibles sur ma psychologie apportent effectivement<\/em> des indications Bayesiennes<\/a> sur la fa\u00e7on donc vous devriez prendre les mots que j’\u00e9cris dans cette s\u00e9rie d’articles. Une autre r\u00e9ponse que je pourrais donner serait d’expliquer pourquoi je ne pense pas que ce soit ce qui s’est pass\u00e9, bien que certains \u00e9l\u00e9ments soient certainement vrais. (Par exemple, je ne me souviens pas avoir ressenti<\/em> que le retour du Christ \u00e9tait imminent ou que j’\u00e9tais en mission cosmique pour sauver jusqu’\u00e0 la derni\u00e8re \u00e2me, bien qu’en tant que chr\u00e9tien \u00e9vang\u00e9lique j’\u00e9tais th\u00e9ologiquement engag\u00e9 sur ces positions. Mais il est certainement vrai que je suis attir\u00e9 par des choses \u201c\u00e9piques\u201d, comme le groupe de rock Muse et le film Avatar<\/em>.) Mais je ne voudrais pas que ce chapitre s’\u00e9panche d’avantage sur ma psychologie personnelle. Une troisi\u00e8me r\u00e9ponse serait de faire appel \u00e0 la preuve sociale. Il semble y avoir une classe de lecteurs de Common Sens Atheism<\/em>\u00a0qui ont lu mes \u00e9crits de si pr\u00e8s qu’ils ont d\u00e9velopp\u00e9 un fort respect pour le s\u00e9rieux de mon engagement vis-\u00e0-vis de l’honn\u00eatet\u00e9 intellectuelle, et me font changer d’avis quand j’ai tort. Quand j’ai commenc\u00e9 \u00e0 \u00e9crire au sujet de la Singularit\u00e9, ils ont pens\u00e9, \u201cEh bien, je pensais que ces histoires de Singularit\u00e9 \u00e9taient un peu folles, mais si Luke<\/em>\u00a0les prend au s\u00e9rieux alors peut-\u00eatre qu’elles impliquent plus de choses que je ne l’imagine\u201d et ils m’ont suivi vers Less Wrong<\/em> (o\u00f9 je postais alors r\u00e9guli\u00e8rement). Je dois aussi mentionner qu’un facteur significatif dans mon passage au rang de directeur ex\u00e9cutif du Singularity Institute apr\u00e8s si peu de temps avec l’organisation a \u00e9t\u00e9 que l’\u00e9quipe pouvait voir que j’\u00e9tais s\u00e9rieusement d\u00e9vou\u00e9 \u00e0 la rationalit\u00e9 et au \u00ab\u00a0d\u00e9biaisage\u00a0\u00bb, s\u00e9rieusement d\u00e9vou\u00e9 \u00e0 dire \u201coups\u201d et changer d’avis face \u00e0 un argument, et s\u00e9rieusement d\u00e9vou\u00e9 \u00e0 utiliser la th\u00e9orie de la d\u00e9cision aussi souvent que possible, plut\u00f4t que les habitudes et les \u00e9motions. En parcourant mes r\u00e9ponses possibles \u00e0 la critique pr\u00e9c\u00e9dente sur le \u201cfanatisme\u201d, j’ai d\u00e9j\u00e0 mis en place des \u00e9l\u00e9ments de d\u00e9fense. Mais je n’irai pas plus loin. Je veux<\/em> que les gens prennent ce que je dis avec du recul. Je suis, apr\u00e8s tout, seulement humain. J’esp\u00e8re que mes lecteurs prendront en compte non seulement mon humanit\u00e9 mais aussi la force des arguments et des d\u00e9monstrations que je vais apporter par la suite concernant l’arriv\u00e9e d’une super-intelligence.<\/p>\n

<\/a><\/p>","protected":false},"excerpt":{"rendered":"

n jour, au cours de ce si\u00e8cle, les machines surpasseront les niveaux humains d’intelligence et de capacit\u00e9. Cet \u00e9v\u00e9nement \u2014 la \u201cSingularit\u00e9\u201d \u2014 sera le plus important de notre histoire, et r\u00e9ussir \u00e0 y naviguer de mani\u00e8re avis\u00e9e sera la… continue reading<\/a> »<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-6","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/6","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/comments?post=6"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/6\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/media?parent=6"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/categories?post=6"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/tags?post=6"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}