{"id":131,"date":"2011-12-15T17:56:24","date_gmt":"2011-12-16T01:56:24","guid":{"rendered":"http:\/\/facingthesing.wpengine.com\/?p=131"},"modified":"2014-12-01T13:48:07","modified_gmt":"2014-12-01T21:48:07","slug":"playing-taboo-with-intelligence","status":"publish","type":"post","link":"https:\/\/intelligenceexplosion.com\/fr\/2011\/playing-taboo-with-intelligence\/","title":{"rendered":"Jouer \u00e0 Taboo avec \u201cl&rsquo;intelligence\u201d"},"content":{"rendered":"<p><\/p>\n<p>Eliezer Yudkowsky <a href=\"http:\/\/lesswrong.com\/lw\/vb\/efficient_crossdomain_optimization\/\">raconte<\/a> :<\/p>\n<blockquote>\n<p>Il y a quelques ann\u00e9es, j&rsquo;\u00e9tais \u00e0 une commission avec <a href=\"http:\/\/fr.wikipedia.org\/wiki\/Jaron_Lanier\">Jaron Lanier<\/a>. Il avait exprim\u00e9 des arguments \u00e9labor\u00e9s selon lesquels aucune machine ne pouvait \u00eatre intelligente, car elles n&rsquo;\u00e9taient que des machines et que par cons\u00e9quent, les qualifier \u00ab\u00a0d&rsquo;intelligentes\u00a0\u00bb n&rsquo;\u00e9tait que de la mauvaise po\u00e9sie, ou quelques chose du genre. Agac\u00e9, j&rsquo;ai fini par \u00e9clater : \u00ab\u00a0Voulez-vous dire que si j&rsquo;\u00e9cris un programme informatique et que ce programme se r\u00e9\u00e9crit encore et encore et construit sa propre nanotechnologie et s&rsquo;envole vers Alpha du Centaure et fabrique sa propre sph\u00e8re de Dyson, ce programme informatique n&rsquo;est pas intelligent ?<\/p>\n<\/blockquote>\n<p>Une grosse partie de la confusion autour de l&rsquo;IA vient de d\u00e9saccords sur ce que signifie le terme \u00ab\u00a0intelligence\u00a0\u00bb.<\/p>\n<p>Clarifions les choses avec <a href=\"http:\/\/lesswrong.com\/lw\/np\/disputing_definitions\/\">une parabole<\/a> :<\/p>\n<blockquote>\n<p><em>Si un arbre tombe dans la for\u00eat, et que personne ne l&rsquo;entend, produit-il un son ?<\/em><\/p>\n<p>Albert : \u00ab\u00a0Bien s\u00fbr que oui. Qu&rsquo;est-ce que c&rsquo;est que ce genre de question stupide ? A chaque fois que j&rsquo;ai \u00e9cout\u00e9 un arbre tomber, il a fait un son, donc j&rsquo;imagine que la chute des autres arbres produit aussi du son. Je ne crois pas que le monde se modifie quand je ne regarde pas.<\/p>\n<p>Barry : \u00ab\u00a0Attends une minute. Si personne ne l&rsquo;entend, comment peut-il \u00eatre un son ?\u00a0\u00bb<\/p>\n<\/blockquote>\n<p>Albert et Barry ne d\u00e9battent pas sur des faits, mais sur des <a href=\"http:\/\/lesswrong.com\/lw\/no\/how_an_algorithm_feels_from_inside\/\">d\u00e9finitions<\/a> :<\/p>\n<blockquote>\n<p>\u2026la premi\u00e8re personne parle comme si \u00ab\u00a0son\u00a0\u00bb signifiait vibrations acoustiques dans l&rsquo;air ; la deuxi\u00e8me personne parle comme si \u00ab\u00a0son\u00a0\u00bb signifiait exp\u00e9rience auditive dans un cerveau. Si vous demandez \u00ab\u00a0Y a-t-il des vibrations acoustiques ?\u00a0\u00bb ou \u00ab\u00a0Y a-t-il des exp\u00e9riences auditives ?\u00a0\u00bb la r\u00e9ponse devient \u00e9vidente. Donc le d\u00e9bat est vraiment une question de d\u00e9finition sur le mot \u00ab\u00a0son\u00a0\u00bb.<\/p>\n<\/blockquote>\n<p>Il n&rsquo;est pas obligatoire de d\u00e9battre sur des d\u00e9finitions. A chaque fois que nous risquons de mettre des sens diff\u00e9rents sur des mots, nous pouvons simplement <a href=\"http:\/\/lesswrong.com\/lw\/nv\/replace_the_symbol_with_the_substance\/\">remplacer<\/a> le <em>symbole<\/em> vague (le mot) par sa <em>substance<\/em> vis\u00e9e\u00a0(le sens que vous voulez mettre).<\/p>\n<p>C&rsquo;est comme jouer au jeu du <em><a href=\"http:\/\/fr.wikipedia.org\/wiki\/Taboo\">Taboo<\/a><\/em>\u00a0(par Hasbro). Dans le <em>Taboo<\/em>, vous devez d\u00e9crire quelque chose \u00e0 votre partenaire <a href=\"http:\/\/lesswrong.com\/lw\/nu\/taboo_your_words\">sans utiliser une certaine liste de mots<\/a> :<\/p>\n<blockquote>\n<p>Par exemple, vous pourriez avoir \u00e0 faire deviner \u00ab\u00a0baseball\u00a0\u00bb \u00e0 votre partenaire sans utiliser les mots \u00ab\u00a0sport\u00a0\u00bb, \u00ab\u00a0batte\u00a0\u00bb, \u00ab\u00a0coup\u00a0\u00bb, \u00ab\u00a0lancer\u00a0\u00bb, \u00ab\u00a0base\u00a0\u00bb, ou bien s\u00fbr \u00ab\u00a0baseball\u00a0\u00bb.<\/p>\n<\/blockquote>\n<p>Ce jeu est un bon entrainement pour une discussion au sujet d&rsquo;IA. Si deux personnes se rendent compte qu&rsquo;elles utilisent des d\u00e9finitions diff\u00e9rentes du mot \u00ab\u00a0intelligence\u00a0\u00bb, elles n&rsquo;ont pas besoin de d\u00e9battre \u00e0 propos de qui a la \u00ab\u00a0bonne\u00a0\u00bb d\u00e9finition. Ils peuvent rendre <em>Taboo<\/em>\u00a0le mot \u00ab\u00a0intelligence\u00a0\u00bb et parler de \u00ab\u00a0capacit\u00e9 analytique\u00a0\u00bb ou de \u00ab\u00a0capacit\u00e9 \u00e0 la r\u00e9solution de probl\u00e8mes\u00a0\u00bb, ou de quoi que ce soit qu&rsquo;ils entendent par \u00ab\u00a0intelligence\u00a0\u00bb. Ainsi, ils se rapprochent d&rsquo;un d\u00e9bat sur les faits plut\u00f4t que sur les d\u00e9finitions.<\/p>\n<p>Shane Legg a un jour regroup\u00e9 <a href=\"http:\/\/web.archive.org\/web\/20110501135504\/http:\/\/www.vetta.org\/definitions-of-intelligence\/\">71 d\u00e9finitions de l&rsquo;intelligence<\/a>. En parcourant les d\u00e9finitions de caract\u00e9ristiques qui revenaient couramment, il a not\u00e9 que les gens semblent penser que l&rsquo;intelligence est :<\/p>\n<ul>\n<li>une propri\u00e9t\u00e9 qu&rsquo;a un agent ind\u00e9pendant lorsqu&rsquo;il interagit avec son environnement ou ses environnements.<\/li>\n<li>li\u00e9e \u00e0 la capacit\u00e9 de l&rsquo;agent \u00e0 atteindre un objectif ou \u00e0 en tirer profit.<\/li>\n<li>d\u00e9pendante de la capacit\u00e9 de l&rsquo;agent \u00e0 s&rsquo;adapter \u00e0 diff\u00e9rents objectifs et environnements.<\/li>\n<\/ul>\n<p>Si nous combinons ces caract\u00e9ristiques, nous obtenons quelque chose comme \u00e7a :<\/p>\n<blockquote>\n<p>L&rsquo;intelligence mesure la capacit\u00e9 d&rsquo;un agent \u00e0 accomplir des objectifs dans un large \u00e9ventail d&rsquo;environnements.<\/p>\n<\/blockquote>\n<p>C&rsquo;est, apr\u00e8s tout, le genre d&rsquo;intelligence qui a men\u00e9 les humains \u00e0 dominer toutes les autres esp\u00e8ces de la plan\u00e8te, et c&rsquo;est le genre d&rsquo;intelligence qui nous place au dessus des machines (du moins pour l&rsquo;instant). Les baleines avaient des cerveaux plus gros et les termites ont construit des villes plus grandes, mais les humains ont eu l&rsquo;intelligence de s&rsquo;adapter \u00e0 presque tous les environnements terrestres, et de faire des outils, des lances, des bateaux et des fermes.\u00a0<a href=\"http:\/\/fr.wikipedia.org\/wiki\/Watson_%28intelligence_artificielle%29\">Watson<\/a> peut nous battre \u00e0 <em>Jeopardy!<\/em> et <a href=\"http:\/\/www.wolframalpha.com\/\">WolframAlpha<\/a> peut traiter du savoir calculable mieux que nous le pouvons, mais jetez-les dans un lac ou laissez-les trouver leur propre \u00e9lectricit\u00e9 et ils seront perdus. Contrairement \u00e0 Watson et WolframAlpha, les humains ont une capacit\u00e9 d&rsquo;optimisation d&rsquo;objectifs qui est \u00ab\u00a0inter-domaines\u00a0\u00bb.\u00a0<a href=\"http:\/\/lesswrong.com\/lw\/vb\/efficient_crossdomain_optimization\/\">Ou<\/a> :<\/p>\n<blockquote>\n<p>Une abeille construit des ruches, et un castor construit des barrages ; mais une abeille ne construit pas de barrage et un castor ne construit pas de ruche. Un humain, en observant, se dit \u00ab\u00a0Oh, je vois comment faire \u00e7a\u00a0\u00bb et peut construire un barrage en utilisant une structure emprunt\u00e9e \u00e0 la ruche pour une meilleure solidit\u00e9.<\/p>\n<\/blockquote>\n<p>Mais attendez une minute. Supposons que Bill Gates me donne 10 milliards de dollars. J&rsquo;ai maintenant une capacit\u00e9 <em>bien plus grande<\/em>\u00a0\u00e0 \u00ab\u00a0accomplir des objectifs dans un large \u00e9ventail d&rsquo;environnements\u00a0\u00bb ; mais dirions-nous que mon \u00ab\u00a0intelligence\u00a0\u00bb a augment\u00e9 ? J&rsquo;en doute. Si nous voulons mesurer \u00ab\u00a0l&rsquo;intelligence\u00a0\u00bb d&rsquo;un agent, nous devrions prendre la capacit\u00e9 de l&rsquo;agent \u00e0 optimiser pour ses objectifs dans un large \u00e9ventail d&rsquo;environnements \u2014 sa \u00ab\u00a0puissance d&rsquo;optimisation\u00a0\u00bb, pourrait-on dire \u2014 et la <em>diviser<\/em>\u00a0par les ressources qu&rsquo;il utilise pour le faire :<\/p>\n<p><a href=\"http:\/\/i.imgur.com\/Eikbc.png\"><img loading=\"lazy\" decoding=\"async\" class=\"aligncenter\" title=\"intelligence\" src=\"http:\/\/i.imgur.com\/Eikbc.png\" alt=\"\" width=\"650\" height=\"155\" \/><\/a><\/p>\n<p>Cette d\u00e9finition voit l&rsquo;intelligence comme une <em>optimisation efficiente inter-domaines<\/em>. L&rsquo;intelligence est ce qui permet \u00e0 un agent de piloter le futur, un pouvoir qui est amplifi\u00e9 par les ressources \u00e0 sa disposition.<\/p>\n<p>Cela pourrait coller ou non avec votre d\u00e9finition intuitive de \u00ab\u00a0l&rsquo;intelligence\u00a0\u00bb. Mais peu importe. J&rsquo;ai rendu <em>Taboo<\/em> le terme \u00ab\u00a0intelligence\u00a0\u00bb. J&rsquo;ai remplac\u00e9 le symbole par la substance. Quand je discuterai d&rsquo;IA, je parlerai uniquement \u00ab\u00a0d&rsquo;optimisation efficiente inter-domaines\u00a0\u00bb, et en aucun cas votre d\u00e9finition pr\u00e9f\u00e9r\u00e9e de \u00ab\u00a0intelligence\u00a0\u00bb n&rsquo;aura d&rsquo;importance sur ce que je pourrai dire.<\/p>\n<p>Cela dit, \u00ab\u00a0intelligence\u00a0\u00bb est plus court, donc je pr\u00e9f\u00e8re le dire simplement comme \u00e7a. Mais il serait mieux que vous lisiez toujours \u00ab\u00a0optimisation efficiente inter-domaines\u00a0\u00bb lorsque j&rsquo;utilise \u00ab\u00a0intelligence\u00a0\u00bb.<\/p>\n<p>Et maintenant que nous comprenons ce que j&rsquo;entends par \u00ab\u00a0intelligence\u00a0\u00bb, nous sommes pr\u00eats \u00e0 discuter d&rsquo;IA.<\/p>\n<p><\/p>","protected":false},"excerpt":{"rendered":"<p>Eliezer Yudkowsky raconte : Il y a quelques ann\u00e9es, j&rsquo;\u00e9tais \u00e0 une commission avec Jaron Lanier. Il avait exprim\u00e9 des arguments \u00e9labor\u00e9s selon lesquels aucune machine ne pouvait \u00eatre intelligente, car elles n&rsquo;\u00e9taient que des machines et que par cons\u00e9quent,&hellip;  <a href=\"https:\/\/intelligenceexplosion.com\/fr\/2011\/playing-taboo-with-intelligence\/\">continue reading<\/a> &raquo;<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":""},"categories":[4],"tags":[],"class_list":["post-131","post","type-post","status-publish","format-standard","hentry","category-chapter"],"_links":{"self":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/131","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/comments?post=131"}],"version-history":[{"count":0,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/posts\/131\/revisions"}],"wp:attachment":[{"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/media?parent=131"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/categories?post=131"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/intelligenceexplosion.com\/fr\/wp-json\/wp\/v2\/tags?post=131"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}