Jouer à Taboo avec “l’intelligence”
Eliezer Yudkowsky raconte :
Il y a quelques années, j’étais à une commission avec Jaron Lanier. Il avait exprimé des arguments élaborés selon lesquels aucune machine ne pouvait être intelligente, car elles n’étaient que des machines et que par conséquent, les qualifier « d’intelligentes » n’était que de la mauvaise poésie, ou quelques chose du genre. Agacé, j’ai fini par éclater : « Voulez-vous dire que si j’écris un programme informatique et que ce programme se réécrit encore et encore et construit sa propre nanotechnologie et s’envole vers Alpha du Centaure et fabrique sa propre sphère de Dyson, ce programme informatique n’est pas intelligent ?
Une grosse partie de la confusion autour de l’IA vient de désaccords sur ce que signifie le terme « intelligence ».
Clarifions les choses avec une parabole :
Si un arbre tombe dans la forêt, et que personne ne l’entend, produit-il un son ?
Albert : « Bien sûr que oui. Qu’est-ce que c’est que ce genre de question stupide ? A chaque fois que j’ai écouté un arbre tomber, il a fait un son, donc j’imagine que la chute des autres arbres produit aussi du son. Je ne crois pas que le monde se modifie quand je ne regarde pas.
Barry : « Attends une minute. Si personne ne l’entend, comment peut-il être un son ? »
Albert et Barry ne débattent pas sur des faits, mais sur des définitions :
…la première personne parle comme si « son » signifiait vibrations acoustiques dans l’air ; la deuxième personne parle comme si « son » signifiait expérience auditive dans un cerveau. Si vous demandez « Y a-t-il des vibrations acoustiques ? » ou « Y a-t-il des expériences auditives ? » la réponse devient évidente. Donc le débat est vraiment une question de définition sur le mot « son ».
Il n’est pas obligatoire de débattre sur des définitions. A chaque fois que nous risquons de mettre des sens différents sur des mots, nous pouvons simplement remplacer le symbole vague (le mot) par sa substance visée (le sens que vous voulez mettre).
C’est comme jouer au jeu du Taboo (par Hasbro). Dans le Taboo, vous devez décrire quelque chose à votre partenaire sans utiliser une certaine liste de mots :
Par exemple, vous pourriez avoir à faire deviner « baseball » à votre partenaire sans utiliser les mots « sport », « batte », « coup », « lancer », « base », ou bien sûr « baseball ».
Ce jeu est un bon entrainement pour une discussion au sujet d’IA. Si deux personnes se rendent compte qu’elles utilisent des définitions différentes du mot « intelligence », elles n’ont pas besoin de débattre à propos de qui a la « bonne » définition. Ils peuvent rendre Taboo le mot « intelligence » et parler de « capacité analytique » ou de « capacité à la résolution de problèmes », ou de quoi que ce soit qu’ils entendent par « intelligence ». Ainsi, ils se rapprochent d’un débat sur les faits plutôt que sur les définitions.
Shane Legg a un jour regroupé 71 définitions de l’intelligence. En parcourant les définitions de caractéristiques qui revenaient couramment, il a noté que les gens semblent penser que l’intelligence est :
- une propriété qu’a un agent indépendant lorsqu’il interagit avec son environnement ou ses environnements.
- liée à la capacité de l’agent à atteindre un objectif ou à en tirer profit.
- dépendante de la capacité de l’agent à s’adapter à différents objectifs et environnements.
Si nous combinons ces caractéristiques, nous obtenons quelque chose comme ça :
L’intelligence mesure la capacité d’un agent à accomplir des objectifs dans un large éventail d’environnements.
C’est, après tout, le genre d’intelligence qui a mené les humains à dominer toutes les autres espèces de la planète, et c’est le genre d’intelligence qui nous place au dessus des machines (du moins pour l’instant). Les baleines avaient des cerveaux plus gros et les termites ont construit des villes plus grandes, mais les humains ont eu l’intelligence de s’adapter à presque tous les environnements terrestres, et de faire des outils, des lances, des bateaux et des fermes. Watson peut nous battre à Jeopardy! et WolframAlpha peut traiter du savoir calculable mieux que nous le pouvons, mais jetez-les dans un lac ou laissez-les trouver leur propre électricité et ils seront perdus. Contrairement à Watson et WolframAlpha, les humains ont une capacité d’optimisation d’objectifs qui est « inter-domaines ». Ou :
Une abeille construit des ruches, et un castor construit des barrages ; mais une abeille ne construit pas de barrage et un castor ne construit pas de ruche. Un humain, en observant, se dit « Oh, je vois comment faire ça » et peut construire un barrage en utilisant une structure empruntée à la ruche pour une meilleure solidité.
Mais attendez une minute. Supposons que Bill Gates me donne 10 milliards de dollars. J’ai maintenant une capacité bien plus grande à « accomplir des objectifs dans un large éventail d’environnements » ; mais dirions-nous que mon « intelligence » a augmenté ? J’en doute. Si nous voulons mesurer « l’intelligence » d’un agent, nous devrions prendre la capacité de l’agent à optimiser pour ses objectifs dans un large éventail d’environnements — sa « puissance d’optimisation », pourrait-on dire — et la diviser par les ressources qu’il utilise pour le faire :
Cette définition voit l’intelligence comme une optimisation efficiente inter-domaines. L’intelligence est ce qui permet à un agent de piloter le futur, un pouvoir qui est amplifié par les ressources à sa disposition.
Cela pourrait coller ou non avec votre définition intuitive de « l’intelligence ». Mais peu importe. J’ai rendu Taboo le terme « intelligence ». J’ai remplacé le symbole par la substance. Quand je discuterai d’IA, je parlerai uniquement « d’optimisation efficiente inter-domaines », et en aucun cas votre définition préférée de « intelligence » n’aura d’importance sur ce que je pourrai dire.
Cela dit, « intelligence » est plus court, donc je préfère le dire simplement comme ça. Mais il serait mieux que vous lisiez toujours « optimisation efficiente inter-domaines » lorsque j’utilise « intelligence ».
Et maintenant que nous comprenons ce que j’entends par « intelligence », nous sommes prêts à discuter d’IA.