Giocare a “Tabù” con la parola Intelligenza
Giocare a “Tabù” con la parola Intelligenza
Eliezer Yudkowsky racconta:
Anni fa, durante un panel con Jaron Lanier, Jaron aveva offerto alcuni elaborati argomenti che nessuna macchina potrebbe essere intelligente, perché era solo una macchina e definirla “intelligente” era cattiva poesia, o qualcosa del genere. Stufo, finalmente sbottai: “Intendi dire che se scrivo un programma, e quel programma si riscrive e si riscrive di continuo e costruisce la sua nanotecnologia e vola su Alpha Centauri e si costruisce la sua Sfera Dyson, quel programma non è intelligente?”
Molta della confusione sull’AI viene dal disaccordo sulle definizioni di “intelligenza.”
Lasciate che chiarisca il punto con una parabola:
Se un albero cade nella foresta, e nessun altro lo sente, produce un suono?
ALBERT: “Certamente sì. Che razza di domanda è questa? Ogni volta che ho sentito un albero cadere, ha prodotto un suono, quindi presumo che anche gli altri alberi in caduta producano suoni. Non credo che il mondo intorno a me cambi, quando non sono nei paraggi.”
BARRY: “Be’, aspetta. Se nessuno lo sente, come può essere un suono?”
Come potete vedere, Albert e Barry non stanno discutendo sui fatti, ma sulle definizioni.
La prima persona parla come se “suono” significasse vibrazioni acustiche nell’aria; la seconda come se “suono” significasse un’esperienza uditiva nel cervello. Se chiedi “Ci sono vibrazioni acustiche?” o “Ci sono esperienze uditive?”, la risposta si fa all’improvviso ovvia. Quindi la discussione verte in realtà sulla definizione della parola “suono.”
Non dobbiamo litigare sulle definizioni. Forse potremmo assegnare differenti significati alle parole, ma possiamo andare dritti al punto sostituendo il simbolo confondente (una parola) con il significato inteso.
È un po’ come giocare a Tabù (della Hasbro). In Tabù, dovete descrivere qualcosa al vostro partner senza usare una certa lista di parole:
Per esempio, potresti far dire “calcio” senza usare le parole “sport,” “palla,” “squadra,” “giocatore,” “campo,” né, naturalmente, “calcio.”
È una buona pratica per una discussione sull’AI. Se due persone notano di usare diverse definizioni di “intelligenza,” non dovrebbero litigare su quale definizione sia “giusta.” Possono invece rendere tabù la parola “intelligenza” e parlare dell’“abilità analitica” o della “abilità nel problem solving” o qualunque cosa intendano per “intelligenza.” Ora sono più vicini a discutere sui fatti, anziché sulle definizioni.
Shane Legg una volta ha raccolto settantuno definizioni di intelligenza.1 Passando in rassegna le definizioni più comuni, nota che le persone ritengono che l’intelligenza sia:
- Una proprietà che un agente individuale ha man mano che interagisce con i suoi ambienti.
Se uniamo queste caratteristiche, otteniamo qualcosa del genere:
L’intelligenza misura l’abilità di un agente di conseguire obiettivi in un ampio range di ambienti.2
È questo, dopo tutto, il tipo di intelligenza che ha permesso agli umani di dominare tutte le specie sul pianeta, e svettare sulle macchine (almeno per ora). Le termiti costruiscono città più grandi (rispetto alla dimensione del loro corpo) e le balene hanno cervelli più grandi, ma gli umani hanno avuto l’intelligenza di adattarsi a quasi ogni ambiente terrestre e costruire utensili, lance, barche e fattorie. Watson può batterci a Jeopardy! e WolframAlpha può processare conoscenza computabile meglio di noi, ma buttate uno dei due in un lago, o lasciate che si procurino l’elettricità da soli, e non avranno scampo. A differenza di Watson e WolframAlpha, gli umani hanno una capacità multi-disciplinare nell’ottimizzare gli obiettivi. Oppure:
Un’ape costruisce nidi, e un castoro costruisce dighe; ma un’ape non costruisce dighe e un castoro non costruisce nidi. Un umano, guardando, pensa: “Oh, capisco come si fa” e va a costruire una diga usando una struttura a nido d’ape, che migliora la resistenza.
Ma aspetta un minuto. Supponiamo che Bill Gates mi dia dieci miliardi di dollari. Ora sono molto più in grado di “conseguire obiettivi in un’ampia gamma di ambienti,” ma questo significa che la mia “intelligenza” è aumentata? Ne dubito. Se vogliamo misurare l’“intelligenza” di un agente, dovremmo prendere l’abilità di quell’agente nell’ottimizzare i suoi obiettivi in un ampio range di ambienti—il suo “potere di ottimizzazione,” per così dire—e dividerlo per le risorse utilizzate nell’ottenerlo:
Questa definizione vede l’intelligenza come un’ottimizzazione multi-dominio efficiente. L’intelligenza è quello che permette a un agente di dirigere il futuro, un potere amplificato dalle risorse a sua disposizione.
Questo potrebbe somigliare, oppure no, alla vostra definizione intuitiva di “intelligenza.” Ma non importa. Ho reso la parola “intelligenza” tabù, come ricorderete. Ho sostituito il simbolo con la sostanza. Quando parliamo della AI, posso parlare solo di “ottimizzazione efficiente multi-dominio”, e nulla della vostra definizione prediletta di “intelligenza” conterà, in tutto quel che dico.
Ora, “intelligenza” è più breve, quindi preferirei utilizzare semplicemente quella parola. Ma sarebbe meglio se leggeste sempre la parola “intelligenza” (quando la uso) come “ottimizzazione efficiente interdisciplinare.”
E ora che abbiamo capito cosa intendo per “intelligenza,” siamo pronti a parlare dell’AI.
* * *
1Shane Legg and Marcus Hutter, A Collection of Definitions of Intelligence (Manno-Lugano, Switzerland: IDSIA, July 15, 2007), http://www.idsia.ch/idsiareport/IDSIA-07-07.pdf.
2Shane Legg and Marcus Hutter, A Formal Measure of Machine Intelligence (Manno-Lugano, Switzerland: IDSIA, April 12, 2006), http://www.idsia.ch/idsiareport/IDSIA-10-06.pdf.