Hrajme sa, že „inteligencia“ je tabu
Eliezer Yudkowsky opisuje:
Keď som bol pred rokmi v panelovej diskusii s Jaronom Lanierom, ponúkol mi nejak
ý komplikovaný argument, že žiaden stroj nemôže byť inteligentný, pretože je to iba stroj, takže označiť ho ako „inteligentný“ by bola štylistická chyba, alebo niečo v tom zmysle. Naštvaný som mu nakoniec odsekol: „Chcete tým povedať, že keby som napísal počítačový program, ktorý následne prepíše sám seba, ešte raz prepíše sám seba, vybuduje si svoju vlastnú nanotechnológiu, zbalí sa odletí na Alfu Centauri, a postaví si tam svoju vlastnú Dysonovu sféru, tak tento počítačový program aj tak nie je inteligentný?“
Mnohé zo zmätku ohľadom UI vychádza z hádok ohľadom významu slova „inteligencia“.
Dovoľte mi objasniť to pomocou podobenstva:
Ak v lese spadne strom, a nikto to nepočuje, vydá tým zvuk?
Albert: „Samozrejme, že áno. Čo za hlúpu otázku to je? Vždy, keď som počúval padajúci strom, vydal zvuk, takže predpokladám, že ostatné padajúce stromy tiež vydávajú zvuky. Neverím tomu, že svet sa mení vtedy, keď sa naň nepozerám.“
Barry: „Počkaj chvíľu. Ak to nikto nepočuje, ako to môže byť zvuk?“
Albert a Barry sa tu nehádajú o faktoch, ale o definíciách:
…prvá osoba hovorí, ako keby slovo „zvuk“ znamenalo akustické vibrácie vzduchu; druhá osoba hovorí, ako keby slovo „zvuk“ znamenalo sluchový zážitok v mozgu. Ak sa opýtate „Vznikajú pritom akustické vibrácie?“ alebo „Vznikajú vtedy sluchové zážitky?“, odpoveď je hneď jasná. Celá táto diskusia je teda v skutočnosti o definícii slova „zvuk“.
Nepotrebujeme sa hádať o definíciách. Ak niekde používame slová v rôznom význame, môžeme ušetriť čas a nahradiť mätúci symbol (slovo) jeho zamýšľaným obsahom (jeho zmyslom, podľa vás).
Je to ako hrať hru Tabu (od firmy Hasbro). V Tabu musíte niečo opísať vášmu partnerovi bez použitia slov z daného zoznamu.
Napríklad, môžete mať za úlohu dosiahnuť, aby váš partner povedal „baseball“, bez použitia slov „šport“, „pálka“, „zásah“, „základňa“ a samozrejme „baseball“.
Táto hra je dobrým cvičením na diskusiu o UI. Ak si dvaja ľudia všimnú, že používajú rôzne definície slova „inteligencia“, nepotrebujú sa hádať, čia definícia je „správna“. Môžu hrať Tabu so slovom „inteligencia“ a hovoriť o „analytickej schopnosti“ alebo „schopnosti riešiť problémy“ alebo čokoľvek myslia slovom „inteligencia“. Teraz sú bližšie k diskusii o faktoch namiesto definícií.
Shane Legg raz zozbieral 71 definícií inteligencie. Skúmaním týchto definícií a hľadaním spoločných znakov zistil, že ľudia si zrejme myslia, že inteligencia:
- je vlastnosť, ktorú má jednotlivý agent, ako interaguje so svojím prostredím alebo prostrediami.
- sa vzťahuje na agentovu schopnosť uspieť vzhľadom na nejaký zámer alebo cieľ.
- závisí od toho, nakoľko sa agent dokáže prispôsobiť rôznym cieľom a prostrediam.
Keď tieto vlastnosti skombinujeme, dostaneme niečo ako:
Inteligencia meria schopnosť agenta dosahovať ciele v širokom spektre prostredí.
Toto je napokon ten druh inteligencie, ktorý ľuďom umožňuje vládnuť nad ostatnými živočíšnymi druhmi na tejto planéte, a ten druh inteligencie, ktorý nás necháva nadradených strojom (aspoň zatiaľ). Veľryby majú väčšie mozgy a termity si stavajú väčšie mestá, ale ľudia majú inteligenciu prispôsobiť sa takmer každému pozemskému prostrediu a vyrábať nástroje a oštepy a lode a farmy. Watson nás dokáže poraziť v Jeopardy! a WolframAlpha vie spracovať počítateľné poznatky lepšie než my, ale zhoďte hociktorého z nich do jazera a nechajte ich nájsť si svoj vlastný zdroj elektriny a budú bezmocní. Na rozdiel od Watsona a WolframAlphu, ľudia majú schopnosť optimalizovať svoje ciele „cez rôzne oblasti“. Alebo:
Včela si postaví úľ, bobor si postaví priehradu; avšak včela nedokáže postaviť priehradu a bobor nedokáže postaviť úľ. Človek sa na to pozrie, pomyslí si: „Aha, vidím, ako na to“ a potom si postaví priehradu s využitím štruktúry plástu na extra silu.
Ale počkajte chvíľu. Predpokladajme, že mi Bill Gates dá 10 miliárd dolárov. Teraz mám omnoho väčšiu schopnosť „dosahovať ciele v širokom spektre prostredí“, ale povedali by sme, že moja „inteligencia“ tým narástla? Pochybujem. Ak chceme merať agentovu „inteligenciu“, mali by sme hodnotiť agentovu schopnosť optimalizovať na svoje ciele v širokom spektre prostredí – jeho „optimalizačnú silu“, dalo by sa povedať – a vydeliť ju prostriedkami, ktoré na to spotrebuje:
Táto definícia vidí inteligenciu ako efektívnu optimalizáciu v rôznych prostrediach. Inteligencia je to, čo dovoľuje agentovi ovplyvňovať budúcnosť, a táto sila sa násobí prostriedkami, ktoré má k dispozícii.
Toto môže ale nemusí byť v súlade s vašou vlastnou intuitívnou definíciou „inteligencie“. Ale na tom nezáleží. Zahral som Tabu so slovom „inteligencia“. Nahradil som symbol jeho obsahom. Pri diskusii o UI budem hovoriť iba o „efektívnej optimalizácii v rôznych prostrediach“ a nič, čo sa týka vašej obľúbenej definície „inteligencie“, nebude súvisieť s tým, čo poviem.
Hoci, slovo „inteligencia“ je kratšie, takže by som radšej používal len toto. Ale najlepšie bude, ak slovo „inteligencia“ (ak ho použijem ja) budete vždy čítať ako „efektívna optimalizácia v rôznych prostrediach“.
A teraz, keď rozumieme, čo myslím slovom „inteligencia“, sme pripravení rozprávať sa o UI.