Explózia inteligencie
Predstavte si, že ste nehmotný duch, ktorý sleduje vývoj vesmíru. Za prvých 9 miliárd rokov sa nestane takmer nič.
„Bože, to je taká nuda!“ sťažujete sa.
„Prečo?“ pýta sa váš spoločník.
„Nič nemá žiadnu hĺbku ani zložitosť, pretože nič k ničomu nesmeruje. Nič neoptimalizuje nič. Neexistuje žiadna zápletka. Akurát sa stala hromada náhodných vecí. Horšie než telenovela.“
„Naozaj? A čo je tamto?“
Sledujete pohľad vášho spoločníka a všimnete si malú molekulu v jazierku vody na skalnatej planéte. Pred vašimi očami vyrobila svoju kópiu. A potom ďalšiu. A potom tie kópia vyrobili svoje kópie.
„Replikátor!“ vyhlásite. „O pár mesiacov tu môžu byť milióny týchto vecí.“
„Ktovie, či z tohto budú veverice.“
„Čo sú to veverice?“
Váš partner vysvetľuje funkčnú zložitosť veveríc, s ktorými sa stretol vo Vesmíre číslo 217.
„To je absurdné! Pri terajšej miere optimalizácie by sme neuvideli žiadne veverice vzniknúť čírou náhodou ešte dosť dlho po tepelnej smrti vesmíru.“
Ale čoskoro si všimnete niečo ešte dôležitejšie: niektoré z kópií sú chybné. Tieto kópie skúmajú susedné oblasti pojmového priestoru. Niektoré z týchto oblastí obsahujú lepšie replikátory, a tieto lepšie replikátory skončia s väčším množstvom kópií než pôvodné replikátory, a skúmajú svoje vlastné okolia.
Nasledujúcich pár miliárd rokov sú jednoznačne to najzaujímavejšie, čo ste videli. Jednoduché replikátory vedú k jednoduchým organizmom, tie vedú k zložitému životu, ten vedie k mozgom, a tie vedú k línii opíc Homo.
Spočiatku Homo vyzerá ako hocijaký iný živočích s mozgom. So šimpanzom má spoločných 99% kódu DNA. Dá sa pochopiť, ak si pomyslíte, že ľudský mozog nebude žiaden zázrak – možno umožní 50%-né zvýšenie rýchlosti optimalizácie, alebo niečo podobné. Napokon, živočíšne mozgy tu boli už milióny rokov, a postupne sa vyvíjali bez akejkoľvek dramatickej zmeny funkčnosti.
Potom zrazu jedna vec vedie k druhej. Pred vašimi očami ľudia zmúdrejú natoľko, že vedia šľachtiť rastliny, čo ich vedie k usadenému spôsobu života a opakovanému obchodu, čo vedie k písaniu a zaznamenávaniu dlhov. Farmárstvo vytvára nadbytok jedla, ten umožňuje odbornú špecializáciu, tá dáva ľuďom schopnosť sústrediť sa na riešenie problémov iných než hľadanie jedla a súloženie. Odborná špecializácia vedie k vede a technológii, priemyselnej revolúcii, ktorá vedie k cestovaniu do vesmíru a iPhonom.
Rozdiel medzi šimpanzmi a ľuďmi vykresľuje, akú moc dáva možnosť prepísať agentove poznávacie algoritmy. Samozrejme, pôvodom algoritmu bola v tomto prípade iba evolúcia, slepá a hlúpa. Inteligentný proces s trochou predvídavosti môže preskakovať priestorom možností omnoho efektívnejšie. Človek, počítačový programátor, môže za jeden deň urobiť inovácie, ktoré by evolúcia neobjavila za miliardy rokov.
Z väčšej časti však ľudia stále nedošli na to, ako fungujú ich vlastné poznávacie algoritmy, ani ako ich prepísať. A počítače, ktoré programujeme, tiež (väčšinou) nerozumejú svojim vlastným poznávacím algoritmom. Jedného dňa však budú.
To znamená, že budúcnosť obsahuje slučku spätnej väzby, ktorú minulosť nemala:
Ak ste EURISKO, dokážete meniť niektoré svoje metaheuristiky, a tie metaheuristiky fungujú viditeľne lepšie, a dokonca dokážu spraviť pár ďalších sebamodifikácií, ale potom celému systému dôjde dych a padne na zobák.
Tieto artefakty spočiatku vytvorila ľudská inteligencia. Ich vlastná optimalizačná sila je omnoho slabšia než ľudská – tak neuveriteľne slabá, že keď sa posunú o kúsok ďalej, viac už sa posunúť nevládzu. Čo je horšie, ich optimalizácia na každej úrovni je daná obmedzeným množstvom príležitostí, ktoré sa použitím minú – mimoriadne rýchlo sa zmenšujúce výnosy.
…Keď prvýkrát zostrojíš UI, je to batoľa – keby sa malo zdokonaľovať samo, takmer okamžite by padlo na zobák. Takže ho posúvaš ďalej pomocou svojho vlastného poznania… a vedomostí – a priebežne nemáš žiaden úžitok z rekurzie, iba zvyčajný ľudský postup vedomostí aplikovaných na vedomosti a objavov aplikovaných na objavy. Časom UI začne byť dosť sofistikovaná na to, aby začala zdokonaľovať sama – nielen malé vylepšenia, ale vylepšenia dosť veľké na to, aby sa prevalili do ďalších vylepšení… A potom dostaneš to, čo I. J. Good nazýva „explózia inteligencie“.
…a UI zanechá ľudské schopnosti ďaleko za sebou.
V tom bode budeme ako hlúpe šimpanzy pozorujúce ako títo moderní „ľudia“ objavujú oheň a farmárstvo a písanie a vedu a pušky a lietadlá a ovládajú celý svet. A podobne ako šimpanzy v tom bode nebudeme v pozícii, z ktorej by sme mohli s našimi nadradenými vyjednávať. Naša budúcnosť bude závisieť od toho, čo chcú oni.