智力爆炸

假设你是一具空洞的灵魂，观望着宇宙的进化。在前90亿年里，几乎什么都没有发生过。

“上帝啊，这真是无聊透了！”你抱怨道。

“怎么会这样呢？”于是你向同伴问道。

“任何事物都不具备深度与复杂性，因为对任何事物都没有设定目标。对任何事物都没有进行过优化。也不曾规划。这只不过是一堆随机产生的废物罢了。比宋飞正传（美国系列喜剧）还要糟糕。”

“真的？看那边，那个是什么东西呀？”

你顺着同伴的目光看过去，注意到岩态行星上，在池水里的一个小颗粒。就在你的眼前，它为自己拷贝了一个复制品。然后又拷贝了另一个。然后复制品又再拷贝另一个复制品。

“那是一个复制基因呢！”你惊叫起来。“几个月内它们的数量就可能会增加到数百万。”

“我想知道这是否会引致松鼠的变化呢?”

“什么是松鼠呀？”

于是，你的同伴又开始解释，他们在希腊厄运（Universe 217）所遇到的，松鼠的功能复杂性。

“那是荒谬的！按照我们当前的优化率来看，我们不会纯属偶然地看到任何松鼠的改变，直到很久之后宇宙热寂的出现。”

但很快地你又注意到某些更为重要的东西：部分的复制品是次品。而这些复制品正在探索概念搜索空间的周边区域。而部分这些区域里有更优等的复制品，而那些上好的复制品最终得到却是，比原始复制基因还更多的自体复制品，并在他们自己的社区里探索。

接下来的数十亿年，是迄今为止你所见过的、最令人兴奋的时刻。简单的复制品变成了简单的生物体，它们引领了复杂的生活，从而形成了大脑，并且进化成了人类行猿。

起初，人类看起来跟任何其他有脑的动物都非常相似。甚至与黑猩猩有着99%相同的DNA编码。如果你认为人类的大脑并不是重点，还会得到原谅——也许它也不过能使优化速度增加50%，或类似的速度。毕竟，动物的大脑已经存在了数百万年，并已逐渐进化，可在功能方面却没有任何明显的提升。

然而，一件事总会衍生出另一件事情来。在你的眼前，人类开始变得聪明，他们引进了农作物，从而形成了定栖生活方式与重复性贸易，再者为了追踪债务产生了文字。农业形成的同时还产生了食物的盈余，从而衍生了专业分工，使人们除了寻觅食物与繁殖后代之外，还能够专攻解决问题。而专业分工则衍生出了科学技术，以及工业革命，进而步入了太空甚至发明出苹果手机。

黑猩猩与人类之间的差异，正阐明了重写机器的认知算法有多么的强大。当然，在这种情况下该算法的起源只不过是进化论、盲目与愚蠢的。一个有点远见的聪明进程，可以更有效地穿越过搜索空间。一位人类计算机程序员可以在一天时间内，开拓出数十亿年的进化都不可能发现的创新技术。

但在大多数情况下，人类仍然没有弄清楚，他们自身的认知算法是如何工作的，或如何将其重写。而我们设计出的电脑程序却不了解它们自身的认知算法，或者说（在大多数的情况下）。但终有一天，它们能够做到。

这意味着，未来包含了一个过去所没有的反馈回路:

如果你是EURISKO语言，就能设法修改自己的部分启发式方法，这些启发式方法明显取得更好的成效，它们甚至还会设法对自己做进一步的修改，可到最后，整个进程却精疲力尽，步向灭亡。

开始的时候正是人类的智慧生产出这些人工产品。但其自身的优化能力却远远落后于人类——如此的乏力，在将自己向前推动一点点后，就不能再往前推进一步了。更糟糕的是，在任何既定水平中，其优化能力的最大特点是机会数量有限，意味着一旦耗尽就会消失——最后得到的是极端的收益锐减。

…当你首次制成一个人工智能机器时，它还只是一个婴儿——如果必须得改进自身，它可能会立即死亡。所以你运用自己的认知……和知识，与它共同前进——这样做并没有得到任何递推式的好处，只是用常见的人类知识习语和见解去喂养它并从见解中引发出见解。最终，这个人工智能机器变得足够成熟了，便开始进行自我改进——而且不仅是小改进，而是足以影响到其他改进的大规模改进……而你得到的却是欧文·约翰·古德（I. J. Good）口中的“智能爆炸”…

…到最后，人工智能已经将我们人类的能力远远抛离其后。

到了那个阶段，我们不妨效仿愚蠢的黑猩猩那样，看着那些新奇怪异的“人类”，发明火药和农业，文字、科学、枪支和飞机，紧接着接管了整个世界。正如黑猩猩一样，到那时我们将不可能与我们的上级进行谈判。我们的未来将取决于他们想要的是什么。