从怀疑论到技术理性
在讨论机器超智能之前，我需要先谈一下理性。我对理性的理解形成了我对一切事物的见解，这也是我如此重视机器超智能的主要原因。
如果我只能对“无神论者”和“怀疑论者”社群提出一个观点，它将会是:
怀疑论和批判性思维为我们带来重要的训示：特别的主张需要特别的证据。相关性并不意味因果关系。不要过分重视权威。要求应该是具体、可证伪的。记得要应用奥卡姆剃刀原理。当心逻辑性谬论。可以表现得思想开明，但不要轻易上当受骗等等。
但这仅仅是个开端。在提及怀疑论和批判性思维题材的作品里，这些指引不过是皮毛而已，而且他们并不算精通正当、规范的理论。相反地，他们只是混合了模糊，但通常情况下较实用的经验法则。他们为理性思考提供了一个伟大的条目，但他们能做到的也只是入门而已。四十年以来一直存在着一个关于理性的主流认知科学，关于我们的思维如何出错提供了详细的案例分析，以及从一个思维过程到 出现 “错误。” 意味？了什么，提供了正当、精确的理论。这就是被我们称之为技术理性的科学和数学。与入门级怀疑论相对比，这需要付出更大的努力去研修与实践，但它非常强大，可以改善你的生活，帮助你更清楚地思考关于世界的大难题。
你会在每间大学的教科书上发现有关理性认知科学之思考与决策的描述。例如:
- 拜伦，思考与决策
- 黑斯蒂与道斯，在无常世界中的理性选择
- 巴泽曼与摩尔，判断管理决策
- 普洛斯， 判断和决策心理学
- 吉尔博，制定更佳决策
你还会在最近与人类非理性行为相关的流行书籍里发现它的踪影，如:
当然，你还会在学术期刊里找到它。这里有几个关于谷歌学者搜索结果的链接，只是此领域常用术语中的一小部分：
技术理性
技术理性包含两个部分，规范性和描述性。
此规范性部分描述了思考和行动的法则。从根本上说包括：逻辑、概率论，以及决策论。逻辑和概率论描述了如果你想最大限度地提升获取真正信念的机会，应该如何去推论。决策论则描述了如果你想最大限度地提升满足自己欲望的机会，应该如何行动。当然，这些并不是物理定律，只是规范法则而已。您可以选择违反这些法则，而人们经常会这样做。不过一旦你违背了逻辑或概率论的法则，就减少了你获取真正信念的机会，如果你违背了决策论的法则，则减少了你实现目标的机会。
描述性部分阐述的并不是我们应该如何推论与行动，而是我们通常如何推论与表现。描述性大纲包括描述研究人类思考及决策的方式。它还包括一些人们违背逻辑、概率论以及决策论所做出的思考与行动的常见形式的目录。认知偏见是违背逻辑、概率论，或是决策论的一个特定方式。这就是对“偏见”的定义（例如可查阅：思考与决策或理性与反思性思维，这两本书籍都有一个关于常见偏见的表格，列出每种偏见违背了逻辑、概率论，或决策论中的哪一部分）。
认知科学家们还区分出合理性的两个领域：认识性和工具性。
认识理性涉及到如何形成真正的信念，或者：在你的脑海形成一个准确的世界版图。（认识理性受到逻辑和概率论法则的控制。）
工具理性涉及到如何实现你的目标，或者：使满足你欲望的机会最大化。又或是更正式一些：将你的“预期效用”最大化。也称之为“获胜。”（工具理性受到决策论法则的控制。）
在某种意义上，需要优先工具理性，因为形成真正信念总归是为了帮助你实现自己的目标，有时如果在认识理性上花太多时间就不能算工具理性了。例如，我知道有些人如果他们少花些时间学习理性而多花些时间，比方说，去发展他们的社交技巧，他们更有可能达成自己的目标。
不过，分开谈论认知理性与工具理性可能会更有效。只要记住，当我谈及认识理性时，我谈的是遵从逻辑与概率论的法则，而当我谈及工具理性，则谈到遵从决策论的法则。
而从现在开始，当我谈论“理性”，我指的是技术理性。
在我深入探讨理性之前，首先我需要确定大家清楚什么是非理性。我想解释一下为什么斯波克是非理性的。