不要退缩
或许你也听说过日本死守派拒不承认关于1945年日本投降的报导。其中一个代表人物是小野田广中尉，他带领驻菲律宾鹿邦岛的其他三个士兵。十几年来，他们就住在布满椰树与香蕉的丛林中，始终拒绝相信战争已经结束:
尽管传单散落了一地。也留下了报纸。捎来大量的照片与来自亲戚的信件。亲朋好友们开着喇叭大声地召唤。可总是有一些可疑之处，所以他们从不相信战争真的结束了。
小野田的士兵一个接一个地死去，或是屈服了，然而直到1974年，战争结束近30年后，小野田自己始终都不相信日本投降的事实。后来，他回忆道：
突然之间一切都变黑了。我的内心卷起了一阵风暴。我感觉自己像个傻瓜……这么多年来我都做了些什么呀？
作为理性的学生需要的是真正的信念，这样她才得以更好地实现自己的目标。在证据面前，她的回应与小野田截然不同。只要有足够的证据来支持自己这样做正确，她就会马上改变自己的想法（根据她掌握的学识，以及概率论的法则）。坚持错误的信念会带来严重的后果：比方说，30年来都在椰子壳里大便。
小野田曾被军国主义的教条主义洗脑，正是这一教条主义创造过一批神风特攻队飞行员，他一直被灌输日本的战败是能够想象到的最坏结果。因此，面对日本已在这场战争中战败的证据时，小野田很自然地畏惧、退缩了，因为他受到的训练让他在情感上及心理上认定，这个结果是不可思议的。
在理性思维工具箱中的其中一项技能是，要提防这一“退缩”的发生，以及与它抗衡。当我们开始审视大家刚才讨论过的想法中的启示时，我们便需要这一技能——只要科学继续发展，人工智能就是不可避免的，而且人工智能还会比人类更加聪明（因此也会更加强大）。当我们检验这些想法的启示时，将有助于理解当人类的大脑在思考不受欢迎的启示时，它们将会如何运作。正如我们将看到的，它并不会采取军事教化来让人类的大脑退缩。事实上，畏惧、退缩是人类心理学的一种标准特性，通常被冠名为“动机的认知”和“理性化。”
作为一个极端的例子，大家不妨来看一下创世论者。为了维护自己的立场上，他可以接受可疑的证据，甚至会过度怀疑与其立场对立的证据。他会找出可能证实自己立场的证据来，但却忽略反对它的最有力证据。（所以，我就曾遇到过从未听说过内源性逆转录病毒的创世论者）。
我们大多数人是这样处理事情的，每周都以（希望）不太明显及破坏性的方式进行。一旦遇到令人不快的真相和选择时，我们就会畏惧并退缩，并扬言“还是先缓一缓再做决定吧。”我们总是逃避自己信念中的真正弱点。我们从一开始就接受了先入为主的观点，然后再提出与其相反的论据。我们会无意识地筛选掉自己现有的证据，以支持自己当前的信念。我们拒绝反对自己立场的无力论据，并不会尝试思考反对自己立场却最强的可能性论据。
通常这些流程都是自动并下意识执行的。你并不一定是个特别不理性的人才会这样退缩。没错，在默认情况下你会不知不觉地趋于退缩，当面对令人不安的事实时，你必须有意识地发挥精神努力，才能杜绝畏惧、退缩。我的意思并不是高喊“不要犯确认的偏见。不要犯确认的偏见……”我只想更有效点。
需要发挥怎样有意识的精神努力，才得以抵消“畏惧与退缩”的反应？
其中一个建议是为自己留下一条退路：
昨天晚上我碰巧与【某人】交谈，这个人刚宣布了两个观点：（a）她相信灵魂，（b）她不相信人体冰冻法，因为她认为灵魂不会留在冰冻的尸体里。我问道，“可你又从何得知呢？”从她脸上闪过的困惑就能看出，她显然从来没有碰到过这样的问题……
……“要确定喔，”我向她提出建议，“当你想象如果没有灵魂，这个世界将会是怎样，而你又会怎么做。先不要考虑不可能会是这样的所有因素，只要将它当成一个假设，然后想象一下结果。”所以你应该会想，‘嗯，如果没有灵魂的话，我只能报名参加人体冷冻’,或是‘如果没有上帝的话，无论如何我也只能继续做个道德的人，’而不是认为这太过令人畏惧而无法面对。为了个人的自尊，无论这会让你多不舒服，你都应该尝试去相信真相……【并且】在你尝试评估证据之前，人类的天性能使这个信念变得不那么难受。”
当然，你仍然需要公正地权衡证据。遇到让我惊吓的信念，我仍然会拒绝，而那些吸引我的信念，我仍然会欣然接受。但要清楚地想象出这个场景是很重要的，这样会让它变得不那么可怕，从而你的大脑就能在这个问题上，更公正地对证据做出评估。
留下一条退路是一项用于战斗开始之前的工具。而用在战斗过程中一个抵抗畏惧的方法就是，大声叫喊出对畏惧的反应。我留意到了，当自己思考诸如：“我想，自己读到过这样的信息，实际上糖分对我们来说并没有那么糟糕，”这样的问题时，我会在精神上补上一句“但这可能只是动机的认知而已，因为我现在真的很想吃这块饼干。”
这就像在我的决策模块上按下暂停，以便给我时间去启动自己的“好奇心模块”，这是为了要训练自己，去发现到底什么才是真理，而不仅是证明要吃饼干。例如，我会设想，在这个问题上，如果我得到的是错误的信念，事态将可能变得糟糕——由于动机的认知或其他一些思考的失败。在这种情况下，如果自己对糖分摄入量的影响评估出错，我可能会想象一下通过增重，或长跑的方式来降低能量的可能性后果。如果我正在考虑是否要购买火灾保险，我就会想象，一旦我对是否购买保险的直觉判断出错的话，将会发生什么事情。
当我们思考人工智能的启示时，这些工具都是很重要的。我们接下来要谈论那些重量级的废话了，但请谨记：不要退缩。将现实看在眼里，不要退却。