Не отгораживайтесь
Возможно, вы слышали о японских участниках сопротивления, отказывавшихся верить сообщениям о капитуляции Японии в 1945 году. Одним из них был лейтенант Хироо Онода и три солдата под его начальством на филиппинском острове Лубанг. На протяжении тридцати лет они жили в джунглях на кокосах и бананах, отказываясь верить, что война закончилась.
Им скидывали листовку за листовкой, подбрасывали газеты, доставляли письма и фотографии родственников. Друзья и родные обращались к ним через громкоговоритель. Но всегда находилось что-то подозрительное, и они отказывались верить, что война в самом деле закончилась.
Один за другим солдаты Оноды умирали или сдавались, но он сам наконец поверил в японскую капитуляцию лишь спустя почти что тридцать лет, в 1974 году. Позже он вспоминал:
Внезапно все почернело. Внутри меня разразилась буря. Я почувствовал себя таким дураком… Чем я занимался все эти годы?
Изучающий рациональность стремится к достоверным убеждениям дабы с большим успехом достигать своих целей. Так что он будет реагировать на доказательства совсем не так, как Онода. Он сменит свою точку зрения, как только наберется достаточно доказательств в поддержку альтернативной (согласно уже имеющимся сведениям и законам теории вероятностей). Цепляясь за неверные убеждения, можно нажить весьма серьезные последствия: к примеру, тридцать лет кокосовых скорлупок заместо унитаза.
Онода прошел подготовку в армии, которая тренирует пилотов-камикадзе, и его заставили поверить, что поражение родины является наихудшей ситуацией из всех возможных. Так что он рефлекторно отгородился ото всех доказательств капитуляции Японии, ибо был обучен верить, что подобное просто недопустимо.
Один из навыков в арсенале рационально мыслящего человека — замечать подобные «отгораживания» и противостоять им. Нам понадобится этот навык при рассмотрении последствий уже обговоренных нами идей: появление ИИ неизбежно; ИИ может быть гораздо умней (а потому могущественней), чем человек. Для рассмотрения последствий осуществления этих идей нелишним будет знание о процессе работы человеческого мозга при обдумывании замыслов, ведущих к нежелательным последствиям. Как будет показано, армейское зомбирование вовсе не обязательно для выработки механизма отгораживания. На самом деле, отгораживание — стандартное явление в психологии человека, обычно называемое “мотивированный мышлением» («motivated cognition») и «рационализацией («rationalization»)
В качестве предельно наглядного примера рассмотрим креациониста. Он принимает весьма сомнительные свидетельства в поддержку своей теории, однако очень скептически относится к свидетельствам против нее. Он будет искать доказательства, которые могли бы подтвердить его позицию и проигнорирует самые убедительные опровержения. (Я говорю о креационистах, никогда не слышавших об эндогенных ретровирусах.)
Большинство из нас проделывает подобное каждый день в (будем надеяться) менее очевидной и вредоносной форме. Мы отгораживаемся от неприятной правды и неприятного выбора, говоря себе: «я подумаю об этом завтра». Мы избегаем мыслей о нестыковках в наших убеждениях. Мы начинаем с предубеждения, и лишь потом ищем ему подтверждения. Мы бессознательно отфильтровывааем свидетельства, неподходящие под наши убеждения. Мы опровергаем слабые аргументы против нашей позиции и даже не пытаемся рассматривать самые сильные.
Обычно, эти процессы протекают автоматически и подсознательно. Необязательно быть особенно иррациональным человеком, чтобы отгораживаться подобным образом. Нет, мы отгораживаемся по умолчанию, даже того не замечая, и чтобы не отгораживаться, нам приходится прикладывать сознательные умственные усилия. И они состоят не в том, чтобы без перерыва бубнить про себя «Не допускай ошибок подтверждения, не допускай ошибок подтверждения…» Тут нужно кое-что поэффективней.
Какие конкретно умственные усилия мы можем приложить во избежание отгораживания?
К примеру, можно оставить себе путь для отступления:
Прошлым вечером мне случилось разговаривать с [кем-то, кто] объявил, что: а) верит в существование души; б) не верит в крионику, так как считает, что душа не сможет оставаться в замороженном теле. Я спросил: «Откуда ты знаешь?» По замешательству, промелькнувшему на лице, я понял, что этот вопрос никогда не приходил ей в голову…
Я предложил ей: «Представь, каким был бы мир, если бы душ не существовало, и как бы ты на это реагировала. Не думай о том, почему этого быть не может, просто прими это как данность и представь следствия. В таком случае это перестанет казаться таким уж устрашающим, и ты сможешь подумать: «Что ж, если душ нет, я могу подписаться на крионику», или «Если Бога нет, я все равно могу оставаться верной моральным устоям».Просто ради самоуважения тебе стоит попробовать поверить в то, что правдиво — неважно, насколько эта правда неприятна … [и] по законам человеческой природы, это поможет сделать теорию менее неприятной, чтобы оценить весомость доказательств в ее пользу».
Конечно, вам все еще потребуется здраво оценить доказательства. Существуют пугающие меня убеждения, которые я до сих пор отвергаю, и приятные мне убеждения, с которыми я все еще соглашаюсь. Однако очень важно ясно представлять себе варианты развития событий и делать их менее пугающими, чтобы ваш мозг мог верней оценивать доказательства.
Создание путей для отступления — маневр, выполняемый до начала битвы. Анти-отгородительная техника, применяемая во время боя — словесно сформулировать отгородительную реакцию. Ловя себя на мысли «Где-то я читал, что сахар не так уж вреден», я мысленно добавляю: «Хотя, это может быть простым мотивированным мышлением, потому что я правда хочу съесть эту печеньку».
Это все равно что поставить паузу в процессе принятия решений и запустить «процессы любопытства», запрограммированные на желание знать истину, а не на оправдание съедения печеньки. К примеру, я представлю, что может пойти не так, если я приду к неверным убеждениям благодаря мотивированному мышлению или какой-нибудь еще ошибке мышления. Я смогу представить, что в качестве возможного последствия неверного решения о влиянии сахара я наберу вес, или снижу свою энергию. Если бы я размышлял о том, стоит ли оформлять пожарную страховку, я бы пытался представить, что может случиться, если мое интуитивное решение окажется неверным.
Эти техники будут важны для нас, когда мы будем представлять последствия создания ИИ. Сейчас разговор пойдет о всяких сложных материях, так что помните: не отгораживайтесь. Смотрите реальности в лицо и не отступайте.