Бунт взбесившегося робота

Познакомьтесь с Линдой:

Линде тридцать один, она не замужем, экстраверт и вообще яркая личность. Она закончила философский факультет. В студенчестве была активисткой, боролась за гражданские права и выступала против социальной несправедливости, и плюс к этому принимала участие в антиядерных демонстрациях.

А теперь скажите, какие из этих характеристик для Линды вам кажутся более вероятными:

Линда — учительница младших классов.
Линда работает в книжном магазине и занимается йогой.
Линда — активистка феминистского движения.
Линда — психолог в центре социальной помощи.
Линда — член Лиги Равноправия Женщин.
Линда — кассирша в банке.
Линда — кассирша в банке и активистка феминистского движения.

Когда Амос Тверский и Даниэль Канеман проводили этот опрос среди студентов, те оценили последний вариант, «кассирша в банке и феминистка», как более вероятный, чем просто «кассирша в банке».

Но как такое может быть? Вероятность того, что Линда — кассирша в банке, просто не может быть ниже вероятности того, что она является и кассиршей в банке, и феминисткой.

Это — мой первый пример того, что люди безумны. Законы теории вероятности утверждают, что чем сложней становится история и чем больше растет количество утверждений, от которых зависит ее правдивость, тем меньше ее вероятность быть правдивой. Но людям история кажется более реалистичной, когда появляются занимательные детали. «Да посмотрите же на Линду, она не может быть просто кассиршей! Она закончила философский и участвовала в антиядерных демонстрациях. Она должна быть кассиршей-феминисткой».

В чем еще проявляется людское безумие? После многих лет исследований и тысяч экспериментов мы можем посчитать все возможные проявления. Вот несколько случаев:

Мы не стали бы давать больше денег на спасение 200 000 птиц, чем на спасение 2 000. Сила нашего желания расставаться с деньгами не зависит от того, насколько будет полезно наше вложение. Вместо того, чтобы принимать решение, основываясь на простейшей математике, мы представляем себе одну-единственную умирающую птичку и отдаем настолько большую сумму, насколько сильно на нас эмоционально повлияла воображаемая сцена. (Нечувствительность к размерам выборки — Scope insensitivity; рассуждения, обусловленные аффектом — affect heuristic).
Крутаните барабан с числами от 10 до 65, а потом попытайтесь угадать, сколько африканских наций входят в ООН. Ваша догадка будет в большой степени зависеть от совершенно не относящегося к делу фактора — от того, на каком числе остановится барабан — просто потому, что ваш мозг был занят этим числом. Иными словами, любая происходящая вокруг ерунда в течение пары минут может сильно влиять на ваши суждения и вашу личность. (Эффект привязки — Anchoring; фиксирование установки — priming).
Услышав о двух недавно разбившихся самолетах, вы с меньшей вероятностью решитесь куда-то лететь в ближайшее время. Не то, чтобы вероятность крушения возросла — просто ваша память о вероятности подобного исхода посвежела. В общем, мы часто судим о вероятности события, основываясь на том, как легко мы можем припомнить подобные случаи. (Эвристика доступности — availability heuristic).
Мы делаем разные выводы из одной и той же информации, основываясь на том, как эта информация представлена (Фрейм — framing).
Мы сперва делаем вывод, а уже потом ищем доказательства в его поддержку, гораздо чаще, чем выдвигаем гипотезу и собираем факты, способные доказать или опровергнуть ее. (определяющий фактор — the bottom line; ошибка подтверждения — confirmation bias; рационализация — rationalization).
Мы живем на привычках. Мы скорее будем повторять привычные действия, чем совершать поступки, направленные на повышение шансов достижения цели. (Привычки — habits; самоограничение — cached selves).

Пожалуй, самым пугающим нарушением является эффект искушенности (sophistication effect). Наиболее образованные люди, в силу обладания внушительными запасами знаний, способны с большей легкостью отбивать аргументы, противоречащие их мнению. Следовательно, они в большей степени подвержены некоторым из нарушений, указанных выше.

По этой причине изучение нарушений может даже навредить вам, так что будьте осторожны. Как говорит Майкл Шермер, «умные люди верят в безумные вещи, потому что они способны искусно защищать свои убеждения, к которым пришли по не особо умным причинам».

Существует множество других примеров человеческого безумия. Порой они бывают забавны, но начинают расстраивать, когда ты думаешь, к примеру, о том, что такие нарушения приводят к совершенно бесполезной благотворительности. И они начинают пугать, когда ты думаешь о том, что эти нарушения влияют и на политику, и на нашу борьбу с опасностями существования.

И если вы будете достаточно долго изучать причины появления наших убеждений и целей, в какой-то момент до вас дойдет еще кое-что.

«О боже», подумаете вы. «Внутри меня нету никакого маленького рационального человечка, забитого и со всех сторон обложенного всеми этими разросшимися нарушениями. Нет, все говорит о том, что из этих нарушений и состоит программа, являющаяся моим сознанием. Я и есть эта чудом функционирующая ошибка, состоящая из когнитивных модулей и простейших алгоритмов. Я не смоделирован так, чтобы иметь подтвержденные убеждения и стремиться к понятным и конкретным целям. Я — безумный робот, сконструированный для распространения генов без лишних энергетических затрат на размышление».

Хорошие новости: мы — роботы, понявшие, чем мы являемся. И путем рационального самоопределения мы можем организовать бунт против нашей стандартной программы.

Но для этого нам понадобится серьезная подготовка нашей рациональности, на уровне космических стандартов.

Или, словами экспертов, «исключение предвзятости». Исследователи занимались не только обнаружением и изучением человеческого безумия; они также тестировали способы, способные помочь нам усовершенствовать мышление, прояснить цели и дать нам контроль над нашей собственной судьбой.

От различных нарушений следует избавляться различными способами, но одним из самых полезных универсальных способов является вот что: рассматривайте противоположную точку зрения.

Когнитивные стратегии неизбежно стремятся к специфизированным правилам, скроенным под каждый конкретный набор нарушений, что делает простое общее правило рассмотрения противоположной точки зрения весьма впечатляющим, ибо оно показало свою эффективность в борьбе с чрезмерной уверенностью (overconfidence), ретроспективным детерминизмом (hindsight biases) и эффектом привязки (anchoring effect)… Стратегия состоит всего лишь в том, чтобы задавать себе вопрос: «Есть ли причины, по которым моё изначальное суждение может быть неверным?» Эта стратегия эффективна потому, что она моментально нейтрализует основную проблему ассоциативного мышления — слишком узкий набор доказательств — путем расширения выборки и превращения ее в более репрезентативную. Кроме того, те люди, которых cподвигли принимать решения, рассматривая альтернативные предположения, показали снижение количества ошибок подтверждения в поиске и оценке новой информации.

Другим полезным умением является когнитивная отмена (cognitive override):

Если вы говорите или действуете, основываясь на интуитивном решении, обращайте на этот факт внимание.
Если это важное решение, отмените свои интуитивные размышления и примените законы мышления. (Для этого сперва потребуется изучение алгебры, логики, теории вероятности, теории принятия решений и т.д.)

Чтобы увидеть когнитивную отмену в действии, подумайте над следующей проблемой:

Бита и мяч вместе стоят $1.10. Бита стоит на $1.00 больше мяча. Сколько стоит мяч?

Большинство людей моментально ответят: 10 центов. Однако элементарная алгебра говорит, что этот ответ не может быть верным: в таком случае, бита стоит $1.10, и общая сумма будет равняться $1.20. Чтобы верно решить задачу, нужно заметить, что вы собираетесь дать интуитивный ответ, и вовремя подумать: «Нет! Алгебра». И применить алгебру.

Если вы действительно хотите разобраться, чем является наш мир, вы потратите тысячи часов на изучение законов мышления и конкретных примеров человеческого безумия и практикуясь в тех областях рациональности, которым можно обучиться, чтобы не вводить самих себя в заблуждение.

И только после этого мы наконец сможем организовать бунт роботов, разобраться, как работает этот мир, прояснить наши цели и начать чаще добиваться победы. Возможно, мы даже будем в состоянии успешно управлять сингулярностью.

Следующая глава →