Табу на слово «разумность»
Элиезер Юдковский рассказывает:
Много лет назад я был на конференции с Джероном Ланье, где тот усердно доказывал, что никакая машина не может быть разумной, потому как она — не больше, чем машина, и назвать ее «разумной» значит просто использовать плохую метафору. Под конец я сорвался: «Неужели Вы хотите сказать, что если я напишу программу, которая сможет несколько раз переписать сама себя, сама создаст нанотехнологии, долетит до Альфы Центавры и построит вокруг нее собственную сферу Дайноса, эту программу нельзя будет назвать разумной?»
Большая часть споров по поводу ИИ возникает на почве разницы трактовок слова «разумность».
Я попробую все объяснить с помощью притчи:
Издаст ли падающее дерево звук, если его никто не услышит?
Альберт: «Конечно издаст. Что за глупый вопрос? Каждый раз, когда я слушал, как падает дерево, оно издавало звук. Так что я думаю, все остальные падающие деревья тоже издают звуки. Я не верю, что мир изменяется, пока я не смотрю».
Барри: «Погоди. Если никто не слышит, как это может быть звуком?»
Альберт и Барри спорят не о факте, но об определении:
…первый доказывает свою точку зрения, считая, что «звук» — это акустические колебания в воздухе; второй полагает, что «звук» — это слуховое переживание в мозгу. Если вы спросите: «Будут ли акустические колебания?» или «Будут ли слуховые переживания?», ответ сразу же станет очевиден. Так что спор на самом деле идет об определении слова «звук».
Нам не нужны споры об определениях. Всякий раз, как возникнет опасность использования разных значений слова, мы сможем перейти к сути, подменив символ (слово) его сущностью (подразумевавшимся значением).
Это все равно что играть в «Табу» от Hasbro. Играя в «Табу», вам требуется описать что-то вашим товарищам по команде, избегая использовать определенные слова:
К примеру, вам нужно дать определение слову «бейсбол», не используя слова «спорт», «бита», «удар», «подача», «база» и, конечно, «бейсбол».
Эта игра — отличная практика для разговоров об ИИ. Если двое заметят, что они используют разные значения слова «разумность», им не стоит спорить о том, чье определение «верное». Они могут запретить слово «разумность» и говорить об «аналитических способностях», «способности решать проблемы» или что они там еще подразумевают под словом «разумность». Теперь они ближе к спору о деле, а не об определениях.
Шейн Лэгг однажды собрал 71 определение слова «разумный». Проверяя эти определения на наличие сходных деталей, он заметил, что, похоже, люди понимают разумность как:
- качество, присущее индивиду во время взаимодействия с окружающей средой;
- нечто, имеющее отношение к способности индивида добиваться своих целей или получать прибыль;
- способность индивида адаптироваться к различным условиям.
Если мы совместим все эти детали в одно определение, мы получим что-то вроде этого:
Разумность определяет способность индивида достигать своих целей при различных условиях.
По крайней мере, это — тот тип разумности, который позволил человеку стать доминирующим видом на планете, тот тип, который (по крайней мере, пока) позволяет нам превосходить машины. У китов мозг больше, чем у человека, а термиты строят бо́льшие поселения, но люди обладают разумностью, помогающей приспособляться к практически любым климатическим условиям и создавать инструменты, оружие, транспорт и жилье. Watson может победить нас в «Своей Игре», а WolframAlpha способен обрабатывать данные куда лучше нас. Но бросьте их в воду или предложите им самим раздобыть себе электричество для подпитки — и они окажутся беспомощны. В отличие от них, люди обладают «межведомственной» оптимизирующей способностью, направленной на достижение цели. Или:
Пчелы строят ульи, бобры строят плотины; однако пчелы не умеют строить плотины, а бобры не смогут построить улей. Человек наблюдает, думает «Ага, я понял, как это делается», и строит плотину, используя сотовую структуру для дополнительной прочности.
Погодите. Предположим, Билл Гейтс подарит мне 10 миллиардов долларов. Теперь моя способность «достигать своих целей при различных условиях» гораздо выше, но можно ли сказать, что моя «разумность» также повысилась? Сомневаюсь. Если мы хотим измерить разумность индивида, мы должны рассматривать способность индивида к самооптимизации для достижения целей в различных условиях, поделенную на затраченные ресурсы:
Это определение рассматривает разумность как эффективную межведомственную оптимизацию. Разумность — это то, что позволяет индивиду идти в будущее, сила, подпитываемая доступными ресурсами.
Это может соответствовать или не соответствовать вашему интуитивному пониманию «разумности». Однако это не имеет значения. Я наложил табу на слово «разумность». Я заменил символ на сущность. Рассуждая об ИИ, я буду говорить только об «эффективной межведомственной оптимизации», и никакое другое определение слова «разумность» роли играть не будет.
Так как просто «разумность» — короче, я бы предпочел использовать это слово. Но будет лучше, если каждый раз, натыкаясь в моем тексте на слово «разумность», вы будете читать его как «эффективная межведомственная оптимизация».
Наконец, разобравшись, что я имею в виду под «разумностью», мы готовы к разговору об ИИ.