Вы держите в руках сборник ежедневных записей в блоге за два года. Оглядываясь назад, я вижу огромное количество вещей, которые сделал совершенно неправильно. Меня это вполне устраивает. Оглянуться назад и не увидеть огромного количества собственных ошибок означало бы, что ни мой слог, ни мое понимание не улучшились с 2009 года. «Упс» — это звук, который мы издаем, когда корректируем свои убеждения и стратегии; так что оглядываться в прошлое и не видеть никаких собственных ошибок — значит признать, что с тех пор вы ничему не научились и не изменили своего мнения.

Моей ошибкой было то, что, публикуя посты на протяжении этих двух лет, я не ставил себе целью помочь людям действовать эффективнее в повседневной жизни. Я писал их с намерением помочь в решении масштабных, сложных и важных проблем, выбирая в качестве примеров внушительно звучащие абстрактные задачи.

Оглядываясь назад, я вижу, что это было второй по величине ошибкой в моем подходе. Она тесно связана с первой, самой главной ошибкой в моих текстах: я не понимал, что главная сложность в освоении этого ценного стиля мышления — разобраться, как применять его на практике, а вовсе не усвоить теорию. Я не осознавал приоритетности практической части, и по этому поводу мне остается сказать лишь «Упс» и «Да уж».

Да, порой те масштабные проблемы действительно масштабны и действительно важны, но это не отменяет простой истины: чтобы освоить навыки, в них нужно практиковаться, а практиковаться на вещах, далеких от вашей реальности, гораздо труднее. (Сегодня Центр прикладной рациональности работает над тем, чтобы исправить эту мою колоссальную ошибку более систематическим образом.)

Третьей моей огромной ошибкой было то, что я слишком сосредоточился на рациональных убеждениях и уделил слишком мало внимания рациональным действиям.

Четвертой по величине ошибкой было то, что мне следовало лучше структурировать материал, представленный в цепочках. В частности, мне нужно было гораздо раньше создать собственную вики и облегчить чтение постов по порядку.

Эту ошибку, по крайней мере, можно исправить. В предлагаемом издании Роб Бенсингер поменял порядок постов и реорганизовал их структуру насколько это было возможно, не пытаясь переписывать сам материал (хотя кое-что он все же переписал).

Моей пятой огромной ошибкой было то, что я — как мне тогда казалось — старался прямо и без прикрас называть глупостью то, что считал глупыми идеями. Я честно пытался избегать уловки, известной как бульверизм, когда вы начинаете обсуждение с разговоров о том, насколько глупы люди, верящие во что-то; я всегда сначала разбирал суть вопроса и лишь в конце говорил: «А значит, это глупо». Но в 2009 году для меня оставался открытым вопрос: возможно, все же необходимо, чтобы кто-то открыто выражал презрение к гомеопатии? Я думал — и до сих пор думаю, — что существует печальная психологическая особенность, из-за которой вежливое отношение к идеям воспринимается многими на глубинном уровне так: «Если я скажу, что верю в это, ничего страшного не случится; я не потеряю в статусе, если заявлю, что верю в гомеопатию», и что насмешки комиков порой помогают людям очнуться от этого сна.

Думаю, сегодня я писал бы вежливее. Эта резкость действительно выполняла свою функцию, и, полагаю, некоторым читателям она пошла на пользу. Однако сейчас я гораздо серьезнее отношусь к риску построить сообщество, где нормой и ожидаемой реакцией на взгляды аутсайдеров с низким статусом становятся открытые насмешки и презрение.

Несмотря на мою ошибку, я рад отметить, что мои читатели до сих пор проявляли поразительную сдержанность и не использовали мою риторику как повод для травли или унижения окружающих. (Здесь мне хотелось бы особо выделить Скотта Александера — он гораздо более приятный человек, чем я, и пишет на эти темы все лучше и лучше. и, возможно, именно ему принадлежит часть заслуги в формировании здоровой культуры Less Wrong.)

Возможность оглянуться назад и заявить, что ты «потерпел неудачу», подразумевает, что у тебя были цели. Так чего же именно я пытался достичь?

В наши дни существует особый ценный способ мышления, которому пока еще не учат в школах. Ему вообще не учат систематически. Его просто впитывают люди, выросшие на книгах вроде «Вы, конечно, шутите, мистер Фейнман!», или те, кому посчастливилось встретить в школе выдающегося учителя.

Прежде всего, этот стиль мышления ассоциируется с наукой и экспериментальным методом. С той гранью науки, где вы выходите в мир и наблюдаете за вселенной вместо того, чтобы просто выдумывать теории. С той частью, где вы говорите «Упс» и отказываетесь от неудачной гипотезы, если эксперименты ее опровергают.

Но этот способ мышления простирается гораздо дальше. Он глубже и универсальнее, чем защитные очки, которые вы надеваете, когда входите в лабораторию, и снимаете, когда выходите из неё. Он применим к повседневной жизни, хотя здесь он гораздо тоньше и сложнее. Но если вы не способны сказать «Упс» и отступиться, видя, что дело не ладится, вам не остается ничего другого, кроме как продолжать стрелять себе в ногу. Вам приходится раз за разом перезаряжать дробовик и снова нажимать на курок. Вы наверняка знаете таких людей. И где-то в вашей собственной жизни, в том укромном уголке, о котором вам меньше всего хочется думать, вы и есть такой человек. Было бы здорово, если бы существовал способ мышления, который помог бы нам перестать это делать.

Несмотря на масштабность моих ошибок, эти два года ведения блога, судя по всему, удивительно сильно помогли поразительно большому числу читателей. Пускай это работало не всегда, но время от времени это действительно приносило плоды.

В современном обществе так мало обучают навыкам рационального формирования убеждений и принятия решений, так мало преподают математику и естественные науки, лежащие в их основе… что оказывается, простое чтение огромного массива хаотично изложенных мыслей, полного проблем философии и науки, может — да-да! — принести на удивление много пользы. Разбор всего этого под десятком разных углов порой позволяет мельком уловить центральный ритм.

Потому что в конечном счете всё это — одно целое. Я говорил о больших, важных, далеких проблемах и пренебрегал насущной жизнью, но законы, которые ими управляют, на самом деле ничем не отличаются. В том, на чем я фокусировался, есть огромные пробелы, да и примеры я выбирал совершенно неудачные; но в конце концов всё это — одно целое. Я с гордостью оглядываюсь назад и могу сказать, что даже после всех сделанных мною ошибок и всех прочих случаев, когда я говорил «Упс»…

Даже пять лет спустя мне все еще кажется, что это лучше, чем ничего.

Когда вы открываете глаза и осматриваете комнату вокруг, вы определяете положение своего ноутбука относительно стола, а книжного шкафа — относительно стены. Если с вашими глазами или мозгом что-то пойдет не так, ваша ментальная модель может показать книжный шкаф там, где его нет, и когда вы подойдете, чтобы взять книгу, вас постигнет разочарование.

Вот что значит иметь ложное убеждение — карту мира, не соответствующую территории. Эпистемическая рациональность как раз и заключается в построении точных карт. Такое соответствие между убеждением и реальностью обычно называют «истиной», и я охотно буду использовать это слово.

Инструментальная рациональность, с другой стороны, заключается в управлении реальностью — в том, чтобы подталкивать будущее туда, куда вы хотите. Это искусство выбора действий, которые ведут к результатам, занимающим более высокие места в вашей системе предпочтений. Иногда я называю это «победой».

Таким образом, рациональность — это формирование истинных убеждений и принятие выигрышных решений.

Стремление к «истине» в данном случае не означает отказ от неочевидных или косвенных доказательств. Взгляд на комнату вокруг вас и построение её ментальной карты в принципе ничем не отличаются от веры в то, что у Земли расплавленное ядро или что Юлий Цезарь был лысым. Эти вопросы, будучи удалёнными от вас в пространстве и времени, могут казаться более эфемерными и абстрактными, чем вопросы о вашем книжном шкафу. Тем не менее, существуют объективные факты о состоянии земного ядра в 2015 году нашей эры и о состоянии головы Цезаря в 50 году до нашей эры. Эти факты могут оказывать на вас реальное влияние, даже если вы никогда не найдёте способа встретиться с Цезарем или ядром лицом к лицу.

И «победа» здесь вовсе не обязательно должна достигаться за счёт других. Жизненный путь может быть посвящён сотрудничеству или самопожертвованию, а не соперничеству. «Ваши ценности» здесь означают всё, что вам небезразлично, включая других людей. Они не ограничиваются эгоистичными или неразделяемыми ценностями.

Когда люди говорят: «X рационально!», обычно это просто более резкий способ сказать: «Я думаю, что X истинно» или «Я думаю, что X хорошо». Зачем же тогда нужно отдельное слово «рациональный», помимо «истинного» и «хорошего»?

Аналогичный аргумент можно привести и против использования слова «истинно». Нет нужды говорить «истинно, что снег белый», когда можно просто сказать «снег белый». Полезность идеи истины заключается в том, что она позволяет нам рассуждать об общих свойствах соответствия карты и территории. Утверждение «Истинные модели обычно дают лучшие экспериментальные прогнозы, чем ложные» — полезное обобщение, и его невозможно сформулировать без использования таких понятий, как «истинный» или «точный».

Точно так же мысль «Рациональные агенты принимают решения, максимизирующие математическое ожидание согласованной функции полезности» опирается на концепцию (инструментальной) рациональности, тогда как фразу «Рационально есть овощи», пожалуй, можно заменить на «Полезно есть овощи» или «В ваших интересах есть овощи». Нам нужно такое понятие, как «рациональный», чтобы фиксировать общие факты о тех способах мышления, которые систематически порождают истину или ценность, — и о систематических ошибках, из-за которых мы не дотягиваем до этих стандартов.

Иногда экспериментальные психологи обнаруживают в человеческих рассуждениях весьма странные вещи. Например, кто-то оценивает вероятность того, что «Билл играет джаз», как меньшую, чем вероятность того, что «Билл — бухгалтер, который играет джаз». Это кажется странным суждением, поскольку любой отдельно взятый бухгалтер, играющий джаз, очевидно, является джазменом. Но с какой более высокой точки зрения мы утверждаем, что это суждение ошибочно?

Экспериментальные психологи используют два золотых стандарта: теорию вероятностей и теорию принятия решений.

Теория вероятностей — это свод законов, лежащих в основе рациональных убеждений. Математика вероятностей одинаково и без каких-либо различий описывает: а) определение того, где находится ваш книжный шкаф, б) вычисление температуры земного ядра и в) оценку количества волос на голове Юлия Цезаря. Всё это одна и та же задача: как обработать свидетельства и наблюдения, чтобы скорректировать («обновить») свои убеждения. Точно так же теория принятия решений — это свод законов, лежащих в основе рациональных действий, и она в равной степени применима независимо от того, каковы чьи-то цели и доступные варианты.

Пусть «P(то-то и то-то)» означает «вероятность того, что произойдет то-то и то-то», а P(A,B) — «вероятность того, что произойдут и А, и B». Поскольку универсальный закон теории вероятностей гласит, что P(A) ≥ P(A,B), суждение о том, что P(Билл играет джаз) меньше, чем P(Билл играет джаз, Билл — бухгалтер), признаётся неверным.

Выражаясь научным языком, можно сказать, что эта вероятностная оценка является небайесовской. Убеждения и действия, рациональные в этом математически строгом смысле, называют «байесовскими».

Заметьте, что современное понимание рациональности не сводится к рассуждениям с помощью слов. Я приводил пример с открытием глаз, осмотром комнаты и построением ментальной модели помещения, где у стены стоит книжный шкаф. Современное понятие рациональности достаточно широко, чтобы включить ваши глаза и зрительные зоны мозга в число «картографирующих инструментов». Оно включает в себя и ваши бессловесные интуитивные догадки. Математике всё равно, используем ли мы одно и то же слово «рациональный» и применительно к Споку, и применительно к байесовскому подходу. Математика моделирует эффективные способы достижения целей или картографирования мира независимо от того, соответствуют ли эти способы нашим предвзятым мнениям и стереотипам о том, какой «должна быть» рациональность.

Это далеко не исчерпывает вопрос о том, что понимается под «рациональностью» на практике, по двум важным причинам:

Во-первых, байесовский формализм в его полном виде вычислительно нереализуем для большинства задач реального мира. Никто не может на самом деле рассчитать всё математически и следовать этим расчётам, так же как невозможно предсказать поведение фондового рынка, просчитывая движение кварков.

Именно поэтому существует целый сайт под названием «Less Wrong», а не единственная страница, которая просто декларировала бы формальные аксиомы, на чём всё и заканчивалось бы. Поиск истины и реализация ценностей изнутри человеческого разума — это целое отдельное искусство: нам нужно изучить собственные изъяны, преодолеть свои когнитивные искажения, избегать самообмана, привести себя в хорошую эмоциональную форму, чтобы смело смотреть в лицо истине и делать то, что должно быть сделано, и так далее, и так далее.

Во-вторых, иногда под вопрос ставится смысл самой математики. Точные правила теории вероятностей ставятся под сомнение, к примеру, антропными проблемами, в которых число наблюдателей неопределённо. Точные правила теории принятия решений ставятся под сомнение, например, задачами типа Ньюкома, в которых другие агенты могут предсказать ваше решение до того, как оно будет принято.¹

В подобных случаях бесполезно пытаться решить проблему, придумывая новое определение слова «рациональный» и заявляя: «Следовательно, предпочитаемый мной ответ по определению, — это и есть то, что подразумевается под словом „рациональный“». Это лишь ставит вопрос о том, почему кто-то вообще должен обращать внимание на ваше определение. Меня интересует теория вероятностей не потому, что это священное слово, ниспосланное Лапласом. Меня интересует обновление убеждений в байесовском стиле (с априорными вероятностями Оккама), потому что я ожидаю, что этот стиль мышления систематически приближает нас, ну, знаете, к точности — к карте, которая отражает территорию.

А кроме того, существуют вопросы о том, как мыслить, на которые, кажется, не дают исчерпывающего ответа ни теория вероятностей, ни теория принятия решений — например, вопрос о том, что чувствовать по отношению к истине, когда вы её уже узнали. Здесь попытка как-то по-особому определить «рациональность» опять же не обосновывает ответ, а лишь заранее его предполагает.

Я здесь не для того, чтобы спорить о значении слова, даже если это слово — «рациональность». Смысл привязки последовательностей букв к определённым понятиям состоит в том, чтобы позволить двум людям общаться — помочь перенести мысли из одного разума в другой. Вы не можете изменить реальность или доказать мысль, манипулируя тем, какие значения закреплены за какими словами.

Так что если вы понимаете, к какому понятию я в целом клоню, используя слово «рациональность» и субтермины «эпистемическая рациональность» и «инструментальная рациональность», то мы поняли друг друга: мы достигли всего, чего можно достичь разговорами о том, как определять «рациональность». Обсуждать теперь нужно не то, какое значение приписать слогам «ра-ци-о-наль-ность», обсуждавать нужно то, какой способ мыслить хорош.

Если вы говорите: «Для меня (эпистемически) рационально верить в X, но на самом деле верно Y», то вы, вероятно, используете слово «рационально» в каком-то ином значении, нежели я. (Например, «рациональность» должна быть непротиворечивой при рефлексии: «рациональный» взгляд на свидетельства и «рациональное» осмысление того, как ваш разум обрабатывает эти свидетельства, не должны приводить к двум разным выводам.)

Точно так же, если вы ловите себя на мысли: «С (инструментальной) точки зрения рационально поступить как X, но правильно поступить как Y», то вы почти наверняка вкладываете какой-то другой смысл в слово «рационально» или слово «правильно». Я использую термин «рациональность» нормативно, чтобы выделить желательные паттерны мышления.

В этом случае — как и в любом другом, когда люди спорят о значениях слов, — вам следует заменить слово «рациональный» более конкретными формулировками: «Для моей личной выгоды лучше убежать, но я надеюсь, что хотя бы попытался бы стащить ребёнка с железнодорожных путей» или «Каузальная теория принятия решений в её обычной формулировке утверждает, что в задаче Ньюкома нужно брать две коробки, но я бы предпочёл получить миллион долларов».

На самом деле я рекомендую перечитать это эссе заново, заменяя каждое употребление слова «рациональный» на «фузальный», и посмотреть, изменит ли это хоть как-то коннотации моих слов. Если да, то я скажу: стремитесь не к рациональности, а к фузальности.

У слова «рациональный» есть потенциальные ловушки, но существует множество непограничных случаев, когда оно отлично работает для передачи того, что я имею в виду. То же касается и слова «иррациональный». В таких случаях я не боюсь его использовать.

И всё же следует быть осторожным, чтобы не злоупотреблять этим словом. Никто не начислит вам очков за то, что вы просто громко его произносите. Если вы слишком много говорите о Пути, вы его не обретёте.

Популярное мнение о «рациональности» гласит, что она противостоит любым эмоциям — будто вся наша грусть и вся наша радость автоматически нелогичны уже потому, что это чувства. И всё же, как ни странно, я не могу найти в теории вероятностей ни одной теоремы, которая доказывала бы, что я должен выглядеть ледяным и бесстрастным.

Так ортогональна ли рациональность чувствам? Нет; наши эмоции рождаются из наших моделей реальности. Если я поверю, что моего погибшего брата нашли живым, я обрадуюсь; если я проснусь и пойму, что это был сон, я расстроюсь. П. С. Ходжелл сказала: «То, что может быть разрушено истиной, должно быть разрушено». Моему счастью во сне противоречила истина. Моя грусть при пробуждении рациональна; нет такой истины, которая могла бы её разрушить.

Рациональность начинается с вопроса о том, «каков-мир-на-самом-деле», но затем вирусно распространяется на любые другие мысли, которые зависят от наших представлений об устройстве мира. Ваши убеждения о том, «каков-мир-на-самом-деле», могут касаться чего угодно, что, по вашему мнению, существует в реальности, любого объекта, который либо существует, либо нет, любого представителя класса «вещей, способных заставлять другие вещи происходить». Если вы верите, что в вашем шкафу живёт гоблин, который связывает шнурки ваших ботинок, то это убеждение о том, каков-мир-на-самом-деле. Ваши ботинки реальны — вы можете взять их в руки. Если в мире существует нечто, способное протянуть руку и связать ваши шнурки, оно тоже должно быть реальным, частью той огромной сети причин и следствий, которую мы называем «вселенной».

Злость на гоблина, связавшего ваши шнурки, включает в себя состояние ума, которое касается не только того, каков-мир-на-самом-деле. Представьте, что вы буддист, пациент после лоботомии или просто очень флегматичный человек, и завязанные шнурки не вызывают у вас гнева. Это не повлияло бы на ваши ожидания относительно мира — вы всё так же ожидали бы открыть шкаф и обнаружить там связанные шнурки. Ваши злость или спокойствие не должны влиять на ваши прогнозы, ведь происходящее в шкафу не зависит от вашего эмоционального состояния; хотя, возможно, чтобы мыслить настолько ясно, потребуется некоторое усилие.

Но чувство злости тесно переплетено с состоянием ума, которое действительно касается того, каков-мир-на-самом-деле; вы злитесь, потому что думаете, будто гоблин связал ваши шнурки. Критерий рациональности распространяется вирусно — от первоначального вопроса о том, связал ли гоблин ваши шнурки, на возникший в результате гнев.

Становясь более рациональными — приходя к более точным оценкам того, каков-мир-на-самом-деле, — мы можем ослабить чувства или усилить их. Иногда мы бежим от сильных чувств, отрицая факты, отпрянув от того взгляда на мир, который и вызвал эту сильную эмоцию. В таком случае, по мере того как вы будете осваивать навыки рациональности и приучать себя не отрицать факты, ваши чувства будут становиться сильнее.

В юности я никогда не был до конца уверен, было ли нормально испытывать сильные чувства — позволено ли это, правильно ли. Не думаю, что это замешательство возникало лишь из-за моего юношеского непонимания рациональности. Я наблюдал похожие трудности у людей, которые даже не стремятся быть рационалистами; когда они счастливы, они задаются вопросом, действительно ли им позволено быть счастливыми, а когда им грустно, они никогда не знают наверняка, стоит ли бежать от этой эмоции или нет. По меньшей мере со времён Сократа, а вероятно, и задолго до него, способ казаться культурным и утончённым заключался в том, чтобы никогда не показывать окружающим, что тебя что-то сильно волнует. Чувствовать — это неловко, в приличном обществе так просто не принято. Видели бы вы, какие странные взгляды я ловлю, когда люди понимают, насколько сильно меня волнует рациональность. Думаю, дело не в необычности темы, а в том, что они просто не привыкли видеть разумных взрослых, которых заметно волнует хоть что-то.

Но теперь я знаю, что в сильных чувствах нет ничего плохого. С тех пор как я принял правило «То, что может быть разрушено истиной, должно быть разрушено», я также осознал: «То, что истина питает, должно процветать». Когда случается что-то хорошее, я радуюсь, и в моей голове нет путаницы относительно того, рационально ли мне радоваться. Когда происходит что-то ужасное, я не бегу от своей грусти, пытаясь найти фальшивые утешения и мнимые светлые стороны. Я мысленно созерцаю прошлое и будущее человечества, десятки миллиардов смертей за нашу историю, страдания и страх, поиск ответов, дрожащие руки, тянущиеся вверх из потоков крови, то, кем мы можем стать однажды, когда превратим звёзды в наши города, всю эту тьму и весь этот свет — я знаю, что никогда не смогу по-настоящему это осмыслить, и у меня нет слов, чтобы это выразить. Вопреки всей моей философии мне по-прежнему неловко признаваться в сильных эмоциях, а вам, вероятно, неуютно о них слушать. Но теперь я знаю: чувствовать — рационально.

В некоторых комментариях на Overcoming Bias затрагивался вопрос о том, почему мы должны стремиться к истине. (К счастью, немногие сомневались в том, что такое истина.) Наша определяющая мотивация настраивать свое мышление на рациональность — которая определяет, является ли данная настройка «хорошей» или «плохой» — проистекает из тех самых причин, по которым мы вообще захотели найти истину.

Написано: «Первая добродетель — любопытство». Любопытство — одна из причин искать истину, и, возможно, не единственная, но она обладает особой, восхитительной чистотой. Если вашим мотивом служит любопытство, вы будете расставлять приоритеты вопросов в зависимости от того, как сами эти вопросы щекочут ваше личное эстетическое чувство. Более сложная задача, с большей вероятностью неудачи, может стоить больших усилий, чем простая, хотя бы потому, что она увлекательнее.

Как я уже отмечал, люди часто считают рациональность и эмоции противниками. Поскольку любопытство — это эмоция, я подозреваю, что некоторые будут возражать против того, чтобы считать его частью рациональности. Со своей стороны, я называю эмоцию «нерациональной», если она основывается на ошибочных убеждениях или, скорее, на приводящем к ошибкам эпистемическом поведении: «Если утюг приближается к твоему лицу, и ты веришь, что он горячий, а он холодный, Путь противится твоему страху. Если утюг приближается к твоему лицу, и ты веришь, что он холодный, а он горячий, Путь противится твоему спокойствию». И наоборот: эмоция, вызванная верными убеждениями или эпистемически рациональным мышлением, является «рациональной эмоцией». Преимущество такого подхода в том, что он позволяет нам рассматривать спокойствие как эмоциональное состояние, а не как привилегированное положение по умолчанию.

Когда люди противопоставляют «эмоции» и «рациональность», я подозреваю, что на самом деле они имеют в виду Систему 1 и Систему 2 — быстрые интуитивные суждения против медленных рассудочных. Рассудочные суждения не всегда истинны, а интуитивные не всегда ложны, поэтому очень важно не путать эту дихотомию с «рациональностью». Обе системы могут как служить достижению истины, так и препятствовать ему, в зависимости от того, как они используются.

Какие еще существуют мотивы стремиться к истине, кроме чистого эмоционального любопытства? Что ж, возможно, вы хотите достичь какой-то конкретной практической цели — например, построить самолет, и поэтому вам нужно знать определенные факты об аэродинамике. Или, говоря более приземленно, вы хотите шоколадного молока и потому хотите знать, есть ли оно в ближайшем магазине, чтобы решить, идти туда или куда-то еще. Если вы стремитесь к истине по этой причине, то приоритет, который вы отдаете своим вопросам, будет отражать ожидаемую полезность содержащейся в них информации — насколько возможные ответы влияют на ваш выбор, насколько этот выбор важен и какова вероятность найти ответ, который изменит ваш выбор, сделанный по умолчанию.

Поиск истины исключительно ради ее инструментальной ценности может показаться «нечистым» — разве мы не должны желать истины ради нее самой? — но подобные исследования чрезвычайно важны, поскольку они создают внешний критерий проверки: если ваш самолет падает с неба или если вы приходите в магазин и не находите там шоколадного молока, это намек на то, что вы где-то ошиблись. Вы получаете обратную связь о том, какие способы мышления работают, а какие нет. Чистое любопытство — прекрасная вещь, но оно вряд ли станет долго задерживаться на проверке своих ответов, когда привлекательная тайна исчезнет. Любопытство как человеческая эмоция существовало задолго до древних греков. Но на путь Науки человечество твердо встало лишь тогда, когда заметило, что определенные способы мышления приводят к убеждениям, позволяющим нам воздействовать на мир. Что касается чистого любопытства, то сказки у костра о богах и героях удовлетворяли это желание ничуть не хуже, и никто не понимал, что с этим подходом что-то не так.

Существуют ли иные мотивы искать истину, помимо любопытства и прагматизма? Третья причина, которая приходит мне на ум, — это мораль: вы верите, что стремиться к истине благородно, важно и ценно. Хотя подобный идеал также наделяет истину внутренней ценностью, это совершенно иное состояние ума, нежели любопытство. Любопытство к тому, что скрывается за занавесом, ощущается совсем не так, как вера в то, что заглянуть туда — ваш моральный долг. В последнем случае вы с гораздо большей вероятностью решите, что кто-то другой тоже обязан заглянуть за занавес, и станете осуждать его, если он намеренно закрывает глаза. По этой причине я бы также отнес к категории «морали» убеждение в том, что поиск истины прагматически важен для общества и потому является долгом каждого. Ваши приоритеты при такой мотивации будут определяться вашими идеалами касательно того, какие истины наиболее важны (а не наиболее полезны или интригующи), или того, когда и при каких обстоятельствах долг стремиться к истине ощущается сильнее всего.

Я склонен с подозрением относиться к морали как к мотивации для рациональности не потому, что отвергаю этот моральный идеал, а потому, что он влечет за собой определенные проблемы. Слишком легко усвоить в качестве морального долга такие способы мышления, которые окажутся ужасными ошибками в танце. Вспомните мистера Спока из «Звездного пути» — наивный архетип рациональности. Эмоциональное состояние Спока всегда настроено на «спокойствие», даже когда это совершенно неуместно. Он часто выдает слишком много значащих цифр для вероятностей, которые совершенно не откалиброваны. (Например: «Капитан, если вы направите „Энтерпрайз“ прямо в эту черную дыру, вероятность нашего выживания составит всего 2,234%». При этом в девяти случаях из десяти «Энтерпрайз» не погибает. Что за трагический дурак указывает четыре значащие цифры для оценки, которая расходится с реальностью на два порядка?) Однако именно через этот популярный образ многие представляют себе долг быть «рациональными» — неудивительно, что они не принимают его всем сердцем. Превратить рациональность в моральный долг — значит наделить ее всеми теми ужасными степенями свободы, какими обладает произвольный племенной обычай. Люди приходят к неверному ответу, а затем возмущенно протестуют, заявляя, что действовали по всем правилам, вместо того чтобы извлечь урок из своей ошибки.

И все же, если мы собираемся совершенствовать наши навыки рациональности, выходя за рамки стандартов эффективности, заданных охотниками-собирателями, нам понадобятся осознанные убеждения о том, как мыслить должным образом. Когда мы пишем для себя новые ментальные программы, они начинают свой путь в Системе 2, осознанной системе, и лишь постепенно — если вообще когда-либо — встраиваются в нейронные связи, лежащие в основе Системы 1. Поэтому, если мы обнаруживаем определенные типы мышления, которых хотим избегать — скажем, когнитивных искажений, — в Системе 2 это в итоге выразится в виде предписания не мыслить подобным образом, став декларируемым долгом избегания.

Если мы стремимся к истине, эффективнее всего мы сможем обрести ее, если будем мыслить определенными способами, а не другими; это и есть техники рациональности. И некоторые из техник рациональности включают в себя преодоление определенного класса препятствий — когнитивных искажений...

Когнитивное искажение — это определенный вид препятствия на пути к нашей цели: достижению истины. (Его статус «препятствия» обусловлен именно этой целью — достижением истины.) Однако существует множество препятствий, которые «искажениями» не являются.

Если мы сразу же спросим: «Что такое когнитивное искажение?», мы зайдем к вопросу не с того конца. Как гласит пословица: «Существует сорок видов безумия и лишь один вид здравого смысла». Истина — это узкая мишень, крошечная область в конфигурационном пространстве, в которую нужно попасть. Вопрос «любит — не любит» может быть бинарным, но E = mc² — это крошечная точка в пространстве всех возможных уравнений, похожая на выигрышный лотерейный билет среди всех остальных билетов. Ошибка — это не исключительное состояние; именно успех априори настолько маловероятен, что требует объяснения.

Мы не начинаем с морального долга «бороться с искажениями», потому что искажения — это плохо, зло и «так делать нельзя». К такому мышлению можно прийти, если впитать деонтологический долг «рациональности» путем социального осмоса. В результате люди пытаются применять техники, не понимая их смысла. (А это плохо, зло и «так делать нельзя», согласно книге «Вы, конечно, шутите, мистер Фейнман!», которую я прочитал в детстве.)

Напротив, мы хотим добраться до истины — по какой бы то ни было причине — и обнаруживаем различные препятствия на пути к нашей цели. Эти препятствия не то чтобы совсем не похожи друг на друга. К примеру, есть препятствия, связанные с нехваткой вычислительной мощности или дороговизной информации. Так уж вышло, что у большой группы препятствий есть общая черта — они группируются в определенной области пространства «преград на пути к истине», и этот кластер назвали «когнитивными искажениями».

Что такое когнитивное искажение? Можем ли мы взглянуть на этот эмпирический кластер и найти простой критерий принадлежности к нему? Возможно, окажется, что мы не способны дать лучшего объяснения, чем просто указать на несколько экстенсиональных примеров в надежде, что слушатель поймет. Если вы ученый, который только начинает исследовать огонь, гораздо разумнее указать на костер и сказать: «Огонь — это вон та оранжевая, яркая и горячая штука», нежели заявить: «Я определяю огонь как алхимическую трансмутацию веществ с выделением флогистона». Не стоит игнорировать явление только потому, что вы не можете дать ему определение. Я не помню наизусть уравнения общей теории относительности, но если я шагну с обрыва, то все равно упаду. И то же самое можно сказать об искажениях: они не станут бить слабее, если выяснится, что мы не можем дать краткое определение тому, что такое «искажение». Поэтому мы можем указать на ошибку конъюнкции, излишнюю уверенность, эвристики доступности и репрезентативности, игнорирование априорной вероятности и сказать: «В общем, всякое такое».

С учетом всего сказанного, мы, похоже, называем «искажениями» те препятствия на пути к истине, которые порождаются не стоимостью информации и не ограниченностью вычислительных мощностей, а самой структурой наших когнитивных механизмов. Возможно, эти механизмы эволюционно оптимизированы для целей, прямо противоречащих эпистемической точности — например, для победы в спорах в эволюционно значимых политических контекстах. Или же давление отбора было направлено в сторону от эпистемической точности — например, верить в то же, во что верят другие, чтобы уживаться в обществе. Или же, как в классическом подходе «эвристик и искажений», эти механизмы работают по конкретному алгоритму, выполняющему полезную работу, но при этом порождает систематические ошибки: эвристика доступности сама по себе не является искажением, но она порождает конкретные, лаконично описываемые искажения. Наш мозг делает что-то не так, и после множества экспериментов и/или глубоких размышлений кто-то описывает проблему в терминах, понятных Системе 2; тогда мы называем это «искажением». Даже если знание об этом не помогает нам исправить ситуацию, это все равно сбой, который вполне конкретным образом возникает из-за определенного типа когнитивных механизмов — не из-за их нехватки, а из-за их устройства.

«Искажения» отличаются от погрешностей, возникающих из-за когнитивного наполнения, такого как принятые убеждения или усвоенные моральные обязательства. Их мы называем скорее «ошибками», а не «искажениями», и их гораздо проще исправить, стоит нам только самим их заметить. (Хотя первопричиной ошибки или первопричиной её первопричины в конечном итоге может оказаться какое-то искажение.)

«Искажения» также отличаются от погрешностей, вызванных повреждением мозга конкретного человека или усвоенными культурными нормами; искажения проистекают из механизмов, универсальных для всего человечества.

Платон не был «предвзят» из-за того, что не знал об общей теории относительности — у него просто не было возможности собрать эту информацию, его незнание не было следствием устройства его когнитивных механизмов. Но если Платон считал, что из философов получаются лучшие правители, потому что сам был философом — и это убеждение, в свою очередь, возникло из-за универсального адаптивного политического инстинкта самопродвижения, а не потому, что папа Платона внушил ему, будто у каждого есть моральный долг продвигать представителей своей профессии во власть, и не потому, что Платон в детстве нанюхался клея, — тогда это было искажением, независимо от того, предупреждал ли кто-то об этом Платона или нет.

Исправление искажений может обходиться недешево. Возможно, они и вовсе не поддаются исправлению. Но когда мы всматриваемся в собственные когнитивные механизмы и видим причинно-следственное объяснение конкретного класса погрешностей; и когда кажется, что проблема проистекает из эволюционно обусловленной структуры этих механизмов, а не из их нехватки или неверного конкретного наполнения — вот тогда мы называем это искажением.

Лично я вижу наш путь в обретении личных навыков рациональности, в совершенствовании техники поиска истины. Задача состоит в том, чтобы достичь позитивной цели — истины, а не в том, чтобы избежать негативной цели — неудачи. Пространство неудач обширно: бесконечное множество ошибок во всем их бесконечном разнообразии. Описать столь огромное пространство непросто: «То, что верно для одного яблока, может быть неверно для другого; следовательно, об одном-единственном яблоке можно сказать больше, чем обо всех яблоках мира». Пространство успеха значительно у́же, и потому о нем можно сказать больше.

Хотя я и не прочь (как вы можете видеть) пообсуждать определения, нам следует помнить, что это не главная наша цель. Мы здесь для того, чтобы продолжить великий человеческий поиск истины: ведь мы отчаянно нуждаемся в знаниях, да и, кроме того, нам просто любопытно. И ради этого давайте стремиться преодолеть любые препятствия на нашем пути, назовем мы их «искажениями» или нет.

Эвристика доступности — это оценка частоты или вероятности события по тому, насколько легко примеры этого события приходят на ум.

В известном исследовании 1978 года, проведенном Лихтенштейн, Словиком, Фишхоффом, Лейманом и Комбс, «Субъективная частота смертельных исходов» (Judged Frequency of Lethal Events), изучались ошибки в количественной оценке серьезности рисков или в суждениях о том, какая из двух опасностей встречается чаще.¹ Испытуемые полагали, что несчастные случаи уносят примерно столько же жизней, сколько и болезни, а убийства происходят чаще, чем самоубийства. На самом же деле болезни вызывают примерно в шестнадцать раз больше смертей, чем несчастные случаи, а самоубийства происходят вдвое чаще, чем убийства.

Очевидная гипотеза, объясняющая эти искаженные убеждения, заключается в том, что об убийствах говорят гораздо чаще, чем о самоубийствах — следовательно, человеку легче вспомнить, что он слышал об убийстве, чем о самоубийстве. Несчастные случаи более драматичны, чем болезни — возможно, поэтому люди лучше их запоминают или легче вызывают в памяти. В 1979 году последующее исследование Комбс и Словика показало, что искаженные оценки вероятности сильно коррелируют (0,85 и 0,89) с искаженной частотой публикаций в двух газетах.² Это не дает ответа на вопрос, легче ли убийства всплывают в памяти из-за того, что о них больше пишут в прессе, или же газеты пишут о них больше потому, что убийства более наглядны (и, следовательно, лучше запоминаются). Но в любом случае налицо искажение доступности. Избирательное освещение в прессе — один из основных источников искажения доступности. В среде обитания наших предков большую часть того, о чем вы знали, вы испытывали на собственном опыте или слышали непосредственно от соплеменника, который видел это своими глазами. Между вами и самим событием обычно существовал максимум один уровень избирательной передачи информации. В сегодняшнем же интернете вы можете видеть сообщения, прошедшие по пути к вам через руки шести блогеров — шести последовательных фильтров. По сравнению с нашими предками мы живем в гораздо более обширном мире, где происходит намного больше событий, но до нас доходит куда меньшая их часть — это гораздо более сильный эффект отбора, который может порождать значительно более масштабные искажения доступности.

В реальной жизни вы вряд ли когда-нибудь встретите Билла Гейтса. Но благодаря избирательному освещению в СМИ у вас может возникнуть искушение сравнить свой жизненный успех с его — и расплачиваться за это снижением удовлетворенности жизнью. Объективная доля Билла Гейтса в населении планеты составляет 0,00000000015, однако слышите вы о нем гораздо чаще. И наоборот, 19% населения планеты живет менее чем на один доллар в день, но я сомневаюсь, что пятая часть прочитанных вами постов в блогах написана ими.

Опора на доступность, по-видимому, порождает искажение абсурдности: события, которые никогда не происходили, не всплывают в памяти и потому их вероятность оценивается как нулевая. Если в последнее время наводнений не случалось (хотя их вероятность все еще вполне поддается расчету), люди отказываются покупать страховку от наводнений, даже если она щедро субсидируется и стоит намного дешевле актуарно справедливой стоимости. Кунройтер и его коллеги предполагают, что слабая реакция на угрозы наводнений может быть вызвана «неспособностью людей концептуализировать наводнения, которых никогда не происходило… Жители пойменных земель кажутся пленниками своего опыта… Наводнения, пережитые в последнее время, по-видимому, устанавливают верхнюю границу размера ущерба, который, по мнению управленцев, должен вызывать у них беспокойство».³

Бертон и его соавторы отмечают, что строительство плотин и дамб снижает частоту наводнений и тем самым, по всей видимости, создает ложное чувство безопасности, приводящее к снижению мер предосторожности.⁴ Хотя строительство плотин снижает частоту наводнений, ущерб от одного наводнения впоследствии оказывается настолько больше, что среднегодовой ущерб растет. Разумный человек экстраполировал бы память о мелких опасностях на возможность крупных угроз. Вместо этого прошлый опыт мелких опасностей, по-видимому, устанавливает воспринимаемую верхнюю границу риска. Общество, хорошо защищенное от незначительных опасностей, не предпринимает никаких действий против крупных рисков, застраивая поймы рек, как только регулярные мелкие наводнения устранены. Общество, подверженное регулярным мелким опасностям, относится к ним как к верхней границе масштаба рисков, защищаясь от регулярных мелких наводнений, но не от редких крупных.

Память — далеко не всегда надежный ориентир для оценки вероятностей в прошлом, не говоря уже о будущем.

Всего лишь подтверждающие подробности, призванные придать художественное правдоподобие в остальном голому и неубедительному повествованию...

— Пу-Ба, из «Микадо» Гилберта и Салливана¹

Международный аэропорт Денвера открылся на 16 месяцев позже срока, а перерасход бюджета составил 2 миллиарда долларов. (Я также встречал утверждения, что 3,1 миллиарда.) «Еврофайтер Тайфун», совместный оборонный проект нескольких европейских стран, был сдан с опозданием на 54 месяца и обошелся в 19 миллиардов долларов вместо планировавшихся 7 миллиардов. Сиднейский оперный театр, возможно, представляет собой самый легендарный случай превышения сметы и сроков строительства в истории: изначально планировалось завершить его в 1963 году за 7 миллионов долларов, а в итоге закончили лишь в 1973 году, потратив 102 миллиона.¹

Являются ли эти единичные катастрофы лишь результатом избирательной доступности? Служат ли они симптомами бюрократии или неэффективности государственных стимулов? Да, весьма вероятно. Но существует и соответствующее когнитивное искажение, воспроизведенное в экспериментах по индивидуальному планированию.

Бюлер и соавторы попросили своих студентов оценить, когда те (сами студенты), по их собственному мнению, завершат свои учебные проекты.² В частности, исследователи попросили назвать сроки, к которым, по мнению студентов, их проекты будут готовы с вероятностью 50%, 75% и 99%. Хотите угадать, сколько студентов закончили работу не позже названных ими сроков для 50%, 75% и 99%-ной вероятности?

13% испытуемых закончили проект к сроку, которому они присвоили 50%-ную вероятность;

19% закончили к сроку, которому была присвоена 75%-ная вероятность;

и лишь 45% (меньше половины!) уложились в срок, для которого заявляли 99%-ную вероятность.

Как писали Бюлер и его коллеги: «Результаты для уровня 99%-ной вероятности особенно поразительны: даже когда студентов просили сделать крайне консервативный прогноз — предсказание, в исполнении которого они были практически уверены, — их уверенность в собственных оценках времени намного превосходила их реальные достижения».³

В более широком смысле это явление известно как «ошибка планирования». Суть ошибки планирования в том, что люди думают, будто умеют планировать, ха-ха.

Ключ к разгадке глубинной проблемы алгоритма планирования обнаружили Ньюби-Кларк и его коллеги. Они выяснили, что

просьба дать прогнозы, основанные на реалистичных сценариях «наиболее вероятного исхода», и

просьба описать желаемый «лучший вариант развития событий»...

...приводили к неразличимым результатам.⁴

Когда людей просят описать «реалистичный» сценарий, они представляют, что всё пойдет точно по плану, без неожиданных задержек или непредвиденных катастроф, — то есть рисуют ту же картину, что и для «лучшего варианта».

Реальность же, как выясняется, обычно преподносит результаты, которые оказываются несколько хуже даже «худшего варианта».

В отличие от большинства когнитивных искажений, для ошибки планирования нам известна хорошая эвристика для её преодоления. Она не сработает в случае бардака масштабов Денверского аэропорта, но отлично подойдет для личного планирования и даже для некоторых небольших организационных задач. Достаточно использовать «взгляд извне» вместо «взгляда изнутри».

Люди склонны строить свои прогнозы, размышляя об особенных, уникальных чертах стоящей перед ними задачи и выстраивая сценарий того, как они намерены её выполнить, — а это как раз то, что мы обычно и называем планированием. Когда вы хотите что-то сделать, вам нужно спланировать где, когда и как; прикинуть, сколько времени и ресурсов потребуется; мысленно представить все шаги от начала до успешного завершения. Всё это — «взгляд изнутри», и он не учитывает неожиданных задержек и непредвиденных катастроф. Как мы уже видели, просьбы представить «худший вариант» всё равно недостаточно, чтобы перевесить оптимизм: люди не закладывают в свои сценарии достаточный уровень мерфигенности.

Взгляд извне — это когда вы намеренно избегаете размышлений об особых, уникальных чертах проекта и просто спрашиваете себя, сколько времени уходило на завершение в целом похожих проектов в прошлом. Это противоречит интуиции, ведь взгляд изнутри содержит гораздо больше деталей — велик соблазн поверить, будто тщательно проработанный прогноз, учитывающий все имеющиеся данные, даст лучший результат.

Однако эксперимент показал, что чем детальнее представления испытуемых, тем оптимистичнее (и менее точными) они становятся. Бюлер и его коллеги попросили экспериментальную группу подробно расписать планы рождественских покупок: где, когда и как они собираются их делать.⁵ В среднем эта группа рассчитывала закончить покупки более чем за неделю до Рождества. Другую группу просто спросили, когда они планируют закончить покупки, и средний ответ составил четыре дня. Обе группы закончили покупки в среднем за три дня до Рождества.

Аналогично, Бюлер и его коллеги в кросс-культурном исследовании обнаружили, что японские студенты рассчитывали закончить эссе за десять дней до дедлайна. На самом же деле они заканчивали за день до дедлайна. Когда их спросили, за сколько они завершали подобные задачи в прошлом, они ответили: «за один день до дедлайна».⁶ В этом и заключается сила взгляда извне по сравнению со взглядом изнутри.

Похожий вывод заключается в том, что опытные сторонние наблюдатели, которые знают меньше деталей, но могут опереться на релевантный опыт, зачастую оказываются куда менее оптимистичными и гораздо более точными, чем сами авторы планов и исполнители.

Таким образом, существует вполне надежный способ справиться с ошибкой планирования, если вы делаете что-то в целом похожее на некоторый базовый класс прошлых проектов. Просто спросите себя, сколько времени уходило на аналогичные проекты в прошлом, не принимая во внимание никакие особенности вашего нынешнего проекта. А еще лучше — спросите опытного стороннего наблюдателя, сколько времени занимали такие проекты у других.

Вы получите ответ, который покажется вам чудовищно долгим и явно не учитывающим те особые причины, по которым конкретно эта задача должна занять меньше времени. Этот ответ верен. Смиритесь с этим.

Под влиянием ошибки послезнания люди, знающие исход ситуации, верят, что его было легко предсказать заранее. Зная результат, мы переосмысливаем ситуацию в его свете. Даже получив предупреждение, мы не можем отменить эту интерпретацию, чтобы поставить себя на место того, кто не знает того, что знаем мы.

С этим тесно связана иллюзия прозрачности: мы всегда знаем, что мы имеем в виду под своими словами, а потому ожидаем, что и другие это поймут. Когда мы читаем собственный текст, предполагаемый смысл легко встает на свои места, ведь мы знаем, что на самом деле хотели сказать. Трудно поставить себя на место того, кому приходится интерпретировать вслепую, руководствуясь одними лишь словами.

Джун рекомендует Марку ресторан; Марк обедает там и обнаруживает либо (а) невзрачную еду и посредственное обслуживание, либо (б) восхитительную еду и безупречный сервис. Затем Марк оставляет на автоответчике Джун следующее сообщение: «Джун, я только что поужинал в ресторане, который ты рекомендовала, и должен сказать, это было чудесно, просто чудесно». Кисар представил группе испытуемых сценарий (а), и 59% сочли, что сообщение Марка было саркастическим и что Джун уловит этот сарказм.¹ Среди других испытуемых, которым рассказали сценарий (б), лишь 3% подумали, что Джун воспримет сообщение Марка как саркастическое. Кисар и Барр, судя по всему, указывают на то, что испытуемым проигрывали реальное голосовое сообщение.² Кисар показал: если испытуемым говорили, что ресторан был ужасен, но Марк хотел скрыть свою реакцию, они верили, что Джун не заметит сарказма в (том же самом) сообщении:³

Они с одинаковой вероятностью предсказывали, что она уловит сарказм, как в случае, когда он пытался скрыть свой негативный опыт, так и тогда, когда его опыт был положительным, а сам он — искренним. Таким образом, участники посчитали коммуникативное намерение Марка прозрачным. Они словно исходили из того, что Джун уловит любое намерение, которое Марк хотел до неё донести.⁴

«The goose hangs high» («гусь высоко висит») — устаревшая английская идиома, вышедшая из употребления в современном языке. Кисар и Блай сообщили одной группе испытуемых, что эта идиома означает «будущее выглядит радужным», а другая группа узнала, что она означает «будущее выглядит мрачным».⁵ Затем испытуемых спросили, какое из этих двух значений неосведомленный слушатель с большей вероятностью припишет этой идиоме. Каждая группа сочла, что слушатели воспримут именно то значение, которое им преподнесли как «стандартное».

(Среди других протестированных идиом были «come the uncle over someone» [поучать, читать нотации], «to go by the board» [идти прахом] и «to lay out in lavender» [разделать под орех]. Ах, английский, какой чудесный язык!)

Кисар и Хенли проверили калибровку говорящих: склонны ли говорящие недооценивать, переоценивать или же верно оценивать то, насколько часто слушатели их понимают?⁶ Говорящим давали неоднозначные предложения («Мужчина преследует женщину на велосипеде») и устраняющие двусмысленность картинки (мужчина бежит за женщиной, едущей на велосипеде), затем просили произнести эти фразы перед адресатами, а после — оценить, сколько адресатов поняли вложенный смысл. Говорящие полагали, что их поняли в 72% случаев, тогда как на самом деле их понимали в 61% случаев. Когда адресаты их не понимали, говорящие в 46% случаев думали, что те их поняли; когда же адресаты понимали их, говорящие лишь в 12% случаев думали, что те их не поняли.

Дополнительные испытуемые, которые слышали со стороны объяснение, не продемонстрировали подобной предвзятости, ожидая, что слушатели поймут фразу лишь в 56% случаев.

Как отмечают Кисар и Барр, за два дня до нападения Германии на Польшу Чемберлен направил письмо, призванное ясно дать понять, что Великобритания вступит в войну в случае любого вторжения.⁷ Письмо, составленное на вежливом дипломатическом языке, Гитлер воспринял как примирительное — и танки двинулись вперед.

Не спешите винить тех, кто не понимает ваши совершенно ясные фразы — устные или письменные. Весьма вероятно, что ваши слова гораздо более двусмысленны, чем вы думаете.

Среда эволюционной адаптированности Homo sapiens (также известная как СЭА, или «среда предков») состояла из общин охотников-собирателей численностью максимум 200 человек, не знавших письменности. Все унаследованные знания передавались устно и по памяти.

В таком мире любые фоновые знания универсальны. Вся информация, не являющаяся строго личной, публична, и точка.

В среде предков вы вряд ли могли оказаться дальше чем в одном инференциальном шаге от кого-либо ещё. Когда вы находите новый оазис, вам не нужно объяснять соплеменникам, что такое оазис, почему пить воду — хорошая идея или как ходить. Только вы знаете, где находится оазис; это личное знание. Но у каждого есть достаточная база, чтобы понять ваше описание оазиса, и понятия, необходимые, чтобы думать о воде; это универсальное знание. Когда вы объясняете что-то в среде предков, вам почти никогда не приходится объяснять свои понятия. Максимум, вам придётся объяснить одно новое понятие, а не два или более одновременно.

В среде предков не существовало абстрактных дисциплин с огромными массивами тщательно собранных доказательств, обобщённых в элегантные теории и изложенных в книгах, чьи выводы отстоят на сотню инференциальных шагов от всеобщих фоновых предпосылок.

В среде предков любой, кто говорит что-то без очевидных оснований, — либо лжец, либо идиот. Вы вряд ли подумаете: «Хм, может, у этого человека есть хорошо обоснованные фоновые знания, о которых никто в моей общине даже не слышал?» — ведь надёжным инвариантом среды предков было то, что такого просто не бывало.

И наоборот: если вы говорите что-то совершенно очевидное, а другой человек этого не видит, значит, он идиот или намеренно упрямится, чтобы вас позлить.

И в довершение всего, если кто-то говорит что-то без очевидных оснований и ждёт, что вы поверите, — да ещё и возмущается, когда вы этого не делаете, — то он точно сумасшедший.

В сочетании с иллюзией прозрачности и эгоцентрической привязкой, это, по-моему, многое объясняет в легендарных трудностях, которые большинство учёных испытывают при общении с непрофессиональной аудиторией — или даже с учёными из других областей. Когда я наблюдаю неудачные попытки что-то объяснить, я обычно вижу, как объясняющий делает всего один шаг назад, когда ему нужно сделать два или более шагов. Или же слушатели исходят из того, что всё должно быть понятно за один шаг, тогда как для объяснения требуется два или более. Обе стороны ведут себя так, будто ожидают очень коротких инференциальных дистанций от общеизвестных знаний до любых новых знаний.

Биолог в разговоре с физиком может обосновать эволюцию, назвав её простейшим объяснением. Но далеко не каждому жителю Земли привили знание той легендарной истории науки от Ньютона до Эйнштейна, которая наделяет фразу «простейшее объяснение» её величественным смыслом — Словом Силы, произносимым при рождении теорий и высекаемым на их надгробиях. Для кого-то другого фраза «Но ведь это простейшее объяснение!» может прозвучать как интересный, но едва ли неопровержимый довод; она не кажется таким уж мощным инструментом для понимания офисных интриг или ремонта сломанного автомобиля. Очевидно, биолог влюблён в собственные идеи и слишком высокомерен, чтобы рассматривать альтернативные объяснения, которые звучат столь же правдоподобно. (Если это звучит правдоподобно для меня, то должно звучать правдоподобно и для любого здравомыслящего члена моей общины.)

А с точки зрения биолога, он вполне понимает, что эволюция поначалу может казаться немного странной, — но когда кто-то отвергает её даже после того, как он объяснил, что это простейшее объяснение, что ж, тогда ясно, что не-учёные просто идиоты и разговаривать с ними нет смысла.

Понятный аргумент должен выстраивать цепочку рассуждений, начиная с того, что аудитория уже знает или принимает. Если вы не спуститесь на достаточную глубину рекурсии, вы будете разговаривать сами с собой.

Если в какой-то момент вы сделаете утверждение без очевидного обоснования в виде ранее подкреплённых вами доводов, аудитория просто решит, что вы сошли с ума.

Это происходит и тогда, когда вы позволяете себе явно придавать доводу больший вес, чем это кажется оправданным аудитории в данный момент. Например, рассуждать так, будто «более простое объяснение» — это неопровержимый аргумент в пользу эволюции (чем он и является), а не просто занятная мысль (какой она кажется человеку, которого не учили благоговеть перед бритвой Оккама).

Ах да, и лучше не давайте понять, будто вы считаете, что ваши рассуждения отстоят на дюжину шагов умозаключений от того, что известно аудитории, или будто вы полагаете, что обладаете некими особыми фоновыми знаниями, которые ей недоступны. Аудитория ничего не знает об эволюционно-психологических доводах в пользу когнитивного искажения, заставляющего нас недооценивать инференциальную дистанцию, что приводит к заторам в общении. Люди просто подумают, что вы относитесь к ним свысока.

И если вы думаете, что сможете объяснить концепцию «систематически недооцениваемой инференциальной дистанции» в двух словах, у меня для вас плохие новости...

Свет покидает Солнце, падает на ваши шнурки и отражается; часть фотонов попадает в зрачки ваших глаз и падает на сетчатку; энергия фотонов запускает нервные импульсы; нервные импульсы передаются в зрительные зоны мозга; и там оптическая информация обрабатывается и реконструируется в трехмерную модель, которая распознается как развязавшийся шнурок; и вот вы верите, что ваши шнурки развязаны.

В этом и кроется секрет осознанной рациональности — весь этот процесс не является магией, и вы можете его понять. Вы можете понять, как именно видите свои шнурки. Вы можете поразмышлять о том, какие процессы мышления создают убеждения, отражающие реальность, а какие — нет.

Мыши видят, но не могут понять сам процесс зрения. Вы же можете понять, как устроено зрение, и благодаря этому способны делать то, на что мыши не способны. Задержитесь на мгновение, чтобы восхититься этим, ведь это действительно удивительно.

Мыши видят, но они не знают, что у них есть зрительная кора, и потому не могут делать поправку на оптические иллюзии. Мышь живет в мысленном мире, где есть кошки, норки, сыр и мышеловки, но нет мышиного мозга. Их камера не снимает собственный объектив. Но мы, люди, можем посмотреть на странную на первый взгляд картинку и осознать, что часть того, что мы видим, — это сама линза. Вам не обязательно всегда верить собственным глазам, но вы должны понимать, что глаза у вас есть — у вас должны быть разные мысленные категории для карты и территории, для органов чувств и реальности. И если вам кажется, что эта способность тривиальна, вспомните, насколько она редка в животном мире.

Сама идея Науки — это, попросту говоря, рефлексивное рассуждение о более надежном методе, позволяющем содержанию вашего разума отражать содержание внешнего мира. До такого мыши никогда бы не додумались. Размышляя над концепцией «проведения воспроизводимых экспериментов для фальсификации теорий», мы можем понять, почему это работает. Наука — это не какая-то отдельная сфера, далекая от реальной жизни и понимания простых смертных. Наука — это не то, что применимо лишь в стенах лабораторий. Наука сама по себе — понятный процесс в физическом мире, соотносящий работу мозга с реальностью.

В Науке есть смысл, если над этим задуматься. Но мыши не умеют думать о мышлении, и именно поэтому у них нет Науки. Не стоит упускать из виду чудо этого явления — или потенциальное могущество, которое оно дает нам как отдельным личностям, а не только научным сообществам.

Надо признать, понять устройство двигателя мышления может быть немного сложнее, чем понять устройство парового двигателя, — но это не принципиально иная задача.

Как-то раз я зашел в чат #philosophy сети EFNet, чтобы спросить: «Верите ли вы, что в ближайшие 20 лет случится ядерная война? Если нет, то почему?» Один из ответивших сказал, что не ожидает ядерной войны в ближайшие 100 лет, потому что «ни один из игроков, принимающих решения относительно ядерной войны, сейчас в ней не заинтересован». «Но почему вы распространяете это аж на 100 лет вперед?» — спросил я. «Чистая надежда», — ответил он.

Размышляя над этим мыслительным процессом, мы понимаем, почему мысль о ядерной войне расстраивает этого человека, и видим, как его мозг из-за этого отвергает подобное убеждение. Но если вообразить миллиард миров — эвереттовских ветвей или двойников Тегмарка¹ — такой ход мысли не будет систематически переносить оптимистов именно в те ветви, где ядерной войны не происходит. (Какой-нибудь умник наверняка скажет: «Ага, но раз у меня есть надежда, я буду работать немного усерднее, подстегну мировую экономику и тем самым помогу уберечь страны от скатывания в то озлобленное и безнадежное состояние, в котором возможна ядерная война. Так что эти два события все-таки связаны». На этом этапе нам придется привлечь теорему Байеса и измерить эту связь количественно. Ваш оптимистичный настрой не может оказывать настолько сильного влияния на мир; сам по себе он не способен снизить вероятность ядерной войны на 20% или на сколько там ваш оптимизм сдвинул ваши убеждения. Значительное изменение своих убеждений из-за события, которое лишь незначительно повышает ваши шансы оказаться правым, все равно исказит вашу карту реальности.)

Спрашивать, какие убеждения делают вас счастливыми, — значит обращаться внутрь себя, а не вовне; это говорит кое-что о вас самих, но не является свидетельством, связанным с внешним миром. Я ничего не имею против счастья, но оно должно проистекать из вашей картины мира, а не вмешиваться в работу ментальных кистей.

Если вы способны это увидеть — если вы понимаете, что надежда слишком сильно смещает ваши мысли первого порядка, если вы можете осознать свой разум как несовершенный механизм картографирования, — тогда вы сможете применить рефлексивную коррекцию. Мозг — это несовершенная линза, сквозь которую мы смотрим на реальность. Это верно как для мышиного, так и для человеческого мозга. Но человеческий мозг — это несовершенная линза, которая способна понять собственные изъяны — свои систематические ошибки, свои искажения — и применить к ним коррекцию второго порядка. Это на практике делает линзу гораздо более мощной. Не идеальной, но гораздо более мощной.

Если дерево падает в лесу и никто этого не слышит, издает ли оно звук? Один говорит: «Да, издает, ведь оно создает колебания воздуха». Другой говорит: «Нет, не издает, ведь ни в одном мозгу не происходит обработки слуховой информации».

Предположим, что после падения дерева оба они вместе идут в лес. Будет ли один из них ожидать, что дерево упало вправо, а другой — что оно упало влево? Предположим, что перед падением дерева они оставили рядом с ним звукозаписывающее устройство. Будет ли один из них при воспроизведении записи ожидать услышать что-то иное, чем другой? Предположим, они подключают электроэнцефалограф к какому-нибудь мозгу; ожидает ли один увидеть на ленте иную кривую, чем другой? Хотя они спорят — один говорит «нет», а другой «да», — они не ожидают никаких различий в своем опыте. Оба думают, что у них разные модели мира, но между ними нет никакой разницы в том, что, по их ожиданиям, произойдет с ними.

Возникает соблазн устранить этот класс ошибок, настаивая на том, что единственный допустимый вид убеждений — это ожидание чувственного опыта. Но мир на самом деле содержит много такого, что не воспринимается напрямую. Мы не видим атомов, из которых состоит кирпич, но атомы действительно там есть. Под вашими ногами есть пол, но вы не воспринимаете его напрямую; вы видите свет, отраженный от пола, или, скорее, вы видите то, во что ваша сетчатка и зрительная кора переработали этот свет. Сделать вывод о существовании пола на основании того, что вы его видите, — значит сделать шаг назад, к невидимым причинам опыта. Это может казаться очень коротким и прямым шагом, но это все же шаг.

Вы стоите на крыше высокого здания рядом с напольными часами с часовой, минутной и тикающей секундной стрелками. В руке у вас шар для боулинга, и вы бросаете его с крыши. На каком тиканье часов вы услышите грохот удара шара о землю?

Чтобы ответить точно, вам понадобятся такие убеждения, как земное притяжение составляет 9,8 метра в секунду за секунду, и высота этого здания — около 120 метров. Эти убеждения не являются бессловесным ожиданием чувственного опыта; они выражены словами, они пропозициональны. Пожалуй, не будет большим преувеличением описать эти два убеждения как предложения, состоящие из слов. Но у этих двух убеждений есть логическое следствие, которое представляет собой прямое ожидание чувственного опыта: если в момент броска секундная стрелка часов находится на цифре 12, вы ожидаете увидеть ее на цифре 1, когда услышите грохот пятью секундами позже. Чтобы предвидеть чувственный опыт как можно точнее, мы должны оперировать убеждениями, которые сами по себе не являются ожиданиями чувственного опыта.

Великая сила Homo sapiens заключается в том, что мы способны — лучше любого другого вида в мире — учиться моделировать невидимое. Но это также и одна из наших главных слабостей. Люди часто верят в вещи, которые не просто невидимы, но и нереальны.

Тот же мозг, который выстраивает сеть выводимых причин за пределами чувственного опыта, может выстроить и сеть причин, не связанных или плохо связанных с чувственным опытом. Алхимики верили, что флогистон вызывает огонь — мы могли бы упрощенно представить структуру их разума, нарисовав небольшой узел с надписью «Флогистон» и стрелку от него к их чувственному восприятию потрескивающего костра, — но это убеждение не давало никаких опережающих предсказаний; связь флогистона с опытом всегда устанавливалась уже после получения опыта, а не ограничивала его заранее. Или предположим, что ваш постмодернистский профессор литературы учит вас, что знаменитый писатель Вулки Уилкинсен на самом деле «постутопист». Что из этого следует ожидать от его книг? Ничего. Это убеждение, если его вообще можно так назвать, никак не связано с чувственным опытом. Но вам лучше запомнить это пропозициональное утверждение о том, что у «Вулки Уилкинсена» есть атрибут «постутопизма», чтобы выплюнуть его на предстоящем тесте. Точно так же, если «постутопистам» свойственно «колониальное отчуждение»; если в тесте спросят, свойственно ли Вулки Уилкинсену колониальное отчуждение, вам лучше ответить «да». Эти убеждения связаны друг с другом, но все еще никак не связаны с каким-либо ожидаемым опытом.

Мы можем выстраивать целые сети убеждений, связанных исключительно друг с другом — назовем их «плавающими» убеждениями. Это уникальный для человеческого рода изъян среди всех видов животных, извращение способности Homo sapiens строить более общие и гибкие сети убеждений.

Рационалистическая добродетель эмпиризма заключается в том, чтобы постоянно спрашивать, какие именно переживания предсказывают наши убеждения — или, что еще лучше, какие они запрещают. Вы верите, что флогистон — причина огня? Тогда что именно, по вашим ожиданиям, должно произойти из-за этого? Вы верите, что Вулки Уилкинсен — постутопист? Тогда что вы ожидаете увидеть в связи с этим? Нет, не «колониальное отчуждение»; что именно вы ощутите? Вы верите, что если дерево падает в лесу и никто его не слышит, оно все равно издает звук? Какой же опыт должен тогда выпасть на вашу долю?

Еще лучше спросить: какой опыт не должен с вами произойти? Вы верите, что élan vital объясняет таинственную оживленность живых существ? Тогда чему это убеждение не позволяет случиться — что могло бы однозначно его опровергнуть? Нулевой ответ означает, что ваше убеждение никак не ограничивает опыт; оно позволяет произойти с вами чему угодно. Оно плавает.

Когда вы спорите по вопросу, который кажется фактологическим, всегда помните, о каком именно различии в ожиданиях идет спор. Если вы не можете найти разницу в ожиданиях, вы, скорее всего, спорите о ярлыках в вашей сети убеждений — или, что еще хуже, о плавающих убеждениях, этих ракушках на вашей сети. Если вы не знаете, какой опыт следует из того, что Вулки Уилкинсен — постутопист, вы можете спорить до бесконечности.

Прежде всего, не спрашивайте, во что верить, — спрашивайте, чего ожидать. Любой вопрос об убеждении должен вытекать из вопроса об ожидании, и именно этот вопрос об ожидании должен стоять в центре исследования. Каждая догадка об убеждении должна начинаться с перетекания в конкретную догадку об ожидании и должна продолжать платить за аренду будущими ожиданиями. Если убеждение оказывается злостным неплательщиком, выселяйте его.

Во времена Римской империи общественная жизнь была разделена между фракциями Синих и Зеленых. Синие и Зеленые убивали друг друга в поединках, в засадах, в групповых сражениях, в бунтах. Прокопий писал о враждующих фракциях: «Так зарождается у них к своим ближним ни на чем не основанная вражда, которая никогда не прекращается и не исчезает, ибо не уступает она ни узам брака, ни родства, ни дружбы, и то же самое происходит, даже если расходящиеся во мнениях об этих цветах — родные братья или другие близкие»¹. Эдуард Гиббон писал: «Поддержка фракции стала необходима для каждого соискателя гражданских или духовных почестей»².

Кем же были Синие и Зеленые? Они были спортивными болельщиками — сторонниками синей и зеленой команд по гонкам на колесницах.

Представьте себе общество будущего, которое укрывается в огромной подземной сети пещер и запечатывает входы. Мы не будем уточнять, бегут ли они от болезней, войны или радиации; предположим, что первым подземным жителям удается выращивать пищу, находить воду, регенерировать воздух, производить свет и выживать, а их потомки процветают и со временем основывают города. О мире наверху сохранились лишь легенды, записанные на клочках бумаги; и один из этих обрывков описывает небо — бескрайнее открытое воздушное пространство над великим безграничным полом. Небо — лазурного цвета и содержит странные плавающие объекты, похожие на огромные клочья белой ваты. Но значение слова «лазурный» вызывает споры: одни говорят, что оно относится к цвету, известному как «синий», а другие — что к цвету, известному как «зеленый».

В первые дни существования подземного общества Синие и Зеленые соперничали, прибегая к открытому насилию; но сегодня царит перемирие — мир, рожденный из растущего ощущения бессмысленности происходящего. Культурные нравы изменились; появился многочисленный и процветающий средний класс, который вырос в условиях эффективного поддержания правопорядка и отвык от насилия. Школы дают некоторое представление об исторической перспективе: как долго продолжалось противостояние между Синими и Зелеными, сколько людей погибло и как мало изменилось в результате. Умы открылись странной новой философии: люди остаются людьми, будь они Синими или Зелеными.

Конфликт не исчез полностью. Общество все еще разделено по синей и зеленой линиям, и практически по каждому современному вопросу политического или культурного значения существует «синяя» и «зеленая» позиции. Синие выступают за подоходный налог, Зеленые — за налог с продаж; Синие ратуют за более строгие законы о браке, в то время как Зеленые хотят облегчить разводы; Синие находят поддержку в самом центре городов, в то время как живущие в отдалении фермеры и продавцы воды, как правило, поддерживают Зеленых; Синие верят, что Земля — это огромный сферический камень в центре Вселенной, Зеленые — что это огромный плоский камень, вращающийся вокруг другого объекта под названием Солнце. Не каждый Синий или Зеленый гражданин занимает «синюю» или «зеленую» позицию по любому вопросу, но вряд ли вам встретится городской торговец, который верил бы, что небо синее, и при этом ратовал за подоходный налог и более свободные законы о браке.

Подземелье все еще поляризовано; это хрупкий мир. Кое-кто искренне считает, что Синим и Зеленым следует дружить, и теперь стало обычным делом для Зеленого покупать товары в лавке Синего или для Синего заглядывать в таверну Зеленого. И все же из перемирия, изначально порожденного истощением сил, тихо прорастает дух терпимости и даже дружбы.

Однажды Подземелье сотрясает небольшое землетрясение. Экскурсионная группа из шести человек оказывается застигнута толчком во время осмотра руин древних жилищ в верхних пещерах. Они чувствуют мимолетное движение камня под ногами, одна из туристок спотыкается и царапает колено. Группа решает повернуть назад, опасаясь повторных толчков. На обратном пути один человек улавливает в воздухе странный запах, доносящийся из давно заброшенного прохода. Игнорируя дружеские предостережения попутчиков, этот человек одалживает электрический фонарь и сворачивает в проход. Каменный коридор вьется вверх... и вверх... и наконец заканчивается проемом, вырезанным в мире — местом, где кончается всякий камень. Пространство, бескрайнее пространство уходит в вечность — простор, способный вместить тысячу городов. Невообразимо высоко, слишком яркая, чтобы смотреть на нее прямо, жгучая искра озаряет все видимое пространство — оголенная нить накала какой-то гигантской лампочки. В воздухе, без всякой опоры, висят огромные, непостижимые клочья белой ваты. И огромный светящийся потолок вверху... его цвет... это...

Теперь история разветвляется в зависимости от того, кто именно из экскурсантов решил пойти по коридору к поверхности.

Адитья-Синяя стояла под бескрайней синевой и медленно улыбалась. Это не была приятная улыбка. В ней сквозили ненависть и уязвленное самолюбие; она воскрешала в памяти каждый спор, который у нее когда-либо был с Зелеными, каждое соперничество, каждое оспоренное повышение по службе. «Ты была права с самого начала», — шептало ей небо сверху, — «и теперь ты можешь это доказать». На мгновение Адитья застыла, впитывая эти слова, упиваясь ими, а затем повернула обратно к каменному коридору, чтобы рассказать обо всем миру. Шагая обратно, Адитья сжала руку в кулак. — Перемирие, — произнесла она, — окончено.

Бэррон-Зеленый долгие секунды непонимающе всматривался в хаос цветов. Понимание, когда оно наконец пришло, нанесло ему сокрушительный удар под дых. Из глаз брызнули слезы. Бэррон подумал о Резне в Катае, где армия Синих вырезала до единого жителей Зеленого города, включая детей; он подумал о древнем Синем генерале Аннасе Релле, объявившем Зеленых «рассадником болезни, чумой, подлежащей искоренению»; он вспомнил искры ненависти, которые видел в глазах Синих, — и внутри у него что-то надломилось. «Как ты можешь быть на их стороне?» — закричал Бэррон небу, а затем разрыдался, ибо теперь, стоя под враждебным синим сиянием, он понял: вселенная всегда была обителью зла.

Чарльз-Синий в замешательстве созерцал синий потолок. Будучи профессором в смешанном колледже, Чарльз всегда аккуратно подчеркивал, что точки зрения Синих и Зеленых одинаково обоснованны и заслуживают терпимости: небо — это метафизический конструкт, а лазурный — цвет, который можно воспринимать по-разному. На мгновение Чарльз задумался: а не увидит ли Зеленый, стоя на этом самом месте, зеленый потолок? Или, быть может, завтра в это же время потолок окажется зеленым? Но он не мог поставить на карту дальнейшее выживание цивилизации. Это было всего лишь некое природное явление, не имеющее никакого отношения к моральной философии или обществу... но Чарльз опасался, что его могут истолковать превратно. Чарльз вздохнул и повернул обратно в коридор. Завтра он вернется сюда один и завалит этот проход.

Дарья, некогда Зеленая, пыталась дышать среди пепла своего рухнувшего мира. «Я не дрогну», — сказала себе Дарья, «я не отведу взгляд». Всю жизнь она была Зеленой, а теперь должна стать Синей. Друзья, родные — все отвернутся от нее. «Говори правду, даже если твой голос дрожит», — говорил ей когда-то отец; но отец был мертв, а мать никогда не поймет. Дарья выдерживала спокойный синий взгляд неба, стараясь принять его, и наконец ее дыхание выровнялось. «Я ошибалась», — с грустью подумала она, «все ведь совсем не так сложно». Она найдет новых друзей, и, возможно, семья простит ее... или же — промелькнула у нее робкая надежда — они тоже справятся с этим испытанием, встав под этим самым небом? — Небо синее, — на пробу произнесла Дарья, и ничего страшного с ней не случилось; но улыбнуться она так и не смогла. Дарья-Синяя со вздохом пошла обратно в мир, гадая, что теперь скажет.

Эддин, Зеленый, взглянул на синее небо и цинично расхохотался. Весь ход истории его мира наконец-то стал ясен; ему самому не верилось, какими же они были дураками. — Глупо, — произнес Эддин, — глупо, глупо, и все это время оно находилось прямо здесь. Ненависть, убийства, войны — и всё это время это была всего лишь какая-то вещь где-то там, о которой кто-то написал точно так же, как пишут о любой другой вещи. Никакой поэзии, никакой красоты, ничего, до чего разумному человеку могло бы быть дело — просто один бессмысленный факт, раздутый до невероятных масштабов. Эддин устало прислонился к стене у входа в пещеру, пытаясь придумать, как удержать это знание от того, чтобы оно взорвало мир, и размышляя, а не заслужили ли они все этого.

Феррис невольно ахнул, замерев от чистого изумления и восторга. Глаза Ферриса жадно метались из стороны в сторону, поочередно задерживаясь на каждой детали и лишь неохотно переходя к следующей: синее небо, белые облака, бескрайний неведомый мир снаружи, полный мест и вещей (и людей?), которых не видел еще ни один житель Подземелья. — О, так вот какого оно цвета, — сказал Феррис и пошел исследовать местность.

Карл Саган однажды рассказал притчу о человеке, который приходит к нам и заявляет: «В моём гараже живёт дракон». Любопытно! Мы отвечаем, что хотим посмотреть на этого дракона — давайте же немедленно отправимся в гараж! «Но постойте, — говорит нам заявитель, — этот дракон невидимый».

И, как указывает Саган, это ещё не делает гипотезу нефальсифицируемой. Возможно, мы придём в гараж заявителя и, хотя никакого дракона не увидим, услышим тяжёлое дыхание, исходящее из пустоты; на полу загадочным образом будут появляться следы; а приборы покажут, что кто-то в гараже поглощает кислород и выделяет углекислый газ.

Но теперь представьте, что мы говорим заявителю: «Ладно, мы сходим в гараж и проверим, слышно ли тяжёлое дыхание», а тот поспешно возражает, что этот дракон неслышимый. Мы предлагаем измерить уровень углекислого газа в воздухе, а заявитель говорит, что дракон не дышит. Мы предлагаем распылить в воздухе муку, чтобы по её контурам обнаружить невидимого дракона, а заявитель тут же отвечает: «Дракон проницаем для муки».

Карл Саган использовал эту притчу, чтобы проиллюстрировать классическую мораль: несостоятельным гипотезам приходится быстро изворачиваться на ходу, чтобы избежать опровержения. Но я рассказываю её ради другого вывода: у заявителя где-то в голове должна быть точная модель ситуации, ведь он способен заранее предвидеть, для каких именно результатов эксперимента ему придётся придумывать оправдания.

Некоторые философы были сильно сбиты с толку подобными сценариями, задаваясь вопросом: «А верит ли заявитель на самом деле в то, что дракон существует, или нет?» Как будто на «жёстком диске» человеческого мозга может одновременно храниться только одно убеждение! Реальный разум устроен гораздо запутаннее. Существуют разные типы убеждений; не все они сводятся к прямым ожиданиям. Заявитель явно не ожидает увидеть что-то необычное, когда откроет дверь гаража. Иначе он не стал бы заранее искать оправдания. В то же время в его наборе пропозициональных убеждений вполне может содержаться фраза «В моём гараже живёт дракон». Рационалисту может показаться, что эти два убеждения должны столкнуться и войти в конфликт, пусть даже они разного типа. И всё же физический факт состоит в том, что вы можете написать «Небо зелёное!» рядом с картинкой голубого неба, и бумага при этом не загорится.

Рационалистическая добродетель эмпиризма призвана уберечь нас от ошибок подобного рода. Предполагается, что мы должны постоянно спрашивать свои убеждения, какой именно чувственный опыт они предсказывают, — заставлять их платить аренду своими ожиданиями. Но проблема заявителя с драконом лежит глубже, и её не решить таким простым советом. Связать веру в дракона с ожидаемым опытом посещения гаража не то чтобы трудно. Если вы верите, что в вашем гараже есть дракон, то логично ожидать, что вы откроете дверь и увидите дракона. Если дракона вы не видите, значит, никакого дракона в гараже нет. Всё довольно просто. Можете даже проверить это на собственном гараже.

Нет, вся эта история с невидимостью — симптом куда более серьёзной проблемы.

В зависимости от того, как прошло ваше детство, вы можете помнить период, когда впервые начали сомневаться в существовании Деда Мороза, но всё ещё считали, что должны в него верить, а потому пытались гнать сомнения прочь. Как отмечает Дэниел Деннет, когда во что-то трудно поверить, часто гораздо проще поверить, что вы должны в это верить. Что значит верить, будто Абсолютное Космическое Небо одновременно идеально синее и идеально зелёное? Это утверждение сбивает с толку; даже неясно, что вообще значило бы верить в него — во что именно вы бы верили, если бы верили. Вам гораздо проще поверить, что правильно, хорошо, добродетельно и полезно верить, будто Абсолютное Космическое Небо одновременно идеально синее и идеально зелёное. Деннет называет это «верой в веру».¹

И тут всё усложняется, как это обычно и происходит у людей — мне кажется, даже Деннет упрощает то, как эта психология работает на практике. Во-первых, если вы верите в веру, вы не можете признаться себе, что вы всего лишь верите в веру. Ведь добродетель заключается в том, чтобы верить, а не просто верить в веру, и если вы лишь верите в веру вместо того, чтобы верить по-настоящему, вы не добродетельны. Никто не признается себе: «Я не верю, что Абсолютное Космическое Небо сине-зелёное, но считаю, что должен в это верить» — разве что этот человек обладает исключительной способностью признавать собственную недобродетельность. Люди не верят в веру в веру, они просто верят в веру.

(Тем, кому это кажется запутанным, может помочь изучение математической логики, которая приучает проводить очень чёткие различия между суждением P, доказательством P и доказательством того, что P доказуемо. Столь же чёткие границы существуют между P, желанием P, верой в P, желанием верить в P и верой в то, что вы верите в P.)

Существуют разные виды веры в веру. Вы можете верить в веру явно; вы можете проговаривать в своём сознательном потоке мыслей фразу: «Добродетельно верить, будто Абсолютное Космическое Небо одновременно идеально синее и идеально зелёное». (И при этом верить, будто вы действительно в это верите — если только вы не обладаете редкой способностью признавать собственную недобродетельность). Но существуют и менее явные формы веры в веру. Возможно, заявитель боится публичного осмеяния, которое, как он себе представляет, последует, если он открыто признает свою неправоту (хотя на самом деле рационалист бы его поздравил, а окружающие скорее высмеют его, если он продолжит настаивать на существовании дракона в гараже). Возможно, заявитель внутренне сжимается от перспективы признаться самому себе, что никакого дракона нет, ведь это разрушит его образ великого первооткрывателя дракона, который разглядел в своём гараже то, чего все остальные увидеть не смогли.

Если бы все наши мысли представляли собой осознанные словесные формулировки, которыми оперируют философы, человеку было бы намного проще понять собственный разум. Мимолётные мысленные образы, невысказанные внутренние сжатия, желания, которым мы следуем, не признаваясь себе в этом, — всё это составляет не меньшую часть нас самих, чем слова.

Хотя я и не согласен с Деннетом в некоторых деталях и тонкостях, я всё же считаю, что предложенная им концепция веры в веру — это ключевая идея, необходимая для понимания заявителя. Но нам нужно более широкое понятие веры, не ограничивающееся словесными формулировками. «Вера» должна включать в себя невысказанные регуляторы ожиданий. «Вера в веру» должна включать невысказанные регуляторы когнитивного поведения. Психологически недостоверно утверждать: «Заявитель не верит, что в его гараже есть дракон; он верит, что верить в дракона в гараже полезно». Зато вполне реалистично сказать, что заявитель строит ожидания так, будто никакого дракона в гараже нет, и ищет оправдания так, будто верит в эту веру.

У вас в голове может быть самый обычный мысленный образ вашего гаража — без всяких драконов, — который верно предсказывает то, с чем вы столкнётесь, открыв дверь, и при этом вам ни разу не придёт в голову словесная фраза «В моём гараже нет дракона». Готов поспорить, с вами такое бывало: когда вы открываете дверь гаража, спальни или чего угодно ещё и ожидаете не увидеть там драконов, в ваших мыслях не проносится подобная фраза.

И чтобы внутренне сжаться при мысли об отказе от веры в дракона — или сжаться от мысли об отказе от своего представления о себе как о человеке, который верит в дракона, — вовсе не обязательно явно думать: «Я хочу верить, что в моём гараже есть дракон». Достаточно просто внутренне сжаться перед перспективой признать, что вы в него не верите.

Чтобы заранее верно предвидеть, какие результаты эксперимента потребуют оправданий, заявитель должен: а) иметь где-то в глубине разума точную модель, управляющую ожиданиями, и б) совершать когнитивные усилия ради защиты либо (б1) своей свободно витающей пропозициональной веры в дракона, либо (б2) своего образа себя как верящего в дракона.

Если человек верит в свою веру в дракона и при этом действительно верит в дракона, проблема стоит гораздо менее остро. Он будет готов рискнуть, делая экспериментальные прогнозы, и, возможно, даже согласится отказаться от веры, если прогноз окажется неверным — хотя вера в веру всё же может этому помешать, если сама вера не является абсолютно непоколебимой. Когда же кто-то придумывает оправдания заранее, это, по всей видимости, означает, что вера и вера в веру рассинхронизировались.

Как-то раз на званом ужине я пытался объяснить одному человеку, чем зарабатываю на жизнь, и тут он заявил: «Я не верю, что искусственный интеллект возможен, ведь только Бог может создать душу».

Должно быть, в этот момент на меня снизошло божественное вдохновение, потому что я мгновенно ответил: «Вы имеете в виду, что если я смогу создать искусственный интеллект, это докажет ложность вашей религии?»

Он спросил: «Что?»

Я сказал: «Ну, если ваша религия предсказывает, что я никак не могу создать искусственный интеллект, значит, если я его создам, это будет означать, что ваша религия неверна. Либо ваша религия допускает, что я могу построить ИИ, либо, если я его построю, это опровергнет вашу религию».

Последовала пауза — собеседник осознал, что только что сделал свою гипотезу уязвимой для фальсификации, — а затем он сказал: «Ну, я имел в виду не то, что вы вообще не сможете создать интеллект, а просто что он не сможет испытывать эмоции так же, как мы».

Я сказал: «Значит, если я создам искусственный интеллект, который — без какого-либо намеренно прописанного сценария — начнет говорить о своей эмоциональной жизни так, что это будет звучать совсем как у нас, это будет означать, что ваша религия ошибочна».

Он сказал: «Ну, эм, полагаю, тут нам придется остаться при своих мнениях».

Я сказал: «Вообще-то нет, не придется. В теории рациональности есть теорема, которая называется теоремой Ауманна о согласии. Она доказывает, что двое рационалистов не могут остаться каждый при своем мнении. Если два человека расходятся во мнениях, как минимум один из них делает что-то не так».

Мы недолго поспорили об этом. Наконец он произнес: «Ну, наверное, на самом деле я пытался сказать, что, по моему мнению, вы не сможете создать ничего вечного».

Я сказал: «Ну, я тоже так не думаю! Я рад, что нам удалось прийти к согласию по этому вопросу, как того требует теорема Ауманна». Я протянул руку, он пожал ее и побрел прочь.

Женщина, стоявшая неподалеку и слышавшая весь разговор, серьезно сказала мне: «Это было прекрасно».

«Большое спасибо», — ответил я.

Народ Израиля колеблется между Иеговой и Ваалом, поэтому Илия объявляет, что проведет эксперимент, дабы разрешить спор — весьма новое слово для тех времен! Жрецы Ваала положат своего быка на жертвенник, а Илия положит на жертвенник быка Иеговы, но ни тому, ни другому не будет позволено разводить огонь. Тот Бог, который истинен, сам ниспошлет огонь на свою жертву. Жрецы Ваала служат Илии контрольной группой: те же дрова, тот же бык и те же жрецы, совершающие призывания, но к ложному богу. Затем Илия поливает свой жертвенник водой — нарушая симметрию эксперимента, но это было на заре науки, — дабы обозначить сознательное принятие бремени доказывания, подобно требованию уровня значимости в 0,05. Огонь нисходит на жертвенник Илии, что является результатом экспериментального наблюдения. Наблюдающий за этим народ Израиля восклицает: «Господь есть Бог!» — рецензирование.

А затем люди уводят 450 жрецов Ваала к потоку Киссону и перерезают им глотки. Сурово, но необходимо. Вы должны решительно отвергнуть опровергнутую гипотезу, и сделать это быстро, пока она не успела породить оправдания для собственной защиты. Если позволить жрецам Ваала выжить, они начнут лепетать о том, что религия — это отдельный магистериум, который нельзя ни доказать, ни опровергнуть.

В прежние времена люди действительно верили своим религиям, а не просто верили в них. Библейские археологи, отправлявшиеся на поиски Ноева ковчега, не думали, что тратят время впустую; они рассчитывали прославиться. Лишь после того, как им не удалось найти подтверждающих доказательств — а вместо них обнаружились опровергающие, — верующие совершили то, что Уильям Бартли назвал отступлением к приверженности: «Я верю, потому что верю».

В прежние времена не существовало концепции религии как отдельного магистериума. Ветхий Завет — это своего рода поток сознания культуры, свалка всего подряд: истории, законов, нравоучительных притч и, да, моделей устройства Вселенной. Ни в одном пассаже Ветхого Завета вы не найдете рассуждений о трансцендентном трепете перед сложностью Вселенной. Но зато там полно научных утверждений — например, о том, что Вселенная была создана за шесть дней (что является метафорой Большого взрыва), или о том, что зайцы жуют жвачку (что является метафорой...).

В прежние времена за слова о том, что местную религию «невозможно доказать», вас бы сожгли на костре. Одно из центральных верований ортодоксального иудаизма заключается в том, что Бог явился на горе Синай и громовым голосом произнес: «Да, всё это правда». С байесовской точки зрения это чертовски недвусмысленное доказательство существования сущности со сверхчеловеческим могуществом. (Хотя это и не доказывает, что данная сущность является Богом как таковым или что она доброжелательна — это вполне могли быть инопланетные подростки.) Подавляющее большинство религий в истории человечества — за исключением разве что изобретенных крайне недавно — рассказывают о событиях, которые, произойди они на самом деле, послужили бы абсолютно бесспорными доказательствами. Ортогональность религии и фактологических вопросов — это недавняя и сугубо западная концепция. Авторы оригинальных священных текстов даже не видели разницы.

Римская империя унаследовала философию от древних греков, насаждала закон и порядок в своих провинциях, вела бюрократический учет и принудительно поддерживала религиозную терпимость. Как следствие, Новый Завет, созданный во времена Римской империи, несет на себе некоторые следы современности. Вы не могли сочинить историю о том, как Бог полностью стер с лица земли город Рим (а-ля Содом и Гоморра), потому что римские историки уличили бы вас во лжи, а побить их камнями за это было нельзя.

Напротив, люди, сочинявшие истории Ветхого Завета, могли выдумывать практически все, что им вздумается. Первые египтологи были искренне потрясены, не обнаружив ни единого следа пребывания еврейских племен в Египте. Они не ожидали найти записи о Десяти казнях египетских, но рассчитывали найти хоть что-то. Как выяснилось, кое-что они все-таки нашли. Они выяснили, что в предполагаемый период Исхода Египет правил большей частью Ханаана. Это одна огромная историческая ошибка, но когда нет библиотек, уличить вас некому.

В Римской империи библиотеки были. Поэтому Новый Завет не заявляет о масштабных, зрелищных, геополитических чудесах, какими изобилует Ветхий Завет. Вместо этого Новый Завет описывает чудеса поменьше, которые, тем не менее, укладываются в ту же систему доказательств. Мальчик падает, и у него идет пена изо рта; причина тому — нечистый дух; резонно ожидать, что нечистый дух побежит от истинного пророка, но не побежит от шарлатана; Иисус изгоняет нечистого духа; следовательно, Иисус — истинный пророк, а не шарлатан. Это совершенно обычное байесовское рассуждение, если принять базовую посылку, что эпилепсия вызывается демонами (а прекращение эпилептического припадка доказывает, что демон сбежал).

Религия в прошлом не просто претендовала на истинность в фактологических и научных вопросах — она претендовала вообще на всё. Религия устанавливала свод законов — до появления законодательных органов; религия излагала историю — до появления историков и археологов; религия предписывала сексуальную мораль — до появления женского освободительного движения; религия описывала формы государственного правления — до появления конституций; и религия отвечала на научные вопросы — от биологической систематики до образования звезд. Ветхий Завет не рассуждает о благоговении перед сложностью Вселенной — он был занят установлением смертной казни для женщин, носящих мужскую одежду, что в ту эпоху было вполне солидным и удовлетворительным религиозным содержанием. Современная концепция религии как сугубо этической сферы возникла лишь потому, что все остальные области прибрали к рукам более эффективные институты. Этика — это то, что осталось.

Или, вернее, люди думают, что этика — это то, что осталось. Возьмите культурную свалку 2500-летней давности. Со временем человечество уйдет далеко вперед, и элементы этой древней культурной свалки будут казаться все более вопиюще устаревшими. Этика тоже не была застрахована от человеческого прогресса — например, сегодня мы осуждаем такие одобренные Библией практики, как рабовладение. Почему же люди думают, что этика — это по-прежнему законная добыча?

По сути своей, в этической проблеме избиения тысяч невинных первенцев мужского пола — предпринятого ради того, чтобы убедить неизбранного фараона отпустить рабов, которых чисто логически можно было просто телепортировать из страны, — нет ничего мелкого. Это должно быть более вопиющим, чем сравнительно тривиальная научная ошибка о том, что у кузнечиков четыре ноги. И тем не менее, если вы скажете, что Земля плоская, на вас посмотрят как на сумасшедшего. Но если вы скажете, что Библия — ваш источник этики, женщины не влепят вам пощечину. Представление большинства людей о рациональности определяется тем, что, по их мнению, сойдет им с рук; они думают, что поддержка библейской этики сойдет им с рук, и поэтому им требуется лишь вполне посильное усилие по самообману, чтобы закрыть глаза на моральные проблемы Библии. Все согласились не замечать слона в комнате, и такое положение дел может сохраняться какое-то время.

Возможно, когда-нибудь человечество шагнет еще дальше, и к любому, кто ссылается на Библию как на источник этики, будут относиться так же, как к Тренту Лотту, поддержавшему президентскую кампанию Строма Термонда. И тогда заговорят о том, что «истинной сутью» религии всегда была генеалогия или что-то в этом роде.

Идея о том, что религия — это отдельный магистериум, который невозможно ни доказать, ни опровергнуть, — это Большая Ложь — ложь, которую повторяют снова и снова, чтобы люди произносили ее не задумываясь, но которая при критическом рассмотрении оказывается попросту ложной. Это дикое искажение того, как религия развивалась исторически, как все священные писания представляют свои верования, что говорят детям, чтобы убедить их, и во что до сих пор верит большинство религиозных людей на Земле. Нельзя не восхититься абсолютной наглостью этого утверждения, стоящего в одном ряду с лозунгом «Океания всегда воевала с Остазией». Прокурор выхватывает окровавленный топор, а обвиняемый, на мгновение опешив, быстро соображает и заявляет: «Но вы не можете опровергнуть мою невиновность одними лишь уликами — это отдельный магистериум!»

А если это не сработает, возьмите листок бумаги и начеркайте себе карточку «Бесплатный выход из тюрьмы».

Однажды я присутствовал на панельной дискуссии на тему «Совместимы ли наука и религия?». Одна из участниц дискуссии, язычница, бесконечно разглагольствовала о том, как, по её мнению, была создана Земля: когда в первозданной бездне родилась гигантская первозданная корова, которая вылизала из небытия первозданного бога, чьи потомки убили первозданного великана и использовали его труп для создания Земли, и так далее. Рассказ был долгим, детальным и куда более абсурдным, чем идея о том, что Земля держится на спине гигантской черепахи. И выступавшая явно знала науку достаточно хорошо, чтобы понимать это.

Мне до сих пор трудно подобрать слова, чтобы описать то, что я видел, пока эта женщина говорила. Она говорила с... гордостью? Самодовольством? Намеренным выставлением себя напоказ?

Женщина продолжала описывать свой миф о творении целую вечность, как мне показалось, хотя на самом деле это длилось, вероятно, минут пять. Эта странная гордость / самодовольство / выставление напоказ явно имели какое-то отношение к тому, что она знала, что её убеждения научно абсурдны. И дело было не в том, что она ненавидела науку; как участница дискуссии она заявляла, что религия и наука совместимы. Она даже говорила о том, что вполне понятно, почему викинги говорили о первозданной бездне, учитывая землю, в которой они жили, — рационализировала собственную религию! — и тем не менее упорно настаивала на том, что именно в это она «верит», произнося это с особым удовлетворением.

Я не уверен, что концепция «веры в веру» Дэниела Деннета применима к этому случаю. Всё было гораздо страннее. Она не пересказывала свой миф о творении с фанатичной убеждённостью человека, которому нужно успокоить самого себя. Она не вела себя так, будто ожидала, что мы, слушатели, поверим ей, или будто ей требовалась наша вера, чтобы подтвердить её правоту.

Деннет, помимо гипотезы о «вере в веру», также предположил, что многое из того, что называют «религиозным верованием», на самом деле следует изучать как «исповедание веры». Представьте, что инопланетный антрополог изучает группу студентов-постмодернистов, изучающих английскую литературу, которые, казалось бы, все верили, что Вулки Вилькенсен был постутопическим автором. Правильный вопрос здесь, возможно, не «Почему все студенты верят в это странное утверждение?», а «Почему они все пишут это странное предложение в тестах?». Даже если предложение по сути бессмысленно, вы всё равно можете знать, в какой момент от вас требуется пропеть хором ответ.

Думаю, Деннет, возможно, излишне циничен, предполагая, что исповедание веры — это просто произнесение утверждения вслух. Большинство людей достаточно честны, и если они произносят религиозное утверждение вслух, то чувствуют себя обязанными воспроизвести эту словесную формулировку и в собственном потоке сознания.

Но даже концепция «исповедания веры», кажется, не объясняет заявление этой язычницы о вере в первозданную корову. Если бы вам пришлось исповедовать религиозную веру, чтобы удовлетворить священника или единоверца — да чёрт возьми, хотя бы ради собственного представления о себе как о религиозном человеке, — вам пришлось бы притворяться, что вы верите, гораздо более убедительно, чем это делала она. Когда она пересказывала свою историю о первозданной корове с той же странной, выставляющей себя напоказ гордостью, она даже не пыталась быть убедительной — даже не пыталась убедить нас в том, что сама относится к собственной религии серьёзно. Думаю, именно это меня так поразило. Я знаю людей, которые верят, что верят в нелепые вещи, но, когда они исповедуют их, они прикладывают гораздо больше усилий, чтобы убедить самих себя, что относятся к своим убеждениям серьёзно.

В конце концов до меня дошло, что эта женщина не пыталась убедить ни нас, ни даже себя. Её пересказ истории сотворения мира вообще был не о сотворении мира. Скорее, пускаясь в пятиминутную тираду о первозданной корове, она болела за язычество — словно размахивала баннером на футбольном матче. Баннер с надписью «ВПЕРЁД, СИНИЕ!» — это не констатация факта и не попытка убедить; он не должен быть убедительным, это просто кричалка.

Эта странная, выставленная напоказ гордость... как будто она шла обнажённой на гей-параде. (Не то чтобы в хождении обнажённым на гей-параде было что-то плохое. Лесбиянство — это не то, что истина способна разрушить.) Это было не просто выражение поддержки, вроде участия в марше, а вызывающее выражение поддержки, вроде марша нагишом — с уверенностью, что её нельзя арестовать или раскритиковать, ведь она делает это ради своего прайд-парада.

Вот почему для неё было так важно, чтобы то, что она говорит, находилось за гранью нелепости. Если бы она попыталась придать своим словам правдоподобия, это было бы равносильно тому, как если бы она надела одежду.

До сих пор я разграничивал веру как регулятор ожиданий, веру в веру, декларирование и боление. Из них верования, управляющие ожиданиями, мы можем назвать «собственно верой», а остальные формы — «несобственной верой». Собственно вера может быть ошибочной или иррациональной — например, когда кто-то искренне ожидает, что молитва исцелит его больного ребенка. Но остальные формы, пожалуй, «вообще не являются верой».

Еще одна форма несобственной веры — это вера как групповая идентичность, как способ принадлежности к группе. Робин Хэнсон использует отличную метафору ношения необычной одежды, групповой формы вроде священнического облачения или иудейской кипы, и потому я буду называть это «верой как одеждой».

С точки зрения реалистичной человеческой психологии, мусульмане, направившие самолеты во Всемирный торговый центр, несомненно, видели себя героями, защищающими истину, справедливость и Исламский Путь от отвратительных инопланетных монстров в духе фильма «День независимости». Только очень неопытный нерд — из тех, кто понятия не имеет, как смотрят на мир не-нерды, — стал бы говорить такое вслух в баре в Алабаме. В Америке так говорить не принято. Там положено утверждать, что террористы «ненавидят нашу свободу», а направить самолет в здание — это «трусливый поступок». Нельзя использовать словосочетания «героическое самопожертвование» и «террорист-смертник» в одном предложении, даже ради того, чтобы точно описать, как Враг видит мир. Сама концепция мужества и альтруизма террориста-смертника — это одежда Врага; это сразу понятно, ведь именно Враг о ней говорит. Трусость и социопатия террориста-смертника — это американская одежда. Никакие кавычки не позволят вам говорить о том, как Враг видит мир; это всё равно что нарядиться нацистом на Хэллоуин.

Вера-как-одежда помогает объяснить, почему люди могут испытывать столь страстные чувства к своей несобственной вере. Простая вера в веру или религиозное декларирование вряд ли способны вызвать подлинные, глубокие и сильные эмоции. По крайней мере, мне так кажется; признаюсь, я здесь не эксперт. Но у меня сложилось такое впечатление: люди, которые перестали строить ожидания так, будто их религия истинна, готовы на всё, чтобы убедить себя в том, что они полны страсти, и это отчаяние легко принять за искреннее горение. Но это не тот огонь, который пылал в них в детстве.

С другой стороны, человеку очень легко искренне, страстно, на нутряном уровне чувствовать свою принадлежность к группе — например, болеть за любимую спортивную команду. (Именно на этом фундаменте строится надувательство под названием «республиканцы против демократов» и аналогичные ложные дилеммы в других странах, но это тема для другого разговора.) Отождествление себя с племенем — это мощнейшая эмоциональная сила. Люди готовы умирать за это. И как только вы заставите людей отождествлять себя с племенем, убеждения, служащие одеждой этого племени, будут провозглашаться со всей страстью, рожденной чувством принадлежности к нему.

На Саммите Сингулярности 2007 года один из докладчиков призвал к демократической многонациональной разработке искусственного интеллекта. Тогда я подошёл к микрофону и спросил:

Представьте, что группа демократических республик создаёт консорциум для разработки ИИ, и в процессе происходит много политиканства — некоторые группы интересов пользуются непропорционально большим влиянием, другие оказываются обделены. Иными словами, результат выглядит в точности как продукты современных демократий. Или же представьте, что группа гиков-бунтарей разрабатывает ИИ у себя в подвале и поручает ему опросить каждого человека в мире — сбрасывая мобильные телефоны всем, у кого их нет, — а затем сделать то, что скажет большинство. Какой из этих вариантов вы считаете более «демократичным» и чувствовали бы вы себя в безопасности при любом из них?

Я хотел выяснить, верит ли он в прагматическую адекватность демократического политического процесса или же в моральную правоту самого голосования. Но докладчик ответил:

Первый сценарий звучит как редакционная статья в журнале Reason, а второй — как сюжет голливудского фильма.

В замешательстве я спросил:

Какой же тогда демократический процесс вы всё-таки имели в виду?

Докладчик ответил:

Что-то вроде проекта «Геном человека» — это был исследовательский проект с международным финансированием.

Я спросил:

Как различные группы интересов разрешали бы свои конфликты в структуре, подобной проекту «Геном человека»?

И докладчик сказал:

Я не знаю.

Этот диалог напоминает мне высказывание какого-то диктатора, которого спросили, намерен ли он вести своё карманное государство к демократии:

Мы считаем, что уже находимся внутри демократической системы. Не хватает лишь некоторых факторов — например, волеизъявления народа.

Суть демократии заключается в конкретном механизме разрешения разногласий по поводу политического курса. Если бы все группы предпочитали один и тот же курс, необходимости в демократии не возникло бы — мы бы сотрудничали автоматически. Процесс урегулирования может представлять собой прямое голосование большинства, работу выборного законодательного органа или даже чуткое к мнению избирателей поведение искусственного интеллекта, но это должно быть хоть что-то. Что вообще значит призывать к «демократическому» решению, если у вас нет на примете никакого механизма разрешения конфликтов?

По-моему, это значит лишь то, что вы произнесли слово «демократия», а аудитория теперь должна зааплодировать. Это не столько содержательное утверждение, сколько эквивалент табло «Аплодисменты», которое подсказывает зрителям в студии, когда нужно хлопать.

Этот случай примечателен разве что тем, что я ошибочно принял этот сигнал к аплодисментам за предложение конкретных мер, что привело к неловкости для всех участников. Большинство таких сигналов к аплодисментам гораздо очевиднее, и их можно обнаружить с помощью простого теста на обращение. Например, предположим, кто-то говорит:

Нам необходимо сбалансировать риски и возможности ИИ.

Если перевернуть это утверждение, получится:

Нам не нужно балансировать риски и возможности ИИ.

Поскольку противоположное утверждение звучит ненормально, исходное утверждение, скорее всего, нормально — а значит, не несёт новой информации. Существует множество веских причин произносить фразы, которые сами по себе неинформативны. Слова «Нам необходимо сбалансировать риски и возможности ИИ» могут служить введением к дискуссии, подчёркивать важность конкретного предложения по балансировке или критиковать несбалансированный подход. Связь с очевидным суждением может передать новую информацию ограниченному рационалисту — ведь сама эта связь может быть неочевидной. Но если никакой конкретики за этим не следует, фраза, скорее всего, служит просто сигналом к аплодисментам.

Мне порой хочется как-нибудь выступить с докладом, состоящим исключительно из сигналов к аплодисментам, и посмотреть, сколько времени пройдёт, прежде чем слушатели начнут смеяться:

Сегодня я пришёл сюда, чтобы предложить вам сбалансировать риски и возможности передового искусственного интеллекта. Нам следует избегать рисков и по возможности использовать открывающиеся возможности. Мы не должны без нужды подвергать себя совершенно ненужным опасностям. Для достижения этих целей мы обязаны планировать мудро и рационально. Нам не следует действовать под влиянием страха и паники или поддаваться технофобии, но не стоит и действовать в слепом энтузиазме. Мы должны уважать интересы всех сторон, заинтересованных в Сингулярности. Мы должны постараться сделать так, чтобы блага передовых технологий достались как можно большему числу людей, а не ограничивались узким кругом лиц. Мы должны всеми силами избегать вооружённых конфликтов с применением этих технологий и не допустить, чтобы колоссальная разрушительная мощь попала в руки отдельных лиц. Нам следует продумать эти вопросы до, а не после того, как станет слишком поздно что-либо предпринимать...

Вырастут доходности облигаций, упадут или останутся прежними? Если вы телеэксперт и ваша работа состоит в том, чтобы объяснять результат задним числом, то причин для беспокойства нет. Независимо от того, какая из трех возможностей реализуется, вы сможете объяснить, почему этот исход идеально вписывается в вашу излюбленную рыночную теорию. Нет никаких причин считать эти три исхода чем-то противоречащим друг другу, чем-то взаимоисключающим, ведь вы получите высший балл за свою аналитику при любом раскладе.

Но погодите! Представьте, что вы начинающий телеэксперт и у вас еще недостаточно опыта, чтобы придумывать правдоподобные объяснения прямо на ходу. Вам нужно заранее подготовить тезисы для завтрашнего эфира, а время на подготовку ограничено. В этом случае было бы полезно знать, какой именно исход произойдет на самом деле — вырастут ли доходности облигаций, упадут или останутся прежними, — ведь тогда вам понадобилось бы подготовить всего один набор оправданий.

Увы, никто не может предвидеть будущее. Что же делать? Вы, конечно, не можете использовать «вероятности». Мы все знаем из школы, что «вероятности» — это циферки, которые стоят рядом с условием текстовой задачи, а здесь никаких циферок нет. Хуже того, вы чувствуете неопределенность. Вы не помните, чтобы чувствовали неопределенность, когда манипулировали циферками в школьных задачках. Университетские аудитории, где преподают математику, — места чистые и опрятные, следовательно, сама математика неприменима к жизненным ситуациям, далеким от чистоты и порядка. Вы ведь не хотите не к месту переносить мыслительные навыки из одного контекста в другой. Очевидно, что «вероятностям» здесь не место.

И тем не менее, у вас есть всего 100 минут на подготовку оправданий. Вы не можете потратить все 100 минут на вариант «вверх», еще 100 минут на вариант «вниз» и еще 100 минут на вариант «без изменений». Вам нужно как-то расставить приоритеты.

Если бы вам пришлось обосновывать распределение времени перед проверяющей комиссией, вам пришлось бы потратить равное количество времени на каждую возможность. Поскольку никаких циферок не записано, у вас не было бы никаких документов, оправдывающих разное распределение времени. Вы уже прямо-таки слышите голоса проверяющих: «И почему, мистер Финкледингер, вы потратили ровно 42 минуты на оправдание № 3? Почему не 41 или 43? Признайтесь — вы необъективны! Вы просто подыгрываете своим любимчикам!»

Но тут вы со слабым вздохом облегчения понимаете, что никакой комиссии, готовой вас отругать, не существует. И это хорошо, потому что завтра ожидается важное заявление Федеральной резервной системы, и крайне маловероятно, что цены на облигации останутся прежними. Вам совсем не хочется тратить 33 драгоценные минуты на оправдание, которое, по вашим ожиданиям, вряд ли понадобится.

Ваши мысли постоянно возвращаются к объяснениям, которые вы даете на телевидении, — о том, почему каждый из исходов правдоподобно согласуется с вашей теорией рынка. Но быстро становится ясно, что правдоподобность здесь не поможет: все три исхода правдоподобны. Степень соответствия вашей любимой теории рынка не подскажет, как распределить время. Между вашими 100 минутами времени, количество которых подчиняется закону сохранения, и вашей безграничной способностью объяснить, как исход согласуется с теорией, лежит непреодолимая пропасть.

И все же... даже находясь в состоянии неопределенности, вы, по-видимому, по-разному предвосхищаете эти три исхода; вы ожидаете, что одни оправдания понадобятся вам больше, чем другие. И — вот что самое удивительное — когда вы думаете о чем-то, из-за чего рост цен на облигации кажется более вероятным, вы чувствуете, что оправдания на случай их падения или сохранения на прежнем уровне понадобятся вам с меньшей вероятностью.

Кажется даже, что есть связь между тем, насколько сильно вы предвосхищаете каждый из трех исходов, и тем, сколько времени вы хотите потратить на подготовку соответствующего оправдания. Разумеется, эту связь невозможно выразить количественно. У вас есть 100 минут на подготовку выступления, но в этом деле с предвосхищением нет никакой сотни чего бы то ни было, которую можно было бы разделить. (Хотя вы все же понимаете, что если произойдет конкретный исход, то ваша функция полезности будет логарифмически зависеть от времени, потраченного на подготовку оправдания).

И все же... ваши мысли постоянно возвращаются к идее, что предвосхищение ограничено — в отличие от возможности находить оправдания, но подобно времени на их подготовку. Возможно, к предвосхищению стоит относиться как к сохраняющемуся ресурсу, вроде денег. Ваш первый порыв — попытаться получить больше предвосхищения, но вскоре вы понимаете, что даже если вы получите его больше, времени на подготовку оправданий у вас не прибавится. Нет, единственный выход — как можно лучше распределить свой ограниченный запас предвосхищения.

Вы почти уверены, что на курсах статистики вас ничему подобному не учили. Они не говорили, что делать, когда вы чувствовали такую жуткую неопределенность. Они не говорили, что делать, когда вам не давали готовых циферок. Да ведь даже если бы вы попытались использовать числа, вы могли бы начать использовать вообще любые числа — ведь нет никаких подсказок, какую математику применять, если ее вообще стоит применять! Может, вы в итоге стали бы использовать пары чисел, правые и левые, которые назвали бы DS — от Dexter-Sinister... или кто знает что еще? (Хотя у вас по-прежнему есть всего 100 минут на подготовку оправданий).

Если бы только существовало искусство фокусировать свою неопределенность — искусство того, как втиснуть как можно больше предвосхищения именно в тот исход, который произойдет на самом деле!

Но как назвать подобное искусство? И какими были бы его правила?

Предположим, ваш хороший друг, комиссар полиции, под большим секретом сообщает вам, что криминальный авторитет вашего города — это Вулки Уилкинсен. Имеете ли вы право как рационалист поверить этому заявлению? Скажем так: если вы пойдете и оскорбите Вулки, я назову вас безрассудным. Поскольку разумно вести себя так, будто вероятность того, что Вулки — босс мафии, существенно выше базовой, заявление комиссара полиции должно быть сильным байесовским свидетельством.

Наша судебная система не посадит Вулки в тюрьму на основании заявления комиссара полиции. Оно неприемлемо в качестве юридического доказательства. Возможно, если бы вы сажали за решетку каждого, кого комиссар полиции обвинил в принадлежности к криминальным авторитетам, то поначалу вы поймали бы кучу боссов мафии, а заодно и тех, кто комиссару просто не нравился. Власть развращает: со временем вы ловили бы всё меньше настоящих криминальных авторитетов (которые шли бы на всё большие ухищрения ради анонимности) и всё больше невинных жертв (ничем не ограниченная власть притягивает коррупцию, как мёд мух).

Это не значит, что заявление комиссара полиции не является рациональным свидетельством. У него все еще сильно перекошенное отношение правдоподобия, и вы все равно были бы дураком, если бы оскорбили Вулки. Но на социальном уровне, стремясь к общественной цели, мы намеренно определяем «юридическое доказательство» так, чтобы оно включало в себя только определенные виды свидетельств — например, личные наблюдения комиссара полиции в ночь на 4 апреля. В идеале любое юридическое доказательство должно быть рациональным свидетельством, но не наоборот. Мы вводим особые, жесткие, дополнительные стандарты, прежде чем возвести рациональное свидетельство в ранг «юридического доказательства».

Когда я пишу это предложение в 20:33 по тихоокеанскому времени 18 августа 2007 года, на мне надеты белые носки. Имеете ли вы право как рационалист верить этому утверждению? Да. Мог бы я подтвердить это под присягой в суде? Да. Является ли это научным утверждением? Нет, потому что не существует эксперимента, который вы могли бы провести самостоятельно, чтобы его проверить. Наука состоит из обобщений, применимых ко множеству конкретных случаев, так что вы можете ставить новые эксперименты в реальном мире, проверяющие это обобщение, и тем самым самостоятельно убеждаться в его истинности, не полагаясь на чей-либо авторитет. Наука — это публично воспроизводимое знание человечества.

Как и судебная система, наука как социальный процесс состоит из склонных к ошибкам людей. Мы хотим иметь защищенный пул убеждений, которые особенно надежны. И мы хотим иметь социальные правила, которые стимулируют получение таких знаний. Поэтому мы вводим особые, жесткие, дополнительные стандарты, прежде чем канонизировать рациональное знание как «научное знание» и добавить его в защищенный пул убеждений. Имеет ли право рационалист верить в историческое существование Александра Македонского? Да. У нас есть примерная картина Древней Греции — пусть ненадежная, но это лучше, чем максимальная энтропия. Но мы зависим от авторитетных источников вроде Плутарха; мы не можем отбросить Плутарха и перепроверить все сами. Историческое знание не является научным знанием.

Имеет ли право рационалист верить, что 18 сентября 2007 года взойдет Солнце? Да — не со стопроцентной уверенностью, но на это определенно стоит ставить. (Педанты: интерпретируйте это так, что вращение Земли вокруг своей оси и ее орбита останутся примерно постоянными относительно Солнца.) Относится ли это утверждение, когда я пишу это эссе 18 августа 2007 года, к научным убеждениям?

Может показаться странным отказывать в статусе «научного» таким утверждениям, как «18 сентября 2007 года взойдет Солнце». Если бы Наука не могла делать прогнозы о будущих событиях — событиях, которые еще не произошли, — тогда она была бы бесполезна; она не могла бы сделать ни одного прогноза до проведения эксперимента. Прогноз о том, что Солнце взойдет, безусловно, является экстраполяцией научных обобщений. Он основан на моделях Солнечной системы, которые вы могли бы проверить экспериментально сами.

Но представьте, что вы готовите эксперимент для проверки предсказания № 27 принятой теории Q в новых условиях. У вас может не быть никаких конкретных причин подозревать, что это убеждение ошибочно; вы просто хотите проверить его в новом контексте. Кажется опасным заявлять до проведения эксперимента, будто существует некое «научное убеждение» касательно его результата. Существует «общепринятое предсказание» или «предсказание теории Q». Но если вы уже знаете «научное убеждение» о результате, зачем вообще утруждать себя проведением эксперимента?

Надеюсь, вы начинаете понимать, почему я отождествляю Науку с обобщениями, а не с историей какого-то конкретного эксперимента. Историческое событие происходит единожды; обобщения применимы ко множеству событий. История невоспроизводима, в отличие от научных обобщений.

Является ли мое определение «научного знания» истинным? Это некорректно сформулированный вопрос. Особые стандарты, которые мы налагаем на науку, — это прагматический выбор. Ни на звездах, ни на горах не написано, что стандартом для научных публикаций должно быть p < 0,05. Многие сейчас утверждают, что 0,05 — слишком слабый критерий и было бы полезно снизить его до 0,01 или 0,001.

Возможно, будущие поколения, исходя из теории, что наука — это публичное, воспроизводимое знание человечества, будут называть «научными» только те статьи, которые опубликованы в журналах открытого доступа. Если вы берете плату за доступ к знанию, является ли оно частью знания человечества? Можем ли мы доверять результату, если людям приходится платить, чтобы его покритиковать? Является ли это действительно наукой?

Вопрос «Является ли это действительно наукой?» некорректен. Является ли закрытый журнал за 20 000 долларов в год действительно байесовским свидетельством? Как и в случае с личным заверением комиссара полиции о том, что Вулки — криминальный авторитет, думаю, мы должны ответить «да». Но следует ли канонизировать этот закрытый журнал как «науку»? Должны ли мы допускать его в специальный, защищенный пул убеждений? Что касается меня, я считаю, что для науки было бы лучше руководствоваться правилом, согласно которому только открытые знания считаются общедоступным, воспроизводимым пулом знаний человечества.

Ранее я определил свидетельство как «событие, запутанное причинно-следственными связями с тем, о чём вы хотите узнать», а «запутанное» — как «происходящее по-разному при разных возможных состояниях целевого объекта». Так сколько же запутанности — сколько свидетельств — требуется, чтобы подкрепить убеждение?

Давайте начнем с вопроса, достаточно простого, чтобы быть математическим: насколько прочно вы должны быть «запутаны» с лотереей, чтобы выиграть? Предположим, есть семьдесят шаров, которые вытягивают без возвращения, и для выигрыша нужно угадать шесть чисел. В таком случае существует 131 115 985 возможных выигрышных комбинаций, следовательно, случайно выбранный билет будет иметь вероятность выигрыша 1/131 115 985 (0,0000007%). Чтобы выиграть в лотерею, вам понадобятся свидетельства, достаточно избирательные, чтобы явно выделить одну комбинацию на фоне 131 115 984 альтернатив.

Предположим, вы можете провести несколько тестов, которые вероятностным образом отличают выигрышные номера лотереи от проигрышных. Например, вы можете ввести комбинацию в маленькую черную коробочку, которая всегда пищит, если комбинация выигрышная, и имеет лишь 1/4 (25%) шанса запищать, если комбинация неверна. В байесовской терминологии мы бы сказали, что отношение правдоподобия составляет 4 к 1. Это означает, что вероятность того, что коробочка запищит при вводе правильной комбинации, в 4 раза выше, чем вероятность того, что она запищит при неверной комбинации.

Возможных комбинаций всё ещё очень много. Если вы введёте 20 неверных комбинаций, коробочка чисто случайно запищит на 5 из них (в среднем). Если вы введёте все 131 115 985 возможных комбинаций, то, хотя коробочка гарантированно запищит на единственную выигрышную комбинацию, она также запищит и на 32 778 996 проигрышных комбинаций (в среднем).

Так что эта коробочка не позволяет вам выиграть в лотерею, но это лучше, чем ничего. Если бы вы использовали её, ваши шансы на выигрыш выросли бы с 1 из 131 115 985 до 1 из 32 778 997. Вы немного продвинулись к поиску своей цели, истины, в огромном пространстве возможностей.

Предположим, вы можете использовать другую чёрную коробочку, чтобы проверить комбинации дважды, независимо. Обе коробочки гарантированно запищат для выигрышного билета. Но шанс того, что коробочка запищит для проигрышной комбинации, равен 1/4 независимо для каждой коробочки; следовательно, шанс того, что обе коробочки запищат для проигрышной комбинации, составляет 1/16. Мы можем сказать, что совокупное свидетельство двух независимых тестов имеет отношение правдоподобия 16:1. Количество проигрышных лотерейных билетов, прошедших оба теста, составит (в среднем) 8 194 749.

Поскольку существует 131 115 985 возможных лотерейных билетов, вы можете предположить, что вам нужны свидетельства силой примерно 131 115 985 к 1 — событие или серия событий, вероятность возникновения которых для выигрышной комбинации в 131 115 985 раз выше, чем для проигрышной. На самом деле такого объема свидетельств хватит лишь на то, чтобы дать вам равные шансы на выигрыш в лотерею. Почему? Потому что если применить фильтр такой мощности к 131 миллиону проигрышных билетов, то в среднем один проигрышный билет этот фильтр пройдёт. Выигрышный билет также пройдёт фильтр. Таким образом, у вас останется два билета, прошедших фильтр, и только один из них окажется выигрышным. Шансы на выигрыш составят пятьдесят процентов, если вы можете купить только один билет.

Лучший способ взглянуть на проблему: вначале есть 1 выигрышный билет и 131 115 984 проигрышных билета, поэтому ваши шансы на выигрыш составляют 1:131 115 984. Если вы используете одну коробочку, вероятность того, что она запищит, равна 1 для выигрышного билета и 0,25 для проигрышного билета. Мы умножаем 1:131 115 984 на 1:0,25 и получаем 1:32 778 996. Добавление ещё одной коробочки со свидетельствами снова умножает шансы на 1:0,25, так что теперь шансы составляют 1 выигрышный билет к 8 194 749 проигрышным билетам.

Свидетельства удобно измерять в битах — не в тех битах, что на жёстком диске, а в математических битах, которые концептуально отличаются. Математические биты — это логарифмы вероятностей по основанию 1/2. Например, если существует четыре возможных исхода A, B, C и D, вероятности которых составляют 50%, 25%, 12,5% и 12,5%, и я скажу вам, что результатом стал «D», то я передал вам три бита информации, поскольку сообщил об исходе, вероятность которого составляла 1/8.

Так уж вышло, что 131 115 984 чуть меньше, чем 2 в 27-й степени. Таким образом, 14 коробочек, или 28 бит свидетельств — событие, вероятность которого при истинности гипотезы о билете в 268 435 456 раз выше, чем при её ложности, — сместят шансы с 1:131 115 984 до 268 435 456:131 115 984, что сокращается до 2:1. Шансы 2 к 1 означают два шанса выиграть на каждый шанс проиграть, поэтому вероятность выигрыша при наличии 28 бит свидетельств равна 2/3. Добавление ещё одной коробочки, то есть ещё 2 бита свидетельств, увеличит шансы до 8:1. Добавление ещё двух коробочек поднимет шансы на победу до 128:1.

Так что, если вы хотите обосновать сильное убеждение в том, что выиграете в лотерею — произвольно определим это как вероятность ошибки менее 1%, — 34 бита свидетельств о выигрышной комбинации должны справиться с задачей.

В целом правила взвешивания того, «сколько нужно свидетельств», следуют схожему шаблону: чем больше пространство возможностей, в котором находится гипотеза, или чем более невероятной априори она кажется по сравнению со своими соседями, или чем большей уверенности вы хотите достичь, тем больше свидетельств вам требуется.

Вы не можете нарушить правила; вы не можете сформировать точные убеждения на основе недостаточных свидетельств. Допустим, перед вами в ряд выстроены 10 коробочек, и вы начинаете вводить в них комбинации. Вы не можете остановиться на первой же комбинации, при которой запищат все 10 коробочек, заявив: «Но ведь шансы, что такое произойдёт с проигрышной комбинацией — миллион к одному! Я просто проигнорирую эти оторванные от жизни байесовские правила и остановлюсь на этом». В среднем на каждый выигрышный билет такой тест пройдёт 131 проигрышный. Учитывая пространство возможностей и априорную маловероятность, вы поспешили с чересчур сильным выводом на основе недостаточных свидетельств. Это не бессмысленное бюрократическое предписание, это математика.

Конечно, вы всё ещё можете верить на основе недостаточных свидетельств, если таков ваш каприз; но вы не сможете верить безошибочно. Это всё равно что пытаться вести машину вообще без топлива только потому, что вы не верите в нелепую занудную идею, будто для передвижения требуется горючее. Было бы гораздо веселее и намного дешевле, если бы мы просто решили отменить закон, согласно которому машинам нужно топливо. Разве это не было бы очевидно лучше для всех? Что ж, вы можете попытаться, если таков ваш каприз. Вы можете даже закрыть глаза и притвориться, что машина едет. Но чтобы действительно приходить к точным убеждениям, требуется топливо из свидетельств, и чем дальше вы хотите уехать, тем больше топлива вам понадобится.

В 1919 году сэр Артур Эддингтон возглавил экспедиции в Бразилию и на остров Принсипи с целью наблюдения солнечных затмений, чтобы проверить экспериментальное предсказание новой Общей теории относительности Эйнштейна. Один журналист спросил Эйнштейна, что бы он делал, если бы наблюдения Эддингтона не совпали с его теорией. Эйнштейн ответил своей знаменитой фразой: «Тогда мне было бы жаль Господа Бога. Теория верна».

Это кажется довольно безрассудным заявлением, бросающим вызов канону Традиционной Рациональности, согласно которому эксперимент превыше всего. Кажется, будто Эйнштейн одержим настолько великим высокомерием, что отказывается склонить голову и подчиниться вердикту Природы, как обязаны делать ученые. Кто может знать, что теория верна, до экспериментальной проверки?

Разумеется, Эйнштейн оказался прав. Я стараюсь не критиковать людей, когда они правы. Если они действительно заслуживают критики, мне не придется долго ждать случая, когда они ошибутся.

Да и Эйнштейн, возможно, был не так уж безрассуден, как могло показаться...

Чтобы присвоить вероятность более 50% правильному кандидату из множества в 100 000 000 возможных гипотез, вам потребуется не менее 27 бит свидетельств (или около того). Не стоит ожидать, что вы найдете верного кандидата без столь же сильных проверок, потому что менее строгие проверки дадут более одного кандидата, прошедшего все испытания. Если вы попытаетесь применить тест с вероятностью ложноположительного результата один на миллион (~20 бит), вы в итоге получите сотню кандидатов. Просто чтобы найти верный ответ в огромном пространстве возможностей, требуется большое количество свидетельств.

Традиционная Рациональность делает упор на обоснование: «Если вы хотите убедить меня в X, вы должны предоставить мне свидетельства в объеме Y». Я и сам часто скатываюсь к подобным формулировкам, когда говорю что-то вроде: «Чтобы обосновать веру в это утверждение с вероятностью более 99%, требуется 34 бита свидетельств». Или: «Чтобы присвоить вашей гипотезе вероятность более 50%, вам нужно 27 бит свидетельств». Традиционная формулировка подразумевает, что вы начинаете с предчувствия или какого-то личного хода рассуждений, который приводит вас к предлагаемой гипотезе, а затем вы должны собрать «свидетельства», чтобы подтвердить ее — убедить научное сообщество или обосновать свои слова о том, что вы верите в своё предчувствие.

Но с байесовской точки зрения вам требуется количество свидетельств, примерно эквивалентное сложности гипотезы, просто чтобы найти эту гипотезу в пространстве теорий. И дело вовсе не в том, чтобы что-то кому-то обосновывать. Если существует сто миллионов альтернатив, вам нужно как минимум 27 бит свидетельств просто для того, чтобы сфокусировать свое внимание исключительно на правильном ответе.

Это верно, даже если вы называете свою догадку «предчувствием» или «интуицией». Предчувствия и интуитивные озарения — это реальные процессы в реальном мозге. Если у вашего мозга нет хотя бы 10 бит подлинно запутанных, достоверных байесовских свидетельств для обработки, ваш мозг не сможет выделить правильную 10-битную гипотезу и представить ее вашему вниманию — сознательно, подсознательно или как-то еще. Подсознательные процессы не способны обнаружить одну цель из миллиона, используя всего лишь 19 бит запутанности, точно так же, как и сознательные. Предчувствия могут казаться загадочными для того, кто их испытывает, но они не могут нарушать законы физики.

Вы понимаете, к чему все идет: В момент первой формулировки гипотезы — в самый первый раз, когда эти уравнения возникли у него в голове, — Эйнштейн должен был уже иметь в своем распоряжении достаточные наблюдательные свидетельства, чтобы выделить сложные уравнения Общей теории относительности и направить на них свое внимание. Иначе он не смог бы сформулировать их верно.

А теперь подумайте, какова вероятность того, что у Эйнштейна было ровно столько наблюдательных свидетельств, чтобы Общая теория относительности привлекла его внимание, но при этом давала основания присвоить ей лишь 55% вероятности? Предположим, что Общая теория относительности — это гипотеза на 29,3 бита. Какова вероятность того, что Эйнштейн при чтении физической литературы наткнется ровно на 29,5 бита свидетельств?

Весьма маловероятно! Если у Эйнштейна изначально было достаточно наблюдательных свидетельств, чтобы вообще выделить правильные уравнения Общей теории относительности, то у него, скорее всего, было достаточно свидетельств, чтобы быть чертовски уверенным в том, что Общая теория относительности верна.

На самом деле, поскольку человеческий мозг — далеко не идеальный процессор информации, у Эйнштейна, вероятно, было несопоставимо больше свидетельств, чем в принципе потребовалось бы идеальному байесианцу для обретения высочайшей уверенности в Общей теории относительности.

«Тогда мне было бы жаль Господа Бога. Теория верна». Это звучит уже не так возмутительно, если взглянуть на ситуацию под таким углом. И помните, что из всего этого гигантского пространства возможностей Общая теория относительности действительно была верна.

Чем сложнее объяснение, тем больше свидетельств требуется просто для того, чтобы отыскать его в пространстве убеждений. (В традиционном рационализме это часто формулируется не совсем верно: «Чем сложнее утверждение, тем больше свидетельств требуется для его обоснования».) Как измерить сложность объяснения? Как определить, сколько именно свидетельств необходимо?

Бритву Оккама часто формулируют как «самое простое объяснение, согласующееся с фактами». Роберт Хайнлайн возражал, что в таком случае простейшим объяснением будет: «Дама с соседней улицы — ведьма; она это сделала».

Очевидно, что длина английского предложения — плохой способ измерить «сложность». Да и одного лишь «согласования» с фактами из-за того, что объяснение их не запрещает, недостаточно.

Почему именно длина английского предложения — плохая мера сложности? Потому что, произнося предложение вслух, вы используете ярлыки для понятий, которые известны и слушателю: получатель уже сохранил всю их сложность у себя в памяти. Предположим, мы сократим всё предложение Хайнлайна до «Дсссувоэс!» («Дама с соседней улицы — ведьма; она это сделала»), чтобы всё объяснение умещалось в одно слово. Или, что ещё лучше, дадим ему случайное короткое имя вроде «Фнорд!». Уменьшит ли это сложность? Нет, ведь вам придётся заранее объяснить слушателю, что «Дсссувоэс!» означает «Дама с соседней улицы — ведьма; она это сделала». Само слово «ведьма» — это ярлык для целого ряда экстраординарных утверждений; и то, что мы все понимаем его значение, вовсе не делает само понятие простым.

С неба бьёт огромная молния и во что-то попадает, и древние скандинавы говорят: «Возможно, какой-то очень могущественный субъект разозлился и метнул молнию». Человеческий мозг — это самый сложный объект в известной нам Вселенной. Если гнев кажется простым, то лишь потому, что мы не видим всю цепочку нейронов, реализующую эту эмоцию. (Попробуйте объяснить, почему смешно шоу «Субботним вечером в прямом эфире», инопланетянам, у которых нет чувства юмора. Но не зазнавайтесь: у вас самих нет чувства фнорда.) Сложность гнева — да и вообще сложность разума — была попросту проигнорирована людьми, которые придумали гипотезу о Торе, божественном громовержце.

Человеку требуется гораздо больше времени, чтобы объяснить уравнения Максвелла, чем объяснить Тора. У людей нет врождённого словаря для математического анализа, подобного нашему врождённому словарю для гнева. Прежде чем подступиться к электричеству, вам придётся объяснить свой язык, и язык, который стоит за этим языком, и саму концепцию математики.

И всё же интуитивно кажется, что в каком-то смысле уравнения Максвелла должны быть проще, чем человеческий мозг или бог-громовержец Тор.

Так и есть. Написать компьютерную программу, моделирующую уравнения Максвелла, (как выясняется) несопоставимо проще, чем программу, моделирующую разумную, эмоциональную личность вроде Тора.

Формализм индукции Соломонова измеряет «сложность описания» длиной кратчайшей компьютерной программы, которая выдаёт это описание на выходе. Чтобы говорить о «кратчайшей компьютерной программе», выполняющей некую задачу, нужно задать пространство компьютерных программ, для чего требуются язык и интерпретатор. Индукция Соломонова использует машины Тьюринга, точнее, битовые строки, задающие машины Тьюринга. Что делать, если вам не нравятся машины Тьюринга? В таком случае вам грозит лишь константный штраф за сложность при разработке собственной универсальной машины Тьюринга, которая будет интерпретировать любой код на любом угодном вам языке программирования. Различные индуктивные формализмы штрафуют друг друга в худшем случае на некоторый константный множитель, соответствующий размеру универсального интерпретатора для этого формализма.

В лучших (по моему скромному мнению) версиях индукции Соломонова компьютерная программа выдаёт не детерминированное предсказание, а присваивает вероятности различным строкам. Например, мы могли бы описать честную монетку программой, которая присваивает равные вероятности всем 2^N строкам длины N. Так в индукции Соломонова решается вопрос соответствия наблюдаемым данным. Чем более высокую вероятность программа приписывает наблюдаемым данным, тем лучше эта программа соответствует им. А поскольку сумма вероятностей должна быть равна 1, то, чтобы лучше «соответствовать» одному варианту, программа должна забрать вероятностную массу у другого варианта, который в результате будет «соответствовать» её предсказаниям гораздо хуже. Не существует никакой «суперчестной» монетки, которая давала бы 100%-ю вероятность и орлу, и решке.

Как соблюсти баланс между соответствием данным и сложностью программы? Если игнорировать штрафы за сложность и думать только о соответствии, вы всегда будете отдавать предпочтение программам, которые якобы детерминированно предсказывают данные, присваивая им 100%-ю вероятность. Если монета выдаёт ОРРООР, то программа, утверждающая, что монета была подстроена именно под результат ОРРООР, соответствует наблюдаемым данным в 64 раза лучше, чем программа, утверждающая, что монета честная. Напротив, если вы проигнорируете соответствие и будете учитывать только сложность, то гипотеза «честной монеты» всегда будет казаться проще любой другой. Даже если выпадет ОРООРОООРООООРООООООР... Действительно, честная монета действительно проще, и она соответствует этим данным точно так же хорошо, как и любой другой строке из 20 бросков — ни больше ни меньше, — но мы видим другую гипотезу, которая кажется не слишком сложной и при этом соответствует данным гораздо лучше.

Если позволить программе хранить на один двоичный бит информации больше, она сможет сократить пространство возможностей вдвое и, следовательно, присвоить вдвое большую вероятность всем точкам в оставшемся пространстве. Отсюда следует, что один бит сложности программы должен окупаться как минимум «двукратным выигрышем» в соответствии. Если вы попытаетесь создать компьютерную программу, которая явно хранит такой результат, как ОРРООР, то шесть бит, которые вы потеряете в сложности, должны полностью уничтожить всю правдоподобность, полученную за счёт 64-кратного улучшения соответствия. Иначе вы рано или поздно решите, что все честные монеты подстроены.

Если только ваша программа не поступает умно и не сжимает данные, простой перенос одного бита из данных в описание программы не должен приносить никакой выгоды.

Индукция Соломонова для предсказания последовательностей работает так: вы суммируете по всем допустимым компьютерным программам — если допустима абсолютно любая программа, индукция Соломонова становится невычислимой, — при этом априорная вероятность каждой программы равна (1/2) в степени длины её кода в битах, а также каждая программа дополнительно взвешивается по её соответствию всем наблюдаемым к данному моменту данным. Это даёт вам взвешенную смесь экспертов, которая способна предсказывать будущие биты.

Формализм минимальной длины сообщения почти эквивалентен индукции Соломоноффа. Вы отправляете строку, описывающую код, а затем отправляете строку, описывающую данные в этом коде. Лучшим является то объяснение, которое приводит к кратчайшему суммарному сообщению. Если представить множество допустимых кодов как пространство компьютерных программ, а язык описания кода — как универсальную машину, то минимальная длина сообщения почти эквивалентна индукции Соломонова. (Почти — потому что она выбирает кратчайшую программу вместо того, чтобы суммировать по всем программам.)

Это позволяет ясно увидеть проблему с использованием объяснения «Дама с соседней улицы — ведьма; она это сделала» для объяснения закономерности в последовательности 0101010101. Если вы отправляете другу сообщение, пытаясь описать наблюдаемую последовательность, вам придётся сказать: «Дама с соседней улицы — ведьма; она сделала так, чтобы получилась последовательность 0101010101». Ваше обвинение в колдовстве не позволит вам сократить оставшуюся часть сообщения; вам всё равно придётся во всех подробностях описывать данные, которые породило её ведовство.

Колдовство может соответствовать нашим наблюдениям в том смысле, что оно качественно их допускает, но это происходит лишь потому, что колдовство допускает всё — прямо как слово «Флогистон!». Поэтому даже после того, как вы скажете «ведьма», вам всё равно придётся подробно описывать все наблюдаемые данные. Передав сообщение о колдовстве, вы никак не сжали общую длину сообщения с описанием ваших наблюдений; вы просто добавили бесполезный пролог, увеличив эту общую длину.

Настоящая хитрость скрывалась в слове «это» во фразе «Ведьма это сделала». Ведьма сделала что?

Разумеется, благодаря ошибке послезнания, якорению, фиктивным объяснениям, фиктивной причинности, позитивной предвзятости и мотивированному мышлению может показаться совершенно очевидным, что если женщина — ведьма, то, конечно же, она заставит монету выпасть как 0101010101. Но к этому я вернусь уже совсем скоро...

Следующая история произошла со мной в IRC-чате так давно, что я тогда ещё проводил время в IRC-чатах. Время стёрло детали, поэтому мой рассказ может быть неточным.

Итак, сижу я как-то в IRC-чате, и тут кто-то пишет, что его другу нужен медицинский совет. Друг этот говорит, что у него внезапно заболело в груди, он вызвал скорую, скорая приехала, но фельдшеры сказали, что всё в порядке, и уехали, а теперь боль в груди усиливается. Что делать его другу?

Эта история меня озадачила. Я вспомнил, как читал о нью-йоркских бездомных, которые вызывают скорую просто ради того, чтобы их отвезли в тепло, и о том, что медики обязаны везти их в отделение неотложной помощи даже в двадцать седьмой раз за день. Ведь если они этого не сделают, на службу скорой помощи могут подать в суд на огромные деньги. Точно так же отделения неотложной помощи по закону обязаны оказывать помощь любому человеку, независимо от его способности платить. (Расходы больница берёт на себя, а они колоссальны, из-за чего больницы закрывают свои отделения неотложной помощи... Невольно задумываешься: зачем вообще нужны экономисты, если мы всё равно их игнорируем?) Так что я не совсем понимал, как описанные события вообще могли произойти. Любого, кто жаловался на внезапную боль в груди, скорая должна была забрать незамедлительно.

И вот здесь-то я и оступился как рационалист. Я вспомнил несколько случаев, когда мой врач абсолютно не паниковал при симптомах, которые мне казались крайне тревожными. И официальная медицина всегда оказывалась права. Каждый божий раз. У меня самого как-то раз болело в груди, и врач терпеливо объяснил мне, что я описываю боль в грудных мышцах, а не инфаркт. Поэтому я написал в IRC-канал: «Ну, если медики сказали твоему другу, что это ерунда, значит, там и вправду ничего нет — его бы обязательно забрали, будь там хоть малейший шанс на серьёзные проблемы».

Таким образом мне удалось объяснить эту историю в рамках своей существующей модели, хотя картина всё равно казалась слегка притянутой за уши...

Позже этот парень возвращается в чат и говорит, что его друг всё это выдумал. Очевидно, этот друг не отличался особой надёжностью.

Возможно, мне следовало сообразить, что какой-то знакомый чьего-то знакомого в IRC-канале может быть менее надёжным, чем статья в научном журнале. Увы, верить проще, чем сомневаться; мы верим инстинктивно, а сомнение требует сознательных усилий.¹

Поэтому вместо этого я ценой неимоверных усилий заставил свою модель реальности объяснить аномалию, которой на самом деле никогда не происходило. И ведь я знал, насколько это постыдно. Я знал, что полезность модели заключается не в том, что она может объяснить, а в том, чего она объяснить не может. Гипотеза, которая ничего не запрещает, разрешает всё и, следовательно, никак не ограничивает наши ожидания.

Ваша сила как рационалиста — в способности испытывать большее недоумение от вымысла, чем от реальности. Если вы одинаково хорошо можете объяснить любой исход, ваши знания равны нулю.

Все мы время от времени бываем слабы; грустно то, что в тот раз я мог быть сильнее. У меня была вся информация, необходимая для правильного вывода, я даже заметил нестыковку, но проигнорировал её. Моё замешательство было Уликой, а я эту Улику выбросил.

Мне следовало уделить больше внимания этому ощущению, что картина всё-таки кажется слегка притянутой за уши. Это одно из самых важных чувств для искателя истины, часть вашей силы как рационалиста. Недостаток архитектуры человеческого познания заключается в том, что это ощущение проявляется как тихое напряжение где-то на задворках ума, а не как воющая сирена тревоги и мигающая неоновая вывеска с надписью:

ЛИБО ВАША МОДЕЛЬ НЕВЕРНА, ЛИБО ЭТА ИСТОРИЯ ЛОЖНА.

На самом деле эта подгонка свидетельств под гипотезу задним числом сыграла свою роль в одной из самых мрачных глав в истории Соединенных Штатов — интернировании американцев японского происхождения в начале Второй мировой войны. Когда губернатор Калифорнии Эрл Уоррен давал показания на слушаниях в Конгрессе в Сан-Франциско 21 февраля 1942 года, один из участников слушаний указал на то, что до сих пор не было зафиксировано никаких диверсий или каких-либо других видов шпионажа со стороны американцев японского происхождения. Уоррен ответил: «Я считаю, что это отсутствие [подрывной деятельности] — самый зловещий знак во всей нашей ситуации. Это убеждает меня больше, чем, пожалуй, любой другой фактор, в том, что диверсии, которые нам готовят, действия „пятой колонны“, которые нас ожидают, спланированы по времени точно так же, как была рассчитана атака на Перл-Харбор... Полагаю, нас просто убаюкивают ложным чувством безопасности».

Рассмотрим аргумент Уоррена с байесовской точки зрения. Когда мы видим свидетельство, гипотезы, которые приписывали этому свидетельству более высокое правдоподобие, увеличивают свою вероятность за счет гипотез, которые приписывали свидетельству меньшее правдоподобие. Это феномен относительных правдоподобий и относительных вероятностей. Вы можете приписать свидетельству высокое правдоподобие и всё же потерять часть вероятностной массы в пользу какой-то другой гипотезы, если эта другая гипотеза приписывает ему еще более высокое правдоподобие.

Уоррен, похоже, утверждает, что отсутствие диверсий подтверждает существование «пятой колонны». Можно возразить, что «пятая колонна» могла бы отложить свои диверсии. Но правдоподобие того, что отсутствие «пятой колонны» повлечет за собой отсутствие диверсий, всё равно выше.

Пусть E означает наблюдение диверсий, а ¬E — наблюдение их отсутствия. Символ H₁ означает гипотезу о наличии «пятой колонны» из американцев японского происхождения, а H₂ — гипотезу о том, что никакой «пятой колонны» не существует. Условная вероятность P(E|H), или «E при условии H», показывает, с какой уверенностью мы ожидали бы увидеть свидетельство E, если бы предположили, что гипотеза H верна.

Каким бы ни было правдоподобие того, что «пятая колонна» не станет устраивать диверсий — то есть вероятность P(¬E|H₁), — оно не будет столь же велико, как правдоподобие отсутствия диверсий при условии, что никакой «пятой колонны» нет, то есть вероятность P(¬E|H₂). Таким образом, наблюдение отсутствия диверсий увеличивает вероятность того, что «пятой колонны» не существует.

Отсутствие диверсий не доказывает, что «пятой колонны» не существует. Отсутствие доказательств не есть доказательство отсутствия. В логике выражение (A ⇒ B), читаемое как «из A следует B», не эквивалентно выражению (¬A ⇒ ¬B), читаемому как «из не-A следует не-B».

Но в теории вероятностей отсутствие свидетельств — это всегда свидетельство отсутствия. Если E — бинарное событие и P(H|E) > P(H), то есть наблюдение E увеличивает вероятность гипотезы H, то P(H|¬E) < P(H), то есть то, что E не произошло, уменьшает вероятность H. Вероятность P(H) представляет собой взвешенную смесь P(H|E) и P(H|¬E) и обязательно лежит между ними. Если всё это кажется вам запутанным, обратитесь к статье «Интуитивное объяснение байесовского рассуждения».

В подавляющем большинстве реальных жизненных ситуаций причина может не всегда надежно порождать свои признаки, однако при отсутствии причины появление этих признаков еще менее вероятно. Отсутствие наблюдения может быть сильным или очень слабым свидетельством отсутствия — в зависимости от того, насколько вероятно появление этого наблюдения при наличии причины. Отсутствие наблюдения, которое допускается лишь с малой вероятностью (даже если альтернативная гипотеза исключает его полностью), служит очень слабым свидетельством отсутствия (хотя, тем не менее, им служит). В этом и заключается ложность аргумента о «пробелах в палеонтологической летописи»: окаменелости образуются крайне редко; бессмысленно трубить об отсутствии слабовероятного наблюдения, когда уже зафиксировано множество убедительных положительных наблюдений. Но если никаких положительных наблюдений вообще нет, самое время забеспокоиться; отсюда и проистекает парадокс Ферми.

Ваша сила как рационалиста заключается в способности испытывать большее замешательство от вымысла, чем от реальности; если вы одинаково успешно объясняете любой исход, ваши знания равны нулю. Сила модели заключается не в том, что она может объяснить, а в том, чего она не может, ибо только запреты ограничивают ожидания. Если вы не замечаете, когда ваша модель делает свидетельство маловероятным, то у вас с тем же успехом может не быть вообще никакой модели, равно как и никаких свидетельств; ни мозга, ни глаз.

Фридрих Шпее фон Лангенфельд, священник, принимавший исповеди осужденных ведьм, написал в 1631 году книгу Cautio Criminalis («Осмотрительность в уголовных делах»), в которой едко описал дерево решений для вынесения приговора обвиняемым в колдовстве: если ведьма вела порочную и неблагопристойную жизнь, она была виновна; если она вела праведную и благопристойную жизнь, это тоже служило доказательством, ибо ведьмы лицемерят и пытаются казаться особенно добродетельными. После того как женщину бросали в тюрьму: если она боялась, это доказывало её вину; если она не боялась, это тоже доказывало её вину, ибо ведьмам свойственно притворяться невиновными и держаться дерзко. Или же, прослышав о доносе на себя, она могла пуститься в бега или остаться; если она бежала, это доказывало её вину; если оставалась, значит, дьявол удерживал её, чтобы она не могла уйти.

Шпее исповедовал многих ведьм и потому имел возможность наблюдать каждую ветвь дерева обвинения. Что бы ни делала и ни говорила обвиняемая, всё это использовалось как доказательство против неё. В любом конкретном случае вы услышали бы лишь одну из ветвей этой дилеммы. Именно поэтому учёные записывают свои экспериментальные предсказания заранее.

Но нельзя играть в обе стороны — и это требование теории вероятностей, а не просто справедливости. Правило «отсутствие свидетельств является свидетельством отсутствия» — это частный случай более общего закона, который я бы назвал законом сохранения ожидаемого свидетельства: математическое ожидание апостериорной вероятности после получения свидетельства должно быть равно априорной вероятности.

P(H) = P(H,E) + P(H,¬E)

P(H) = P(H|E) × P(E) + P(H|¬E) × P(¬E)

Следовательно, для любого ожидания свидетельства существует равное ему и противоположное ожидание контрсвидетельства.

Если вы с высокой вероятностью ожидаете увидеть слабое свидетельство в одном направлении, это должно уравновешиваться слабой вероятностью увидеть сильное свидетельство в другом направлении. Если вы очень уверены в своей теории и потому предвидите исход, соответствующий вашей гипотезе, это может дать лишь ничтожно малый прирост вашей убеждённости (она и так уже близка к 1); но неожиданный провал вашего предсказания нанесёт (и должен нанести) вашей уверенности сокрушительный удар. В среднем вы должны ожидать, что ваша уверенность останется ровно такой же, какой была вначале. Иными словами, одно лишь ожидание столкнуться со свидетельством — до того, как вы его действительно увидели, — не должно сдвигать ваши априорные убеждения. (Опять же, если это не кажется интуитивно очевидным, см. статью «Интуитивное объяснение байесовского рассуждения».)

Поэтому если вы утверждаете, что «отсутствие саботажа» — это свидетельство в пользу существования «пятой колонны» среди американцев японского происхождения, вы должны, напротив, считать, что факт саботажа свидетельствовал бы против существования «пятой колонны». Если вы утверждаете, что «праведная и благопристойная жизнь» доказывает, что женщина — ведьма, то порочная и неблагопристойная жизнь должна доказывать, что она не ведьма. Если вы утверждаете, что Бог, желая испытать веру человечества, отказывается явить Своё существование, то чудеса, описанные в Библии, должны свидетельствовать против существования Бога.

Звучит как-то неправильно, не так ли? Обратите внимание на это ощущение: «это кажется немного натянутым», на это тихое напряжение где-то на задворках сознания. Это важно.

Для истинного байесовца невозможно искать свидетельства, которые подтверждают теорию. Вы не сможете составить ни одного плана, изобрести ни одной хитрой стратегии или уловки, которые позволили бы вам обоснованно ожидать, что ваша уверенность в определённом суждении станет в среднем выше, чем была до этого. Вы можете искать свидетельства только для того, чтобы проверить теорию, но не для того, чтобы подтвердить её.

Это осознание может снять огромный груз с души. Вам больше не нужно беспокоиться о том, как истолковать любой возможный результат эксперимента так, чтобы он подтвердил вашу теорию. Не нужно утруждать себя планированием того, как заставить любую мельчайшую крупицу свидетельств подтверждать вашу теорию, ведь вы знаете, что для каждого ожидания свидетельства существует равное и противоположное ожидание контрсвидетельства. Если вы попытаетесь ослабить контрсвидетельство возможного «аномального» наблюдения, вы сможете сделать это только за счёт ослабления поддержки от «нормального» наблюдения — в строго равной и противоположной степени. Это игра с нулевой суммой. Как бы вы ни изощрялись, какие бы доводы ни приводили, какие бы стратегии ни строили, вы никак не можете рассчитывать на то, что выработанный план действий ваши убеждения (в среднем) сдвинутся в определённую сторону.

Так что вам остаётся только расслабиться и спокойно ждать, пока появятся свидетельства.

…Человеческая психология настолько исковеркана.

Это эссе во многом основано на отрывке из книги Майерса «Исследуя социальную психологию»;¹ этот отрывок стоит прочесть целиком.

Каллен Мерфи, редактор The Atlantic, писал, что социальные науки не предлагают «никаких идей или выводов, которые нельзя было бы найти в [любом] сборнике цитат… День за днем исследователи выходят в мир. День за днем они обнаруживают, что поведение людей оказывается именно таким, какого вы от них и ожидали».

Разумеется, это «ожидание» строится исключительно на послезнании. (Эффект послезнания: испытуемые, знающие правильный ответ на вопрос, оценивают вероятность того, что они «и сами бы» так ответили, гораздо выше, чем испытуемые, вынужденные отвечать, не зная правильного ответа.)

Историк Артур Шлезингер-младший отмахнулся от научных исследований опыта солдат Второй мировой войны, назвав их «тяжеловесными демонстрациями» здравого смысла. Например:

Солдаты с более высоким уровнем образования испытывали больше проблем с адаптацией, чем менее образованные солдаты. (Интеллектуалы были менее подготовлены к тяготам боя, чем люди с уличной закалкой.)

Солдаты с Юга справлялись с жарким климатом островов Южных морей лучше, чем солдаты с Севера. (Южане более привычны к жаркой погоде.)

Белые рядовые сильнее стремились к продвижению в унтер-офицеры, чем чернокожие рядовые. (Годы угнетения подрывают мотивацию достижения.)

Чернокожие южане предпочитали белых офицеров-южан офицерам-северянам. (Южные офицеры имели больше опыта и навыков в общении с чернокожими.)

Пока продолжались боевые действия, солдаты сильнее стремились вернуться домой, чем после окончания войны. (Во время боев солдаты знали, что находятся в смертельной опасности.)

Как вы думаете, сколько из этих выводов вы смогли бы предсказать заранее? Три из пяти? Четыре из пяти? Есть ли случаи, когда вы предсказали бы прямо противоположное — когда ваша модель получает удар? Задумайтесь на мгновение, прежде чем продолжить…

. . .

В этой демонстрации (взятой у Пола Лазарсфельда через Майерса) все перечисленные выше результаты прямо противоположны тому, что было обнаружено на самом деле.² Сколько раз вы подумали, что ваша модель получила удар? Сколько раз вы признались себе, что оказались бы неправы? Вот насколько хороша была ваша модель на самом деле. Мера вашей силы как рационалиста — это способность испытывать большее недоумение от вымысла, чем от реальности.

Если только, конечно, я не перевернул результаты еще раз. Что думаете?

Отличаются ли ваши мыслительные процессы в этот момент, когда вы действительно не знаете ответа, от тех, с помощью которых вы рационализировали тот или иной вариант «известного» ответа?

Дафна Барац показывала студентам колледжа пары якобы научных выводов: один из них был реальным («В благополучные времена люди тратят бо́льшую долю своего дохода, чем во время кризиса»), а другой — противоположным истине.³ Для обоих вариантов студенты заявляли, что они «и сами бы это предсказали». Совершенно типичный эффект послезнания.

Что и заставляет людей думать, будто наука им не нужна, поскольку они и так «могли бы это предсказать».

(Как и следовало ожидать, верно?)

Послезнание заставляет нас систематически недооценивать неожиданность научных открытий, особенно те, которые мы понимаем, — те, что кажутся нам реальными и которые мы можем задним числом встроить в свои модели мира. Если вы разбираетесь в нейробиологии или физике и читаете новости по этим темам, вы, вероятно, недооцениваете неожиданность открытий и в этих областях. Это несправедливо обесценивает вклад исследователей, но что еще хуже — мешает вам заметить, когда перед вами оказываются свидетельства, не соответствующие тому, чего вы на самом деле ожидали бы.

Нам нужно прилагать сознательные усилия, чтобы поражаться в достаточной мере.

Однажды один преподаватель физики собрал своих студентов в аудитории. Он показал им широкую квадратную металлическую пластину, стоявшую рядом с горячим радиатором отопления. Каждый из студентов приложил руку к пластине и обнаружил, что сторона, прилегающая к радиатору, была холодной, а противоположная — теплой. И преподаватель спросил: Как по-вашему, почему это происходит? Кто-то из студентов предположил конвекцию воздушных потоков, кто-то — необычные металлы в составе пластины. Они придумали множество изобретательных объяснений, и никто не опустился до того, чтобы сказать «Я не знаю» или «Это кажется невозможным».

А разгадка заключалась в том, что перед тем как студенты вошли в аудиторию, преподаватель развернул пластину другой стороной.¹

Представьте себе студента, который лихорадочно бормочет: «Э-э, ну, может, из-за теплопроводности там, или типа того?» Я спрашиваю: является ли этот ответ настоящим убеждением? Эти слова довольно легко произнести — сказать их громким, уверенным голосом. Но действительно ли эти слова управляют вашими ожиданиями?

Задумайтесь над этой невинной короткой фразой «из-за», которая стоит перед «теплопроводности». Подумайте о других вещах, которые мы могли бы поставить после нее. Мы могли бы сказать, например: «Из-за флогистона» или «Из-за магии».

«Магия! — воскликнете вы. — Но это же не научное объяснение!» И в самом деле, фразы «из-за теплопроводности» и «из-за магии» без труда распознаются как принадлежащие к разным литературным жанрам. «Теплопроводность» — это то, что мог бы сказать Спок в «Звездном пути», тогда как «магия» скорее прозвучала бы из уст Джайлза в сериале «Баффи — истребительница вампиров».

Однако мы, как байесовцы, не обращаем внимания на литературные жанры. Для нас суть любой модели заключается в том, как она управляет нашими ожиданиями. Если вы говорите «теплопроводность», то какой опыт вы в результате ожидаете получить? При обычных обстоятельствах это заставляет вас ожидать, что если вы положите руку на ту сторону пластины, что ближе к радиатору, она окажется теплее противоположной. Если же фраза «из-за теплопроводности» способна объяснить и то, почему прилегающая к радиатору сторона кажется холоднее, значит, она может объяснить практически все что угодно.

И как мы все к этому моменту уже знаем (я очень на это надеюсь), если вы одинаково успешно объясняете любой исход, ваши знания равны нулю. Словосочетание «из-за теплопроводности», использованное подобным образом, представляет собой замаскированную гипотезу максимальной энтропии. С точки зрения ожиданий это изоморфно слову «магия». Оно кажется объяснением, но им не является.

Предположим, что вместо гадания мы бы измерили температуру металлической пластины в разных точках и в разное время. Видя металлическую пластину рядом с радиатором, мы бы при обычных условиях ожидали, что температура в конкретных точках будет соответствовать равновесному состоянию уравнения диффузии с учетом граничных условий, заданных окружающей средой. Возможно, вы не знали бы точной температуры в первой точке измерения, но после измерения первых нескольких точек — я недостаточно силен в физике, чтобы сказать, сколько именно потребуется, — вы смогли бы с высокой точностью предсказать остальные показатели.

Настоящий мастер искусства использования чисел для ограничения ожиданий относительно материальных явлений — «физик» — провел бы несколько измерений и сказал: «Эта пластина находилась в равновесии с окружающей средой две с половиной минуты назад, затем ее развернули, и сейчас она снова приближается к равновесию».

Более глубокая ошибка студентов заключается не просто в том, что они не смогли ограничить свои ожидания. Их главная ошибка в том, что они думали, будто занимаются физикой. Они произнесли фразу «из-за», добавив к ней слова, которые мог бы сказать Спок в «Звездном пути», и решили, что тем самым вступили в магистериум науки.

Ничего подобного. Они просто перенесли свою магию из одного литературного жанра в другой.

Когда я был маленьким, я читал научно-популярные книги по физике, например «КЭД — странная теория света и вещества». Я знал, что свет — это волны, звук — это волны, материя — это волны. В свои девять лет я очень гордился своей научной грамотностью.

Когда я стал постарше и начал читать «Фейнмановские лекции по физике», мне попалась жемчужина под названием «волновое уравнение». Я мог проследить за выводом уравнения, но, оглядываясь назад, я не мог с ходу увидеть его истинность. И я размышлял над волновым уравнением дня три, время от времени возвращаясь к нему, пока не понял, что оно очевидно до неприличия. И когда я наконец это понял, до меня дошло: всё то время, пока я принимал на веру честные заверения физиков, будто свет — это волны, звук — это волны, а материя — это волны, я не имел ни малейшего представления о том, что слово «волна» значит для физика.

Существует инстинктивное стремление думать, что если физик говорит «свет состоит из волн», учитель спрашивает «Из чего состоит свет?», а ученик отвечает «Из волн!», то ученик высказал истинное утверждение. Это же справедливо, правда? Мы принимаем ответ «волны» как правильный от физика; разве не было бы несправедливо не принять его от ученика? Разумеется, ответ «Из волн!» либо истинен, либо ложен, верно?

И это ещё одна вредная привычка, от которой нужно отучиться, поскольку её нам привила школа. Слова не содержат в себе определений изначально. Если я слышу слоги «бо-бёр» и представляю крупного грызуна, это факт о моём собственном состоянии ума, а не факт о слогах «бобр». Последовательность слогов «состоит из волн» (или «из-за теплопроводности») — это не гипотеза, это паттерн колебаний, распространяющийся по воздуху, или чернила на бумаге. Она может ассоциироваться с гипотезой в чьей-то голове, но сама по себе она не верна и не ошибочна. Но в школе учитель даёт вам золотую звёздочку за произнесение слов «состоит из волн» — ведь это, должно быть, правильный ответ, поскольку учитель слышал, как физик издавал точно такие же звуковые колебания. Поскольку за вербальное поведение (устное или письменное) дают золотые звёздочки, ученики начинают думать, будто вербальное поведение обладает истинностным значением. В конце концов, либо свет состоит из волн, либо нет, верно?

И это порождает ещё более скверную привычку. Представьте, что учитель ставит перед вами запутанную задачу: рядом с радиатором стоит металлическая пластина, и её дальняя сторона кажется теплее, чем ближняя. Учитель спрашивает: «Почему?» Если вы ответите «Я не знаю», у вас нет никаких шансов получить золотую звёздочку — это даже не зачтут как работу на уроке. Но за этот семестр учитель уже использовал фразы «из-за конвекции», «из-за теплопроводности» и «из-за теплового излучения». Наверное, учитель ждёт одну из них. И вы говорите: «Э-э, может, из-за теплопроводности?»

Это не гипотеза о металлической пластине. Это даже не полноценное убеждение. Это попытка угадать пароль учителя.

Даже если вы визуализируете символы уравнения диффузии (математического выражения, описывающего теплопроводность), это ещё не значит, что вы сформулировали гипотезу о металлической пластине. Мы не в школе; мы не проверяем вашу память, чтобы посмотреть, сможете ли вы записать уравнение диффузии. Это байесовское искусство; мы оцениваем ваше предвосхищение опыта. Если вы используете уравнение диффузии — измеряете температуру в нескольких точках термометром, а затем пытаетесь предсказать, что термометр покажет при следующем измерении, — тогда оно определённо связано с опытом. Даже если ученик просто представляет себе, как нечто течёт, и поэтому подносит спичку к более холодной стороне пластины, чтобы проверить, куда пойдёт тепло, этот мысленный образ «текучести» связывается с опытом — он управляет ожиданиями.

Если вы не используете уравнение диффузии — подставляя числа и получая результаты, которые управляют вашими ожиданиями от конкретного опыта, — то связь между картой и территорией словно ножом отрезана. Остаётся не убеждение, а лишь вербальное поведение.

В школьной системе всё завязано на вербальном поведении, будь оно записано на бумаге или произнесено вслух. За вербальное поведение вам дают либо золотую звёздочку, либо двойку. Часть процесса избавления от этой вредной привычки — научиться осознанно улавливать разницу между объяснением и паролем.

Не слишком ли это сурово? Разве робкое «теплопроводность?» перед лицом непонятной металлической пластины не может быть первым шагом на пути к ответу? Может, но только в том случае, если вы не попадётесь в ловушку мысли, будто ищете пароль. А что, если рядом нет учителя, который сказал бы, что вы ошиблись? Тогда вы можете решить, что «свет — это вакаликсы» — отличное объяснение, а «вакаликсы» — правильный пароль. Со мной такое случилось в девять лет — не потому, что я был глуп, а потому, что именно это происходит по умолчанию. Именно так думают люди, если только их не научили не попадаться в эту ловушку. Человечество тысячелетиями застревало в подобных тупиках.

Возможно, если мы будем вдалбливать ученикам, что важны не слова, а лишь то, что управляет предвосхищением опыта, ученик не застрянет на этапе: «Теплопроводность? Нет? Может, конвекция? Тоже не то?» Возможно, тогда размышление о слове «теплопроводность» выведет его на действительно полезный путь:

«Теплопроводность?»

Но это лишь слово — что оно значит?

Уравнение диффузии?

Но это лишь символы — как их применить?

Какого опыта заставляет ожидать применение уравнения диффузии?

Оно уж точно не заставляет меня ожидать, что дальняя от радиатора сторона металлической пластины окажется теплее.

Я замечаю, что озадачен. Может, ближняя сторона просто ощущается более холодной, потому что она сделана из материала с лучшей теплоизоляцией и передаёт меньше тепла моей руке? Попробую измерить температуру...

Ладно, дело оказалось не в этом. Могу ли я вообще попытаться проверить, выполняется ли уравнение диффузии для этой металлической пластины? Действительно ли тепло течёт так, как обычно, или же происходит что-то другое?

Я мог бы поднести спичку к пластине и попытаться измерить, как тепло распространяется со временем...

Если мы не признаем со всей строгостью, что фраза «Ну, может, из-за теплопроводности?» — это псевдообъяснение, то ученик, весьма вероятно, застрянет на каком-нибудь пароле вроде «вакаликсов». Это происходит по умолчанию: так происходило со всем человечеством на протяжении тысяч лет.

В трейлере фильма «Люди Икс» голос за кадром произносит: «В каждом человеке... заложен генетический код... мутации». Судя по всему, в результате мутации можно приобрести самые разные классные способности. Мутант Шторм, например, способна метать молнии.

Я умоляю вас, дорогой читатель, задуматься о биологических механизмах, необходимых для генерации электричества; о биологических приспособлениях, нужных для того, чтобы самому не пострадать от этого электричества; и о когнитивных контурах, которые требуются для точного управления молниями. Если бы мы действительно наблюдали, как какой-либо организм приобретает эти способности за одно поколение в результате мутации, это полностью опровергло бы неодарвинистскую модель естественного отбора. Это было бы хуже, чем найти окаменелость кролика в докембрии. Если бы эволюционная теория на самом деле могла растянуться настолько, чтобы охватить Шторм, она могла бы объяснить всё что угодно — и все мы знаем, что из этого следует.

В комиксах о «Людях Икс» термины вроде «эволюция», «мутация» и «генетический код» используются исключительно ради того, чтобы вписаться в то, что они считают литературным жанром «наука». Меня пугает мысль о том, как много людей, особенно в СМИ, понимают науку исключительно как литературный жанр.

Я сталкиваюсь с людьми, которые самым решительным образом верят в эволюцию и насмехаются над глупостью креационистов. И при этом они понятия не имеют, что теория эволюционной биологии разрешает, а что запрещает. Они рассуждают о «следующем шаге в эволюции человечества», будто естественный отбор шёл к нынешнему состоянию по заранее намеченному плану. Или, что ещё хуже, они говорят о вещах, совершенно не относящихся к области эволюционной биологии, — например, об усовершенствованной архитектуре компьютерных чипов, делении корпораций или переносе человеческого сознания в компьютеры, — и называют это «эволюцией». Если бы эволюционная биология могла охватить всё это, она могла бы объяснить вообще всё что угодно.

Вероятно, на самом деле большинство людей, которые верят в эволюцию, используют фразу «из-за эволюции» лишь потому, что хотят быть частью научной тусовки — вера как научный наряд, вроде лабораторного халата. Если бы научная тусовка вместо этого использовала фразу «из-за разумного замысла», они с тем же восторгом повторяли бы её — для их контроллеров ожидания это не имело бы никакого значения. Фраза «из-за эволюции» вместо «из-за разумного замысла» для них вовсе не запрещает Шторм. Её единственная цель для них — идентифицивать себя с племенем.

Я встречаю людей, которые вполне готовы допустить мысль об искусственном интеллекте глупее человеческого или даже слегка превосходящем его. Но стоит заговорить об искусственном интеллекте, значительно превосходящем человека, как они тут же объявляют это «лженаукой». И дело вовсе не в том, что у них якобы есть теория интеллекта, позволяющая рассчитать теоретический верхний предел возможностей оптимизационного процесса. Просто значительно превосходящий человека ИИ ассоциируется у них с литературным жанром апокалиптики, тогда как ИИ, управляющий небольшой корпорацией, — с литературным стилем журнала Wired. Они рассуждают не в рамках когнитивной модели. Они не понимают, что им нужна модель. Они не понимают, что наука строится на моделях. Вся их сокрушительная критика сводится исключительно к сравнениям с апокалиптической литературой, а не, скажем, к известным законам, которые запрещали бы подобный исход. Они понимают науку исключительно как литературный жанр или как тусовку, к которой хочется принадлежать. Для них этот наряд не выглядит как лабораторный халат; это просто не та футбольная команда, за которую они болеют.

Есть ли в науке какая-то идея, верой в которую вы гордитесь, хотя и не используете её профессионально? Вам стоит спросить себя, какой будущий опыт ваша вера запрещает вам пережить. Это и есть всё то, что вы усвоили и сделали своей подлинной частью. Всё остальное — скорее всего, просто пароли или наряд.

Флогистон был ответом восемнадцатого века на Стихийный Огонь греческих алхимиков. Подожгите дерево и дайте ему гореть. Что это за оранжево-яркая субстанция — «огонь»? Почему дерево превращается в золу? На оба эти вопроса химики восемнадцатого века отвечали: «флогистон».

. . . и на этом всё, понимаете, в этом и заключался их ответ: «Флогистон».

Флогистон высвобождался из горящих веществ в виде зримого пламени. По мере того как флогистон высвобождался, горящие вещества теряли его и таким образом превращались в золу — «истинное вещество». Пламя в закрытых сосудах гасло потому, что воздух насыщался флогистоном и больше не мог его вмещать. Древесный уголь сгорал почти без остатка, поскольку состоял из практически чистого флогистона.

Конечно, никто не использовал теорию флогистона, чтобы предсказывать результат химического превращения. Сначала вы смотрели на результат, а затем использовали теорию флогистона, чтобы объяснить его. Не то чтобы сторонники теории флогистона предсказывали, что пламя погаснет в закрытом сосуде; скорее, они зажигали огонь в сосуде, смотрели, как оно гаснет, а затем говорили: «Должно быть, воздух насытился флогистоном». Нельзя было использовать теорию флогистона даже для того, чтобы сказать, чего вы не должны увидеть; она могла объяснить всё что угодно.

Это была эпоха ранней науки. Долгое время никто не осознавал, что здесь есть проблема. Ложные объяснения не ощущаются ложными. Именно это делает их опасными.

Современные исследования показывают, что люди мыслят категориями причин и следствий, используя нечто похожее на направленные ациклические графы (НАГ) байесовских сетей. Из-за того, что пошёл дождь, тротуар мокрый; из-за того, что тротуар мокрый, он скользкий:

В: Откуда взялась гора?

О: Оттуда же, откуда и весь камень на свете: это кости Имира, первозданного великана.

В: Откуда взялся первозданный великан Имир?

О: Из великой бездны Гиннунгагап.

В: Откуда взялась великая бездна Гиннунгагап?

О: Никогда не задавай этот вопрос.

Рассмотрим кажущийся парадокс Первопричины. Наука проследила цепь событий вплоть до Большого взрыва, но почему случился сам Большой взрыв? Конечно, можно сказать, что начало отсчета времени совпадает с Большим взрывом — что до Большого взрыва в обычном течении минут и часов ничего не существовало. Но подобные рассуждения предполагают наличие наших физических законов, которые сами по себе кажутся высокоструктурированными и требуют объяснения. Откуда взялись физические законы? Можно сказать, что все мы — компьютерная симуляция, но тогда эта симуляция работает по законам физики какого-то другого мира. Откуда взялись те законы физики?

На этом этапе некоторые говорят: «Бог!»

Что вообще может заставить кого-то, даже глубоко религиозного человека, думать, что это хотя бы помогает разрешить парадокс Первопричины? Почему бы автоматически не спросить: «Откуда взялся Бог?» Ответы вроде «У Бога нет причины» или «Бог создал себя сам» оставляют нас ровно в том же положении, что и утверждение «Время началось с Большого взрыва». Мы просто спрашиваем, почему вообще существует вся эта метасистема или почему одним событиям позволено не иметь причины, а другим — нет.

Моя цель здесь — не обсуждать кажущийся парадокс Первопричины, а спросить, почему кто-то вообще думает, будто слово «Бог!» способно этот парадокс разрешить. Возглас «Бог!» — это способ показать принадлежность к племени, что дает людям повод повторять его как можно чаще; некоторые используют его даже для ответов на вопросы вроде «Почему этот ураган обрушился на Новый Орлеан?». Но всё же хотелось бы надеяться, что люди заметят: в конкретной загадке Первопричины слово «Бог!» ничем не помогает. Оно не делает парадокс менее парадоксальным, даже если это правда. Как можно этого не заметить?

Джонатан Уоллес предположил, что слово «Бог!» выполняет функцию семантического стоп-сигнала — то есть является не столько пропозициональным утверждением, сколько когнитивным дорожным знаком: «дальше этой точки не думать». Возглас «Бог!» не столько разрешает парадокс, сколько выставляет когнитивный красный свет, чтобы остановить очевидное продолжение цепочки вопросов и ответов.

Разумеется, вы никогда так не поступите, будучи хорошим и правильным атеистом, верно? Но «Бог!» — далеко не единственный семантический стоп-сигнал, а лишь самый очевидный пример.

Трансгуманистические технологии — молекулярные нанотехнологии, передовые биотехнологии, генная инженерия, искусственный интеллект и так далее — ставят перед нами сложные вопросы регулирования. Какую роль (и должно ли вообще) играть государство в контроле за выбором генов для ребенка его родителями? Могут ли родители намеренно выбрать гены, связанные с шизофренией? Если процедура повышения интеллекта ребенка стоит дорого, должно ли государство обеспечивать к ней доступ, чтобы предотвратить появление когнитивной элиты? Вы можете предложить различные институты для решения этих вопросов — например, чтобы частные благотворительные фонды оказывали финансовую помощь для повышения интеллекта, — но очевидным следующим вопросом будет: «А будет ли этот институт эффективен?» Если мы станем полагаться на иски об ответственности за качество продукции, чтобы помешать корпорациям создавать опасные нанотехнологии, действительно ли это сработает?

Я знаю человека, чьим ответом на каждый из этих вопросов является: «Либеральная демократия!» И всё. Вот его ответ. Если вы зададите очевидный вопрос: «Насколько успешно либеральные демократии исторически справлялись с подобными сложными проблемами?» или «Что если либеральная демократия сделает какую-нибудь глупость?», то вы тут же окажетесь автократом, либертопистом или просто очень-очень плохим человеком. Никому не позволено сомневаться в демократии.

Когда-то я называл подобный образ мыслей «божественным правом демократии». Но точнее будет сказать, что слово «Демократия!» работало для него как семантический стоп-сигнал. Если бы кто-то сказал ему: «Передайте это корпорации Coca-Cola!», он бы задал вполне очевидные следующие вопросы: «Почему? Что корпорация Coca-Cola будет с этим делать? Почему мы должны им доверять? Справлялись ли они в прошлом со столь же сложными проблемами?»

Или предположим, что кто-то говорит: «Американцы мексиканского происхождения замышляют уничтожить весь кислород в атмосфере Земли». Вы, вероятно, спросите: «Зачем им это? Разве им самим не нужно дышать? И вообще, могут ли они действовать как единая группа заговорщиков?» Если же вы не задаете эти очевидные следующие вопросы, когда слышите: «Корпорации замышляют уничтожить земной кислород», значит, слово «Корпорации!» служит для вас семантическим стоп-сигналом.

Смотрите не создайте новый универсальный контраргумент против вещей, которые вам не нравятся — вроде «О, это просто стоп-сигнал!». Ни одно слово не является стоп-сигналом само по себе; вопрос в том, оказывает ли оно такой эффект на конкретного человека. Сильные эмоции по какому-либо поводу сами по себе не делают понятие стоп-сигналом. Я не испытываю нежных чувств к террористам и не боюсь частной собственности, но это не значит, что слова «Террористы!» или «Капитализм!» служат для меня когнитивными дорожными знаками. (Слово «интеллект» когда-то действительно оказывало на меня такой эффект, но это в прошлом.) Отличительный признак семантического стоп-сигнала — то, что очевидный следующий вопрос даже не приходит в голову.

Представьте, что вы смотрите на свою руку и ничего не знаете о клетках, о биохимии, о ДНК. Препарирование научило вас кое-какой анатомии, поэтому вы знаете, что в руке есть мышцы, но понятия не имеете, почему мышцы двигаются, а не лежат неподвижно, как глина. Ваша рука — это просто... вещество... и почему-то оно движется, повинуясь вашей воле. Разве это не магия?

Животный организм не действует подобно термодинамическому двигателю... сознание учит каждого человека, что он в некоторой степени подчиняется велениям своей воли. Представляется, следовательно, что живые существа обладают способностью непосредственно прилагать к определенным движущимся частицам материи внутри своих тел силы, с помощью которых движение этих частиц направляется для получения производных механических эффектов... Влияние животной или растительной жизни на материю бесконечно превосходит рамки любых научных исследований, предпринимавшихся до сих пор. Его способность направлять движение движущихся частиц в очевидном повседневном чуде нашей человеческой свободы воли и в росте поколения за поколением растений из одного-единственного семени бесконечно отличается от любого возможного результата случайного стечения атомов... Современные биологи снова приходят к признанию чего-то, что является жизненным принципом.

— Лорд Кельвин¹

В этом и заключалась теория витализма: загадочное различие между живой и неживой материей объяснялось наличием élan vital или vis vitalis. Élan vital наполняла живую материю и заставляла её двигаться повинуясь сознательной воле. Élan vital участвовала в химических превращениях, на которые были не способны простые неживые частицы — осуществленный позже Вёлером синтез мочевины (компонента мочи) нанёс сокрушительный удар по виталистической теории, показав, что обычная химия способна воссоздать продукт биологического происхождения.

Назвать «élan vital» объяснением — даже ложным, подобно флогистону — это, пожалуй, слишком много чести. Эта концепция служила главным образом «тупиком для любопытства». Вы спрашивали: «Почему?», а в ответ слышали: «Élan vital!»

Когда вы говорите «Élan vital!», вам кажется, будто вы знаете, почему движется ваша рука. В вашей голове возникает простая причинно-следственная схема:

Провалы флогистона и витализма очевидны лишь в исторической ретроспективе. Осмелюсь ли я пойти на риск и назвать некую современную теорию, которую считаю столь же несостоятельной?

Я назову эмерджентность или эмерджентные явления — обычно определяемые как изучение систем, чьё высокоуровневое поведение проистекает или «эмерджирует» из взаимодействия множества низкоуровневых элементов. (Википедия: «Процесс возникновения сложных систем и паттернов из множества относительно простых взаимодействий».) Буквально говоря, это описание подходит для любого явления в нашей вселенной уровнем выше отдельных кварков, и в этом часть проблемы. Представьте, что вы указываете на обвал рынка и говорите: «Это не кварк!» Разве это похоже на объяснение? Нет? Тогда и фраза «Это эмерджентное явление!» тоже не должна казаться объяснением.

Я протестую именно против существительного «эмерджентность», а не против словосочетания «возникает из». Нет ничего плохого в утверждении «Х возникает из Y», если под Y понимается конкретная детальная модель с внутренними движущимися деталями. «Проистекает из» — ещё одна правомерная формулировка, означающая ровно то же самое: гравитация проистекает из искривления пространства-времени согласно конкретной математической модели общей теории относительности. Химия проистекает из взаимодействий между атомами согласно конкретной модели квантовой электродинамики.

А теперь представьте, что я скажу, будто гравитация объясняется «проистекаемостью», а химия — это «проистекающее явление», и выдам это за объяснение.

Фраза «возникает из» приемлема — точно так же, как приемлемы фразы «проистекает из» или «вызывается тем-то», — если за ней следует какая-то конкретная модель, достоинства которой можно оценить.

Однако обычно слово «эмерджентность» используется не так. «Эмерджентность» часто используют как самостоятельное объяснение.

Я уже сбился со счёта, сколько раз слышал фразу: «Интеллект — это эмерджентное явление!» — как будто это хоть что-то объясняет. Такое словоупотребление идеально подходит под все признаки таинственного ответа на таинственный вопрос. Что вы знаете теперь, назвав интеллект «эмерджентным»? Вы не можете сделать никаких новых предсказаний. Вы не узнали о поведении реальных разумов ничего, чего не знали раньше. Кажется, будто вы поверили в новый факт, но вы не ожидаете никаких иных исходов. Ваше любопытство кажется утоленным, но его так и не накормили. У этой гипотезы нет движущихся деталей — нет детальной внутренней модели, с которой можно было бы работать. Те, кто выдвигает гипотезу «эмерджентности», признаются в своём незнании внутреннего устройства и даже гордятся этим; они противопоставляют науку об «эмерджентности» другим, всего лишь прозаическим наукам.

И даже после ответа «Почему? Эмерджентность!» явление по-прежнему остаётся загадкой и обладает всё той же священной непостижимостью, что и в самом начале.

Забавное упражнение: убрать прилагательное «эмерджентный» из любого предложения, где оно встречается, и посмотреть, изменится ли смысл:

До: Человеческий интеллект — это эмерджентный продукт активности нейронов.

После: Человеческий интеллект — это продукт активности нейронов.

Эта история произошла, когда я только познакомился с Марчелло, с которым позже целый год работал над теорией ИИ; но в то время я ещё не взял его в ученики. Я знал, что он участвовал в олимпиадах по математике и информатике на национальном уровне, и этого было достаточно, чтобы присмотреться к нему повнимательнее; но я ещё не знал, сможет ли он научиться думать об ИИ.

Я попросил Марчелло рассказать, как, по его мнению, ИИ мог бы понять, как собрать кубик Рубика. Не с помощью заранее заложенной программы — это тривиально, — а как сам ИИ мог бы разобраться в законах вселенной Рубика и сообразить, как их использовать. Как бы ИИ сам для себя изобрёл концепт «оператора» или «макроса» — ключ к сборке кубика Рубика?

В какой-то момент этого обсуждения Марчелло сказал: «Ну, я думаю, ИИ нужна сложность, чтобы делать X, и сложность, чтобы делать Y...»

И я сказал: «Не говори „сложность“».

Марчелло спросил: «Почему нельзя?»

Я сказал: «Сложность никогда не должна быть самоцелью. Тебе может понадобиться конкретный алгоритм, который добавит немного сложности, но сложность ради сложности только всё усложняет». (Я думал обо всех тех людях, от которых слышал, будто интернет «проснётся» и превратится в ИИ, когда станет «достаточно сложным».)

И Марчелло сказал: «Но ведь должно же быть какое-то количество сложности, которое это обеспечивает».

Я на миг прикрыл глаза и попытался придумать, как объяснить всё это словами. Для меня само слово «сложность» ощущалось просто как неверный шаг в танце ИИ. Никто не способен думать достаточно быстро, чтобы мысленно анализировать в словах каждое предложение своего потока сознания — это потребовало бы бесконечной рекурсии. Мы думаем словами, но наш поток сознания направляется ниже уровня слов — за счёт натренированных остатков прошлых озарений и сурового опыта...

Я спросил: «Ты читал „Техническое объяснение технического объяснения“?»

«Да», — ответил Марчелло.

«Хорошо, — сказал я. — Произнесение слова „сложность“ не концентрирует твою вероятностную массу».

«О, — сказал Марчелло, — как „эмерджентность“. Хм. Значит... теперь мне нужно подумать о том, как X может произойти на самом деле...»

И тогда я подумал про себя: «Может быть, этот обучаем.»

Сложность — не бесполезное понятие. У него есть математические определения, такие как сложность Колмогорова и сложность Вапника — Червоненкиса. Даже на интуитивном уровне о сложности часто стоит задумываться — вам приходится оценивать сложность гипотезы и решать, не выглядит ли она «слишком сложной» в свете имеющихся доказательств, или смотреть на какую-то конструкцию и пытаться сделать её проще.

Но концепты сами по себе не бывают полезными или бесполезными. Правильным или неправильным может быть только их применение. Делая тот шаг, который Марчелло пытался сделать в танце, он пытался получить объяснение задаром, взять что-то ниоткуда. Это чрезвычайно распространённая ошибка, по крайней мере в моей области. Вы можете присоединиться к любому обсуждению общего искусственного интеллекта и увидеть, как люди делают то же самое направо и налево, снова и снова — постоянно перепрыгивая через вещи, которых они не понимают, даже не замечая этого.

Это происходит в мгновение ока: мы помещаем за таинственным явлением некий неконтролирующий причинный узел — узел, который воспринимается как объяснение, но на самом деле им не является. Ошибка совершается на уровне ниже слов. Она не требует какого-то особого изъяна характера; именно так люди мыслят по умолчанию, так они мыслили с древнейших времён.

Чего вам необходимо избегать, так это перескакивания через загадочную часть; вам нужно задержаться на загадке, чтобы столкнуться с ней лицом к лицу. Существует множество слов, позволяющих перешагнуть через тайну, и некоторые из них вполне уместны в других контекстах — например, «сложность». Но суть ошибки заключается именно в этом перескакивании, независимо от того, какой причинный узел за ним стоит. Перескакивание — это не мысль, а микромысль. Чтобы поймать себя на этом, требуется предельное внимание. Когда же вы научитесь избегать перескакивания, это станет делом инстинкта, а не словесных рассуждений. Вы должны чувствовать, какие части вашей карты всё ещё остаются белыми пятнами, и, что гораздо важнее, прислушиваться к этому чувству.

Я подозреваю, что в академической среде существует огромное давление, заставляющее заметать проблемы под ковёр, чтобы представить статью, которая выглядит завершённой. Вы получите больше признания за кажущуюся полной модель, включающую некие «эмерджентные явления», чем за откровенно неполную карту с пометками вроде «понятия не имею, как работает эта часть» или «а дальше происходит чудо». Научный журнал может даже не принять такую статью, ведь кто знает — вдруг всё самое интересное происходит как раз на этих неизвестных этапах? И да, иногда случается, что все «немагические» части вашей карты на поверку тоже оказываются неважными. Такова цена, которую иногда приходится платить за вступление на terra incognita и попытки решать проблемы шаг за шагом. Но от этого становится ещё важнее знать, когда вы ещё не закончили работу. Как правило, люди вообще не осмеливаются вступать на terra incognita из панического страха потратить время впустую.

А если вы работаете над революционным ИИ-стартапом, давление, заставляющее заметать проблемы под ковёр, становится ещё сильнее — иначе вам придётся признаться себе, что вы пока не знаете, как создать ИИ, и ваши текущие жизненные планы с треском рухнут. Но, возможно, я вдаюсь в избыточные объяснения, ведь перескакивание происходит у людей по умолчанию; если вам нужны примеры, просто понаблюдайте, как люди обсуждают религию, философию, духовность или любую науку, в которой они не являются профессионалами.

Мы с Марчелло выработали правило в нашей работе над ИИ: когда мы сталкивались с чем-то, чего не понимали (а это случалось часто), мы говорили «магия» — например: «X магическим образом делает Y», — чтобы напомнить себе, что здесь кроется нерешённая проблема, пробел в нашем понимании. Гораздо лучше сказать «магия», чем «сложность» или «эмерджентность»: последние слова лишь создают иллюзию понимания. Разумнее сказать «магия» и оставить себе заглушку — напоминание о работе, которую ещё предстоит проделать.

Представьте, что я веду занятие и пишу на доске три числа: 2-4-6. «Я задумал правило, — говорю я, — которому подчиняются последовательности из трех чисел. Последовательность 2-4-6, так уж вышло, ему соответствует. Каждый из вас найдет у себя на столе стопку карточек. Запишите на карточке последовательность из трех чисел, и я помечу ее словом „Да“, если она подходит под правило, или „Нет“, если не подходит. Затем вы можете написать еще одну тройку чисел, снова спросить, подходит ли она, и так далее. Когда вы будете уверены, что разгадали правило, запишите его на карточке. Вы можете тестировать сколько угодно троек».

Вот запись попыток одного студента:

В конце 1950-х и начале 1960-х годов было проведено множество психологических экспериментов, в которых испытуемых просили предсказать исход события, имевшего случайную составляющую, но при этом поддававшегося прогнозированию на основе базовой вероятности — например, испытуемых просили угадать, будет ли следующая открытая экспериментатором карта красной или синей, при условии, что 70% карт были синими, но сама последовательность красных и синих карт была абсолютно случайной.

В такой ситуации стратегия, обеспечивающая наибольшую долю успеха, заключается в том, чтобы предсказывать более частое событие. Например, если 70% карт — синие, то выбор синего цвета в каждой попытке дает 70% успешных предсказаний.

Однако вместо этого испытуемые, как правило, подстраивали ответы под вероятности — то есть предсказывали более вероятное событие с той относительной частотой, с которой оно действительно происходило. Например, испытуемые были склонны в 70% случаев предсказывать появление синей карты, а в 30% случаев — красной. Такая стратегия дает лишь 58% успеха, поскольку испытуемые оказываются правы в 70% случаев, когда выпадает синяя карта (что происходит с вероятностью 0,70), и в 30% случаев, когда выпадает красная карта (что происходит с вероятностью 0,30); (0,70 × 0,70) + (0,30 × 0,30) = 0,58.

Фактически испытуемые предсказывают более частое событие с чуть большей вероятностью, чем та, с которой оно действительно происходит, но даже близко не подходят к тому, чтобы выбирать его в 100% случаев, даже когда им платят за точность прогнозов... Например, испытуемые, получавшие по пять центов за каждое верное предсказание на протяжении тысячи попыток... предсказывали [более частое событие] в 76% случаев.

Не думайте, что этот эксперимент указывает на какой-то мелкий изъян в игровых стратегиях. Он в лаконичной форме иллюстрирует самую важную идею во всей рациональности.

Испытуемые просто продолжают угадывать красное, словно думая, будто у них есть способ предсказать случайную последовательность. Об этом эксперименте Доуз пишет далее: «Несмотря на обратную связь на протяжении тысячи попыток, испытуемые не могут заставить себя поверить, что они оказались в ситуации, когда делать прогнозы невозможно».

Но ошибка должна лежать еще глубже. Даже если испытуемые думают, будто изобрели гипотезу, им вовсе не обязательно делать ставку на этот прогноз, чтобы проверить свою гипотезу. Они могут сказать себе: «Если эта гипотеза верна, следующая карта будет красной», — и все равно поставить на синюю. Они могут каждый раз выбирать синюю карту, собирая как можно больше пятицентовых монет, и в то же время мысленно отмечать свои догадки о любых закономерностях, которые, как им кажется, они заметили. Если их предсказания подтвердятся, тогда они смогут переключиться на вновь открытую последовательность.

Я не стал бы винить испытуемого за то, что он продолжает выдвигать гипотезы, — откуда ему знать, действительно ли эту последовательность невозможно предсказать? Но я бы винил его за ставки на свои догадки, когда в этом нет необходимости для сбора информации, а буквально сотни предыдущих догадок уже были опровергнуты.

Неужели даже человек может быть настолько самоуверенным?

Я подозреваю, что здесь происходит нечто более простое: стратегия «всегда выбирать синее» просто не пришла в голову испытуемым.

Люди видят смесь в основном из синих карт с редким вкраплением красных и полагают, что оптимальная стратегия ставок должна представлять собой такую же смесь из преимущественно синих карт с редким добавлением красных.

Мысль о том, что при неполной информации оптимальная стратегия ставок не похожа на типичную последовательность карт, кажется контринтуитивной.

Идея о том, что оптимальная стратегия — вести себя закономерно даже в среде, содержащей элементы случайности, тоже контринтуитивна.

Кажется, будто ваше поведение должно быть столь же непредсказуемым, как и среда, — но нет! Случайный ключ не откроет случайный замок только потому, что они оба «случайны».

Огонь не тушат огнем — его тушат водой. Но эта мысль требует дополнительного шага, новой концепции, которая напрямую не активируется формулировкой задачи, а потому это не первая идея, приходящая на ум.

В дилемме синих и красных карт наше неполное знание подсказывает нам в каждом без исключения раунде, что лучшая ставка — на синее. Этот совет, проистекающий из нашего неполного знания, остается неизменным в каждом раунде. Если в 30% случаев мы пойдем наперекор своему неполному знанию и вместо этого поставим на красное, мы только ухудшим свой результат — ведь теперь мы ведем себя откровенно глупо, ставя на заведомо менее вероятный исход.

Если бы вы ставили на красное в каждом раунде, вы получили бы наихудший из возможных результатов; вы были бы глупы на все 100%. Если же при 30% красных карт вы ставите на красное в 30% случаев, то вы делаете себя глупым на 30%.

Когда ваши знания неполны — а значит, мир кажется вам содержащим элемент случайности, — внесение случайности в собственные действия не решает проблему. Это лишь отдаляет вас от цели, а не приближает к ней. В и без того туманном мире отказ от собственного разума только усугубляет ситуацию.

Идея о том, что оптимальная стратегия может состоять в том, чтобы мыслить закономерно даже в условиях неопределенности, весьма контринтуитивна.

И потому рационалистов не так уж много: ведь большинство тех, кто видит мир хаотичным, пытаются бороться с хаосом с помощью хаоса. Нужно сделать дополнительный шаг и додуматься до того, что не приходит в голову само собой, чтобы представить себе борьбу с огнем при помощи чего-то, что само огнем не является.

Вы слышали, как непросвещенные говорят: «Рациональность отлично работает, когда имеешь дело с рациональными людьми, но мир нерационален». Но перед лицом нерационального противника отказ от собственного разума вам не поможет. Существуют закономерные формы мышления, которые всё равно дают наилучший ответ, даже при столкновении с противником, нарушающим эти законы. Теория решений не вспыхивает пламенем и не погибает при встрече с противником, который ей не подчиняется.

Это ничуть не более очевидно, чем идея всегда ставить на синее, когда перед вами последовательность из синих и красных карт. Но каждая ставка на красное — это ожидаемый убыток, и точно так же обстоит дело с каждым отклонением от Пути в вашем собственном мышлении.

Сколько серий «Звёздного пути» тем самым опровергается? Сколько теорий ИИ?

Давным-давно, в немыслимо далеком прошлом, я был преданным Традиционным Рационалистом, мнящим себя искусным в этом деле, но я не ведал Пути Байеса. Когда юный Элиезер сталкивался с вопросом, который казался таинственным, предписания Традиционной Рациональности не мешали ему придумывать Таинственный Ответ. Это, безусловно, самая постыдная ошибка в моей жизни, и меня до сих пор передёргивает при одной мысли о ней.

Каков же был мой таинственный ответ на таинственный вопрос? Описывать его я не стану, ибо это долгая и запутанная история. Я был молод и оставался всего лишь Традиционным Рационалистом, не знавшим трудов Тверски и Канемана. Я знал о бритве Оккама, но не об ошибке конъюнкции. Я думал, что мне сойдет с рук самостоятельное выстраивание сложных мыслей в литературном стиле тех сложных рассуждений, которые я читал в научных книгах, не понимая, что верная сложность возможна лишь тогда, когда каждый шаг закреплен с абсолютной надежностью. Сегодня один из главных советов, которые я даю начинающим молодым рационалистам, звучит так: «Не пытайтесь строить длинные цепочки рассуждений или сложные планы».

Тут достаточно сказать лишь одно: даже после того, как я изобрел свой «ответ», само явление по-прежнему оставалось для меня загадкой и обладало все тем же свойством поразительной непостижимости, что и в самом начале.

Не обманывайтесь: тот юный Элиезер вовсе не был глуп. Все ошибки, в которых повинен юный Элиезер, по сей день совершают уважаемые ученые в уважаемых научных журналах. Чтобы уберечь его, потребовалось бы куда более тонкое мастерство, чем то, которому его учили как Традиционного Рационалиста.

Более того, сбиваясь с пути, юный Элиезер старательно и скрупулезно следовал предписаниям Традиционной Рациональности.

Будучи Традиционным Рационалистом, юный Элиезер позаботился о том, чтобы его Таинственный Ответ давал смелое предсказание относительно будущего опыта. А именно: я ожидал, что нейробиологи будущего обнаружат, что нейроны используют квантовую гравитацию в духе сэра Роджера Пенроуза. Это требовало от нейронов поддержания определенной степени квантовой когерентности — вещи, которую можно было искать и либо найти, либо не найти. Либо вы это наблюдаете, либо нет, верно?

Но моя гипотеза не делала никаких ретроспективных предсказаний. С точки зрения Традиционной Науки, ретроспективные предсказания не считаются — так зачем вообще утруждать себя ими? Для байесианца же, напротив, если гипотеза сегодня не имеет более благоприятного отношения правдоподобия по сравнению с «я не знаю», возникает вопрос: почему вы сегодня верите во что-то более сложное, чем «я не знаю»? Но я не ведал Пути Байеса, а потому не думал об отношениях правдоподобия или о концентрации плотности вероятности. Я Сделал Фальсифицируемое Предсказание — разве не в этом заключался Закон?

Будучи Традиционным Рационалистом, юный Элиезер тщательно следил за тем, чтобы не верить в магию, мистицизм, углеродный шовинизм или чему-то в этом роде. Я с гордостью заявлял о своем Таинственном Ответе: «Это просто физика, как и вся остальная физика!» Как будто можно избавить магию от того, чтобы быть когнитивным изоморфом магии, просто назвав ее квантовой гравитацией. Но я не ведал Пути Байеса и не видел уровня, на котором моя идея была изоморфна магии. Я присягнул на верность физике, но это меня не спасло; что теории вероятностей известно о верности? Я избегал всего, что Традиционная Рациональность объявляла запретным, но то, что осталось, все равно было магией.

Вне всякого сомнения, моя преданность Традиционной Рациональности помогла мне выбраться из ямы, которую я сам себе вырыл. Не будь я Традиционным Рационалистом, я бы окончательно пропал. Но Традиционной Рациональности все же не хватило для того, чтобы сделать все правильно. Она лишь привела меня к иным ошибкам, нежели те, что были ею явно запрещены.

Когда я думаю о том, как моё юное «я» очень тщательно следовало правилам Традиционной Рациональности и в итоге ответил неверно, это проливает свет на вопрос, почему люди, называющие себя «рационалистами», не правят миром. Вам требуется чертовски много рациональности, прежде чем она начнет приносить пользу, а не просто приводить вас к новым интересным ошибкам.

Традиционную Рациональность преподают скорее как искусство, а не как науку: вы читаете биографии знаменитых физиков, где описываются преподнесенные им жизнью уроки, и пытаетесь делать то, что они советуют. Но вы не прожили их жизни, а половина того, что они пытаются описать, — это натренированная интуиция.

Традиционная Рациональность устроена так, что для меня было бы вполне приемлемо потратить тридцать лет на свою глупую идею — при условии, что в итоге мне удалось бы её опровергнуть, я оставался бы честен с собой относительно предсказаний моей теории, принял бы опровержение, когда оно будет получено, и так далее. Этого достаточно, чтобы храповик науки продвинулся на один щелчок вперед, но это довольно жестоко по отношению к людям, которые тратят впустую тридцать лет своей жизни. Традиционная Рациональность — это прогулка, а не танец. Она создана для того, чтобы в конце концов привести вас к истине, и оставляет вам слишком много времени на то, чтобы любоваться цветами по дороге.

Традиционные рационалисты могут согласиться остаться при своих мнениях. В Традиционной Рациональности нет идеала, согласно которому мышление — это точное искусство, где при имеющихся свидетельствах существует лишь одна верная оценка вероятности. В Традиционной Рациональности вам позволено строить догадки, а затем проверять их. Но опыт научил меня: если вы не знаете и строите догадки, в конечном итоге вы окажетесь неправы.

Путь Байеса — это тоже неточное искусство, по крайней мере в том виде, в каком я о нем разглагольствую. Эти эссе — все еще лишь неуклюжие попытки выразить словами уроки, которые лучше усваивать на собственном опыте. Но здесь по крайней мере есть лежащая в основе математика, а также экспериментальные данные когнитивной психологии о том, как люди мыслят на самом деле. Возможно, этого хватит, чтобы преодолеть заоблачно высокий порог, необходимый для дисциплины, которая позволяет вам действительно находить верные ответы, а не просто загоняет вас в рамки новых интересных ошибок.

Когда-то давно, во времена моей бурной и безрассудной юности, когда я ещё не ведал Пути Байеса, я дал Таинственный Ответ на вопрос, казавшийся таинственным. За этим последовала целая череда неудач, но одна ошибка выделяется как самая критическая: в юности я не понимал, что разгадка тайны должна делать её менее запутанной. Я пытался объяснить Таинственное Явление — что для меня означало найти его причину, вписать его в целостную модель реальности. Но с чего бы этому делать само явление менее Таинственным, если такова его природа? Я пытался объяснить Таинственное Явление, а не превратить его (какой-то невозможной алхимией) в явление обыденное — в явление, которое изначально даже не требовало бы необычного объяснения.

Будучи Традиционным Рационалистом, я знал истории об астрологах и астрономии, алхимиках и химии, виталистах и биологии. Но Таинственное Явление было не таким. Это было нечто новое, нечто более странное, более сложное, нечто такое, что обычная наука не могла объяснить веками —

— как будто звёзды, материя и жизнь не оставались тайнами сотни и тысячи лет, от самой зари человеческой мысли и до тех пор, пока наука наконец их не разгадала —

Мы изучаем астрономию, химию и биологию в школе, и нам кажется, что эти темы всегда относились к области науки, что они никогда не были таинственными. Когда наука осмеливается бросить вызов новой Великой Загадке, дети этого поколения настроены скептически, ведь они никогда не видели, чтобы наука объясняла то, что кажется им таинственным. Наука ведь годится только для объяснения научных тем — вроде звёзд, материи и жизни.

Мне казалось, что урок истории состоял в том, что у астрологов, алхимиков и виталистов был врождённый изъян характера — склонность к мистерианизму, которая заставляла их придумывать таинственные объяснения для явлений, в которых не было никакой тайны. Но ведь если явление действительно было очень странным, то и странное объяснение могло быть вполне уместно?

И лишь позже, когда я начал различать прозаическое устройство внутри этой тайны, я понял, в чьей шкуре оказался. Только тогда я осознал, насколько разумным казался витализм в своё время, и насколько неожиданным и неловким был ответ Вселенной: «Жизнь обыденна и не требует странных объяснений».

Мы читаем историю, но мы в ней не живём, мы её не проживаем. Если бы только я лично постулировал астрологические тайны, а затем открыл ньютоновскую механику; постулировал алхимические тайны, а затем открыл химию; постулировал виталистические тайны, а затем открыл биологию... Тогда, вспомнив свой Таинственный Ответ, я бы сказал себе: Я больше ни за что на это не куплюсь.

Существует привычка мышления, которую я называю логической ошибкой обобщения на основе вымышленных свидетельств. Журналисты, которые, например, упоминают фильмы о Терминаторе в репортажах об ИИ, обычно не относятся к «Терминатору» как к пророчеству или непреложной истине. Однако этот фильм вспоминается — становится доступным — так, словно это показательный исторический пример. Как будто журналист лично наблюдал происходящее на какой-то другой планете, а значит, подобное вполне может случиться и здесь. Подробнее об этом в эссе «Логическая ошибка обобщения на основе вымышленных свидетельств».

Существует и обратная ошибка обобщения на основе вымышленных свидетельств: неспособность в достаточной мере проникнуться историческими свидетельствами. Проблема с обобщением по вымышленным свидетельствам в том, что это вымысел — этого никогда не происходило в действительности. Он взят не из того же распределения, что и наша реальная вселенная; вымысел систематически отличается от реальности. Но история-то действительно произошла, и она должна быть доступной.

В среде наших предков не было кино; то, что ты видел собственными глазами, было правдой. Стоит ли удивляться, что вымысел, который мы наблюдаем на реалистичных движущихся картинках, оказывает на нас слишком сильное влияние? И наоборот, с вещами, которые произошли на самом деле, мы сталкиваемся в виде чернил на бумаге; они случились, но мы никогда не видели, как это происходило. Мы не помним, чтобы это случалось с нами.

Обратная ошибка — относиться к истории как к простому рассказу, обрабатывать её той же частью разума, которая отвечает за чтение романов. На словах вы можете называть её «правдой», а не «вымыслом», но это не значит, что она трогает вас так сильно, как следовало бы. Многие когнитивные искажения связаны с тем, что нас недостаточно трогает сухая, абстрактная информация.

Когда-то давно я дал Таинственный Ответ на таинственный вопрос, не понимая, что совершаю точно такую же ошибку, как астрологи, изобретающие мистические объяснения для звёзд, или алхимики, придумывающие магические свойства материи, или виталисты, постулирующие непостижимый «élan vital», чтобы объяснить всю биологию.

Когда я наконец понял, на чьём месте оказался, меня внезапно пронзило чувство неожиданной связи с прошлым. Я осознал, что создание и крах витализма — о которых я читал только в книгах — действительно случились с реальными людьми, переживавшими это примерно так же, как я переживал создание и крах своего собственного таинственного ответа. И ещё я понял: если бы я действительно пережил прошлое — если бы сам прошёл через научные революции былых времён, а не просто читал о них в книгах по истории, — я бы, вероятно, не совершил ту же ошибку снова. Я бы не стал выдумывать очередной таинственный ответ; первая тысяча уроков намертво вбила бы мне в голову эту мораль.

И тогда (подумал я), чтобы в достаточной мере ощутить силу истории, мне следует попытаться приблизиться к ходу мыслей Элиезера, который на самом деле прожил эту историю, — попытаться думать так, словно всё, о чём я читал в книгах по истории, произошло со мной на самом деле. (С соответствующей корректировкой весов из-за ошибки доступности книг по истории — мне нужно помнить себя тысячей крестьян на каждого правителя.) Мне нужно погрузиться в историю, представить, что проживаю эпохи, которые видел лишь в виде чернил на бумаге.

Почему я должен помнить первый полёт братьев Райт? Меня там не было. Но смею ли я, как рационалист, не помнить об этом, если это событие произошло на самом деле? Так ли велика разница между тем, чтобы видеть событие собственными глазами — что на самом деле представляет собой причинно-следственную цепочку с участием отражённых фотонов, а не прямую связь, — и тем, чтобы видеть событие со страниц книги по истории? И фотоны, и книги по истории тянутся по причинно-следственным цепочкам от самого события.

Мне нужно было преодолеть ложную амнезию, вызванную рождением в определённое время. Мне нужно было вспомнить — сделать доступными — все воспоминания, а не только те, которые по чистой случайности принадлежали лично мне и моей эпохе.

Земля вдруг стала старше.

Для моей прежней памяти Соединённые Штаты существовали всегда — никогда не было времени, когда Соединённых Штатов не существовало. До того момента я не помнил, как Римская империя поднялась, принесла мир и порядок и просуществовала столько веков, что я позабыл, будто когда-то всё было иначе; и тем не менее империя пала, варвары захватили мой город, а знания, которыми я владел, были утрачены. В моих глазах современный мир стал более хрупким; он не был первым современным миром.

Столько ошибок, совершённых снова, снова и снова, потому что я не помнил, как совершал их во все те эпохи, в которых я никогда не жил...

И подумать только, люди иногда сомневаются, важно ли преодолевать когнитивные искажения.

Разве вы не помните, сколько раз ваши искажения убивали вас? Не помните? Я заметил, что за смертельной ошибкой часто следует внезапная амнезия. Но уж поверьте мне на слово — это действительно происходило. Я помню; меня там не было.

Поэтому в следующий раз, когда вы усомнитесь в том, насколько странным окажется будущее, вспомните, как десять тысяч лет назад вы родились в племени охотников-собирателей, когда никто вообще не знал о Науке. Вспомните, как до глубины души вы были потрясены, когда Наука объяснила великие и ужасные священные тайны, которые вы когда-то так высоко почитали. Вспомните, как вы когда-то верили, что сможете летать, если съедите правильные грибы, а затем с разочарованием смирились с тем, что никогда не полетите, — а потом вы полетели. Вспомните, как вы всегда думали, что рабство — это правильно и естественно, а затем изменили своё мнение. Не воображайте, будто вы могли бы предсказать эти перемены, ибо это амнезия. Помните, что на самом деле вы ничего не предугадали. Вспомните, как век за веком мир менялся так, как вы не могли и предугадать.

Возможно, тогда вас меньше шокирует то, что случится дальше.

Когда наше племя кочует по бескрайним равнинам в поисках плодовых деревьев и добычи, время от времени случается так, что с неба льется вода.

— Почему иногда с неба льется вода? — спрашиваю я бородатого мудреца нашего племени.

Он на мгновение задумывается — этот вопрос никогда прежде не приходил ему в голову, — а затем отвечает: — Время от времени небесные духи сражаются, и тогда их кровь капает с небес.

— А откуда берутся небесные духи? — спрашиваю я.

Его голос переходит на шепот: — Из прежних времен. Из далекого-далекого прошлого.

Когда идет дождь, а вы не знаете почему, у вас есть несколько вариантов. Во-первых, вы можете просто не спрашивать «почему» — не развивать эту тему или вообще никогда не задумываться над этим вопросом. Это команда «Игнорировать», которую бородатый мудрец выбрал изначально. Во-вторых, вы можете попытаться придумать какое-то объяснение — команда «Объяснить», как и поступил бородач в ответ на ваш первый вопрос. В-третьих, вы можете наслаждаться чувством таинственности — команда «Поклоняться».

Как вы наверняка заметили из этой истории, каждый раз, когда вы выбираете «Объяснить», в лучшем случае вы получаете объяснение вроде «небесных духов». Но затем само это объяснение сталкивается с той же дилеммой: Объяснить, Поклоняться или Игнорировать? Каждый раз, когда вы нажимаете «Объяснить», наука некоторое время скрипит шестеренками, выдает объяснение, а затем всплывает еще одно диалоговое окно. Как добропорядочные рационалисты, мы чувствуем себя обязанными продолжать нажимать «Объяснить», но это кажется дорогой без конца.

Вы нажимаете «Объяснить» для жизни — и получаете химию; вы нажимаете «Объяснить» для химии — и получаете атомы; вы нажимаете «Объяснить» для атомов — и получаете электроны и ядра; вы нажимаете «Объяснить» для ядер — и получаете квантовую хромодинамику и кварки; вы нажимаете «Объяснить» для того, откуда взялись кварки, — и возвращаетесь к Большому взрыву...

Мы можем нажать «Объяснить» для Большого взрыва и подождать, пока крутятся жернова науки, и, возможно, однажды она выдаст совершенно устраивающее нас объяснение. Но затем это просто вызовет очередное диалоговое окно. Так что, если мы продолжим достаточно долго, мы должны прийти к особому диалоговому окну, к новой опции — Объяснению, Которое Не Требует Объяснений, к точке, где цепь обрывается. И это, возможно, единственное объяснение, которое стоит знать.

Вот — я только что нажал «Поклоняться».

Никогда не забывайте, что существует гораздо больше способов поклоняться чему-либо, нежели зажигать свечи вокруг алтаря.

Если бы я сказал: «Хм, это действительно кажется парадоксальным. Интересно, как разрешается этот кажущийся парадокс?», то я бы нажал «Объяснить» — а получение этого ответа порой требует времени.

А если вся эта проблема кажется вам неважной, несущественной или если вы предпочли бы отложить размышления о ней до завтра, значит, вы нажали «Игнорировать».

Выбирайте свой вариант с умом.

Представьте, что на глазах у телекамер прямого эфира я поднял руки, произнес «абракадабра» и сотворил яркий свет, вспыхнувший в пустом пространстве перед моими протянутыми ладонями. Представьте, что я совершил этот акт явного, несомненного колдовства под бдительным надзором Джеймса Рэнди и целых армий скептиков. Большинству людей, полагаю, стало бы весьма любопытно, что же происходит.

А теперь предположим, что я не иду на телевидение. Я не хочу делиться ни этой силой, ни стоящей за ней истиной. Я хочу сохранить свое колдовство в тайне. И в то же время я хочу творить заклинания когда угодно и где угодно. Я хочу зажигать свою яркую вспышку света, чтобы читать книгу в поезде — и чтобы ни в ком не просыпалось любопытство. Существует ли заклинание, заглушающее любопытство?

Да, конечно! Стоит кому-то спросить: «Как ты это сделал?», я просто отвечаю: «Наука!»

Это не настоящее объяснение, а всего лишь глушитель любопытства. Оно не говорит вам, станет ли свет ярче или потускнеет, изменит ли он оттенок или насыщенность, и уж точно не объясняет, как вам самому создать подобное свечение. На самом деле вы не знаете ничего сверх того, что знали до того, как я произнес волшебное слово. Но вы отворачиваетесь, удовлетворенные тем, что не происходит ничего необычного.

Более того, этот трюк отлично работает с обычным выключателем.

Вы щелкаете выключателем, и лампочка загорается. Почему?

В школе нас учат, что пароль к лампочке — «Электричество!». К этому моменту, надеюсь, вы уже с опаской относитесь к тому, чтобы на подобном основании ставить лампочке пометку «понятно». Разве слово «Электричество!» позволяет вам проводить расчеты, которые управляли бы вашим предвосхищением опыта? Как минимум, здесь есть еще очень многое, в чем стоит разобраться. (Физикам следует проигнорировать этот абзац и подставить на это место задачу из эволюционной теории, где суть теории опять-таки заключается в расчетах, которые мало кто умеет делать.)

Если бы вы считали, что лампочка необъяснима с точки зрения науки, она бы завладела всем вашим вниманием. Вы бы бросили любые другие дела и сосредоточились только на ней.

Но что означает фраза «объяснимо с точки зрения науки»? Она означает, что кто-то другой знает, как работает лампочка. Когда вам говорят, что лампочка «объяснима научно», вы не узнаёте больше, чем знали раньше; вы не знаете, станет ли она гореть ярче или потускнеет. Но из-за того, что знает кто-то другой, знание обесценивается в ваших глазах. Вы становитесь менее любопытным.

Кто-нибудь обязательно скажет: «Если бы лампочка была неизвестна науке, ее исследование могло бы принести вам славу и богатство». Но я говорю не о жадности. И не о карьерных амбициях. Я говорю о чистой эмоции любопытства — о чувстве заинтригованности. Почему ваше любопытство должно угасать из-за того, что кто-то другой, а не вы, знает, как устроена лампочка? Разве это не вредность? Неужели вам недостаточно знать самому — нужно, чтобы и другие пребывали в неведении, иначе вы не будете счастливы?

Знание может служить и другим целям, помимо удовлетворения любопытства, например, приносить общественную пользу через технологии. Для подобных инструментальных благ действительно важно, знает ли об этом уже кто-то другой в локальном пространстве. Но почему это должно иметь значение для моего собственного любопытства?

К тому же представьте последствия, если вы позволите фразе «Кто-то другой знает ответ» работать в качестве глушителя любопытства. В один прекрасный день вы заходите в гостиную и видите гигантского зеленого слона, который, кажется, парит в воздухе, окруженный аурой серебристого света.

— Что за чертовщина? — говорите вы.

И сверху, над слоном, раздается голос:

КТО-ТО УЖЕ ЗНАЕТ, ПОЧЕМУ ЭТОТ СЛОН ЗДЕСЬ.

— А, — говорите вы, — ну тогда ладно, — и проходите на кухню.

Я не знаю теории великого объединения для законов физики нашей Вселенной. Я также мало что знаю об анатомии человека, за исключением мозга. Я не смог бы показать на собственном теле, где у меня почки, и не могу навскидку вспомнить, что делает моя печень. (Я этим не горжусь. Увы, учитывая, сколько математики мне нужно выучить, вряд ли я в ближайшее время займусь анатомией.)

Должно ли меня, если говорить о любопытстве, сильнее интриговать мое незнание фундаментальных законов физики, чем тот факт, что я мало знаю о происходящем внутри собственного тела?

Если бы я поднял руки и сотворил заклинание света, вас бы это заинтриговало. Разве вас должно меньше интриговать то, что я вообще поднял руки? Когда вы поднимаете руку и машете ею, этот волевой акт координируется (среди прочих областей мозга) вашим мозжечком. Готов поспорить, вы не знаете, как работает мозжечок. Я кое-что знаю — хотя лишь в самых общих чертах, недостаточных для проведения расчетов... но какая разница? Какое это имеет значение, если не знаете вы? Почему для колдовства и для движений рук должны существовать двойные стандарты любопытства?

Посмотрите на себя в зеркало. Вы знаете, на что смотрите? Знаете ли вы, что смотрит на мир из-за ваших глаз? Знаете ли вы, кто вы есть? Часть ответа Наука знает, а часть — нет. Но почему это различие должно влиять на ваше любопытство, если этого не знаете вы?

Знаете ли вы, как работают ваши колени? Знаете ли вы, как сделана ваша обувь? Знаете ли вы, почему светится монитор вашего компьютера? Знаете ли вы, почему вода мокрая?

Мир вокруг вас полон загадок. Расставляйте приоритеты, если нужно. Но не жалуйтесь, что жестокая Наука лишила мир тайны. С подобными рассуждениями я мог бы заставить вас не заметить слона в собственной гостиной.

В своей классической работе «Искусственный интеллект сталкивается с естественной глупостью» (Artificial Intelligence Meets Natural Stupidity) Дрю Макдермотт раскритиковал программы ИИ, которые пытались представить суждения вроде `«счастье — это состояние ума»` с помощью семантической сети:`<sup>1</sup>`

СЧАСТЬЕ ---IS-A---> СОСТОЯНИЕ-УМА

И конечно же, `внутри` узла СЧАСТЬЕ нет абсолютно ничего; это просто «голый» LISP-токен с многозначительным английским именем.

Как пишет Макдермотт: «Хороший тест для дисциплинированного программиста — попробовать использовать сгенерированные символы (gensym) в ключевых местах и посмотреть, продолжит ли он восхищаться своей системой. Например, если переименовать СОСТОЯНИЕ-УМА в G1073...» — тогда мы получим IS-A(СЧАСТЬЕ, G1073), «что выглядит гораздо сомнительнее».

Или, если слегка перефразировать эту мысль: если бы вы заменили случайными символами `все` говорящие английские имена, вы бы вообще не смогли понять, что означает G1071(G1072, G1073). Что должна была представлять эта программа ИИ? Гамбургеры? Яблоки? Счастье? Кто знает? `Если стереть говорящие английские имена, сами по себе они не вырастут заново.`

Представьте, что физик говорит вам: «Свет — это волны», и вы ему `верите`. Теперь у вас в голове есть маленькая сеть, которая говорит:

IS-A(СВЕТ, ВОЛНЫ).

Если кто-то спросит вас: «Из чего состоит свет?», вы сможете ответить: «Из волн!»

По словам Макдермотта: «Вся сложность в том, чтобы заставить слушателя заметить то, что ему было сказано. Не „понять“, а именно „заметить“». Предположим, вместо этого физик сказал бы вам: «Свет состоит из маленьких извилистых штучек». (Кстати, это неправда.) `Заметили` бы вы какую-нибудь разницу в ожидаемом опыте?

Как вам понять, что не стоит доверять своему кажущемуся знанию о том, что «свет — это волны»? В качестве проверки вы можете спросить себя: «Смог бы я `воссоздать` это знание, если бы его каким-то образом стерли из моей памяти?»

По сути это очень похоже на перемешивание имен говорящих LISP-токенов в программе ИИ с целью проверить, сможет ли кто-то другой догадаться, к чему они якобы «отсылают». Это также похоже на наблюдение за тем, как Искусственный Арифметик, запрограммированный записывать и воспроизводить

Plus-Of(Семь, Шесть) = Тринадцать

не может восстановить это знание, если стереть его из памяти, пока человек снова не введет его в базу данных. Точно так же, если вы забудете, что «свет — это волны», вы не сможете вернуть это знание иначе как тем же способом, каким получили его изначально — спросив физика. Вы не смогли бы выработать это знание самостоятельно — так, как изначально выработали его физики.

Тот же самый опыт, который побуждает нас сформулировать убеждение, связывает это убеждение с другими знаниями, сенсорными сигналами и моторным выходом. Если вы видите бобра, грызущего бревно, то вы знаете, как выглядит это существо-которое-перегрызает-бревна, и сможете узнать его в будущем, независимо от того, называют его «бобром» или нет. Но если ваши убеждения о бобрах строятся лишь на том, что кто-то другой рассказал вам факты о «бобрах», вы, возможно, не сможете узнать бобра, когда его увидите.

В этом кроется страшная опасность попыток `сообщить` искусственному интеллекту факты, которые он не мог бы узнать самостоятельно. В этом же кроется и страшная опасность попыток `рассказать` кому-то о физике, которую они не могут проверить сами. Ведь под «волной» физики подразумевают вовсе не «маленькую загогулину», а чисто математическую концепцию.

Как замечает Дэвидсон, если вы верите, что «бобры» живут в пустынях, имеют чисто белый окрас и во взрослом возрасте весят 300 фунтов, то у вас вообще нет никаких убеждений `о` бобрах, будь то истинных или ложных. Ваше убеждение о «бобрах» недостаточно верно, чтобы быть ошибочным.`<sup>2</sup>` Если у вас недостаточно опыта, чтобы восстановить убеждения в случае их стирания, то достаточно ли у вас опыта, чтобы хоть с чем-то связать это убеждение? Витгенштейн: «Колесо, которое можно вращать, хотя при этом больше ничего не движется, не является частью механизма».

Почти сразу, как я начал читать об ИИ — еще до того, как прочитал Макдермотта, — я понял, что было бы `очень полезно` всегда спрашивать себя: «Как бы я восстановил это знание, если бы его стерли из моей памяти?»

Чем глубже стирание, тем строже проверка. Если бы из моей памяти стерлись все доказательства теоремы Пифагора, смог бы я доказать ее заново? Думаю, да. Если бы из моей памяти стерлось вообще любое знание о теореме Пифагора, заметил бы я теорему Пифагора, чтобы доказать ее? Тут хвастаться сложнее, не проверив на практике; но если бы вы дали мне прямоугольный треугольник со сторонами 3 и 4 и сказали, что длину гипотенузы можно вычислить, думаю, я смог бы вычислить её — при условии, что всё остальное из математики я бы по-прежнему помнил.

А как насчет самого понятия `математического доказательства`? Если бы мне никто никогда о нем не рассказывал, смог бы я переизобрести `его` на основе других моих убеждений? Было время, когда у человечества не было такого понятия. Кто-то ведь должен был его изобрести. Что именно они заметили? Заметил бы я, если бы увидел нечто столь же новое и столь же важное? Смог бы я мыслить настолько нестандартно?

Какую часть своих знаний вы смогли бы восстановить? Из насколько глубокого стирания? Это не просто тест для отсеивания недостаточно связанных убеждений. Это способ впитывать `целый источник знаний, а не один-единственный факт.`

Пастух строит систему счета, которая работает так: он бросает камешек в ведро каждый раз, когда овца выходит из загона, и вынимает камешек каждый раз, когда овца возвращается. Если вы, будучи учеником, не понимаете эту систему — если для вас это магия, работающая без видимых причин, — то вы не будете знать, что делать, если случайно уроните в ведро лишний камешек. То, чего вы не можете создать сами, вы не сможете и воссоздать, когда того потребуют обстоятельства. Вы не можете вернуться к источнику, изменить настройки какого-то параметра и заново получить результат, не имея самого источника. Если для вас «два плюс четыре равно шесть» — это голый факт, и вдруг один из элементов меняется на «пять», откуда вам знать, что «два плюс пять равно семь», если вам просто сказали, что «два плюс четыре равно шесть»?

Если вы увидите маленькое растение, которое роняет семечко всякий раз, когда мимо пролетает птица, вам и в голову не придет, что с его помощью можно частично автоматизировать подсчет овец. Хотя вы узнали нечто, что создатель системы использовал бы для улучшения своего изобретения, вы не можете вернуться к первоисточнику и воссоздать его.

Когда вы несете в себе источник мысли, эта мысль может меняться вместе с вами по мере того, как вы приобретаете новые знания и навыки. Когда вы несете в себе источник мысли, она действительно становится вашей частью и растет вместе с вами.

Стремитесь сами быть источником любой мысли, о которой стоит размышлять. Если мысль изначально пришла извне, позаботьтесь о том, чтобы она исходила и изнутри тоже. Постоянно спрашивайте себя: «Как бы я воссоздал эту мысль, если бы она стерлась?» Когда найдете ответ, представьте, что стерлось и это знание. И когда найдете источник, посмотрите, что еще может из него излиться.

Я помню эссе по экзистенциализму, которое когда-то написал. Преподавательница вернула его мне с двойкой. Она подчеркнула слова «истина» и «истинный» везде, где они встречались в тексте — наверное, раз двадцать, — и рядом с каждым поставила знак вопроса. Ей хотелось знать, что я имею в виду под истиной.

— Даниэль Эган, журналистка

Представьте себе креациониста, который говорит: «Но кто может знать наверняка, верна ли теория эволюции? Это всего лишь теория. Вам следует быть скромнее и шире смотреть на вещи». Скромность ли это? Креационист практикует весьма избирательную неуверенность, отказываясь интегрировать колоссальный объем доказательств в пользу вывода, который кажется ему неприятным. Я бы сказал, что независимо от того, назовете вы это «скромностью» или нет, это неверное па в этом танце.

А как насчет инженера, который скромно проектирует предохранительные механизмы в оборудовании, хотя и чертовски уверен, что оно не откажет? Мне это кажется хорошей скромностью. История знает немало случаев, когда инженер был чертовски уверен, что новая машина не откажет, а она все равно ломалась.

А как насчет ученика, который скромно перепроверяет ответы в контрольной по математике? Я бы снова отнес это к хорошей скромности.

А как насчет ученика, который говорит: «Ну, сколько бы раз я ни проверял, я никогда не смогу быть уверен, что ответы в моей контрольной правильные», и поэтому не проверяет их ни разу? Даже если этот выбор проистекает из эмоции, похожей на чувство предыдущего ученика, он менее разумен.

Вы предлагаете учиться усерднее, а ученик отвечает: «Нет, мне это не поможет; я не из тех умных ребят, как вы; куда уж столь ничтожному созданию, как я, надеяться на лучшую долю». Это социальная скромность, а не научная. Она связана с регулированием статуса в племени, а не с научным процессом. Если вы попросите кого-то «быть скромнее», по умолчанию эти слова будут ассоциироваться с социальной скромностью — интуитивно понятным, обыденным, унаследованным от предков понятием. Научная скромность — изобретение более позднее и рафинированное, и по своей сути она не социальна. Научную скромность вы бы практиковали, даже если бы оказались в одиночестве в скафандре в световых годах от Земли, где за вами никто не наблюдает. Или даже если бы вы получили абсолютную гарантию, что никто и никогда больше не станет вас критиковать, что бы вы ни сказали и что бы ни думали о себе. Будь вы мудры, вы бы все равно перепроверили свои расчеты.

Ученик говорит: «Но я видел, как другие перепроверяли ответы, и они все равно оказывались неверными. А вдруг, в силу проблемы индукции, на этот раз дважды два окажется пять? Что бы я ни делал, я не могу быть уверен в себе». Звучит очень глубокомысленно и очень скромно. Но вовсе не случайно этот ученик хочет поскорее сдать работу, пойти домой и поиграть в видеоигры.

Конец эпохи в физике не всегда заявляет о себе громом и фанфарами; чаще он начинается с того, что кажется крошечным, совсем крошечным изъяном... Но поскольку у физиков есть это высокомерное убеждение, будто их модели должны работать всегда, а не просто в большинстве случаев, они не оставляют без внимания даже мелкие изъяны. Обычно при ближайшем рассмотрении мелкий изъян исчезает. Изредка он разрастается до такой степени, что взрывает всю теорию. Поэтому и написано: «Если не стремишься к совершенству, ты остановишься, не сделав и первого шага».

Но подумайте, какой дерзостью в глазах общества выглядит стремление быть правым всегда! Я вполне серьезно подозреваю, что если бы Наука утверждала, что теория эволюции верна в большинстве случаев, но не всегда, — или если бы Наука признала, что, возможно, по некоторым дням Земля действительно плоская, просто кто знает наверняка, — у ученых была бы куда лучшая репутация в обществе. Наука воспринималась бы как менее конфликтная, ведь нам не пришлось бы спорить с людьми, заявляющими, что Земля плоская, — появилось бы пространство для компромисса. Когда вы много спорите, люди видят в вас конфликтного человека. А если вы раз за разом отказываетесь идти на компромисс, все становится еще хуже. Посмотрите на это как на вопрос племенного статуса: ученые, безусловно, заслужили дополнительный статус в обмен на такие социально полезные инструменты, как медицина и мобильные телефоны. Но этот социальный статус не оправдывает их требования, чтобы в государственных школах преподавались только научные представления об эволюции. В конце концов, у священников тоже высокий социальный статус. Ученые слишком много о себе возомнили — получили немного статуса, а теперь думают, что они вожди всего племени! Им следовало бы быть скромнее и пойти на небольшой компромисс.

Многие люди, похоже, довольно смутно представляют себе «рационалистическую скромность». Опасно руководствоваться предписывающим принципом, который вы понимаете лишь туманно; ваша мысленная картина может иметь столько степеней свободы, что ее удастся приспособить для оправдания практически любого поступка. Когда у людей есть расплывчатые ментальные модели, с помощью которых можно доказать что угодно, они в итоге обычно верят в то, во что им и хотелось верить с самого начала. Это настолько удобно, что люди зачастую неохотно расстаются с неопределенностью. Но цель нашей этики — двигать нами, а не быть движимой нами.

«Скромность» — добродетель, которую часто понимают неправильно. Это не значит, что мы должны отбросить само понятие скромности, но нам следует использовать его с осторожностью. Полезно посмотреть на действия, которые предписывает «скромный» ход мыслей, и спросить: «Делает ли такое поведение вас сильнее или слабее?» Если вы задумаетесь о проблеме индукции применительно к мосту, который не должен рухнуть, то вывод о том, что ни в чем нельзя быть уверенным, какие бы меры предосторожности ни принимались, может показаться разумным. Но если посмотреть на реальную разницу между добавлением нескольких дополнительных тросов и простым пожиманием плеч, станет предельно ясно, что делает мост прочнее.

Подавляющее большинство призывов к «скромности рационалиста», которые я наблюдаю, — это просто предлоги, чтобы пожать плечами. Тот, кто покупает лотерейный билет со словами: «Но вы же не можете знать, что я проиграю». Тот, кто не верит в эволюцию, заявляя: «Но вы не можете доказать мне, что это правда». Тот, кто отказывается браться за сложную с виду задачу, говоря: «Она, вероятно, слишком трудна, чтобы её решить». Проблема заключается в мотивированном скептицизме, также известном как предвзятость опровержения, — более пристальном и придирчивом изучении утверждений, в которые мы не хотим верить. Скромность в её наиболее превратно понятой форме — это универсальное оправдание для того, чтобы во что-то не верить; ведь в конце концов, нельзя же быть ни в чём уверенным. Остерегайтесь универсальных оправданий!

Еще одна проблема заключается в том, что скромность слишком легко декларировать. Деннет в книге «Разрушая заклятие: религия как естественное явление» указывает на то, что, хотя во многие религиозные утверждения поверить очень трудно, людям легко поверить, что они должны в них верить. Деннет называет это «верой в веру». Что вообще значит — по-настоящему допустить, по-настоящему поверить, что три равно одному? Гораздо проще поверить, что вы каким-то образом должны верить, что три равно одному, и произносить нужные слова в подобающие моменты церковной службы. Деннет предполагает, что большую часть «религиозной веры» следует изучать как «декларирование веры» — то, во что люди, по их мнению, должны верить, и то, что, как они знают, им следует говорить.

Слишком легко отвечать на каждый контраргумент словами: «Ну, конечно, я могу ошибаться». Затем, послушно преклонив колени перед Скромностью и отвесив положенный поклон, вы можете продолжать свой путь, ничего не меняя.

Соблазн всегда состоит в том, чтобы набрать как можно больше очков с наименьшими усилиями. Соблазн в том, чтобы аккуратно встраивать всю поступающую информацию так, чтобы как можно меньше менять свои убеждения и, прежде всего, свои действия. Джон Кеннет Гэлбрейт сказал: «Столкнувшись с выбором — изменить свое мнение или доказать, что в этом нет необходимости, — почти каждый сразу же принимается за доказательство».¹ И чем больше неудобств влечет за собой смена мнения, тем больше усилий люди будут тратить на это доказательство.

Но знаете, если вы всё равно собираетесь сделать то же самое, нет смысла идти на такие невероятные ухищрения, чтобы это рационализировать. Я часто видел, как люди сталкиваются с новой информацией, вроде бы принимают её, а затем тщательно объясняют, почему они собираются делать ровно то же самое, что планировали и раньше, но только с другим обоснованием. Смысл мышления в том, чтобы формировать наши планы; если вы всё равно собираетесь оставить планы прежними, зачем вообще проделывать всю эту работу ради их обоснования? Самое сложное при встрече с новой информацией — обновиться, отреагировать, а не просто позволить ей бесследно исчезнуть в черной дыре. А скромность, если её «правильно» понять превратно, становится отличной черной дырой: всё, что вам нужно сделать, — это признать, что вы можете ошибаться. Поэтому написано: «Быть скромным — значит совершать конкретные действия в предвидении собственных ошибок. Признавать свою погрешимость и ничего с этим не делать — не значит быть скромным; это хвастовство своей скромностью».

Вера в Санта-Клауса дарит детям ощущение чуда и побуждает их хорошо себя вести в надежде получить подарки. Если вера в Санту будет разрушена правдой, дети утратят ощущение чуда и перестанут хорошо себя вести. Поэтому, хотя вера в Санту и не соответствует действительности, это Благородная Ложь, чистую пользу от которой необходимо сохранить по утилитарным соображениям.

Классически это называется ложной дилеммой, ошибкой исключённого третьего или ошибкой «пакетной сделки». Даже если мы примем исходные фактические и моральные посылки этого аргумента, он не работает. Даже если предположить, что «политика Санты» (поощрение детской веры в Санта-Клауса) лучше «нулевой политики» (ничего не делать), из этого вовсе не следует, что сантаизм — это лучшая из всех возможных альтернатив. Другие варианты политики тоже могли бы подарить детям ощущение чуда — например, если бы мы возили их смотреть на запуск космического шаттла или покупали им научно-фантастические книги. Точно так же (если я правильно помню), попытки подкупить детей за хорошее поведение побуждают их вести себя прилично только под присмотром взрослых, тогда как похвала без подкупа ведет к безусловному хорошему поведению.

Благородная ложь обычно представляет собой ошибку «пакетной сделки», а ответом на такую ошибку служит то, что если нам действительно так нужна предполагаемая выгода, мы можем создать Третью Альтернативу для её получения.

Как нам находить Третьи Альтернативы? Первый шаг в поиске Третьей Альтернативы — это решение искать её, а последний шаг — решение её принять. Это кажется очевидным, и тем не менее большинство людей спотыкаются именно на этих двух шагах, а вовсе не в самом процессе поиска. Откуда берутся ложные дилеммы? Некоторые возникают честно, потому что более удачные альтернативы когнитивно трудно разглядеть. Но настоящая фабрика ложных дилемм — это оправдание сомнительной политики указанием на её предполагаемую выгоду по сравнению с нулевым действием. В этом случае оправдывающий не хочет никакой Третьей Альтернативы; ведь её обнаружение разрушило бы само оправдание. Меньше всего «сантаист» хочет слышать, что похвала работает лучше подкупа или что космические корабли могут вдохновлять ничуть не меньше летающих оленей.

Лучшее — враг хорошего. Если цель действительно в том, чтобы помочь людям, то лучшая альтернатива — это повод для радости: найдя более эффективную стратегию, мы сможем помочь людям еще лучше. Но если цель — оправдать конкретную стратегию, утверждая, что она помогает людям, то Третья Альтернатива становится вражеским аргументом, конкурентом.

Современная когнитивная психология рассматривает принятие решений как поиск альтернатив. В реальной жизни мало просто сравнивать варианты; для начала эти варианты нужно вообще сформулировать. В случае многих задач число альтернатив огромно, поэтому вам необходим критерий остановки поиска. Покупая дом, вы не можете сравнить все дома в городе; в какой-то момент приходится остановить поиски и принять решение.

Но что происходит, когда наши сознательные мотивы поиска — критерии, в которых мы готовы признаться сами себе, — расходятся с подсознательным влиянием? Когда мы ведем якобы альтруистический поиск, пытаясь найти альтруистическую стратегию, и находим вариант, который выгоден окружающим, но невыгоден нам самим — ну, мы не останавливаемся на этом; мы продолжаем искать. Разумеется, мы уверяем себя, что ищем стратегию, которая принесет еще больше альтруистической пользы. Но представьте, что мы находим решение, которое приносит какую-то доказуемую пользу и одновременно оказывается лично нам удобно? Тут мы сразу же останавливаем поиск! Более того, мы, скорее всего, будем сопротивляться любому предложению поискать ещё, ссылаясь, скажем, на нехватку времени. (И при этом у нас почему-то всегда находятся когнитивные ресурсы на придумывание оправданий для нашего текущего курса.)

Остерегайтесь моментов, когда вы ловите себя на попытках доказать, что стратегия оправданна, а не оптимальна; или когда вы утверждаете, что она дает хоть какую-то пользу по сравнению с бездействием, вместо того чтобы приносить максимальную пользу среди всех возможных действий.

Ложные дилеммы часто преподносятся для оправдания неэтичных действий, которые по какому-то невероятному совпадению оказываются крайне удобными. Врать, например, зачастую гораздо удобнее, чем говорить правду, а продолжать верить в то, с чего вы начали, намного проще, чем обновлять свои убеждения. Отсюда и популярность доводов в пользу Благородной Лжи; они служат защитой уже имеющегося убеждения — вы не встретите благородных лжецов, высчитывающих новую оптимальную Благородную Ложь; они просто цепляются за то враньё, с которого начали. Лучше поскорее остановить этот поиск!

Чтобы действовать более эффективно, спросите себя напрямую: «Если бы я увидел, что у моего нынешнего курса есть лучшая альтернатива, обрадовался бы я в глубине души или ощутил бы секундную вспышку неохоты, прежде чем отказаться от него?» Если ваши ответы — «нет» и «да», то берегитесь: скорее всего, вы даже не пытались искать Третью Альтернативу.

Отсюда следует еще один отличный вопрос, который стоит задать себе напрямую: «Провел ли я пять минут с закрытыми глазами, устраивая мозговой штурм в поисках безумных и творческих вариантов, пытаясь придумать лучшую альтернативу?» Это должны быть именно пять минут по часам, потому что иначе вы просто моргнёте — закроете глаза и тут же откроете — и скажете: «Да, конечно, я искал альтернативы, но их просто не оказалось». Подобное «моргание» — отличная чёрная дыра, в которую очень удобно сбрасывать свои обязанности. Настоятельно рекомендую использовать настоящие физические часы.

И эти безумные и творческие варианты — постарались ли вы не придумать среди них ни одного хорошего? Не прилагал ли какой-то потаённый уголок вашего разума тайные усилия к тому, чтобы каждый рассмотренный вариант оказывался заведомо плохим?

Поразительно, как много благородных лжецов и им подобных с готовностью идут на этические нарушения — со всеми подобающими сетованиями на муки совести, — не потратив при этом даже пяти минут по часам на поиски альтернативы. Бывают мысленные поиски, провала которых мы втайне желаем; и когда перспектива успеха сулит дискомфорт, люди хватаются за самый первый предлог, чтобы опустить руки.

Классическая критика лотерей заключается в том, что в них играют как раз те люди, которые меньше всего могут позволить себе проигрыш; что лотерея — это бездонная бочка для денег, вытягивающая средства у тех, кто сильнее всего в них нуждается. Некоторые защитники лотерей и даже отдельные комментаторы на Overcoming Bias пытались оправдать покупку лотерейных билетов как рациональную покупку фантазии — плату в один доллар за целый день приятного предвкушения, когда ты воображаешь себя миллионером.

Но вдумайтесь, что именно это означает. Это означает, что вы занимаете свой ценный мозг фантазией, реальная вероятность которой практически равна нулю, — тончайшей ниточкой вероятности, для реализации которой вы сами ничего не можете сделать. Ваше будущее решат лотерейные шары. Это фантазия о богатстве, которое приходит без усилий — без добросовестности, учебы, харизмы или даже терпения.

Это делает лотерею еще одной бездонной бочкой — на этот раз для эмоциональной энергии. Она побуждает людей инвестировать свои мечты, свои надежды на лучшее будущее в бесконечно малую вероятность. Если бы не лотерея, они, возможно, мечтали бы о поступлении в колледж, открытии собственного дела или повышении на работе — о вещах, которые они действительно могли бы сделать, о надеждах, которые заставляли бы их стремиться стать сильнее. Мечтающий мозг мог бы на двадцатой визуализации этой приятной фантазии заметить способ реально воплотить её в жизнь. Разве не для этого нужны мечты и мозги? Но как может эта пресная, ограниченная реальностью пища конкурировать с искусственно подслащенной перспективой мгновенного богатства — полученного не в результате доведения дотком-стартапа до IPO, а просто во вторник?

Серьезно, почему мы не можем просто сказать, что покупка лотерейных билетов — это глупо? Люди бывают глупы время от времени, и эта гипотеза не должна казаться такой уж удивительной.

Неудивительно, что человеческий мозг не производит 64-битные вычисления с плавающей запятой и не способен уменьшить эмоциональную силу приятного предвкушения в 100 000 000 раз, не потеряв при этом ход рассуждений полностью. Неудивительно и то, что многие люди не понимают, что численный расчет ожидаемой полезности должен отменять или заменять их неточные финансовые инстинкты; вместо этого они относятся к расчету лишь как к еще одному доводу, который нужно сопоставить с приятными предвкушениями — эмоционально слабому доводу, состоящему из простых закорючек на бумаге, а не из видений сказочного богатства.

Похоже, этого вполне достаточно, чтобы объяснить популярность лотерей. Почему же столь многие полемисты считают своим долгом защищать эту классическую форму саморазрушения?

Процесс преодоления когнитивных искажений требует: (1) сначала заметить искажение, (2) детально его проанализировать, (3) решить, что это искажение вредно, (4) придумать обходной путь и затем (5) применить его на практике. К сожалению, слишком многие люди справляются с шагами 1 и 2, а затем вязнут на шаге 3, хотя тот по праву должен быть самым простым из пяти. Когнитивные искажения — это кислые лимоны, а не сладкий лимонад, и нам не стоит пытаться делать из них лимонад — нужно просто сжечь эти лимоны дотла.

Люди все еще утверждают, что лотерея — это не напрасная растрата надежд, а услуга, позволяющая купить фантазию: «грезить о том, как станешь миллионером, тратя на это куда меньше денег, чем на грезы о голливудских звездах в кино». Один комментатор написал: «Есть огромная разница между нулевой вероятностью разбогатеть и вероятностью, равной эпсилон. Покупка билета позволяет вашей мечте о богатстве преодолеть эту пропасть».

Собственно, одна из мыслей, которую я пытался выразить, состоит в том, что разница между нулевой вероятностью разбогатеть и вероятностью, равной эпсилон, — порядка самого эпсилон. Если сомневаетесь, пусть эпсилон будет равен единице, деленной на гуголплекс.

Так или иначе, если мы притворимся, будто лотерея продает надежду величиной в эпсилон, это наводит на мысль о концепции Новой Улучшенной Лотереи. В среднем раз в пять лет, в случайное время — определяемое, скажем, распадом слаборадиоактивного элемента — Новая Улучшенная Лотерея производит выплату. Вы платите всего один раз, один доллар, и получаете не несколько дней эпсилон-вероятности разбогатеть, а несколько лет эпсилона. И это еще не все: богатство может обрушиться на вас когда угодно! В любую минуту может зазвонить телефон и сообщить, что вы, да-да, именно вы — миллионер!

Подумайте, насколько это лучше обычного лотерейного розыгрыша, который проводится лишь в определенное время, несколько раз в неделю. Допустим, заходит босс и требует переделать предложение, провести инвентаризацию или сделать еще какую-нибудь столь же занудную работу. Вместо того чтобы приниматься за работу, вы можете повернуться к телефону и уставиться на него, надеясь на тот самый звонок — ведь существует эпсилон-вероятность, что именно в этот самый момент вам, да-да, именно вам присудят Главный приз! И даже если этого не произошло в эту минуту, что ж, не нужно расстраиваться — ведь это может случиться в следующую!

Представьте, сколько еще фантазий сделает возможными эта Новая Улучшенная Лотерея. Вы могли бы ходить по супермаркету, складывая в тележку дорогие товары — если мобильник так и не зазвонит с новостью о выигрыше, вы ведь всегда сможете выложить их обратно, верно?

Возможно, Новая Улучшенная Лотерея могла бы даже показывать непрерывно меняющееся распределение вероятностей самого выигрыша и выпадения конкретных номеров, при том что в среднем всё это соответствовало бы вышеупомянутому распределению Пуассона. Подумайте, как это было бы здорово! О боже, прямо в эту минуту вероятность выигрыша почти в десять раз выше обычной! И смотрите, у выбранного мной для Мега-шара числа 42 шансы на победу сейчас почти вдвое выше обычного! Эти данные можно выводить прямо на экраны мобильников, чтобы люди могли в любой момент открыть телефон и проверить свои шансы. Представьте, насколько это было бы захватывающе! Намного интереснее, чем сводить баланс в чековой книжке! Намного интереснее, чем делать уроки! Эта новая мечта была бы настолько слаще, что соперничала бы не только с надеждами поступить в техникум, но и с надеждами пораньше уйти с работы. Люди могли бы целый день сидеть, уткнувшись в экран, — да им больше ни о чем другом и мечтать бы не понадобилось!

Да уж, предлагать людям заманчивые грезы, которые на самом деле никогда не сбудутся, — это, без сомнения, очень ценная услуга. Раз люди готовы платить, значит, ценность в этом есть. Иначе пришлось бы признать, что потребители совершают ошибку, а мы все прекрасно знаем, что такого быть не может.

И тем не менее нынешние правительства с их гнусной монополией на лотереи не предлагают эту простую и очевидную услугу. Почему? Потому что они хотят брать с людей втридорога. Они хотят, чтобы те тратили деньги каждую неделю. Они хотят, чтобы люди выкладывали по сто долларов ради упоительного ощущения, будто их шансы выиграть возросли в сто раз, вместо того чтобы дать им возможность просто смотреть в экран телефона и ждать, когда вероятность резко подскочит. Так что если вы верите, будто лотерея — это услуга, то это услуга по явно и чудовищно завышенной цене, которую к тому же навязывают беднейшим слоям общества. И ваш священный долг как гражданина — требовать взамен Новую Улучшенную Лотерею.

Много лет назад я разговаривал с одним человеком, и он вскользь заметил, что не верит в эволюцию. Я сказал: «Сейчас не девятнадцатый век. Когда Дарвин только предложил теорию эволюции, сомневаться в ней, возможно, было разумно. Но на дворе двадцать первый век. Мы умеем читать гены. У человека и шимпанзе ДНК совпадает на 98%. Мы знаем, что люди и шимпанзе — родственники. Всё кончено.»

Он сказал: «Может, ДНК похожа просто по совпадению».

Я сказал: «Шансы против этого — примерно два в степени семьсот пятьдесят миллионов к одному».

Он сказал: «Но ведь шанс всё-таки есть, верно?»

Есть целый ряд причин, по которым моё тогдашнее «я» не может претендовать на безоговорочную моральную победу в этом разговоре. Во-первых, я совершенно не помню, откуда выкопал это число — 2^{750 000 000}, хотя метапорядок величины, скорее всего, верный. Во-вторых, моё тогдашнее «я» не применило концепцию калиброванной уверенности. За всю историю человечества во всех тех случаях, когда люди оценивали шансы против чего-либо как 2^{750 000 000} к 1, они, несомненно, ошибались чаще, чем один раз на 2^{750 000 000} случаев. Например, оценку доли общих генов позже скорректировали до 95%, а не 98% — и это значение может относиться только к 30 000 известных генов, а не ко всему геному, а в таком случае неверен и метапорядок величины.

Но ответ моего собеседника я всё равно считаю весьма забавным.

Я не помню, что ответил дальше — скорее всего, что-то вроде «Нет», — но этот случай мне запомнился, поскольку он принёс мне несколько озарений касательно законов мышления в представлении непросветлённых.

Тогда мне впервые пришло в голову, что человеческая интуиция проводит качественное различие между «Шансов нет» и «Шанс ничтожно мал, но его стоит учитывать». Это можно заметить по дискуссии о лотереях в блоге Overcoming Bias, где кто-то написал: «Есть огромная разница между нулевым шансом на выигрыш и шансом, равным эпсилон», на что я ответил: «Нет, разница — порядка эпсилон; если сомневаетесь, пусть эпсилон будет равен единице, делённой на гуголплекс».

Проблема в том, что теория вероятностей иногда позволяет нам рассчитать шанс, который действительно слишком мал, чтобы тратить на него мысленное пространство, — но к этому моменту вы его уже рассчитали. Люди путают карту с территорией, поэтому на интуитивном уровне отслеживание символически описанной вероятности ощущается как «шанс, который стоит учитывать», даже если референт этого символического описания — число настолько крошечное, что, будь оно пылинкой, вы бы её не заметили. Мы можем использовать слова для описания таких маленьких чисел, но не чувства — столь слабого чувства просто не существует, для его возникновения не активируется достаточно нейронов и не выделится достаточно нейромедиаторов. Вот почему люди покупают лотерейные билеты: никто не способен почувствовать ничтожность столь малой вероятности.

Но ещё более увлекательным мне показалось качественное различие между «абсолютными» и «вероятностными» аргументами, согласно которому, если аргумент не является абсолютно надёжным, его разрешается игнорировать. Мол, если вероятность равна нулю, то от убеждения приходится отказаться, но если вероятность равна единице, делённой на гугол — его дозволено сохранить.

Конечно, у нас свободная страна, и никто не должен сажать вас в тюрьму за противозаконные рассуждения, но если вы собираетесь игнорировать аргумент, согласно которому вероятность равна единице, делённой на гугол, то почему бы не проигнорировать и тот, который говорит, что вероятность равна нулю? В конце концов, раз уж вы всё равно закрываете глаза на свидетельства, почему игнорировать абсолютные свидетельства считается гораздо худшим грехом, чем вероятностные?

В жизни я часто замечал, что учусь на чужих на редкость вопиющих дурных примерах, надлежащим образом обобщая их для более тонких случаев. В данном случае обратный урок состоит в том, что если вы не можете просто по своему хотению отмахнуться от вероятности, равной единице, делённой на гугол, то не можете отмахнуться и от вероятности в 0,9. Всё это один и тот же скользкий обрыв.

Вспомните его пример, если поймаете себя на мысли: «Но вы ведь не можете доказать, что я не прав». Если вы собираетесь игнорировать вероятностный контраргумент, почему бы точно так же не проигнорировать и доказательство?

Софист: «Мир не чёрно-белый. Никто не совершает абсолютного добра или абсолютного зла. Всё вокруг серое. Следовательно, никто не лучше других».

Зетет: «Зная только серый цвет, ты делаешь вывод, что все оттенки серого одинаковы. Ты смеёшься над простотой двухцветного взгляда на мир, однако сам заменяешь его одноцветным...»

— Марк Стиглер, «Праща Давида»¹

И вот кое-кто приходит к вам и свысока заявляет: «Наука на самом деле ничего не знает. Всё, что у вас есть, — это теории, вы не можете знать наверняка, что вы правы. Вы, учёные, передумали насчёт того, как работает гравитация, — где гарантия, что завтра вы не передумаете насчёт эволюции?»

Перед вами — бездонная культурная пропасть. Если вы думаете, что её можно перешагнуть за пару фраз, вас ждёт горькое разочарование.

В мире непосвящённых существует авторитет и не-авторитет. То, чему можно доверять, заслуживает доверия; то, чему доверять нельзя, можно с тем же успехом выбросить на помойку. Есть хорошие источники информации и плохие источники информации. Если учёные хотя бы раз за всю свою историю меняли показания, значит, наука не может быть истинным Авторитетом и ей больше никогда нельзя доверять — как свидетелю, пойманному на противоречии, или как сотруднику, уличённому в краже из кассы.

К тому же этот человек принимает как данность, что сторонник идеи обязан защищать её от любых возможных контраргументов и ни в чём не признаваться. Все утверждения оцениваются с соответствующей скидкой. Если уж сам сторонник науки признаёт, что наука несовершенна — ну, значит, грош ей цена.

Если человек всю жизнь привык жить в уверенности, вы не можете просто сказать ему: «Наука вероятностна, как и любое другое знание». Первую половину фразы он воспримет как чистосердечное признание вины, а вторую отбросит как неуклюжую попытку обвинить всех вокруг, лишь бы уйти от суда.

Ты признала, что тебе нельзя доверять, — так изыди, Наука, и больше нас не тревожь!

Один из очевидных источников такого мышления — религия, где священные тексты якобы исходят от Бога; следовательно, признание любого изъяна в них полностью уничтожило бы их авторитет; поэтому малейшее сомнение греховно, а заявлять о своей уверенности обязательно, уверены вы на самом деле или нет.

Но я подозреваю, что традиционная школьная система тоже приложила к этому руку. Учитель говорит вам определённые вещи, и вы обязаны в них верить и воспроизводить их на контрольной. Но когда ученик в классе высказывает предположение, вы вовсе не обязаны с ним соглашаться — вы вольны соглашаться или не соглашаться (как кажется), и никто вас за это не накажет.

Боюсь, этот опыт проецирует сферу убеждений на социальные сферы авторитета, приказа и закона. В социальной сфере существует качественная разница между абсолютными и неабсолютными законами, между приказами и пожеланиями, между авторитетами и не-авторитетами. Кажется, будто существует строгое и нестрогое знание, подобно строгому и нестрогому правилам. Строгим авторитетам необходимо подчиняться, тогда как нестрогим советам можно следовать, а можно и пренебречь ими — по личному усмотрению. И наука, раз уж она признаёт возможность ошибки, должна относиться ко второй категории.

(Попутно замечу: я вижу сходство с теми, кто считает, будто если вы не получили Авторитетное значение вероятности, выписанное учителем на бумажке или спущенное из какого-то другого Неоспоримого Источника, то ваша неопределённость не имеет отношения к байесовской теории вероятностей. Ведь кто-то может — о ужас! — поспорить с вашей оценкой априорной вероятности. Таким образом, не до конца просвещённым кажется, что байесовские априорные вероятности относятся к категории ученических гипотез, а не к категории истин, продиктованных учителем, — то есть это не настоящее знание.)

Культурная пропасть между Авторитетным Путём и Количественным Путём изрядно досаждает тем из нас, кто вглядывается в неё со стороны рационалистов. Перед нами человек, который верит, что обладает знанием более надёжным, чем просто вероятностные догадки науки — такие как догадка о том, что завтра Луна взойдёт в положенном месте и в положенной фазе, точь-в-точь как она делала каждую наблюдаемую ночь с момента появления астрономических записей, и в полном соответствии с предсказаниями физических теорий, чья точность ранее подтверждалась до четырнадцатого знака после запятой. И что же это за знание, которое непосвящённые ставят выше нашего, и почему? Вероятно, это какой-нибудь замшелый древний свиток, опровергнутый вдоль и поперёк всеми мыслимыми способами — и с воскресенья, и с понедельника, и в любой другой день недели. И всё же это надёжнее Науки (по их словам), потому что этот свиток никогда не признаёт ошибок и никогда не меняет своего мнения, сколько бы его ни опровергали. Они швыряются словом «уверенность» как теннисным мячиком, обращаясь с ним легко, словно с пёрышком, — в то время как учёных тяготит долг сомнения, заставляющий их бороться за достижение хотя бы малой доли вероятности. «Я совершенен, — заявляют они без тени заботы, — я, должно быть, стою неизмеримо выше вас, кому всё ещё приходится трудиться над собственным улучшением».

Вы не сможете сказать им ничего простого — нет никакого быстрого разгромного ответа. Тщательно всё продумав, вы, возможно, сумеете склонить на свою сторону аудиторию, если это публичные дебаты. К сожалению, нельзя просто выпалить: «Глупый смертный, Количественный Путь недоступен твоему пониманию, а убеждения, которые ты так легко называешь „достоверными“, менее надёжны, чем слабейшая из наших великих гипотез». Это различие на уровне целостного мироощущения, которое вообще нелегко выразить словами, а уж тем более быстро.

Что же можно попробовать сделать риторически перед аудиторией? Трудно сказать... возможно, это:

«Сила науки проистекает из её способности менять мнение и признавать ошибки. Если вы ни разу не признавали себя неправым, это вовсе не значит, что вы сделали меньше ошибок».

«Кто угодно может сказать, что уверен абсолютно. Куда труднее никогда-никогда не совершать ошибок. Учёные понимают эту разницу, поэтому и не говорят, что уверены абсолютно. Вот и всё. Это не значит, что у них есть какая-то конкретная причина сомневаться в теории — буквально все свидетельства до единого могут указывать в одном направлении, все звёзды и планеты могут выстроиться, как костяшки домино, в поддержку одной-единственной гипотезы, но учёные всё равно не скажут, что они абсолютно уверены, потому что у них просто более высокие стандарты. Это не значит, что у учёных меньше права на уверенность, чем, скажем, у политиков, которые вечно кажутся столь уверенными во всём».

«Учёные используют фразу „нет абсолютной уверенности“ совсем не так, как вы привыкли в обычном разговоре. Ну то есть представьте, что вы пришли к врачу, сдали анализ крови, и врач возвращается и говорит: „Мы тут провели тесты, и нет абсолютной уверенности, что вы не состоите из сыра, а ещё есть ненулевая вероятность, что двадцать фей из разумного шоколада поют песенку „Я люблю тебя“ из „Барни“ в вашем толстом кишечнике“. Бегите без оглядки, вашему врачу самому нужен врач. Когда то же самое говорит учёный, это означает, что, по его мнению, вероятность настолько ничтожна, что её не разглядеть и в электронный микроскоп, но учёный готов рассмотреть свидетельства в том крайне маловероятном случае, если они у вас есть».

«Согласились бы вы изменить своё мнение о вещах, которые называете „достоверными“, если бы увидели достаточно доказательств? Ну, к примеру, представьте, что сам Бог спустился с небес и сказал вам, что вся ваша религия истинна, за исключением непорочного зачатия. Если это изменит ваше мнение, вы не можете говорить, что абсолютно уверены в непорочном зачатии. По техническим причинам из теории вероятностей, если для вас теоретически возможно изменить своё мнение о чём-либо, вероятность этого события не может быть в точности равна единице. Неопределённость может быть меньше пылинки, но она должна присутствовать. Ну а если вы не изменили бы своего мнения, даже если бы сам Бог сказал вам об обратном, тогда, пожалуй, ваша проблема с нежеланием признавать свои ошибки выходит далеко за рамки того, что может сказать вам такой смертный, как я».

Но в каком-то смысле гораздо более интересный вопрос заключается в том, что сказать человеку не перед аудиторией. Как начать долгий процесс обучения жизни во вселенной без уверенности?

Мне кажется, самым первым шагом должно стать понимание того, что жить без уверенности можно — что если, гипотетически говоря, вы не можете быть ни в чём уверены абсолютно, это не лишает вас способности проводить моральные или фактические различия. Перефразируя Лоис Буджолд: «Не дави сильнее — снижай сопротивление».

Одним из распространённых способов защиты Абсолютного Авторитета является то, что я называю «Аргументом от „аргумента от серого“», и звучит он следующим образом:

Моральные релятивисты говорят:

Мир не чёрно-белый, следовательно:

Всё серое, следовательно:

Никто не лучше других, следовательно:

Я могу делать всё, что захочу, и вы не сможете меня остановить, му-ха-ха-ха.

Но мы должны иметь возможность не давать людям совершать убийства.

Следовательно, должен существовать способ быть абсолютно уверенным, иначе победят моральные релятивисты.

Глупость, вывернутая наизнанку, — ещё не ум. Нельзя прийти к правильному ответу, выворачивая наизнанку каждую до единой строчку аргумента, ведущего к ложному выводу, — тем самым вы даёте глупцу слишком много детального контроля над собой. В математическом доказательстве верной должна быть каждая отдельная строчка, чтобы оно оставалось в силе. И из того факта, что моральные релятивисты говорят: «Мир не чёрно-белый», вовсе не следует, будто это ложь, — точно так же, как из веры Сталина в то, что 2 + 2 = 4, не следует ложность утверждения «2 + 2 = 4». Ошибка (а достаточно всего одной) заключается в скачке от двухцветного восприятия к одноцветному — к представлению, будто все оттенки серого одинаковы.

Согласиться с посылкой, будто для того, чтобы поступать нравственно, вам необходимо абсолютное знание об абсолютно добрых и абсолютно злых вариантах выбора, значило бы уступить слишком многое (по сути, проиграть весь спор). Вы можете обладать не вполне достоверным знанием о том, какие варианты относительно лучше, а какие относительно хуже, и всё равно делать выбор. На самом деле это должно быть делом рутинным, а не поводом разводить драму.

То есть, конечно, если вам нужно выбрать между двумя альтернативами, А и Б, и вы каким-то образом ухитрились обрести заведомо достоверную, хорошо откалиброванную стопроцентную уверенность в том, что А абсолютно и во всех отношениях желательно, а Б — это средоточие всего злого и отвратительного, то это достаточное условие для выбора А вместо Б. Но это вовсе не необходимое условие.

О, и ещё: Логическая ошибка: апелляция к последствиям веры.

Так, что ещё им нужно знать? Ну, существует целая рационалистическая культура, согласно которой сомнения, вопросы и признание собственных ошибок вовсе не являются чем-то ужасным и постыдным.

Есть ещё целая концепция получения информации благодаря вглядыванию в вещи, а не обращению в чью-то веру. Когда вы вглядываетесь в вещи пристальнее, вы порой обнаруживаете, что они отличаются от того, какими казались на первый взгляд; но это не означает, что Природа солгала вам или что вам нужно вообще отказаться от попыток видеть.

Кроме того, существует понятие откалиброванной уверенности — представление о том, что «вероятность» — это не то же самое, что шкала прогресса в вашей голове, измеряющая степень вашей эмоциональной приверженности идее. Это скорее мера того, насколько часто, на практике, в реальной жизни люди, находящиеся в определённом состоянии убеждённости, говорят вещи, которые действительно оказываются правдой. Если вы возьмёте сто человек и попросите каждого сделать заявление, в котором они «абсолютно уверены», сколько из этих заявлений окажутся верными? Не сто.

Напротив, те утверждения, которые люди защищают с наибольшим фанатизмом, имеют куда меньше шансов оказаться верными, чем фразы вроде «Солнце больше Луны», которые кажутся слишком очевидными, чтобы из-за них волноваться. На каждое утверждение, в котором кто-то «абсолютно уверен», вы, вероятно, сможете найти кого-то, кто «абсолютно уверен» в обратном, поскольку столь фанатичные заявления о своей убеждённости не возникают в отсутствие противостояния. Так что шкала прогресса в головах людей, измеряющая их эмоциональную приверженность убеждению, плохо переводится в откалиброванную уверенность — она даже не ведёт себя монотонно.

Что касается «абсолютной уверенности» — ну, если вы утверждаете, что вероятность чего-то составляет 99,9999%, это значит, вы полагаете, что могли бы сделать один миллион столь же сильных независимых утверждений одно за другим на протяжении примерно целого года и ошибиться в среднем лишь однажды. Это уже само по себе невероятно. (Удивительно осознавать, что мы действительно можем достичь такого уровня уверенности для заповеди «Да не выиграешь ты в лотерею».) Так что о вероятности 1,0 лучше вообще умолчать. Как только вы поймёте, что вам не нужны вероятности 1,0, чтобы нормально жить, вы осознаете, насколько абсолютно нелепо думать, будто вы вообще способны добраться до 1,0 с помощью человеческого мозга. Вероятность 1,0 — это не просто уверенность, это бесконечная уверенность.

На самом деле мне кажется, что во избежание общественного недопонимания учёным, пожалуй, следовало бы повсюду говорить «Мы не БЕСКОНЕЧНО уверены» вместо «Мы не уверены». Поскольку последнее выражение в обыденном разговоре наводит на мысль, что вам известна какая-то конкретная причина для сомнений.

Вот почему рационалисты придают такое большое значение кажущемуся парадоксальным утверждению, что убеждение по-настоящему чего-то стоит, только если вас, в принципе, можно убедить в обратном. Если бы ваша сетчатка приходила в одно и то же состояние независимо от того, какой свет на неё попадает, вы были бы слепы... Отсюда и выражение «слепая вера». Если то, во что вы верите, не зависит от того, что вы видите, вас ослепили столь же надежно, как если бы выкололи вам глаза.

Джихан Баран ответил:

Я не могу представить себе ситуацию, в которой равенство 2 + 2 = 4 оказалось бы ложным. Возможно, поэтому моя вера в то, что 2 + 2 = 4, безусловна.

Признаться, я и сам не могу представить «ситуацию», которая сделала бы равенство 2 + 2 = 4 ложным. (Существуют переопределения понятий, но это не «ситуации», да и речь в таком случае пойдет уже не о двойке, четверке, знаках равенства или сложения.) Но это не делает моё убеждение безусловным. Мне довольно легко представить ситуацию, которая убедила бы меня в том, что 2 + 2 = 3.

Допустим, однажды утром я встаю, достаю две беруши, кладу их рядом с двумя другими берушами на прикроватную тумбочку и замечаю, что теперь там три беруши, причём никакие беруши не появлялись и не исчезали — вопреки моей памяти о том, что два плюс два должно быть равно четырем. Более того, когда я мысленно визуализирую этот процесс, мне кажется, что для получения XXXX из XX и XX требуется, чтобы лишний X возник из ниоткуда; вдобавок это не согласуется с другой арифметикой, которую я представляю: ведь вычитание XX из XXX дает XX, а вычитание XX из XXXX дает XXX. Это противоречило бы моим воспоминаниям о том, что 3 - 2 = 1, но полагаться на память было бы нелепо перед лицом физического и мысленного подтверждения того, что XXX - XX = XX.

Я также проверил бы карманный калькулятор, Google и, возможно, свой экземпляр «1984», где Уинстон пишет, что «Свобода — это свобода сказать, что дважды два — три». Все они, разумеется, показали бы, что остальной мир согласен с моим текущим представлением о том, что 2 + 2 = 3, и противоречит моей памяти.

Как я вообще мог так заблуждаться, что верил, будто 2 + 2 = 4? На ум пришли бы два объяснения. Во-первых, неврологический сбой (возможно, вызванный чихом), из-за которого все результаты сложения в моей памяти увеличились на единицу. Во-вторых, кто-то меня дурачит — с помощью гипноза или потому, что я нахожусь в компьютерной симуляции. В последнем случае я счел бы более вероятным, что они вмешались в мои воспоминания об арифметике, нежели то, что 2 + 2 на самом деле равнялось 4. Ни одно из этих правдоподобно звучащих объяснений не помешало бы мне заметить, что я очень, очень, очень сильно запутался.

Иными словами, убедить меня в том, что 2 + 2 = 3, могло бы точно такое же свидетельство, какое сейчас убеждает меня в том, что 2 + 2 = 4: перекрёстный огонь свидетельств в виде физического наблюдения, мысленной визуализации и общественного согласия.

Было время, когда я понятия не имел, что 2 + 2 = 4. Я пришел к этому новому убеждению не в результате случайных процессов — иначе у моего мозга не возникло бы особых причин в итоге сохранить «2 + 2 = 4» вместо «2 + 2 = 7». Тот факт, что мой мозг хранит ответ, удивительно похожий на результат выкладывания двух берушей рядом с двумя другими берушами, требует объяснения: какое именно сопряжение порождает это странное зеркальное отражение реальности в разуме.

Для убеждения в каком-либо факте существуют лишь две возможности: либо оно появилось в результате процесса сопряжения разума и реальности, либо нет. Если нет, убеждение не может оказаться верным иначе как по чистому совпадению. Для убеждений, обладающих хоть какой-то внутренней сложностью (требующих для симуляции компьютерной программы объемом более 10 бит), пространство возможностей столь велико, что совпадение исключено.

Безусловные факты — это не то же самое, что безусловные убеждения. Если сопряженное свидетельство убеждает меня в безусловности какого-то факта, это не значит, что я всегда верил в этот факт без необходимости в сопряженных свидетельствах.

Я верю, что 2 + 2 = 4, и мне довольно легко представить ситуацию, которая убедила бы меня в том, что 2 + 2 = 3. А именно: точно такую же ситуацию, какая сейчас убеждает меня в том, что 2 + 2 = 4. Таким образом, я не боюсь оказаться жертвой слепой веры.

Если среди читателей есть христиане, знакомые с теоремой Байеса (просьба к нумерофобам не беспокоиться), могу ли я спросить вас: какая ситуация убедила бы вас в истинности ислама? По всей видимости, это была бы та же ситуация, которая причинно обусловила вашу нынешнюю веру в христианство: мы бы вытолкнули вас, кричащего, из утробы мусульманки, и вас воспитали бы родители-мусульмане, которые постоянно твердили бы вам, что верить в ислам безусловно — это благо. Или дело не только в этом? Если так, то какая ситуация убедила бы вас в истинности ислама или, по крайней мере, в ложности христианства?

Если вам нужно выбрать между двумя альтернативами, А и Б, и вы каким-то образом ухитряетесь обрести достоверно точную, хорошо откалиброванную 100-процентную уверенность в том, что вариант А абсолютно и полностью желателен, а вариант Б — это средоточие всего злого и отвратительного, то это достаточное условие для того, чтобы предпочесть вариант А варианту Б. Но это не необходимое условие... Вы можете обладать лишь не вполне уверенным знанием о том, какой из вариантов относительно лучше, а какой относительно хуже, и всё равно сделать выбор. На самом деле, это должно быть обычным делом.

Что касается утверждения «2 + 2 = 4», мы должны отличать карту от территории. Учитывая кажущуюся абсолютную стабильность и универсальность физических законов, вполне возможно, что за всю историю Вселенной ни одна частица ни разу не превысила локальную скорость света. То есть предел скорости света может быть не просто истинным в 99% случаев, или в 99,9999% случаев, или в (1 − 1/гуголплекс) случаев, а просто всегда и абсолютно истинным.

Но можем ли мы когда-либо иметь абсолютную уверенность в ограничении скорости света — это совсем другой вопрос. Карта — не территория.

То, что студент списал свою работу, может быть чистой и абсолютной правдой, но имеете ли вы вообще хоть какое-то знание об этом факте — не говоря уже об абсолютной уверенности в своём мнении, — это отдельный вопрос. Если вы подбросите монетку и не посмотрите на неё, то факт, что она лежит орлом вверх, может быть абсолютно истинным, в то время как вы будете совершенно не уверены, орёл там выпал или решка. Степень неопределённости — это не то же самое, что степень истинности или частота события.

То же самое справедливо и для математических истин. Сомнительно, можно ли назвать утверждение «2 + 2 = 4» или «В арифметике Пеано SS0 + SS0 = SSSS0» истинным в каком-то чисто абстрактном смысле, отдельно от физических систем, поведение которых кажется схожим с аксиомами Пеано. Сказав это, я тем не менее пойду напролом и предположу: в каком бы смысле утверждение «2 + 2 = 4» ни было истинным, оно истинно всегда и в точности, а не приблизительно («2 + 2 на самом деле равно 4,0000004») и не в 999 999 999 999 случаях из 1 000 000 000 000.

Я не совсем уверен, что должно означать слово «истинно» в данном случае, но остаюсь при своём предположении. Убедительность утверждения «"2 + 2 = 4" истинно всегда» намного превосходит убедительность любой конкретной философской позиции касательно того, что именно означают слова «истинно», «всегда» или «есть» в приведённом выше суждении.

Это, однако, не означает, что у меня есть абсолютная уверенность в том, что 2 + 2 = 4. Обратитесь к предыдущему обсуждению того, как убедить меня в том, что 2 + 2 = 3 — это можно было бы сделать с помощью примерно тех же свидетельств, которые изначально убедили меня, что 2 + 2 = 4. Все те прежние свидетельства могли мне померещиться в галлюцинации, или же я могу неверно их помнить. В анналах неврологии описаны и более странные нарушения работы мозга.

Так какую же вероятность нам следует приписать утверждению «2 + 2 = 4», если мы вообще приписываем ему какую-то вероятность? В подобных случаях вы стремитесь достичь хорошей калибровки — чтобы утверждения, которым вы присваиваете «вероятность 99%», оказывались верными в 99 случаях из 100. На самом деле это чертовски сложнее, чем может показаться. Возьмите сто человек и попросите каждого сделать десять заявлений, в которых они «уверены на 99%». Как вы думаете, окажутся ли ошибочными примерно 10 заявлений из этой тысячи?

Я не стану обсуждать реальные эксперименты, проводившиеся по калибровке, — вы можете найти их в главе моей книги «Когнитивные искажения, потенциально влияющие на суждения о глобальных рисках», — потому что я не раз замечал: когда я выкладываю это людям без надлежащей подготовки, они впоследствии используют это как Абсолютно Универсальный Контраргумент, который почему-то мгновенно всплывает в памяти, как только им нужно принизить уверенность кого-то, чьё мнение им не нравится, но напрочь забывается, когда они оценивают собственные суждения. Поэтому я стараюсь не говорить об экспериментах по калибровке, кроме как в рамках структурированного изложения рациональности, включающего предостережения против мотивированного скептицизма.

Но наблюдаемая калибровка людей, заявляющих, что они «уверены на 99%», не даёт 99-процентной точности.

Предположим, вы говорите, что на 99,99% уверены в том, что 2 + 2 = 4. Тем самым вы только что заявили, что могли бы сделать 10 000 независимых утверждений с такой же степенью уверенности и ошибиться в среднем лишь однажды. Возможно, для «2 + 2 = 4» столь исключительная степень уверенности и достижима: это утверждение чрезвычайно простое, одновременно математическое и эмпирическое, а также широко признанное в обществе (без страстного одобрения, а просто как нечто молчаливо само собой разумеющееся). Так что, пожалуй, здесь вы действительно могли бы дойти до уверенности в 99,99%.

Не думаю, что вы смогли бы достичь уверенности в 99,99% для таких утверждений, как «53 — простое число». Да, это кажется весьма вероятным, но если бы вы попытались разработать протоколы, которые позволили бы вам сделать 10 000 независимых заявлений такого рода — то есть не просто ряд утверждений о простых числах, а всякий раз новый протокол, — вы бы ошиблись больше одного раза. У Питера де Блана есть забавная история на этот счёт. (Я сказал ему больше так не делать.)

И всё же карта — не территория: если я говорю, что уверен на 99% в том, что 2 + 2 = 4, это не значит, будто я считаю, что равенство «2 + 2 = 4» верно с точностью до 99% или что «2 + 2 = 4» истинно в 99 случаях из 100. Суждение, в котором я выражаю уверенность, состоит в том, что «"2 + 2 = 4" истинно всегда и в точности», а не в том, что «"2 + 2 = 4" истинно по большей части и обычно».

Что касается представления о том, что можно достичь 100%-й уверенности в математическом суждении — ну в самом деле! Если вы заявляете о 99,9999% уверенности, вы тем самым утверждаете, что могли бы сделать миллион столь же рискованных заявлений одно за другим и ошибиться в среднем лишь однажды. Это примерно целый год непрерывных разговоров, если вы способны делать по одному утверждению каждые 20 секунд и говорить по 16 часов в день.

Заявите о 99,9999999999%-й уверенности, и вы поднимете ставку до триллиона. И теперь вы собираетесь говорить на протяжении ста человеческих жизней и ни разу не ошибиться?

Заявите об уверенности в (1 - 1/гуголплекс), и ваше эго далеко превзойдёт эго душевнобольных, считающих себя Богом.

А гуголплекс намного меньше даже относительно небольших невообразимо огромных чисел вроде 3 ↑↑↑ 3. Но даже уверенность в (1 - 1∕3 ↑↑↑ 3) ненамного ближе к ВЕРОЯТНОСТИ 1, чем 90%-я уверенность в чём-либо.

Если всё остальное бессильно, гипотетические Тёмные Владыки Матрицы, которые прямо сейчас вмешиваются в то, как ваш мозг оценивает достоверность вот этого самого предложения, преградят путь и защитят нас от бича бесконечной уверенности.

Абсолютно ли я уверен в этом?

Да конечно же нет.

Как однажды сказал Рафал Смигродский:

Я бы сказал, что вы должны иметь возможность присваивать степень уверенности меньше единицы даже тем математическим понятиям, которые необходимы для вывода самого правила Байеса, и всё же использовать его на практике. Я не вполне уверен, что должен всегда сомневаться. Возможно, в чём-то я могу быть уверен с полным на то основанием. Но стоит мне присвоить суждению вероятность 1, я уже никогда не смогу это отменить. Что бы я ни увидел и ни узнал, мне придётся отвергать всё, что противоречит этой аксиоме. Мне не нравится мысль, что я больше никогда не смогу изменить своё мнение.

Один, два и три — всё это целые числа, как и минус четыре. Если продолжать считать вверх или вниз, вы непременно встретите ещё множество целых чисел. Однако вы не встретите ничего под названием «положительная бесконечность» или «отрицательная бесконечность», так что они целыми числами не являются.

Положительная и отрицательная бесконечности — это не целые числа, а скорее особые символы для описания поведения целых чисел. Люди иногда говорят что-то вроде «5 + бесконечность = бесконечность», ведь если начать с пяти и продолжать считать вверх без остановки, вы будете получать всё большие и большие числа без всякого предела. Но из этого не следует, что «бесконечность - бесконечность = 5». Вы не можете бесконечно считать вверх от нуля, а затем бесконечно считать вниз, а закончив, обнаружить себя в точке 5.

Из этого видно, что бесконечность не просто не является целым числом — она даже не ведёт себя как целое число. Если вы опрометчиво попытаетесь смешать бесконечности с целыми числами, вам понадобятся всевозможные новые, кажущиеся противоречивыми особенности поведения, которые не нужны для 1, 2, 3 и других настоящих целых чисел.

И пусть бесконечность не целое число, вам не стоит беспокоиться, что вы останетесь без чисел. Хотя люди и видели пять овец, миллионы песчинок и септиллионы атомов, никто никогда не насчитал бесконечность чего бы то ни было. То же самое и с непрерывными величинами: люди измеряли пылинки размером в миллиметр, животных размером в метр, города протяженностью в километры и галактики размером в тысячи световых лет, но никто никогда не измерял ничего бесконечного в размерах.

В реальном мире вам не нужно так уж много бесконечности.

(Должен заметить для более искушенных читателей, что им нет нужды писать мне пространные объяснения, скажем, разницы между ординальными и кардинальными числами. Да, я знаком с различными сложными теоретико-множественными определениями бесконечности, но не вижу им хорошего применения в теории вероятностей. См. ниже.)

При обычном способе записи вероятности лежат в диапазоне от 0 до 1. Монета может иметь вероятность выпадения решки 0,5, а синоптик может оценить вероятность завтрашнего дождя в 0,9.

Однако это не единственный способ представления вероятностей. Например, вы можете преобразовать вероятности в шансы по формуле O = (P∕(1 - P)). Таким образом, вероятность в 50% превратится в шансы 0,5/0,5, или 1 (обычно записывается как 1:1), в то время как вероятность 0,9 превратится в шансы 0,9/0,1, или 9 (обычно записывается как 9:1). Чтобы перевести шансы обратно в вероятности, используется формула P = (O∕(1 + O)), и этот переход абсолютно обратим, так что данное преобразование представляет собой изоморфизм — взаимно однозначное двустороннее отображение. Таким образом, вероятности и шансы изоморфны, и вы можете использовать то или другое в зависимости от удобства.

Например, шансы удобнее использовать при байесовском обновлении. Допустим, я бросаю шестигранный кубик: если выпадает любая грань, кроме единицы, вероятность услышать звонок составляет 10%, но если выпадает единица, вероятность услышать звонок равна 20%. Я бросаю кубик и слышу звонок. Каковы шансы, что на кубике выпала единица? Что ж, априорные шансы равны 1:5 (что соответствует вещественному числу 1/5 = 0,20), а отношение правдоподобия составляет 0,2:0,1 (соответствует вещественному числу 2). Я могу просто перемножить их и получить апостериорные шансы 2:5 (что соответствует вещественному числу 2/5, или 0,40). Затем при желании я могу перевести их обратно в вероятность и получить (0,4∕1,4) = 2/7 = ~29%.

Таким образом, с шансами проще работать при байесовском обновлении — если использовать вероятности, придётся применять теорему Байеса в её сложном варианте. Зато вероятности удобнее для ответов на вопросы вроде: «Если я брошу шестигранный кубик, какова вероятность, что выпадет число от 1 до 4?». Вы можете сложить вероятности 1/6 для каждой грани и получить 4/6, но вы не можете просто сложить отношения шансов 0,2 для каждой грани и получить отношение шансов 0,8.

Зачем я всё это говорю? Чтобы показать, что «отношения шансов» — это столь же законный способ отображения неопределенности на вещественные числа, что и «вероятности». Отношения шансов удобнее для одних операций, вероятности — для других. Знаменитое доказательство, известное как теорема Кокса (вместе с различными её расширениями и уточнениями), показывает, что все способы представления неопределенности, подчиняющиеся некоторым разумно звучащим ограничениям, в итоге оказываются изоморфными друг другу.

Почему важно, что отношения шансов столь же законны, как и вероятности? Вероятности в их обычном виде лежат в диапазоне от 0 до 1, и кажется, что и 0, и 1 должны быть легко достижимыми величинами — ведь легко увидеть 1 зебру или 0 единорогов. Но когда вы переводите вероятности в отношения шансов, 0 переходит в 0, а вот 1 переходит в положительную бесконечность. И теперь абсолютная истина уже не кажется столь легкодостижимой.

Способ представления, который делает байесовское обновление ещё проще, — это логарифм шансов (именно так рекомендовал думать о вероятностях Э. Т. Джейнс). Допустим, априорная вероятность некоторого утверждения составляет 0,0001 — это соответствует логарифму шансов примерно в -40 децибел. Затем вы сталкиваетесь со свидетельством, которое кажется в 100 раз более вероятным, если утверждение истинно, нежели если оно ложно. Это даёт 20 децибел свидетельства. Таким образом, апостериорные шансы составят около -40 дБ + 20 дБ = -20 дБ, то есть апостериорная вероятность равна ~0,01.

При переводе вероятностей в логарифмы шансов 0 переходит в отрицательную бесконечность, а 1 — в положительную бесконечность. Теперь и бесконечная уверенность, и бесконечная невероятность кажутся чуть более недосягаемыми.

Но при переходе к отношениям шансов значения 0,502 и 0,503 переходят в 1,008 и 1,012, а 0,9999 и 0,99999 — в 9 999 и 99 999. А при переходе к логарифмам шансов 0,502 и 0,503 превращаются в 0,03 децибела и 0,05 децибела, в то время как 0,9999 и 0,99999 — в 40 децибел и 50 децибел.

Когда вы работаете с логарифмами шансов, расстояние между любыми двумя степенями неопределённости равно количеству свидетельств, которое потребуется, чтобы перейти от одной к другой. То есть логарифм шансов даёт нам естественную меру расстояния между степенями уверенности.

Использование логарифма шансов выявляет тот факт, что достижение бесконечной уверенности требует бесконечно сильных свидетельств, точно так же как бесконечная абсурдность требует бесконечно сильных опровергающих свидетельств.

Более того, у всевозможных стандартных теорем теории вероятностей возникают особые случаи, если попытаться подставить в них единицы или нули — например, когда вы пытаетесь провести байесовское обновление для наблюдения, которому присвоили вероятность 0.

Поэтому я предлагаю считать, что 1 и 0 не входят в множество вероятностей — точно так же как отрицательная и положительная бесконечности, которые не подчиняются аксиомам поля, не входят в множество вещественных чисел.

Главная причина, почему это расстроило бы специалистов по теории вероятностей, заключается в том, что нам пришлось бы заново выводить теоремы, ранее полученные в предположении, что мы можем проводить маргинализацию совместной вероятности, складывая все её части так, чтобы в сумме они давали 1.

Однако в реальном мире, когда вы бросаете игральную кость, нет буквально никакой бесконечной уверенности в том, что выпадет какое-то число от 1 до 6. Кость может встать на ребро, в неё может попасть метеорит, или Тёмные Владыки Матрицы могут протянуть руку и написать «37» на одной из граней.

Если бы вы ввели магический символ для обозначения «всех возможностей, которые я не учёл», то вы могли бы провести маргинализацию по событиям, включая этот магический символ, и прийти к магическому символу «T», обозначающему бесконечную уверенность.

Но я предпочёл бы задаться вопросом, нельзя ли как-то вывести теорему без использования магических символов с особым поведением. Это было бы куда элегантнее. Подобно тому как существуют математики, отказывающиеся верить в закон исключённого третьего или в бесконечные множества, мне хотелось бы быть специалистом по теории вероятностей, который не верит в абсолютную уверенность.

В некоторых отзывах на эссе «Лотереи: пустая трата надежды» меня упрекали за то, что я осмелился критиковать чужие решения: если кто-то другой решает покупать лотерейные билеты, кто я такой, чтобы возражать? Это частный случай более общего вопроса: какое мне дело до того, что кто-то другой предпочитает верить в то, что приятно, а не в то, что истинно? Разве каждый из нас не может сам решать, заботит ли его истина?

Очевидный колкий ответ звучит так: «А почему вас волнует, волнует ли меня, волнует ли кого-то другого истина?» Довольно непоследовательно, если ваша функция полезности содержит отрицательный член, зависящий от чужой функции полезности, которая, в свою очередь, содержит член, зависящий от функции полезности кого-то ещё. Но это лишь колкий ответ, а не настоящий ответ.

Что ж, вот мой ответ: я считаю правильным и естественным для себя как человека интересоваться будущим и тем, во что превратится человеческая цивилизация. Один из этих интересов — стремление человечества к истине, которое медленно крепло из поколения в поколение (ведь наука существовала не всегда). Я хочу укрепить это стремление ещё сильнее в этом поколении. Это моё желание для Будущего. Ибо все мы — игроки на этом огромном игровом поле, признаём мы эту ответственность или нет.

И это делает вашу рациональность моим делом.

Опасная ли это мысль? Да, и не просто в каком-то приятно-будоражащем смысле «опасная». Людей сжигали заживо просто потому, что какой-то жрец решал, что они думают не так, как следовало. Идея сжигать людей заживо за то, что они «думают неправильно», — это же отвратительный ход мысли, правда? Вы бы не хотели, чтобы люди так думали, ведь это же омерзительно. Люди, которые так думают... ну, с ними надо что-то делать...

Согласен! Вот моё предложение: давайте спорить с плохими идеями, но не будем сжигать их носителей.

Силлогизм, которого мы хотим избежать, звучит так: «Я считаю, Сьюзи сказала что-то плохое, следовательно, Сьюзи нужно сжечь». Некоторые пытаются избежать этого силлогизма, объявляя недопустимой саму мысль о том, что Сьюзи сказала что-то плохое. Никто никогда не должен никого судить; всякий, кто судит, совершает ужасный грех и должен быть публично пригвождён к позорному столбу.

Что касается меня, я отвергаю «следовательно». Мой силлогизм выглядит так: «Я считаю, Сьюзи сказала что-то неверное, следовательно, я буду спорить с её словами, но не стану сжигать её или пытаться заставить её замолчать силой или запретами...»

Все мы — игроки на этом огромном игровом поле; и один из моих интересов, касающихся Будущего, состоит в том, чтобы сделать игру честной. Парадоксальная идея, лежащая в основе науки, заключается в том, что фактические разногласия должны разрешаться с помощью экспериментов и математики, а не насилия и указов. Эту поразительную мысль можно распространить и за пределы науки — на честную борьбу за всё Будущее. Вы должны побеждать, убеждая людей, и вам не должно быть позволено сжигать их. Это один из принципов Рациональности, которому я присягнул на верность.

Люди, выступающие за релятивизм или эгоизм, не кажутся мне истинными релятивистами или эгоистами. Будь они настоящими релятивистами, они бы не судили. Будь они действительно эгоистами, они бы просто зарабатывали деньги, а не спорили жарко с другими. Скорее, они выбрали сторону Релятивизма, цель которого на этом огромном игровом поле — не давать игрокам — всем игрокам — выносить определённые суждения. Или же они выбрали сторону Эгоизма, чья цель — сделать всех игроков эгоистами. И дальше они играют в эту игру, честно или бесчестно — в меру своей мудрости.

Если истинные релятивисты или эгоисты и существуют, мы о них не слышим — они молчат и остаются вне игры.

Мне не может быть всё равно, как вы думаете, потому что — а я просто не могу видеть Вселенную иначе — каждый раз, когда человек отворачивается от истины, разворачивающаяся история человечества становится чуточку темнее. Во многих случаях это лишь крошечная тьма. (От этого не всегда кто-то страдает.) Ложь самому себе наедине со своими мыслями не омрачает историю человечества так сильно, как публичная ложь или сжигание людей. И всё же какая-то часть меня не может не скорбеть. И до тех пор, пока я не пытаюсь вас сжечь, а лишь спорю с вашими идеями, я считаю правильным и естественным для себя как человека заботиться о своих ближних. Эту позицию я тоже отстаиваю на пути в Будущее.

Когда заходит речь о политике, у людей мутится разум. Эволюционные причины этого настолько очевидны, что на них стоит остановиться подробнее: в среде наших предков политика была вопросом жизни и смерти. А также секса, богатства, союзников и репутации... Сегодня, когда вы вступаете в спор о том, стоит ли «нам» повышать минимальную зарплату, вы задействуете адаптивные механизмы, сформированные в первобытной среде, где из-за того, что вы оказались не на той стороне спора, вас могли убить. Оказавшись же на правильной стороне, вы могли прикончить своего ненавистного соперника!

Если вы хотите проиллюстрировать какую-то мысль о науке или рациональности, мой совет: по возможности избегайте примеров из современной политики. Если же ваша мысль непосредственно касается политики, поговорите о Людовике XVI времен Великой французской революции. Политика — важная сфера, к которой каждый из нас должен применять свою рациональность, но это ужасная сфера для того, чтобы рациональности учиться или обсуждать её, если только все участники дискуссии уже не обладают ею в полной мере.

Политика — это продолжение войны другими средствами. Аргументы — это солдаты. Стоит вам понять, на чьей вы стороне, как вы обязаны поддерживать любые аргументы этой стороны и атаковать любые аргументы, которые кажутся выгодными противнику. Иначе это всё равно что нанести удар в спину собственным солдатам — оказать помощь и поддержку врагу. Люди, которые в своей профессиональной научной деятельности хладнокровно и беспристрастно взвешивают все стороны вопроса, могут внезапно превратиться в выкрикивающих лозунги зомби, как только у этого вопроса появляется «синяя» или «зелёная» позиция.

В сфере искусственного интеллекта, особенно в области немонотонных рассуждений, есть классическая задача: «Все квакеры — пацифисты. Все республиканцы — не пацифисты. Никсон — квакер и республиканец. Является ли Никсон пацифистом?»

Какой, скажите на милость, был смысл выбирать именно такой пример? Разжечь политические страсти читателей и отвлечь их от главного вопроса? Сделать так, чтобы республиканцы чувствовали себя лишними на курсах по искусственному интеллекту, и отбить у них желание идти в эту область? (И нет, я не республиканец. И не демократ.)

Зачем кому-то выбирать столь отвлекающий пример для иллюстрации немонотонных рассуждений? Вероятно, потому что автор просто не удержался от возможности знатно поддеть этих ненавистных «зелёных». Это ведь так приятно — от души врезать оппоненту, понимаете? Удержаться от этого — всё равно что пытаться устоять перед шоколадным печеньем.

Но, как и в случае с шоколадным печеньем: далеко не всё, что приносит удовольствие, идёт на пользу.

Я не говорю, что мы должны быть аполитичными или что нам следует принять википедийный идеал нейтральной точки зрения. Но старайтесь по возможности воздерживаться от этих язвительных выпадов. Если ваша тема действительно связана с попытками запретить преподавание эволюции в школьной программе, то, конечно, говорите об этом — но не возлагайте вину прямым текстом на всю Республиканскую партию; некоторые из ваших читателей могут быть республиканцами, и они могут считать, что проблема в нескольких паршивых овцах, а не во всей партии. Как и в случае с нейтральной точкой зрения в Википедии, совершенно неважно, действительно ли (по вашему мнению) Республиканская партия виновата. Просто для духовного роста сообщества будет лучше обсуждать подобные вопросы, не прибегая к делению по цветам.

Робин Хансон предложил открывать магазины, где можно было бы продавать запрещенные товары. В пользу такого подхода есть немало отличных аргументов: неотъемлемое право на личную свободу, карьерный стимул чиновников запрещать всё подряд, тот факт, что законодатели предвзяты ничуть не меньше обычных людей. Но даже при всём этом (ответил я), какая-нибудь бедная, честная, не слишком образованная мать пятерых детей обязательно придет в такой магазин, купит от своего артрита «Сернокислотный напиток доктора Шарлатана» и умрет, оставив сирот плакать на национальном телевидении.

Я всего лишь сделал простое фактическое наблюдение. Почему некоторые люди подумали, что это аргумент в пользу регулирования?

В вопросах простых фактов (например, возникла ли жизнь на Земле в результате естественного отбора) вполне естественно ожидать, что спор окажется односторонним. Сами факты либо обстоят так, либо иначе, и так называемый «баланс доказательств» должен это отражать. В самом деле, согласно байесовскому определению свидетельства, «сильное свидетельство» — это как раз такое свидетельство, которое мы ожидаем обнаружить только на одной стороне спора.

Но нет причин полагать, что сложные действия со множеством последствий должны обладать этим свойством односторонности. Почему люди, кажется, хотят, чтобы дебаты о политических решениях были односторонними?

Политика — убийца разума. Аргументы — это солдаты. Как только вы определяетесь, на чьей вы стороне, вы обязаны поддерживать все аргументы этой стороны и атаковать все аргументы, которые кажутся выгодными противнику; иначе это всё равно что наносить удар в спину собственным солдатам. Если вы остаетесь в рамках этой схемы, дебаты о политических решениях тоже будут казаться вам односторонними: издержки и недостатки предпочитаемого вами решения превратятся во вражеских солдат, которых нужно атаковать любыми средствами.

Стоит также помнить о родственной ошибке мышления — вере в то, что путь Глубокой Мудрости заключается в поиске идеального баланса ровно посередине между любыми двумя политическими позициями, которым достается больше всего эфирного времени. Политическое решение вполне может иметь непропорциональные издержки или выгоды. Если бы политические вопросы не склонялись в ту или иную сторону, мы просто не смогли бы принимать по ним решения. Но людям также свойственно отрицать любые издержки одобряемого ими решения или любые выгоды неодобряемого; поэтому люди склонны думать, что баланс издержек и выгод смещен гораздо сильнее, чем на самом деле.

Если разрешить магазины, где продаются запрещенные в обычных условиях товары, какая-нибудь бедная, честная, малообразованная мать пятерых детей купит то, что ее убьет. Это предсказание фактического последствия, и как фактический вопрос оно выглядит довольно однозначным — здравомыслящий человек должен без труда признать это правдой независимо от того, какую позицию он занимает по данному политическому вопросу. Вы можете также думать, что запреты лишь делают товары дороже, что регуляторы будут злоупотреблять властью или что ее личная свобода важнее вашего желания вмешиваться в ее жизнь. Но факт остается фактом: она всё равно умрёт.

Мы живем в несправедливой вселенной. Как и все приматы, люди остро реагируют на кажущуюся несправедливость; поэтому этот факт вызывает у нас стресс. Есть два популярных способа справиться с возникающим когнитивным диссонансом. Во-первых, можно изменить свой взгляд на факты — отрицать, что несправедливые события имели место, или переписать историю так, чтобы она казалась справедливой. (Этому способствуют эвристика аффекта и вера в справедливый мир.) Во-вторых, можно изменить свою мораль — отрицать, что эти события несправедливы.

Некоторые либертарианцы могут сказать: если вы заходите в «магазин запрещенных товаров», минуя четкие предупреждающие вывески с надписью «ТОВАРЫ В ЭТОМ МАГАЗИНЕ МОГУТ ВАС УБИТЬ», и покупаете то, что вас убивает, то это ваша собственная вина, и вы это заслужили. Если бы это было моральной истиной, то в существовании магазинов запрещенных товаров не было бы никаких минусов. Это было бы не просто чистой выгодой, это был бы односторонний размен без каких-либо издержек.

Другие утверждают, что регулирующие органы можно научить выбирать рационально и в соответствии с интересами потребителей; если бы факты обстояли именно так, то (с их моральной точки зрения) у регулирования не было бы никаких минусов.

Нравится вам это или нет, но интеллект — это лотерея при рождении, — хотя это один из тех случаев, когда несправедливость вселенной настолько вопиюща, что многие предпочитают отрицать факты. Экспериментальные доказательства чисто генетического компонента в пределах 0,6–0,8 ошеломляюще убедительны, но даже если отрицать это, вы всё равно не выбирали ни то, как вас будут воспитывать родители, ни свои первые школы.

Меня воспитали в убеждении, что отрицание реальности — морально недопустимо. Если бы я тешил себя иллюзиями о том, что «Сернокислотный напиток» принесет мне пользу, я бы совершал то, о чем меня предупреждали и что меня учили считать неприемлемым. Некоторые люди рождаются в таких условиях — мы не будем обсуждать их гены, потому что эта часть слишком уж несправедлива, — где местный шаман говорит им, что иметь веру — это правильно, а быть скептиком — неправильно. Из самых лучших побуждений они следуют этому совету и умирают. В отличие от вас, их не воспитывали в убеждении, что люди несут личную ответственность за свой выбор идти на поводу у общества. Неужели вы правда думаете, что вы настолько умны, что были бы настоящим научным скептиком, даже родись вы в 500 году н. э.? Да, лотерея рождения существует, во что бы вы ни верили относительно генов.

Заявлять: «Люди, покупающие опасные товары, заслуживают страданий!» — это не проявление сурового реализма. Это способ отказаться жить в несправедливой вселенной. Настоящий суровый реализм — это сказать: «Да, смерть от серной кислоты ужасна и мучительна, и нет, та мать пятерых детей её не заслужила, но мы всё равно оставим эти магазины открытыми, потому что мы провели анализ издержек и выгод». Можете представить себе политика, который говорит нечто подобное? Я тоже не могу. Но в той мере, в какой экономисты имеют возможность влиять на государственную политику, было бы неплохо, если бы они могли хотя бы думать так про себя — или даже писать об этом в научных статьях, облекая свои мысли в соответствующую многосложную наукообразную заумь, чтобы пресса не растащила их на цитаты.

Я не считаю, что если кто-то делает глупый выбор и погибает, это повод для радости. Я считаю это трагедией. Спасать людей от последствий их собственных поступков — далеко не всегда означает помогать им; но моя моральная граница проходит перед смертным приговором. Если ты мертв, ты уже не можешь учиться на своих ошибках.

К сожалению, вселенная со мной не согласна. Посмотрим, кто из нас устоит, когда всё закончится.

Богиню Правосудия обычно изображают с весами. Весы обладают тем свойством, что всё, что тянет вниз одну чашу, поднимает другую. Благодаря этому за ходом спора очень легко следить. Но обычно это оказывается грубым искажением реальности.

В человеческом общении существует естественная склонность воспринимать дискуссию как форму борьбы, продолжение войны или спорт; а в спорте нужно лишь следить за тем, сколько очков набрала каждая команда. Сторон всего две, и каждое очко, набранное против одной стороны, — это очко в пользу другой. Каждый зритель мысленно ведёт подсчёт того, сколько очков каждый оратор зарабатывает против соперника. В конце дебатов оратор, набравший больше очков, очевидно, становится победителем; а значит, всё, что он говорит, должно быть правдой, а всё, что говорит проигравший, — неверным.

В исследовании «Эвристика аффекта в оценках рисков и выгод» изучалось, смешивают ли испытуемые свои оценки потенциальной выгоды технологии (например, ядерной энергетики) и её потенциальных рисков в единое общее хорошее или плохое отношение к ней.¹ Представьте, что сначала я говорю вам, что определенный тип ядерного реактора производит меньше радиоактивных отходов, чем конкурирующие конструкции. Но затем я добавляю, что этот реактор менее стабилен, чем альтернативные варианты, и риск расплавления активной зоны выше, если одновременно произойдет достаточное количество сбоев.

Если вероятность расплавления реактора выше, это кажется «очком против» реактора или «очком против» того, кто выступает за его строительство. А если реактор производит меньше отходов, то это «очко в пользу» реактора или его строительства. Противостоят ли эти два факта друг другу? Нет. В реальном мире — нет. Эти два факта могут приводиться разными сторонами в одной и той же дискуссии, но логически они не связаны; факты не знают, на чьей они стороне.

Если пассивная безопасность реактора (то, что он не перейдет в сверхкритическое состояние, даже если выйдут из строя внешние системы охлаждения и тому подобное) является физическим фактом его конструкции, это не означает, что реактор обязательно будет производить меньше отходов или вырабатывать более дешевую электроэнергию. Всё это было бы здорово, но это разные достоинства. Объём производимых реактором отходов обусловлен одними его свойствами. Другие же физические свойства делают ядерную реакцию более нестабильной. Даже если здесь играют роль одни и те же особенности конструкции, вам всё равно нужно отдельно оценивать вероятность расплавления активной зоны и ожидаемый годовой объем производимых отходов. Это два разных физических вопроса с двумя разными фактическими ответами.

Однако исследования, подобные упомянутому выше, показывают, что люди склонны судить о технологиях — и о многих других проблемах — на основе общего хорошего или плохого ощущения. Если сказать людям, что конструкция реактора производит меньше отходов, они оценивают вероятность его расплавления как более низкую. А это означает неверные ответы на физические вопросы, имеющие вполне определённые фактические ответы, — ведь вы смешиваете логически независимые вопросы и относитесь к фактам как к солдатам на войне, думая, что любого бойца с одной стороны можно выставить против любого бойца с другой.

Весы — вовсе не такой уж неподходящий инструмент для Богини Правосудия, если она расследует сугубо фактический вопрос виновности или невиновности. Либо Джон Смит убил Джона Доу, либо нет. Э. Т. Джейнс учит нас, что все байесовские свидетельства представляют собой потоки вероятностей `между` гипотезами; не существует такого понятия, как свидетельство, которое просто «поддерживает» или «опровергает» одну-единственную гипотезу, — оно делает это лишь в той мере, в какой другие гипотезы справляются хуже или лучше. Пока Богиня Правосудия исследует `один-единственный`, сугубо `фактический` вопрос с `бинарным` пространством ответов, весы были бы вполне подходящим инструментом. Но если Юстиции приходится рассматривать более сложные проблемы, ей следует выпустить из рук либо весы, либо меч.

Не всякие споры сводятся к простому движению чаш вверх или вниз. Госпожа Рациональность носит с собой блокнот, куда записывает все факты, которые не стоят ни на чьей стороне.

Искажение соответствия — это склонность делать выводы об уникальных и устойчивых качествах человека на основании его поведения, которое может быть полностью объяснено ситуацией, в которой оно происходит.

— Джилберт и Мелоун¹

Мы склонны видеть слишком прямую связь между чужими поступками и внутренними качествами людей. Мы видим необычный характер, в точности соответствующий необычному поведению, вместо того чтобы задаться вопросом о реальных или воображаемых ситуациях, способных объяснить это поведение. Мы строим гипотезы о мутантах.

Когда кто-то действительно задевает нас — совершает поступок, который мы (справедливо или нет) осуждаем, — тогда, как я замечаю, ошибка соответствия проявляется вдвойне. Похоже, существует очень сильная тенденция объяснять злые поступки мутантской, порочной натурой Врага. Не из соображений морали, а чисто с точки зрения априорной вероятности нам следовало бы спросить: что Враг может думать о своей ситуации, чтобы его поведение казалось менее нелепым? Это позволило бы нам предположить менее исключительный характер и тем самым взвалить на себя меньшее бремя невероятности.

11 сентября 2001 года девятнадцать мусульман угнали четыре реактивных авиалайнера, заведомо идя на самоубийство, чтобы навредить Соединенным Штатам Америки. Как вы думаете, почему они это сделали? Потому что они видели в США маяк свободы для всего мира, но родились с мутантской натурой, заставившей их возненавидеть свободу?

Будем реалистами, большинство людей не строят сюжет своей жизни так, чтобы быть в ней злодеями. Каждый — герой собственной истории. История Врага, какой её видит сам Враг, не выставляет его в дурном свете. Если вы попытаетесь приписать ему мотивы, которые выставляли бы Врага негодяем, вы в корне ошибётесь в том, что действительно происходит в его голове.

Но политика — это убийца разума. Споры — это война, аргументы — солдаты. Как только вы понимаете, на чьей вы стороне, вы обязаны поддерживать все аргументы этой стороны и атаковать все аргументы, которые, как кажется, играют на руку противнику; иначе это всё равно что наносить удар в спину своим же солдатам.

Если бы у Врага действительно была злая натура, это было бы аргументом в пользу вашей стороны. А любой аргумент в пользу вашей стороны должен быть поддержан, каким бы глупым он ни был, — иначе вы ослабляете натиск где-то на линии фронта. Все стремятся превзойти ближнего своего в патриотическом обличении, и никто не смеет перечить. Вскоре у Врага вырастают рога, крылья летучей мыши, появляется огненное дыхание и клыки, с которых капает разъедающий яд. Если вы станете отрицать любой из этих аспектов, руководствуясь чисто фактическими соображениями, вы выступаете на стороне Врага; вы предатель. Очень немногие поймут, что вы не защищаете Врага, а просто защищаете истину.

Если бы для совершения чудовищных вещей требовалось быть мутантом, история человечества выглядела бы совсем иначе. Мутанты были бы редкостью.

Или, возможно, за этим кроется страх, что понимание ведёт к всепрощению. Легче расстреливать злых мутантов. Гораздо более воодушевляющий боевой клич — кричать «Умри, злобная мразь!» вместо «Умрите, люди, которые могли бы быть точно такими же, как я, но выросли в других условиях!». Вы можете почувствовать вину, убивая тех, кто не был абсолютной тьмой.

На мой взгляд, это похоже на глубоко укоренившуюся тоску по таким однобоким дебатам о выборе стратегии, в которых наилучшее решение не имеет никаких недостатков. Если армия переходит границу или на вас с ножом бежит сумасшедший, варианты действий таковы: (а) защищаться или (б) лечь и умереть. Если вы защищаетесь, вам, возможно, придется убить. Если вы убьете того, кто в другом мире мог бы стать вашим другом, — это трагедия. И это действительно трагедия. Другой вариант, лечь и умереть, — тоже трагедия. Почему обязательно должен быть вариант без трагедии? Кто сказал, что лучшее из возможных решений не должно иметь недостатков? Если кто-то должен умереть, пускай это будет тот, кто применил силу первым, — чтобы сдержать насилие в будущем и тем самым свести к минимуму общее число смертей.

Если у Врага самый обычный характер и он действует исходя из убеждений о своей ситуации, при которых насилие было бы типичной человеческой реакцией, это вовсе не означает, что его убеждения соответствуют действительности. Это не значит, что они оправданы. Это значит, что вам придется застрелить того, кто считает себя героем собственной истории, — и в его романе главный герой погибнет на восьмидесятой странице. Это трагедия, но она лучше альтернативной трагедии. Это выбор, который каждый день делает любой полицейский, чтобы наши аккуратные маленькие мирки не растворились в хаосе.

Когда вы точно оцениваете психологию Врага — когда вы знаете, что у него на самом деле на уме, — это знание не будет ощущаться как смачный удар по противоположной стороне. Оно не подарит вам теплого чувства праведного гнева. Оно не принесет вам довольства собой. Если от вашей оценки вам становится невыносимо грустно, возможно, вы видите мир таким, какой он есть на самом деле. Изредка точная оценка может заставить пробежать по вашей спине дрожь неподдельного ужаса — как при столкновении с настоящими психопатами или неврологически здоровыми людьми, чьи убеждения полностью разрушили их рассудок (саентологами или воспитанниками «Лагеря Иисуса»).

Так давайте скажем прямо: угонщики 11 сентября не были злыми мутантами. Они не ненавидели свободу. Они тоже были героями собственных историй и умерли за то, что считали правильным, — за истину, справедливость и исламский путь. То, что угонщики видели себя такими, не означает, что их убеждения были истинными. То, что угонщики видели себя такими, не означает, что мы должны признать их действия оправданными. То, что угонщики видели себя такими, не означает, что пассажиры рейса 93 United должны были отойти в сторону и позволить этому случиться. Но это означает, что в другом мире, если бы они выросли в другой среде, эти угонщики могли бы стать полицейскими. И это действительно трагедия. Добро пожаловать на Землю.

Он очистил экран и принялся набирать комбинации. Страница за страницей сменяли друг друга — свидетельства людей, утверждавших, будто они видели таинственные диски, и каждый следующий рассказ был фантастичнее предыдущего.

— Стандартный метод заглушения, — ухмыльнулся Веркан Валл. — Я слышал лишь немного разговоров о «летающих тарелках», да и то в шутку. В культуре подобного типа всегда можно дискредитировать одну правдивую историю, запустив параллельно десяток других, очевидно вымышленных.

— Г. Бим Пайпер, «Полицейская операция»¹

Сценарий 1: Барри — известный геолог. Чарльз — четырнадцатилетний правонарушитель с длинным списком арестов и периодическими психотическими эпизодами. Барри безапелляционно заявляет Артуру некое контринтуитивное утверждение о горных породах, и Артур оценивает его вероятность в 90%. Затем Чарльз делает столь же контринтуитивное и безапелляционное заявление о горных породах, и Артур оценивает его вероятность в 10%. Очевидно, что Артур принимает во внимание авторитет говорящего, решая, верить ли его утверждениям.

Сценарий 2: Дэвид делает контринтуитивное заявление о физике и дает Артуру подробное объяснение аргументов, включая ссылки. Эрни делает столь же контринтуитивное заявление, но приводит неубедительный аргумент, требующий нескольких допущений на веру. И Дэвид, и Эрни утверждают, что это лучшее объяснение, которое они в принципе могут дать (кому бы то ни было, а не только Артуру). Артур присваивает утверждению Дэвида вероятность 90%, выслушав его объяснение, но присваивает лишь 10%-ную вероятность утверждению Эрни.

Может показаться, что эти два сценария примерно симметричны: оба предполагают учет полезных свидетельств — будь то сильный авторитет против слабого или сильный аргумент против слабого.

Но теперь предположим, что Артур просит Барри и Чарльза представить полные технические обоснования со ссылками; и что Барри и Чарльз представляют одинаково хорошие обоснования, а Артур проверяет ссылки, и они подтверждаются. Затем Артур спрашивает Дэвида и Эрни об их квалификации, и оказывается, что у Дэвида и Эрни примерно одинаковая квалификация — может быть, они оба клоуны, а может, оба физики.

Если предположить, что Артур обладает достаточными знаниями, чтобы понять все технические аргументы (иначе они для него — просто впечатляющий шум), то кажется, что Артур должен видеть у Дэвида огромное преимущество в правдоподобности перед Эрни, в то время как преимущество Барри перед Чарльзом будет в лучшем случае незначительным.

В самом деле, если технические аргументы достаточно хороши, преимущество Барри перед Чарльзом, возможно, даже не стоит учитывать. Хороший технический аргумент — это тот, который устраняет необходимость полагаться на личный авторитет говорящего.

Точно так же, если мы действительно верим Эрни, что приведенный им аргумент — это лучший аргумент, который он мог предоставить, и что он включает в себя все логические шаги, которые проделал Эрни, и все подтверждения, которые он принял во внимание (включая ссылки на любые авторитеты, к которым сам Эрни мог прислушиваться), тогда мы можем практически проигнорировать любую информацию о квалификации Эрни. Эрни может быть физиком или клоуном, это не должно иметь значения. (Опять же, это предполагает, что у нас достаточно технических способностей, чтобы разобраться в аргументе. В противном случае Эрни просто произносит мистические слоги, и то, «верим» ли мы этим слогам, в значительной степени зависит от его авторитета.)

Таким образом, между аргументом и авторитетом, похоже, существует асимметрия. Если нам известен авторитет, нам всё ещё интересно услышать аргументы; но если мы полностью знаем аргументы, из авторитета нам уже почти нечего почерпнуть.

Очевидно (говорит новичок), авторитет и аргумент — это принципиально разные виды свидетельств, и эту разницу невозможно объяснить с помощью скучно-чистых методов байесовской теории вероятностей. Ведь хотя сила свидетельств — 90% против 10% — в обоих случаях одинакова, при объединении они ведут себя по-разному. Как мы это объясним?

Вот половина технической демонстрации того, как представить эту разницу в теории вероятностей. (Остальное вы можете принять под мой личный авторитет или посмотреть в источниках).

Если P(H|E₁) = 90% и P(H|E₂) = 9%, какова вероятность P(H|E₁,E₂)? Если, узнав, что E₁ истинно, мы присваиваем H вероятность 90%, а узнав, что истинно E₂, — вероятность 9%, то какую вероятность нам следует присвоить H, если мы узнаем, что истинны оба события E₁ и E₂? Исходя из предоставленной информации, это просто невозможно вычислить средствами теории вероятностей. Нет, недостающая информация — это не априорная вероятность H. События E₁ и E₂ могут не быть независимыми друг от друга.

Предположим, что H означает «Мой тротуар скользкий», E₁ — «Мой разбрызгиватель работает», а E₂ — «Сейчас ночь». Тротуар становится скользким через минуту после включения разбрызгивателя и остается таким, пока он не выключится, а сам разбрызгиватель работает десять минут. Таким образом, если мы знаем, что разбрызгиватель включен, вероятность того, что тротуар скользкий, равна 90%. Разбрызгиватель работает в течение 10% ночного времени, поэтому если мы знаем, что сейчас ночь, вероятность того, что тротуар скользкий, составляет 9%. Если же мы знаем, что сейчас ночь и разбрызгиватель включен — то есть знаем оба факта, — вероятность того, что тротуар скользкий, составляет 90%.

Мы можем представить это в виде графической модели следующим образом:

В искусстве рациональности есть дисциплина близости к сути — стремление искать свидетельства, которые находятся как можно ближе к исходному вопросу, чтобы они экранировали как можно больше других аргументов.

Братья Райт говорят: «Наш самолёт полетит». Если вы посмотрите на их авторитет (велосипедные мастера, которые по совместительству оказались отличными физиками-любителями), то сравните их авторитет с авторитетом, скажем, лорда Кельвина и обнаружите, что лорд Кельвин — куда больший авторитет.

Если вы потребуете показать расчёты братьев Райт и сможете в них разобраться, а затем потребуете показать расчёты лорда Кельвина (которых у него, скорее всего, нет вовсе, кроме его собственного неверия), то авторитет отойдёт на второй план.

Если же вы своими глазами увидите, как самолёт летит, сами расчёты во многих отношениях утратят значение, а авторитет Кельвина даже не будет стоить рассмотрения.

Чем прямее ваши аргументы относятся к вопросу, без промежуточных выводов — чем ближе наблюдаемые узлы к запрашиваемому узлу в Великой Паутине Причинности — тем сильнее свидетельство. Теорема о таких причинно-следственных графах гласит, что вы никогда не сможете получить больше информации из далёких узлов, чем из строго более близких, которые экранируют далёкие.

Джерри Кливер сказал: «Вас губит не то, что вы не смогли применить какой-то высокоуровневый, тонкий, сложный приём. Вас губит невнимание к основам. То, что вы не следите за мячом»¹.

Точно так же, как спорить о физике лучше, чем спорить о регалиях, спорить о физике лучше, чем спорить о рациональности. Кто был более рационален: братья Райт или лорд Кельвин? Если мы можем проверить их расчёты, нам всё равно! Добродетель рационалиста не может напрямую заставить самолёт лететь.

Если вы забудете этот принцип, изучение новых когнитивных искажений пойдёт вам во вред, потому что это отвлечёт вас от более прямых аргументов. Слишком легко заявить, будто оппонент демонстрирует Искажение № 182 из вашего репертуара универсальных обвинений, но вы не сможете разрешить фактический спор без более близких свидетельств. Если у кого-то есть предвзятые причины утверждать, что светит солнце, на улице от этого не темнеет.

Точно так же, как вы не всегда можете поставить эксперимент прямо сегодня, вы не всегда можете прямо сегодня проверить расчёты. Иногда вам не хватает базовых знаний, иногда какая-то информация закрыта, иногда просто нет времени. К сожалению, слишком часто приходится судить о рациональности самого говорящего. Однако делать это всегда следует с чувством пустоты в груди, с ощущением, что чего-то не хватает.

Всякий раз, когда можете, танцуйте как можно ближе к исходному вопросу — прижмитесь к нему вплотную — подойдите достаточно близко, чтобы обнять сам вопрос!

В ответ на мое обсуждение ламп «аплодисменты» кто-то заметил, что мой слог напоминает эссе Джорджа Оруэлла «Политика и английский язык».¹ Мне это польстило. Тем более что я уже размышлял над сегодняшней темой.

Если вы действительно хотите увидеть взгляд художника на рациональность, то почитайте Оруэлла; его труды обязательны к прочтению как для рационалистов, так и для писателей. Оруэлл был не ученым, а писателем; его инструментами были не числа, а слова; его противником была не Природа, а человеческое зло. Если вы хотите сажать людей за решетку на годы без суда, вам придется придумать иной способ выразить это, нежели «Я собираюсь упечь мистера Дженнингса за решетку на годы без суда». Вам нужно затуманить мышление слушателя, помешать ясным образам возмутить его совесть. Вы говорите: «Ненадежные элементы были подвергнуты процедуре альтернативного правосудия».

Оруэлл был яростным противником тоталитаризма и туманного мышления, в которое рядится зло, — именно поэтому труды Оруэлла о языке вошли в классику рационалистической мысли наряду с работами Фейнмана, Сагана или Докинза.

«Писателям советуют избегать использования страдательного залога». Рационалист, чей бэкграунд сформирован исключительно наукой, может не заметить изъяна в предыдущем предложении; но любой, кто хоть немного писал сам, увидит его сразу. Я написал это предложение в страдательном залоге, не сказав вам, кто именно советует авторам избегать страдательного залога. Страдательный залог убирает действующее лицо, оставляя лишь объект действия. «Ненадежные элементы были подвергнуты процедуре альтернативного правосудия» — подвергнуты кем? Что делает эта «процедура альтернативного правосудия»? С помощью достаточного количества статичных отглагольных существительных можно сделать так, чтобы ничто неприятное вообще не происходило.

Научные статьи часто пишутся в страдательном залоге. (Прошу прощения, некоторые ученые пишут свои статьи в страдательном залоге. Не сами же статьи пишутся, и винить в этом некого.) Звучит солиднее сказать: «Испытуемым вводился Прогениторивокс», чем «Я дал каждому студенту баночку с двадцатью таблетками Прогениторивокса и велел принимать по одной каждый вечер, пока они не закончатся». Если убрать ученого из описания, останутся только сверхважные данные. Но на самом деле ученый там есть, а испытуемые — это обычные студенты, и Прогениторивокс не «вводился», а выдавался на руки вместе с инструкциями. Страдательный залог затушевывает реальность.

Судя по комментариям, которые я получаю, кто-нибудь обязательно возразит, что использование страдательного залога в научных статьях вряд ли можно назвать грехом — в конце концов, если подумать об этом, можно понять, что ученый никуда не делся. Логической ошибки здесь вроде как нет. И именно поэтому рационалистам нужно читать Оруэлла, а не только Фейнмана или даже Джейнса.

Нехудожественная литература передает знание, художественная — переживание. Медицинская наука может экстраполировать, что произойдет с человеком без защиты в вакууме. Художественная литература заставит вас пережить это.

Некоторые рационалисты попытаются проанализировать двусмысленную фразу, постараются разглядеть, может ли вообще в ней скрываться какой-то смысл, попробуют выстроить логическую интерпретацию. Они проявят снисходительность, истолкуют сомнения в пользу автора. Писателей же, напротив, учат не давать себе поблажек. Всё, что, как думает аудитория, вы сказали, и есть то, что вы сказали, независимо от ваших намерений; вы не можете спорить с читателями, какими бы изощренными ни были ваши оправдания.

Писатель знает, что читатели не станут останавливаться ни на секунду, чтобы поразмыслить. Художественное переживание — это непрерывный поток первых впечатлений. Писатель-рационалист обращает внимание на то, какое переживание создают слова. Если вы оцениваете публичную рациональность высказывания и при этом рассудочно анализируете слова, перефразируя суждения, примеряя разные смыслы и выискивая крупицы правдоподобия, то упускаете из виду первое впечатление — то, что аудитория видит или, вернее сказать, чувствует.

Романист заметил бы вопиющую неестественность фразы «Испытуемым вводился Прогениторивокс». Какую жизнь может прожить здесь читатель? Это предложение создает лишь далекое ощущение авторитетности, и всё — единственное переживание сводится к чувству, что тебе сообщают нечто достоверное. Романист увидел бы за этим слишком абстрактные существительные, не способные показать, что произошло на самом деле: постдока с баночкой в руке, пытающегося выглядеть строго, и студента, слушающего его с нервной ухмылкой.

Я вовсе не пытаюсь сказать, что научные статьи должны писаться как романы, но рационалист должен осознавать переживания, которые создают слова. Рационалист должен понимать разум и уметь им управлять. Это включает в себя и поток сознания — ту часть вас, которая развертывается в языке. Рационалист должен осознавать реальное, переживаемое на опыте воздействие фраз, выходящее далеко за рамки их чисто пропозициональной семантики.

Или, говоря более прямо: Смысл не оправдывает воздействие!

Мне все равно, какую рациональную интерпретацию вы можете выстроить для лампы «аплодисменты» вроде «ИИ должен разрабатываться посредством демократических процессов». Это не может служить оправданием ее иррационального эффекта — подачи сигнала залу рукоплескать, не говоря уже о ее туманной, предвосхищающей ответ неопределенности.

А вот Оруэлл, обрушивающийся на воздействие клише, на их влияние на сам процесс мышления:

Когда наблюдаешь за каким-нибудь уставшим писакой на трибуне, механически повторяющим привычные фразы — ЗВЕРСТВА, ЗЛОДЕЯНИЯ, ЖЕЛЕЗНАЯ ПЯТА, КРОВАВАЯ ТИРАНИЯ, СВОБОДНЫЕ НАРОДЫ МИРА, СТОЯТЬ ПЛЕЧОМ К ПЛЕЧУ, — часто возникает странное ощущение, что перед тобой не живой человек, а какой-то манекен... Оратор, использующий подобную фразеологию, уже проделал изрядный путь к превращению себя в машину. Из его гортани выходят нужные звуки, но мозг в этом не участвует — в отличие от ситуации, когда он выбирал бы слова сам...

Прежде всего нужно позволить смыслу выбирать слово, а не наоборот. В прозе худшее, что можно сделать со словами, — это сдаться им. Когда вы думаете о конкретном предмете, вы думаете без слов, а затем, если хотите описать то, что мысленно представили, вы, скорее всего, ищете, пока не найдете точные, подходящие слова. Когда же вы думаете о чем-то абстрактном, вы более склонны использовать слова с самого начала, и, если не сделать сознательного усилия, чтобы этому помешать, готовый жаргон хлынет потоком и сделает работу за вас — ценой размывания или даже искажения вашего смысла. Пожалуй, лучше как можно дольше откладывать использование слов и прояснять свой смысл, насколько возможно, с помощью образов и ощущений.

Чарльз Сандерс Пирс вполне мог бы написать этот последний абзац. К Пути может вести не одна дорога.

Джордж Оруэлл видел, как цивилизованный мир скатывается в тоталитаризм, как одна страна за другой поддается или развращается; сапог, наступающий на лицо человека, — навечно, и помните, что это навечно. Вы родились слишком поздно, чтобы застать времена, когда подъем тоталитаризма казался неостановимым, когда одна страна за другой становилась жертвой тайной полиции и громоподобного стука в дверь в полночь, в то время как профессора свободных университетов приветствовали чистки в Советском Союзе как прогресс. Для вас это звучит так же чуждо, как вымысел; вам трудно воспринимать это всерьез. Потому что в вашей ветви времени Берлинская стена пала. И если имя Оруэлла не высечено на одном из тех камней, то оно должно там быть.

Оруэлл видел судьбу человеческого рода и приложил отчаянное усилие, чтобы свернуть его с этого пути. Оружием Оруэлла была ясность слога. Оруэлл знал, что путаный язык — это путаное мышление; он знал, что человеческое зло и путаное мышление переплетаются, словно сопряженные нити ДНК:¹

В наше время политическая речь и политическая публицистика — это по большей части защита того, чему нет оправдания. Такие вещи, как продолжение британского господства в Индии, чистки и депортации в России, сброс атомных бомб на Японию, действительно можно защищать, но только с помощью аргументов слишком жестоких для большинства людей и не вяжущихся с официальными целями политических партий. Поэтому политический язык должен состоять главным образом из эвфемизмов, предвзятых рассуждений и чистейшей туманной неопределенности. Беззащитные деревни бомбят с воздуха, жителей выгоняют в открытое поле, скот расстреливают из пулеметов, хижины поджигают зажигательными пулями — это называется УМИРОТВОРЕНИЕМ . . .

Оруэлл четко понимал цель своей ясности:

Если вы упростите свой язык, вы освободитесь от худших безумств ортодоксии. Вы не сможете говорить ни на одном из предписанных наречий, и когда вы сморозите глупость, ее нелепость будет очевидна даже вам самому.

Сделать нашу глупость очевидной даже для нас самих — в этом сама суть Overcoming Bias.

Зло крадется во тьме, таясь в неосвещенных закоулках разума. Мы оглядываемся назад с ясностью исторической перспективы и плачем, вспоминая спланированный голод времен Сталина и Мао, унесший десятки миллионов жизней. Мы называем это злом, потому что это было совершено по сознательному человеческому умыслу с целью причинить боль и смерть ни в чем не повинным людям. Мы называем это злом из-за отвращения, которое испытываем к нему, оглядываясь назад с ясностью исторической перспективы. Чтобы творящие зло могли избежать естественного противодействия, это отвращение должно оставаться скрытым. Ясности нужно избегать любой ценой. Подобно тому как люди с ясным взором склонны противостоять злу, которое они видят, так и человеческое зло, где бы оно ни находилось, стремится затуманить мышление.

1984 показывает это предельно жестко: главные злодеи Оруэлла — те, кто вырезал и ретушировал фотографии (что основано на реальной практике ретуширования снимков в Советском Союзе). На самом пике тьмы в Министерстве любви О’Брайен пытается пытками заставить Уинстона признать, что дважды два — пять:²

— Помните, — продолжал он, — запись в вашем дневнике: «Свобода — это возможность сказать, что дважды два — четыре»?

— Да, — сказал Уинстон.

О’Брайен поднял левую руку тыльной стороной к Уинстону, спрятав большой палец и растопырив остальные четыре.

— Сколько пальцев я показываю, Уинстон?

— Четыре.

— А если партия говорит, что их не четыре, а пять, тогда сколько?

— Четыре.

Слово оборвалось судорожным вскриком от боли. Стрелка на шкале взлетела к пятидесяти пяти. Все тело Уинстона покрылось потом. Воздух с трудом врывался в его легкие и выходил с глубокими стонами, которые он не мог сдержать, даже стиснув зубы. О’Брайен наблюдал за ним, все так же держа четыре пальца вытянутыми. Он потянул рычаг назад. На этот раз боль утихла лишь незначительно.

Я не перестаю ужасаться тому, что вроде бы умные люди — такие как коллега Робина Хэнсона Тайлер Коуэн — не считают преодоление предвзятости чем-то важным. Но ведь речь идет о вашем разуме. О вашем человеческом интеллекте. Он отличает вас от обезьяны. Он построил этот мир. Вы не считаете важным то, как работает разум? Вы не считаете важными систематические сбои в его работе? Думаете, инквизиция пытала бы ведьм, будь все они идеальными байесианцами?

Тайлер Коуэн, судя по всему, считает, что преодоление предвзятости столь же предвзято, как и сама предвзятость: «Я рассматриваю блог Робина как пример предвзятости и даже как доказательство того, что предвзятость может быть весьма полезной». Я надеюсь, что это лишь результат чрезмерно абстрактного мышления в попытке казаться умным. Неужели Тайлер серьезно считает, что нечувствительность к масштабу ценности человеческих жизней стоит на одной доске со стремлением создавать планы, которые действительно спасут как можно больше людей?

Оруэллу приходилось бороться с похожим отношением — с представлением, будто признание любых различий есть юношеская наивность:

Стюарт Чейз и другие почти договорились до того, что все абстрактные слова лишены смысла, и использовали это как предлог для пропаганды своего рода политического квиетизма. Раз вы не знаете, что такое фашизм, как вы можете бороться с фашизмом?

Возможно, преодоление предвзятости выглядит не слишком захватывающе, если преподносить его как борьбу с всего лишь случайными ошибками. Возможно, труднее увлечься этим, когда нет явного зла, которому нужно противостоять. Так давайте предельно ясно осознаем: там, где в мире существует человеческое зло, где есть жестокость, пытки и преднамеренные убийства, их всегда окутывают когнитивные искажения. И там, где люди с ясным взором противостоят этим искажениям, скрытое зло дает отпор. У истины действительно есть враги. Если бы Overcoming Bias был информационным бюллетенем в старом Советском Союзе, каждого автора и комментатора Overcoming Bias сослали бы в исправительно-трудовые лагеря.

За всю историю человечества движущей силой каждого великого скачка вперед была новая ясность мысли. За исключением немногих природных катастроф, каждое великое бедствие порождалось глупостью. Наш последний враг — мы сами; и это война, и мы — солдаты.

Однажды я попытался рассказать маме о проблеме калибровки экспертов, объясняя: «Вот когда эксперт заявляет, что уверен на 99%, он оказывается прав только в 70% случаев». Затем возникла пауза, во время которой я вдруг осознал, что разговариваю со своей мамой, и поспешно добавил: «Конечно, нужно следить за тем, чтобы применять этот скептицизм беспристрастно, в том числе и к себе, а не просто использовать его как аргумент против всего, с чем ты не согласна...»

И мама ответила: «Ты шутишь? Это же здорово! Буду пользоваться этим постоянно!»

В статье Табера и Лоджа «Мотивированный скептицизм в оценке политических убеждений» описывается подтверждение шести предсказаний:¹

Эффект априорной установки. Испытуемые, имеющие твердое мнение по какому-либо вопросу — даже когда их просят быть объективными, — будут оценивать подтверждающие аргументы более благосклонно, чем опровергающие.

Склонность к опровержению. Испытуемые тратят больше времени и когнитивных ресурсов на дискредитацию противоположных аргументов, нежели подтверждающих.

Склонность к подтверждению. Испытуемые, вольные выбирать источники информации, будут искать подтверждающие, а не опровергающие источники.

Поляризация мнений. Предъявление испытуемым сбалансированного набора аргументов «за» и «против» лишь усиливает их первоначальную поляризацию.

Эффект силы установки. Испытуемые, выражающие более твердые убеждения, будут более склонны к вышеперечисленным искажениям.

Эффект искушенности. Политически эрудированные испытуемые, поскольку они обладают более богатым арсеналом аргументов для оспаривания несовместимых с их позицией фактов и доводов, будут более склонны к вышеперечисленным искажениям.

Если вы изначально иррациональны, то большее количество знаний может вам навредить. Для истинного байесовца информация никогда не имела бы отрицательной ожидаемой полезности. Но люди — не идеальные мастера байесовского анализа; если мы не будем осторожны, мы можем порезаться.

Я видел людей, которым их собственные знания о когнитивных искажениях сильно навредили. У них появляется больше оружия, чтобы оспаривать всё, что им не нравится. И эта проблема — избыток готового оружия — один из главных путей, по которым люди с высокой подвижностью ума оказываются глупыми, в смысле «дисрациональности» Становича.

Вы ведь можете вспомнить людей, подходящих под это описание? Людей с высоким g-фактором, которые в итоге оказываются менее эффективными, потому что они слишком искушенные спорщики? Как вы думаете, поможете ли вы им — сделаете ли их более эффективными рационалистами, — если просто расскажете им о списке классических когнитивных искажений?

Я помню одного человека, который узнал о проблеме калибровки и сверхуверенности. Вскоре после этого он заявил: «Что ж, экспертам доверять нельзя; они так часто ошибаются — как показали эксперименты. И поэтому, прогнозируя будущее, я предпочитаю исходить из того, что исторические тенденции продолжатся так же, как и раньше...» — и пустился в сложную, чреватую ошибками и крайне сомнительную экстраполяцию. Почему-то, когда дело доходило до веры в его собственные излюбленные выводы, все эти искажения и ошибки казались гораздо менее заметными — всплывали в памяти гораздо менее охотно, — чем когда ему нужно было опровергнуть чьи-то чужие аргументы.

Я рассказал ему о проблеме склонности к опровержению и об искушенном споре, и что бы вы думали — в следующий раз, когда я сказал что-то, что ему не понравилось, он обвинил меня в том, что я «искушенный спорщик». Он даже не попытался указать на какой-то конкретный изощренный довод или ошибку — просто покачал головой и грустно вздохнул о том, что я, судя по всему, использую собственный интеллект против него же самого. Он обзавелся еще одним Полностью Универсальным Контраргументом.

Даже само понятие «искушенный спорщик» может стать губительным, если оно слишком легко всплывает в памяти, стоит вам столкнуться с вроде бы умным человеком, который говорит то, что вам не нравится.

Я стараюсь учиться на своих ошибках. В прошлый раз, когда я читал лекцию по эвристикам и когнитивным искажениям, я начал с объяснения общей концепции на примере ошибки конъюнкции и эвристики репрезентативности. Затем я перешел к склонности к подтверждению, склонности к опровержению, искушенному спору, мотивированному скептицизму и другим эффектам установок. Следующие тридцать минут я вдалбливал эту тему, раскрывая ее со всех возможных ракурсов.

Я хотел заинтересовать слушателей этой темой. Что ж, простого описания ошибки конъюнкции и репрезентативности для этого вполне хватило бы. Но предположим, они действительно заинтересовались. Что дальше? Литература о когнитивных искажениях в основном представляет собой когнитивную психологию ради когнитивной психологии. Я должен был высказать своим слушателям все эти суровые предостережения за одну-единственную лекцию, иначе они, скорее всего, никогда бы их не услышали.

Пишу ли я об этом или выступаю устно, теперь я стараюсь никогда не упоминать калибровку и сверхуверенность, не рассказав предварительно о склонности к опровержению, мотивированном скептицизме, искушенных спорщиках и дисрациональности людей с подвижным умом. Прежде всего — не навреди!

Политика — убийца разума. Споры — это война, аргументы — солдаты. Возникает искушение искать способы истолковать любой возможный результат эксперимента так, чтобы он подтвердил вашу теорию, словно вы укрепляете цитадель от любого возможного направления атаки. Но этого вы сделать не можете. Это математически невозможно. Для каждого ожидания свидетельства существует равное ему и противоположное ожидание контрсвидетельства.

Но нет ничего страшного, если ваше заветное убеждение защищено не идеально. Если гипотеза состоит в том, что монета выпадает орлом в 95% случаев, то в одном случае из двадцати вы будете ожидать увидеть нечто, похожее на опровержение. Это нормально. Это естественно. Это даже ожидаемо — при условии, что на каждое противоречащее наблюдение приходится девятнадцать подтверждающих. Вероятностная модель может выдержать удар-другой и всё равно уцелеть, если только эти удары не продолжают сыпаться.

И всё же широко распространено убеждение — особенно на суде общественного мнения, — что истинная теория не может иметь никаких провалов, а ложная — никаких успехов.

Часто можно встретить людей, которые выставляют напоказ единственный факт, который они считают свидетельством, и утверждают, что их теория способна его «объяснить» — как будто это вся поддержка, которая вообще требуется любой теории. Судя по всему, они думают, будто у ложной теории не может быть никаких подтверждающих свидетельств, будто ложная теория не способна соответствовать даже единичному событию. Следовательно, одного-единственного подтверждения достаточно для любой теории.

Лишь немногим менее глупо выставлять единичное вероятностное контрсвидетельство в качестве опровержения, как будто у верной теории не может быть даже малейшего аргумента против неё. Но именно так люди спорили испокон веков, пытаясь разбить все доводы противника и не оставляя ему ни малейшей зацепки. Люди хотят, чтобы споры были односторонними; они привыкли к миру, где их любимые теории не имеют ни йоты противоречащих аргументов. Поэтому допустить хотя бы одно вероятностное контрсвидетельство для них равносильно концу света.

Я прямо-таки знаю, что кто-то в аудитории скажет: «Но вы не можете уступить ни единого пункта, если хотите выигрывать споры в реальном мире! Стоит вам признать существование хоть каких-то контраргументов, как Враг будет твердить о них снова и снова — нельзя позволять Врагу делать это! Вы же проиграете! Что может вызывать больший животный страх, чем это?»

Как бы то ни было. Рациональность нужна не для того, чтобы побеждать в спорах, а для того, чтобы решить, к какой стороне примкнуть. Если вы уже решили, какую сторону защищать, работа рациональности внутри вас уже завершена — хорошо ли, плохо ли. Но как вам самому решить, какую сторону защищать? Если выбор неверной стороны пугает вас до глубины души, пусть даже самую малость, вам лучше учесть все свидетельства.

Рациональность — это не прогулка, а танец. На каждом шаге этого танца ваша нога должна опускаться точно в нужное место, ни левее, ни правее. Сдвигать уверенность вверх с каждой йотой подтверждающего свидетельства. Сдвигать уверенность вниз с каждой йотой опровергающего свидетельства. Да, вниз. Даже при правильной модели, если она не является абсолютно точной, вам иногда придётся корректировать свою уверенность вниз.

Если пара йот свидетельств противоречит вашему убеждению, ничего страшного. Такое иногда случается с вероятностными свидетельствами для неточных теорий. (Если же ошибается точная теория, у вас действительно проблемы!) Просто немного сдвиньте свою уверенность вниз — вероятность, отношение шансов или даже невербальный вес уверенности в вашей голове. Просто сдвиньте немного вниз и ждите новых свидетельств. Если теория верна, подтверждающие свидетельства вскоре появятся, и вероятность снова поползёт вверх. Если же теория неверна, она вам всё равно не нужна.

Проблема черно-белого, бинарного, качественного мышления в том, что любое единичное наблюдение либо уничтожает теорию, либо нет. Когда не допускается ни одного противоречащего наблюдения, это создаёт когнитивный диссонанс, и от него приходится отмахиваться с помощью софистики. А это исключает постепенный прогресс, исключает правильную интеграцию всех свидетельств. Рассуждая вероятностно, мы понимаем, что в среднем верная теория порождает больший вес подтверждений, чем опровержений. И поэтому вы можете без страха сказать себе: «Это слегка противоречащее свидетельство, я сдвину свою уверенность вниз». Да, вниз. Это не уничтожит вашу любимую теорию. Так работает качественное мышление; думайте количественно.

Для каждого ожидания свидетельства существует равное ему и противоположное ожидание контрсвидетельства. В каждом случае в среднем вы должны ожидать корректировки своих убеждений вниз в той же степени, в какой вы ожидаете их корректировки вверх. Если вы считаете, что уже знаете, какое свидетельство поступит, то вы уже должны быть достаточно уверены в своей теории — вероятность близка к 1, что не оставляет много места для дальнейшего роста вероятности вверх. И каким бы маловероятным ни казалось получение опровергающих свидетельств, итоговый сдвиг вниз должен быть достаточно большим, чтобы точно сбалансировать ожидаемый выигрыш с другой стороны. Взвешенное среднее вашей ожидаемой апостериорной вероятности должно быть равно вашей априорной вероятности.

Как глупо в таком случае бояться корректировать свою вероятность вниз, если уж вы вообще взялись исследовать этот вопрос? В среднем от каждого отдельного наблюдения вы должны ожидать такого же сдвига вниз, как и сдвига вверх.

Может случиться так, что одна за другой будут поступать крупицы опровержений, в то время как новые подтверждения будут прибывать слишком медленно. Вы можете обнаружить, что ваша уверенность дрейфует вниз и всё дальше вниз. Пока, наконец, вы не поймёте, с какой стороны дует ветер свидетельств, направленный против вас. В этот момент осознания нет смысла придумывать оправдания. В этот момент осознания вы уже отказались от своего заветного убеждения. Ура! Время праздновать! Открывайте шампанское или заказывайте пиццу! В конце концов, вы не станете сильнее, держась за убеждения, с которых начинали.

Я уже говорил о таком стиле рассуждений, при котором не допускается ни один противоположный аргумент, из-за чего каждое противоречащее наблюдение приходится как-то оспаривать. Здесь же я хочу предположить, что, сталкиваясь с противоположным доводом, люди не дают себе снизить уверенность, прокручивая в голове уже известные им подтверждения.

Представьте, что в стране Фридония спорят о том, виновна ли её соседка Сильвания в недавней череде падений метеоритов на фридонийские города. На это указывают несколько улик: метеориты упали в городах у самой границы с Сильванией; на сильванском фондовом рынке перед ударами наблюдалась необычная активность; а кто-то слышал, как сильванский посол Трентино бормотал о «небесном возмездии».

Кто-то приходит к вам и говорит: «Я не думаю, что Сильвания причастна к падению метеоритов. Они ведут с нами торговлю на миллиарды динаров ежегодно». — «Ну», — отвечаете вы, — «метеориты упали вблизи Сильвании, на их фондовом рынке творилось что-то подозрительное, а их посол после этого заговорил о небесном возмездии». Поскольку эти три аргумента перевешивают первый, вы сохраняете уверенность в виновности Сильвании — на качественном уровне вы скорее верите, чем не верите. Очевидно, что баланс свидетельств складывается против Сильвании.

Затем приходит кто-то другой и говорит: «Я не думаю, что Сильвания виновна в падении метеоритов. Направить удар астероида — задача крайне сложная. У Сильвании даже космической программы нет». Вы отвечаете: «Но ведь метеориты упали рядом с Сильванией, их инвесторы знали об этом заранее, а посол прямо во всем признался!» И снова эти три аргумента перевешивают первый (три аргумента против одного), так что вы остаётесь при своём мнении, что Сильвания виновна.

Более того, ваша убеждённость лишь окрепла. Ведь уже дважды вы взвешивали баланс свидетельств, и оба раза чаша весов склонялась против Сильвании в соотношении три к одному.

Вы сталкиваетесь со всё новыми аргументами просильванских предателей — снова, снова и ещё сотню раз — но всякий раз новый довод с лёгкостью разбивается в пух и прах со счётом три к одному. И с каждым разом вы чувствуете, как растёт ваша уверенность в виновности Сильвании, поскольку вы корректируете свою априорную вероятность в соответствии с ощущаемым перевесом свидетельств.

Проблема, конечно, в том, что, прокручивая в голове аргументы, которые вы и так уже знали, вы учитываете одни и те же свидетельства дважды. Это было бы тяжким грехом, даже если бы вы дважды учли все свидетельства. (Представьте себе учёного, который провёл эксперимент на 50 испытуемых, не получил статистически значимых результатов и поэтому посчитал все данные дважды.)

Но избирательно дважды учитывать лишь некоторые свидетельства — это чистой воды фарс. Помню, в детстве я видел мультфильм, где злодей делил добычу по следующему алгоритму: «Один тебе, один мне. Один тебе, раз-два мне. Один тебе, раз-два-три мне».

Как я подчёркивал в прошлом эссе, даже если излюбленное убеждение истинно, рационалисту порой необходимо снизить его вероятность, интегрируя все свидетельства. Да, чаша весов всё ещё может склоняться в пользу вашего любимого убеждения. Но вам всё равно нужно скорректировать вероятность вниз — да, именно вниз — по сравнению с тем значением, которое было до того, как вы услышали противоположный довод. Бесполезно прокручивать в голове подтверждающие аргументы, ведь вы их уже учли.

И всё же мне кажется, что, сталкиваясь с новым контраргументом, люди ищут повод не снижать свою уверенность и, конечно же, находят подтверждающие доводы, которые и так уже знают. Мне самому приходится постоянно быть начеку, чтобы не поступать так же! Ведь это кажется столь же естественным, как парировать удар меча подвернувшимся под руку щитом.

При должном умении рассуждать неверно горстка подтверждений — или даже один-единственный аргумент — способна сдерживать натиск целой армии противоречий.

На аукцион выставлены две запечатанные коробки, коробка A и коробка B. В одной и только в одной из этих коробок лежит ценный алмаз. Есть самые разные знаки и приметы, указывающие на то, содержит ли коробка алмаз; но у меня нет ни одного знака, о котором я точно знаю, что он абсолютно надежен. На одной коробке, например, есть синий штамп, и я знаю, что коробки с алмазами чаще оказываются с синим штампом, чем пустые. Или у одной коробки блестящая поверхность, и у меня есть подозрение — я не уверен, — что ни одна коробка с алмазом не бывает блестящей.

Теперь представьте себе ловкого спорщика с листом бумаги в руках. Он говорит владельцам коробок A и B: «Предложите цену за мои услуги, и тому, кто выиграет, я помогу доказать, что именно в его коробке лежит алмаз, чтобы цена этой коробки выросла». Владельцы делают ставки, и владелец коробки B предлагает больше, нанимая ловкого спорщика.

Ловкий спорщик начинает собираться с мыслями. Сначала он пишет в самом низу своего листа: «И следовательно, в коробке B лежит алмаз!» Затем вверху листа ловкий спорщик пишет: «На коробке B есть синий штамп», под этим — «Коробка A блестящая», затем — «Коробка B легче коробки A» и так далее, перечисляя множество знаков и примет. При этом ловкий спорщик игнорирует все те знаки, которые могли бы говорить в пользу коробки A. И вот ловкий спорщик приходит ко мне и зачитывает со своего листа: «На коробке B есть синий штамп, а коробка A блестящая», и так далее, пока не доходит до: «и следовательно, в коробке B лежит алмаз».

Но подумайте вот о чем: в тот самый момент, когда ловкий спорщик записал свой вывод, когда чернила легли на его лист бумаги, свидетельственная запутанность этих физических чернил с физическими коробками зафиксировалась навсегда.

Возможно, вам поможет, если вы представите себе множество миров — эвереттовские ветви или дубликаты Тегмарка, — в которых существует некая объективная частота, с которой коробка A или коробка B содержит алмаз. Точно так же существует некая объективная частота в подмножестве «миров с блестящей коробкой A», где коробка B содержит алмаз; и некая объективная частота в «мирах с блестящей коробкой A и синим штампом на коробке B», где коробка B содержит алмаз.

Чернила на бумаге складываются в странные закорючки и линии, которые выглядят как этот текст: «И следовательно, в коробке B лежит алмаз». Если бы вы умели читать по-английски, вы могли бы запутаться и подумать, будто эти очертания чернил каким-то образом означают, что в коробке B лежит алмаз. Испытуемые, которым поручили называть цвет напечатанных слов, когда им показывают слово «ЗЕЛЕНЫЙ», часто говорят «зеленый» вместо «красный». В таких случаях полезно быть неграмотным, чтобы форма чернильных знаков не сбивала вас с толку.

Для нас истинный смысл вещи — это её запутанность с другими вещами. Представьте снова множество миров, эвереттовские ветви или дубликаты Тегмарка. В тот момент, когда все ловкие спорщики во всех мирах выводят чернилами итоговую строку на своих листах — предположим, что это один и тот же момент, — это фиксирует корреляцию чернил с коробками. Ловкий спорщик пишет нестираемой ручкой; чернила не изменятся. Коробки не изменятся. В подмножестве миров, где чернила гласят «И следовательно, в коробке B лежит алмаз», уже есть определенный фиксированный процент миров, где алмаз лежит в коробке A. И это не изменится независимо от того, что будет написано на пустых строках выше.

Таким образом, свидетельственная запутанность чернил зафиксирована, и я предоставляю вам решать, какова она. Возможно, владельцы коробок, которые верят, что их доводы сильнее, более склонны нанимать рекламистов; возможно, владельцы коробок, опасающиеся своих недостатков, предлагают большую цену. Если сами владельцы коробок не понимают знаков и примет, то чернила будут совершенно не запутаны с содержимым коробок, хотя они могут кое-что рассказать вам о финансах владельцев и их привычках делать ставки.

Теперь предположим, что другой присутствующий искренне любознателен. Он сначала записывает на листе бумаги все отличительные признаки обеих коробок, а затем применяет свои знания и законы вероятности и пишет в самом низу: «Следовательно, я оцениваю вероятность того, что алмаз находится в коробке B, в 85%». Свидетельством чего служат эти записи? Исследуя причинно-следственную связь, которая привела к появлению этих физических чернил на физической бумаге, я обнаруживаю, что цепочка причинности пролегает через все знаки и приметы коробок и зависит от этих знаков; ведь в мирах с другими приметами внизу была бы записана другая вероятность.

Таким образом, записи любознательного исследователя запутаны со знаками, приметами и содержимым коробок, тогда как записи ловкого спорщика служат свидетельством лишь того, какой владелец заплатил больше. Разница в показаниях чернил огромна, хотя тот, кто по глупости зачитает вслух чернильные закорючки, может подумать, что английские слова звучат похоже.

Ваша эффективность как рационалиста определяется тем, какой алгоритм на самом деле вписывает итоговую строку в ваши мысли. Если ваша машина издает металлический скрежет при торможении, а вы не готовы смириться с расходами на замену тормозов, вы можете решить поискать причины, по которым её, возможно, не нужно чинить. Но реальный процент версий вас, выживающих в эвереттовских ветвях или мирах Тегмарка — что мы и будем считать мерой вашей эффективности как рационалиста, — определяется алгоритмом, который решил, для какого именно вывода вы будете искать аргументы. В данном случае реальный алгоритм звучит так: «Никогда не чинить ничего дорогого». Если это хороший алгоритм — отлично; если плохой — ну что ж. Аргументы, которые вы допишете после, выше итоговой строки, всё равно ничего не изменят.

Это должно служить предостережением для вашего собственного мышления, а не абсолютно универсальным контраргументом против выводов, которые вам не нравятся. Ведь заявить: «Мой оппонент — ловкий спорщик» — это и правда ловкий аргумент, если вы платите сами себе за то, чтобы остаться при тех убеждениях, с которых начали. Самый ловкий в мире спорщик может указать на то, что светит солнце, и всё же на улице, скорее всего, действительно день.

Ранее я обсуждал дилемму хитроумного спорщика, нанятого продать вам коробку, в которой может быть или не быть алмаз. Хитроумный спорщик указывает вам на то, что на коробке стоит синий штамп, и это достоверно известный факт, что коробки с алмазами чаще имеют синий штамп, чем пустые. Что происходит в этот момент с байесовской точки зрения? Должны ли вы беспомощно обновлять свои вероятности, как того желает хитроумный спорщик?

Если вы можете заглянуть в коробку сами, вы можете и сами сложить все признаки. Но что, если вы не можете заглянуть? Что, если единственное имеющееся у вас свидетельство — это слова хитроумного спорщика, который по закону обязан делать только правдивые заявления, но не рассказывает вам всего, что знает? Каждое утверждение хитроумного спорщика — это достоверное свидетельство. Как вы можете не обновить свои вероятности? Разве перестало быть правдой то, что в такой-то доле эвереттовских ветвей или дубликатов Тегмарка, где на коробке Б стоит синий штамп, в коробке Б лежит алмаз? Согласно Джейнсу, байесианец всегда должен проводить обусловливание по всем известным свидетельствам под угрозой парадокса. Но тогда хитроумный спорщик может заставить вас поверить во что угодно, если существует достаточное разнообразие признаков, о которых можно сообщать выборочно. Это звучит неправильно.

Рассмотрим более простой случай: несимметричную монету, у которой вероятность выпадения орла может составлять 2/3, а решки — 1/3, или же орла — 1/3, а решки — 2/3, причем оба случая априори равновероятны. Каждый выпавший орёл (О) — это 1 бит свидетельства в пользу монеты со смещением к орлу; каждая решка (Р) — это 1 бит свидетельства в пользу монеты со смещением к решке. Я подбрасываю монету десять раз, а затем говорю вам: «При 4-м, 6-м и 9-м бросках выпали орлы». Какова ваша апостериорная вероятность того, что монета имеет смещение к орлу?

И ответ заключается в том, что она может быть практически любой, в зависимости от того, какая причинно-следственная цепочка стояла за произнесением этих слов — то есть от того, как именно я выбирал, о каких бросках сообщить.

Возможно, я следовал алгоритму, согласно которому сообщал результаты 4-го, 6-го и 9-го бросков независимо от их результатов и результатов всех остальных бросков. Если вы знаете, что я использовал этот алгоритм, апостериорные шансы составляют 8:1 в пользу монеты со смещением к орлу.

Я мог бы сообщать обо всех бросках — и только о тех, — при которых выпали орлы. В этом случае вы знаете, что во всех остальных 7 бросках выпали решки, и апостериорные шансы составляют 1:16 против того, что монета имеет смещение к орлу.

Я мог заранее решить назвать результаты 4-го, 6-го и 9-го бросков только в том случае, если вероятность того, что монета имеет смещение к орлу, превышает 98%. И так далее.

Или рассмотрим парадокс Монти Холла:

На телешоу вам предлагают выбрать одну из трех дверей, ведущих в три комнаты. Вы знаете, что в одной комнате лежат 100 000 долларов, а две другие пусты. Ведущий просит вас выбрать дверь, и вы выбираете дверь № 1. Затем ведущий открывает дверь № 2, за которой оказывается пустая комната. Хотите ли вы переключиться на дверь № 3 или остаться с дверью № 1?

Ответ зависит от алгоритма ведущего. Если ведущий всегда открывает дверь и всегда выбирает дверь, ведущую в пустую комнату, то вам следует переключиться на дверь № 3. Если ведущий всегда открывает дверь № 2 независимо от того, что за ней находится, то вероятность найти деньги за дверями № 1 и № 3 одинакова и составляет 50%. Если же ведущий вообще открывает дверь только в том случае, если вы изначально выбрали дверь с деньгами, то вам определенно следует остаться с дверью № 1.

Вам следует проводить обусловливание не просто по факту пустоты двери № 2, но по этому факту вместе с тем фактом, что ведущий решил открыть именно дверь № 2. Многих сбивает с толку стандартный парадокс Монти Холла, потому что они обновляют вероятности только по факту пустоты двери № 2, и в этом случае шансы найти деньги за дверями № 1 и № 3 равны. Вот почему байесианцам предписано проводить обусловливание по всей полноте своих знаний под угрозой парадокса.

Когда кто-то говорит: «При четвертом броске монеты выпал орёл», мы проводим обусловливание не по тому факту, что при четвертом броске выпал орёл — мы не берем подмножество всех возможных миров, где при четвертом броске выпал орёл, — а скорее по подмножеству всех возможных миров, где говорящий, следующий определенному алгоритму, сказал: «При четвертом броске монеты выпал орёл». Произнесенное предложение — это не сам факт; не позволяйте всего лишь значению слов вводить вас в заблуждение.

Большинство судебных процессов строятся на теории, согласно которой у каждого дела есть ровно две противоположные стороны, и что проще найти двух предвзятых людей, чем одного непредвзятого. Между обвинением и защитой у одной из сторон обязательно найдется мотив представить любую конкретную улику, так что суд увидит все доказательства; такова теория. Если в дилемме с коробкой участвуют два хитроумных спорщика, это не так хорошо, как один любознательный исследователь, но почти столь же хорошо. Но это в случае с двумя коробками. В реальности же часто возникают многосторонние и глубокие проблемы, а также неочевидные ответы, которые непросто найти, когда Синие и Зеленые кричат друг на друга.

Остерегайтесь злоупотреблять понятием фильтрации свидетельств как Универсальным контраргументом для исключения любых неприятных вам свидетельств: «Этот аргумент был отфильтрован, следовательно, я могу его проигнорировать». Если вас раздражает противоположный аргумент, значит, вы знакомы с вопросом и вы достаточно неравнодушны, чтобы занять одну из сторон. Вероятно, вы уже знаете самые сильные аргументы своей стороны. У вас нет причин выводить из противоположного аргумента существование каких-то новых благоприятных знаков и предзнаменований, которых вы еще не видели. Так что вы остаетесь один на один с неудобными фактами как таковыми; синий штамп на коробке Б — это всё еще свидетельство.

Но если вы слышите аргумент впервые, причем только с одной стороны, то вам действительно стоит насторожиться! В каком-то смысле никто не может по-настоящему доверять теории естественного отбора, пока не послушает креационистов минут пять; и только тогда поймёт, насколько она прочна.

В «Итоговой строке» я представил дилемму двух коробок, только в одной из которых лежит алмаз, и различные знаки и знамения в качестве улик. Я противопоставил любознательного исследователя ловкому спорщику. Любознательный исследователь выписывает все знаки и знамения, анализирует их и в самом конце пишет: «Следовательно, я оцениваю вероятность того, что алмаз находится в коробке Б, в 85%». Ловкий спорщик работает на того, кто больше заплатит; он начинает с того, что пишет: «Следовательно, алмаз находится в коробке Б», а затем подбирает благоприятные знаки и знамения, чтобы заполнить ими строки выше.

Первая процедура — это рациональность. Вторая процедура обычно называется «рационализацией».

«Рационализация». Какой странный термин. Я бы назвал его неудачным словом. Нельзя «рационализировать» то, что изначально не является рациональным. Это все равно как если бы ложь называли «истинизацией».

На чисто вычислительном уровне существует довольно большая разница между:

Движением от свидетельств с последующим просчетом вероятностных потоков для вывода наиболее вероятного заключения. (Записать все знаки и знамения, а затем двигаться вперед к вероятности в итоговой строке, которая зависит от этих знаков и знамений.)

Движением от готового вывода с последующим просчетом вероятностных потоков для подбора свидетельств, которые якобы этот вывод подтверждают. (Записать итоговую строку, а затем двигаться в обратном направлении, подбирая знаки и знамения для заполнения строк выше.)

Какой глупец придумал настолько похожие слова — «рациональность» и «рационализация», — чтобы описать столь разительно отличающиеся ментальные процессы? Я бы предпочел термины, которые делают алгоритмическую разницу очевидной, например: «рациональность» против «гигантской засасывающей когнитивной черной дыры».

Не всякое изменение — это улучшение, но всякое улучшение — это обязательно изменение. Нельзя добавить истинности уже заданному суждению, отстаивая его; можно заставить больше людей поверить в него, но нельзя сделать его более истинным. Чтобы улучшить наши убеждения, мы неизбежно должны их менять. Рациональность — это операция, которую мы используем для повышения точности наших убеждений путем их изменения. Рационализация же стремится зафиксировать убеждения; её правильнее было бы назвать «антирациональностью» — как из-за её прагматических результатов, так и из-за её обращенного алгоритма.

«Рациональность» — это прямой поток, который собирает свидетельства, взвешивает их и выдает заключение. Любознательный исследователь использовал алгоритм прямого потока: сначала он собрал свидетельства, составив список всех видимых знаков и знамений, которые затем обработал в прямом направлении, чтобы получить ранее неизвестную вероятность нахождения алмаза в коробке. Всё то время, пока процесс рационального мышления двигался вперед, любознательный исследователь еще не знал конечного пункта назначения, и именно поэтому он был любознателен. На Пути Байеса априорная вероятность равна ожидаемой апостериорной вероятности: если вы знаете пункт назначения, вы уже там.

«Рационализация» — это обратный поток, идущий от вывода к отобранным свидетельствам. Сначала вы записываете итоговую строку, которая известна и фиксирована; цель вашей обработки данных — выяснить, какие аргументы следует вписать в строки выше. Именно это, а не итоговая строка, является неизвестной переменной для запущенного процесса.

Боюсь, Традиционная Рациональность не прививает своим последователям достаточной чувствительности к разнице между прямым и обратным потоками. В Традиционной Рациональности нет ничего плохого в том, что ученый приходит к излюбленной гипотезе, а затем отправляется искать подтверждающий ее эксперимент. Традиционный рационалист посмотрел бы на это с одобрением и сказал: «Эта гордость — двигатель, который толкает Науку вперед». Что ж, это действительно двигатель, который толкает Науку вперед. Проще найти обвинителя и защитника, предвзятых в противоположных направлениях, чем одного непредвзятого человека.

Но то, что так поступают все, еще не делает это правильным. Было бы гораздо лучше, если бы ученый, придя к излюбленной гипотезе, решил проверить её из чистого любопытства — ставя эксперименты, которые могли бы направить его собственные убеждения в неизвестном направлении.

Если вы искренне не знаете, куда направляетесь, вам, скорее всего, будет очень любопытно. Любопытство — первая добродетель, без которой ваше вопрошание будут бесцельными, а ваши навыки — лишенными направления.

Почувствуйте течение Силы и убедитесь, что она не течет в обратную сторону.

По профессии вы руководитель избирательной кампании, и вас только что нанял Мортимер К. Снодграсс, кандидат в мэры Гедлиберга от партии «зелёных». Как руководитель кампании, читающий книгу по рациональности, вы в первую очередь задаётесь вопросом: «Как мне построить безупречный рациональный аргумент в пользу того, что Мортимер К. Снодграсс — лучший кандидат в мэры Гедлиберга?»

Сожалею. Это невозможно.

«Что? — восклицаете вы. — Но что, если я буду использовать только веские доводы для построения своих логических выкладок? Что, если каждый приводимый мною факт будет истинным, насколько мне известно, и будет являться релевантным свидетельством по правилу Байеса?»

Сожалею. Всё равно невозможно. Вы обрекли себя на поражение в тот самый миг, когда заранее определили вывод своего аргумента.

В этом году газета «Гедлибергский рупор» разослала всем кандидатам в мэры опросник из 16 пунктов с вопросами вроде «Умеете ли вы рисовать всеми цветами ветра?» и «Затягивались ли вы?» Увы, редакция «Рупора» оказалась уничтожена метеоритом ещё до публикации. Очень жаль, ведь ваш кандидат, Мортимер К. Снодграсс, выгодно отличается от соперников в 15 вопросах из 16. Единственным камнем преткновения стал вопрос №11: «Являетесь ли вы сейчас или являлись ли когда-либо суперзлодеем?»

И у вас возникает искушение опубликовать этот опросник в рамках собственной агитации... разумеется, опустив одиннадцатый вопрос.

Это переступает черту между рациональностью и рационализацией. Избиратели больше не могут основывать свои суждения только на фактах; им приходится учитывать и дополнительный факт их подачи, делая выводы о существовании скрытых свидетельств.

На самом деле вы перешли черту ещё в тот момент, когда начали взвешивать, выгоден опросник вашему кандидату или нет, прежде чем решить, стоит ли его публиковать. «Что?! — восклицаете вы. — Штаб должен публиковать факты, невыгодные для своего кандидата?» Но поставьте себя на место избирателя, который всё ещё пытается сделать выбор: зачем вам утаивать полезную информацию? Будь вы искренне любопытны, вы бы не стали этого делать. Если бы вы двигались вперёд — от свидетельств к ещё не сделанному выбору кандидата, а не назад — от уже выбранного кандидата к подбору аргументов.

«Логичный» аргумент — это аргумент, который следует из своих посылок. Таким образом, следующее рассуждение нелогично:

Все прямоугольники — четырёхугольники.

Все квадраты — четырёхугольники.

Следовательно, все квадраты — прямоугольники.

Этот силлогизм не спасает от логической несостоятельности ни истинность его посылок, ни даже истинность его вывода. Важно отличать логические умозаключения от нелогичных и отказываться оправдывать последние, даже если их выводы случайно оказались верными. Во-первых, это различие может повлиять на то, как мы пересматриваем свои убеждения в свете новых свидетельств. Во-вторых, небрежность входит в привычку.

Прежде всего, этот силлогизм не даёт истинного объяснения. Возможно, все квадраты и являются прямоугольниками, но если так, то вовсе не потому, что и те и другие — четырёхугольники. Его можно назвать лицемерным силлогизмом — таким, где заявленные причины оторваны от реальных.

Если вы действительно хотите представить честный, рациональный аргумент в пользу своего кандидата во время политической кампании, есть только один способ это сделать:

Ещё до того, как вас кто-либо наймёт, соберите все возможные сведения о различных кандидатах.

Составьте контрольный список критериев, по которому вы сами определите, какой кандидат кажется лучшим.

Пройдитесь по этому списку.

Придите к победившему кандидату.

Предложите стать руководителем его кампании.

Когда у вас попросят агитационные материалы, распечатайте свой контрольный список.

Только так вы сможете предложить рациональную цепочку аргументов — такую, чей итоговый вывод был записан при движении вперёд от строк над ним. Лишь то, что на самом деле определяет ваш итоговый вывод, вы и можете честно написать на строках выше.

Несколько лет назад умерла моя прабабушка. Ей было за девяносто, и смерть последовала за долгим, медленным и жестоким угасанием. Я не знал её как личность, но в моём далёком детстве она готовила для всей семьи; я помню её гефилте фиш, её лицо и то, как добра она была ко мне. На её похоронах выступал мой двоюродный дедушка, который ухаживал за ней долгие годы. Сдерживая слёзы, он сказал, что Бог забирал его мать по частям: сначала память, затем речь, а в самом конце — улыбку; и когда Бог наконец забрал её улыбку, он понял, что развязка близка, ведь это означало, что её самой уже почти не осталось.

Услышав это, я пришёл в недоумение: ведь это невообразимо ужасная участь для кого бы то ни было, и поэтому я никак не ожидал, что мой двоюродный дедушка припишет подобное Богу. Обычно иудей старается просто-не-думать о логическом следствии того, что Бог допустил трагедию. Согласно иудейской теологии, Бог непрерывно поддерживает существование Вселенной и определяет каждое событие в ней; но обычно подобные логические выводы приберегаются для более радостных поводов. Восклицая «Это совершил Бог!» только тогда, когда вас благословляют рождением дочери, и просто-не-думая «Это совершил Бог!» при выкидышах, мертворождениях и смертях младенцев в колыбели, можно составить весьма однобокое представление о благости вашего Бога.

Поэтому я и удивился, услышав, как двоюродный дедушка приписывает медленное угасание своей матери преднамеренному, стратегически спланированному деянию Бога. Это нарушало правила религиозного самообмана в том виде, в каком я их понимал.

Обрати я тогда внимание на собственное замешательство, я мог бы сделать успешное и неожиданное предсказание. Вскоре после этого мой двоюродный дедушка оставил иудейскую религию. (Насколько я знаю, он единственный, помимо меня, член нашей большой семьи, кто так поступил.)

Современный ортодоксальный иудаизм не похож ни на одну другую религию, о которой я когда-либо слышал, и я даже не знаю, как описать его тому, кого не заставляли изучать Мишну и Гемару. Там существует традиция задавать вопросы, но какого рода эти вопросы… Никого бы не удивило, если бы раввин в своей еженедельной проповеди указал на противоречие между семью днями творения и 13,7 миллиарда лет, прошедших со времён Большого взрыва, — просто потому, что он считает, будто нашёл очень хитроумное объяснение, включающее в себя три другие библейские отсылки, Мидраш и полупонятую статью из Scientific American. В ортодоксальном иудаизме разрешается замечать несоответствия и противоречия, но только ради того, чтобы их сгладить, и тот, кто придумает самое сложное объяснение, получает главный приз.

Существует традиция исследования. Но вы атакуете мишени только ради того, чтобы их защитить. Вы нападаете лишь на то, что заведомо можете отстоять.

В современном ортодоксальном иудаизме я не замечал, чтобы особо превозносили добродетель слепой веры. Сомневаться разрешено. Запрещено лишь сомневаться успешно.

Полагаю, подавляющее большинство образованных ортодоксальных иудеев в какой-то момент жизни сомневалось в своей вере. Но эти сомнения, скорее всего, выглядели примерно так: «Скептики утверждают, будто Тора говорит, что Вселенная была создана за семь дней, а это ненаучно. Но смогли бы древние израильтяне, собравшиеся у горы Синай, понять научную истину, даже если бы им её изложили? Было ли у них вообще слово „миллиард“? Проще смотреть на историю о семи днях как на метафору: сначала Бог создал свет, что символизирует Большой взрыв…»

Но разве это самое слабое место, с которого стоит атаковать собственный иудаизм? Прочтите Тору чуть дальше, и вы увидите, как Бог убивает египетских первенцев мужского пола, чтобы убедить невыборного фараона отпустить рабов, которых логически можно было бы просто телепортировать из страны. Ортодоксальный иудей, безусловно, знаком с этим эпизодом, ведь всю Тору целиком положено прочитывать в синагоге раз в год, а само это событие связано с важнейшим праздником. Название «Песах» происходит от того, что Бог миновал еврейские дома, убивая каждого первенца мужского пола в Египте.

Современные ортодоксальные иудеи в большинстве своём — добрые и цивилизованные люди, гораздо более цивилизованные, чем редакторы Ветхого Завета. Даже древние раввины были цивилизованнее. В Седере есть ритуал, во время которого из кубка отливают десять капель вина — по капле на каждую из десяти казней египетских, чтобы подчеркнуть страдания египтян. (Разумеется, вам полагается сострадать египтянам, но не настолько сильно, чтобы встать и заявить: «Это несправедливо! Так поступать неправильно!») Это являет собой интересный контраст: раввины были существенно добрее составителей Ветхого Завета и потому видели жестокость казней. Но наука в те дни была слабее, и раввины могли размышлять о неприятных аспектах Писания, не боясь, что это полностью разрушит их веру.

Вы даже не задаётесь вопросом, выставляет ли этот эпизод Бога в дурном свете, так что нет нужды поспешно выпаливать: «Пути Господни неисповедимы!», или «Мы недостаточно мудры, чтобы сомневаться в решениях Бога!», или «В убийстве младенцев нет ничего плохого, если это делает Бог!» Об этой части вопроса просто-не-думают.

Причина того, что образованные верующие люди остаются религиозными, подозреваю, кроется в том, что, когда они сомневаются, они подсознательно стараются атаковать собственные убеждения лишь в самых сильных местах — там, где их заведомо можно защитить. Более того, в тех местах, где повторение стандартной защиты приносит ощущение укрепления веры.

Наверняка очень приятно, например, прокручивать в голове заранее заготовленную защиту от вопроса: «Разве наука не говорит, что Вселенная — это просто бессмысленные атомы, хаотично снующие туда-сюда?», ведь это подтверждает осмысленность Вселенной и то, как этот смысл проистекает от Бога, и так далее. Размышлять об этом гораздо комфортнее, чем о неграмотной египетской матери, рыдающей над колыбелью своего убитого сына. Тот, кто спонтанно задумывается о последнем, сомневаясь в своей вере в иудаизм, сомневается в ней по-настоящему и, скорее всего, недолго останется иудеем.

Моя цель здесь не в том, чтобы просто нападать на ортодоксальный иудаизм. Я уверен, что на казнь первенцев найдётся то или иное оправдание, а возможно, и целый десяток. Моя мысль в том, что когда дело доходит до спонтанных сомнений, человек гораздо охотнее спонтанно атакует собственные сильные стороны, для которых у него готовы утешительные ответы, нежели спонтанно бьёт по самым слабым, наиболее уязвимым местам. Подобным образом человек, скорее всего, остановится на первом же ответе и успокоится, вместо того чтобы подвергнуть этот ответ дальнейшей критике. Более подходящим названием, чем «Избегание реальных слабых мест своих убеждений», было бы «Отсутствие спонтанных мыслей о самых болезненных слабостях своих убеждений».

Власть религии держится прежде всего на том, что люди просто-не-думают о реальных слабых местах своей веры. Я не считаю это делом привычки или обучения — это вопрос инстинкта. Люди не думают о настоящих слабых местах своих убеждений по той же причине, по которой не прикасаются к раскалённым конфоркам плиты: это больно.

Чтобы поступать правильнее: когда вы сомневаетесь в одном из своих самых заветных убеждений, закройте глаза, освободите разум, стисните зубы и намеренно подумайте о том, что ранит сильнее всего. Не прокручивайте в голове стандартные возражения, стандартные контраргументы к которым принесут вам облегчение. Спросите себя, что умные несогласные с вами люди возразили бы на ваш первый ответ, а затем на ваш второй ответ. Всякий раз, когда вы ловите себя на том, что отшатываетесь от мимолётно возникшего возражения, вытаскивайте его на передний план своего сознания. Ударьте себя в солнечное сплетение. Вонзите нож в собственное сердце и покачайте им, чтобы расширить рану. Перед лицом боли повторяйте лишь это:

То, что истинно, уже таково.

Признание этого не делает его хуже.

Попытки закрыть на это глаза не заставят его исчезнуть.

И поскольку оно истинно, именно с ним нам предстоит взаимодействовать.

Того, что ложно, не существует, чтобы этим жить.

Люди могут вынести то, что истинно,

ведь они уже это выносят.

— Юджин Джендлин¹

(Спасибо Стивену Омохундро за наводку.)

Хотя я и не согласен с некоторыми взглядами сторонников школы «быстрых и экономных» — на мой взгляд, они слишком уж часто делают из лимонов лимонад, — мне также кажется, что они создают самые психологически реалистичные модели среди всех школ теории принятия решений. В большинстве экспериментов испытуемым предлагают готовые варианты, испытуемый выбирает один из них, и это и есть результат эксперимента. Фругалисты поняли, что в реальной жизни варианты приходится генерировать самостоятельно, и исследовали, как именно испытуемые это делают.

Точно так же, хотя во многих экспериментах свидетельства преподносятся на блюдечке с голубой каёмочкой, в реальной жизни вам приходится собирать свидетельства (что может быть весьма затратно) и в какой-то момент решать, что данных уже достаточно, чтобы остановиться и сделать выбор. Когда вы покупаете дом, вам не предлагают ровно десять вариантов на выбор и не водят по каждому из них с экскурсией, прежде чем разрешить принять решение. Вы смотрите один дом, затем другой, сравниваете их; вы корректируете свои запросы — заново обдумываете, насколько важно жить близко к работе и сколько вы действительно готовы заплатить; решаете, какой дом посмотреть следующим; и в какой-то момент понимаете, что увидели достаточно, и делаете выбор.

Проведенное Джиловичем различие между мотивированным скептицизмом и мотивированной доверчивостью показывает, что к выводам, в которые человек верить не хочет, предъявляются гораздо более строгие требования, чем к выводам, в которые он верить хочет. Мотивированный скептик спрашивает, вынуждают ли его имеющиеся свидетельства принять этот вывод; мотивированный легковер спрашивает, позволяют ли они его принять.

Я полагаю, что аналогичным искажением при психологически реалистичном поиске являются мотивированная остановка и мотивированное продолжение: когда у нас есть скрытый мотив выбрать «лучший» на данный момент вариант, у нас появляется скрытый мотив остановиться, сделать выбор и отказаться от рассмотрения любых других альтернатив. Когда у нас есть скрытый мотив отвергнуть текущий лучший вариант, у нас возникает скрытый мотив отложить принятие решения до появления дополнительных свидетельств, нагенерировать еще вариантов — найти хоть что-нибудь, сделать что угодно вместо того, чтобы прийти к выводу.

Крупным историческим скандалом в статистике стала позиция Р. А. Фишера, выдающегося основателя этой науки, который настаивал на том, что причинно-следственная связь между курением и раком легких не доказана. «Корреляция не означает причинность», — заявлял он на слушаниях в Конгрессе. Возможно, у курильщиков был ген, который одновременно предрасполагал их и к курению, и к раку легких.

А возможно, работа Фишера консультантом в табачных компаниях создала у него скрытый мотив решить, что собранных данных еще недостаточно для окончательного вывода и лучше продолжить поиски. Сам Фишер тоже был курильщиком и умер от рака толстой кишки в 1962 году.

(Замечание ad hominem: Фишер был фреквентистом. Байесианцы подходят к выводу о вероятной причинно-следственной связи более разумно.)

Как и многие другие формы мотивированного скептицизма, мотивированное продолжение может маскироваться под добродетельную рациональность. Кто станет возражать против сбора дополнительных свидетельств? Я стану. Сбор свидетельств часто обходится дорого, и что еще хуже, требует времени, и уж точно нет никакой добродетели в отказе учитывать уже имеющиеся у вас свидетельства. Вы всегда можете изменить свое мнение позже. (Кажущееся противоречие разрешается так: потратить один час на обсуждение проблемы, предварительно тщательно очистив разум от готовых выводов, — это совсем не то же самое, что ждать десять лет результатов очередного исследования стоимостью 20 миллионов долларов.)

Что касается мотивированной остановки, она возникает везде, где пугает третья альтернатива, а также там, где есть аргумент, очевидного контраргумента к которому вы предпочли бы не замечать, да и во многих других случаях. Она возникает, когда вы действуете так, что вам приятно уже от самого факта действия, и поэтому вы не хотите проверять, насколько на самом деле сработал ваш план — из страха разрушить теплое чувство морального удовлетворения, за покупку которого вы заплатили немалые деньги. Она возникает везде, где ваши убеждения расходятся с вашими ожиданиями, из-за чего у вас появляется повод бояться любых новых собранных свидетельств.

Мораль такова: решение прекратить процесс поиска (временно или окончательно), подобно самому процессу поиска, подвержено искажениям и скрытым мотивам. Вам стоит заподозрить у себя мотивированную остановку, когда вы прекращаете поиск, придя к комфортному выводу, хотя вокруг полно быстрых и дешёвых свидетельств, которые вы так и не собрали — сайтов, которые вы могли бы посетить, контр-контраргументов, которые вы могли бы рассмотреть, или если вы даже не закрыли глаза ровно на пять минут, пытаясь придумать вариант получше. И вам стоит заподозрить мотивированное продолжение, когда факты склоняются в неприятную для вас сторону, но вы решаете, что нужно собрать побольше свидетельств — дорогих свидетельств, которые, как вы прекрасно знаете, вы не сможете получить в ближайшее время (в отличие от того, чтобы просто погуглить полчаса), — прежде чем вам придется сделать что-то неприятное.

Многие христиане, которые перестали по-настоящему верить, теперь настаивают, что почитают Библию как источник этических советов. Стандартный ответ атеистов сформулировал Сэм Харрис: «Мы с вами прекрасно знаем, что нам потребовалось бы пять минут, чтобы написать книгу с куда более последовательной и милосердной моралью, чем в Библии». Точно так же можно пытаться утверждать, что Библия ценна как литературное произведение. Но почему тогда не почитать «Властелина колец» — куда более выдающееся литературное произведение? И несмотря на стандартную критику морали Толкина, «Властелин колец» как минимум превосходит Библию в качестве источника этики. Так почему же люди не носят на шее маленькие колечки вместо крестиков? Даже «Гарри Поттер» превосходит Библию — и как художественное произведение, и как моральная философия. Если бы я действительно хотел проявить жестокость, я бы сравнил Библию с циклом «Кушиель» Жаклин Кэри.

«Как ты можешь оправдать покупку ноутбука за миллион долларов, украшенного драгоценными камнями, — спрашиваете вы друга, — когда у стольких людей вообще нет никаких ноутбуков?» А ваш друг отвечает: «Но подумай о рабочих местах, которые это обеспечит — производителю ноутбука, его рекламному агентству, — а потом они купят себе еду, сходят постричься... это простимулирует экономику, и со временем у многих появятся свои ноутбуки». Но было бы еще более эффективно купить 5000 ноутбуков по программе «One Laptop Per Child» («Каждому ребенку по компьютеру»), тем самым обеспечив работой производителей OLPC и раздав ноутбуки напрямую.

Ранее я уже касался темы неумения искать третьи альтернативы. Но здесь дело не совсем в «мотивированной остановке». Назвать это «мотивированной остановкой» значило бы предположить, что поиск вообще изначально проводился.

В эссе «Итоговая строка» я отмечал, что только истинные детерминанты наших убеждений могут влиять на точность наших представлений о реальном мире, и только истинные детерминанты наших действий могут влиять на нашу эффективность в достижении целей. Тот, кто покупает ноутбук за миллион долларов, на самом деле думал: «О-о, какая блестящая штучка!», и именно это было единственной истинной причинно-следственной историей его решения совершить покупку. Никакие «оправдания» не могут этого изменить, если только оправдание не представляет собой подлинный, запущенный заново процесс поиска, способный изменить вывод. По-настоящему изменить вывод. Большая часть критики, осуществляемой из чувства долга, — это скорее чисто формальная проверка. Как свободные выборы в однопартийной стране.

Чтобы по-настоящему обосновать возвеличивание Библии её литературными достоинствами, вам пришлось бы как-то беспристрастно прочитать весь список книг-кандидатов, пока вы не нашли бы книгу наивысшего литературного качества. Известность — вполне разумный критерий для отбора кандидатов, так что, полагаю, вы вполне закономерно могли бы в итоге прочесть Шекспира, Библию и «Гёдель, Эшер, Бах». (Иначе обнаружить Библию среди кандидатов в ряду миллионов других книг было бы слишком уж большим совпадением.) Настоящая трудность кроется в самом этом «беспристрастном чтении». Это довольно легко, если вы не христианин, но если вы им являетесь...

Но, конечно же, ничего подобного не было. Никакого поиска не проводилось. Написание оправдания вроде «литературные достоинства» над итоговой строкой «Я <сердечко> Библию» — это искажение исторической правды о том, как эта строка вообще там оказалась, все равно что продавать кошачье молоко под видом коровьего. Итоговая строка появилась вовсе не оттуда. Изначально к этому выводу привело совсем не это.

Если вы искренне подвергаете свой вывод критике, способной его опровергнуть — если критика действительно обладает такой силой, — тогда это меняет «реальный алгоритм, стоящий за» вашим выводом. Это меняет зацепленность вашего вывода с возможными мирами. Но люди колоссально переоценивают вероятность того, что они в самом деле изменят свое мнение.

При таком обилии «непредвзятых умов» вокруг логично было бы ожидать более частого обновления убеждений.

Дайте-ка угадаю: да, вы признаёте, что изначально захотели купить ноутбук за миллион долларов, подумав: «О-о, какая блестящая штучка!». Да, вы согласны, что этот процесс принятия решений не согласуется с вашими заявленными целями. Но с тех пор вы решили, что действительно должны потратить свои деньги так, чтобы обеспечить ноутбуками как можно больше обделенных ими бедолаг. И всё же вы просто не смогли найти более эффективного способа сделать это, кроме покупки усыпанного бриллиантами ноутбука за миллион долларов — ведь вы, как-никак, отдаете деньги магазину ноутбуков и стимулируете экономику! Лучше и не придумаешь!

Друг мой, это поразительное совпадение кажется мне чертовски подозрительным. Чертовски подозрительно, что наилучшим решением в рамках этого прекрасного, рационального, альтруистического критерия X оказывается именно та идея, которая до этого совершенно случайно родилась в ходе никак не связанного и не имеющего оправданий процесса Y. Если вы не думаете, что бросок костей с высокой вероятностью выдал бы правильный ответ, то каковы шансы, что он родится из любого другого иррационального мышления?

Маловероятно, чтобы вы использовали ошибочные рассуждения и при этом не допустили ни одной ошибки.

Время от времени случается так, что кто-то сталкивается с моими трансгуманистическими взглядами — в отличие от моих идей, касающихся человеческой рациональности, — странными, экзотично звучащими концепциями вроде сверхинтеллекта и Дружественного ИИ. И этот человек их отвергает.

Если этого человека просят объяснить своё возражение, он нередко говорит: «С чего бы мне верить хоть чему-то, что говорит Юдковский? У него же нет докторской степени!»

А иногда кто-то другой, услышав это, замечает: «О, тебе стоит получить докторскую степень, чтобы люди к тебе прислушивались». Или этот совет может исходить от того же человека, который не поверил: «Возвращайся, когда у тебя будет докторская степень».

Получать докторскую степень можно по хорошим и по плохим причинам, но эта причина — из плохих.

Есть много причин, почему кто-то на самом деле испытывает неприязнь к трансгуманистическим тезисам. Большинство из них связаны скорее с распознаванием образов, чем с вербальным мышлением: тезис сопоставляется с категориями вроде «странная, дикая идея», «научная фантастика», «культ конца света» или «сверхэнтузиазм молодости».

Поэтому идея отвергается мгновенно, со скоростью восприятия. Если после этого кто-то спрашивает «Почему бы и нет?», запускается поиск обоснования. Но этот поиск не обязательно натолкнётся на истинную причину — под «истинной причиной» я имею в виду не лучшее из возможных оправданий, а те факторы, которые сыграли решающую роль в самый первый момент, когда возникло неприятие.

Вместо этого поиск обоснования натыкается на убедительно звучащий факт: «У этого оратора нет докторской степени».

Но у меня ведь тоже нет докторской степени, когда я пишу о человеческой рациональности, — так почему же тогда никто не выдвигает этого возражения?

И что ещё более важно: если бы у меня была докторская степень, люди всё равно не сочли бы это решающим фактором в пользу того, что они должны верить всему, что я говорю. Произошло бы точно такое же первоначальное отторжение по тем же самым причинам, а последующий поиск обоснования просто остановился бы на другой отметке.

Они бы сказали: «Почему я должен верить именно вам? Вы просто какой-то парень с докторской степенью! Таких полно. Возвращайтесь, когда станете известным в своей области и получите постоянную профессорскую должность в крупном университете».

Но разве люди на самом деле верят первому встречному гарвардскому профессору, который говорит странные вещи? Конечно нет. (Но будь я профессором в Гарварде, мне действительно было бы проще привлечь внимание прессы. Журналисты, изначально не склонные мне верить — которые, вероятно, столь же неохотно поверили бы и любому случайному обладателю докторской степени — всё равно писали бы обо мне, потому что новость о том, что гарвардский профессор верит в такую странную вещь, сама по себе сенсационна.)

Если вы говорите вещи, которые звучат неправильно для новичка (а не просто сыплете похожей на магию техноболтовнёй о лептических кварковых косах в N + 2 измерениях), а ваш слушатель — посторонний человек, который не знает лично вас и не знаком с вашей предметной областью, то я подозреваю, что порог, при котором обычный человек действительно начнёт доверять вам вопреки своему первому впечатлению чисто из-за научных регалий, находится где-то на уровне нобелевского лауреата. Если не выше. Грубо говоря, вам нужны академические регалии такого уровня, которые классифицируются как «выходящие за рамки обыденного».

Насколько я могу судить, примерно это и произошло с Эриком Дрекслером. Он представил своё видение нанотехнологий, а люди сказали: «Где технические подробности?» или «Возвращайся, когда у тебя будет докторская степень!» И Эрик Дрекслер потратил шесть лет на описание технических деталей и защитил докторскую диссертацию под руководством Марвина Минского. И «Наносистемы» — отличная книга. Но изменили ли те же самые люди, которые говорили: «Возвращайся, когда у тебя будет степень», хоть как-то своё мнение о молекулярных нанотехнологиях? Насколько мне известно, ни капли.

Схожее правило работает и для Научно-исследовательского института машинного интеллекта (MIRI): что бы мы ни делали ради повышения авторитета, когда мы это делаем, мало что меняется. «Пишете ли вы какой-нибудь код? Мне неинтересно поддерживать организацию, которая не разрабатывает код» → OpenCog → ничего не меняется. «У Элиезера Юдковского нет научных регалий» → профессор Бен Герцель назначен директором по исследованиям → ничего не меняется. Единственное, что действительно повысило уровень доверия к организации, — это связь с известными личностями: например, то, что нас финансирует Питер Тиль или что Рэй Курцвейл входит в совет директоров.

Молодым компаниям и новоиспечённым консультантам стоит помнить: то, что несостоявшиеся клиенты называют причиной отказа, может на самом деле не играть настоящей роли, и вам следует хорошенько подумать, прежде чем тратить колоссальные усилия на исправление этого. Если венчурный капиталист говорит: «Если бы только ваши продажи росли чуть быстрее!», а потенциальный клиент заявляет: «Всё выглядит отлично, но у вас нет функции X», это может быть вовсе не истинным возражением. Исправление этой проблемы может ничего не изменить.

Об этом также полезно помнить во время споров. Мы с Робином Хэнсоном разделяем убеждение, что два рационалиста не должны соглашаться на разногласие: для них недопустимо взаимное знание об эпистемическом разногласии, если только что-то не пошло в корне не так.

Подозреваю, что в целом, если два рационалиста берутся разрешить спор, который затянулся дольше первого обмена репликами, им следует ожидать, что истинные источники разногласий либо трудно объяснить, либо трудно обнаружить. Например:

Редкие, но хорошо обоснованные научные знания или математический аппарат;

Большие дистанции умозаключений;

Трудно поддающиеся вербализации интуитивные представления, возможно, основанные на специфических визуальных образах;

Дух времени (цайтгайст), унаследованный от профессии (для которого могут быть веские причины);

Паттерны, распознаваемые на уровне восприятия из опыта;

Простые привычки мышления;

Эмоциональная привязанность к вере в конкретный исход;

Страх признания прошлых ошибок;

Глубокий самообман ради гордости или других личных выгод.

Если бы речь шла о вопросе, в котором все истинные возражения можно было бы легко выложить на стол, разногласие, вероятно, разрешилось бы так просто, что спор никогда не затянулся бы дальше первой встречи.

«Является ли это моим истинным возражением?» — вот вопрос, который оба участника спора непременно должны задавать себе, чтобы облегчить жизнь собеседнику. Однако попытки прямо и публично подвергнуть собеседника психоанализу, по моим наблюдениям, могут привести к тому, что разговор очень быстро покатится по наклонной.

И всё же вопрос «Действительно ли это ваше истинное возражение?» должен оставаться вполне допустимым вопросом, который спорящие могут деликатно задать друг другу, если есть хоть какой-то продуктивный способ рассмотреть этот подвопрос. Возможно, правило могло бы звучать так: вы можете открыто спросить: «Является ли этот кажущийся простым и понятным довод вашим истинным возражением, или же он проистекает из интуиции X или профессионального духа времени Y?» При этом более неловкие варианты, лежащие ниже, остаются на совести собеседника — разбираться с ними входит в его личные обязанности.

Один из ваших самых ранних философов пришел к выводу, что полностью компетентный разум, изучив один-единственный факт или артефакт, принадлежащий любой заданной вселенной, мог бы воссоздать или визуализировать эту вселенную от момента ее сотворения до самого ее конца...

—Первый Ленсман¹

Судья Маркус Эйнфелд, 70 лет, королевский адвокат с 1977 года, «Живое сокровище Австралии» 1997 года, лауреат Премии мира ООН 2002 года, президент-основатель Австралийской комиссии по правам человека и равным возможностям, ушедший в отставку несколько лет назад, но регулярно привлекаемый к рассмотрению важных дел...

... сел в тюрьму на два года из-за череды лжесвидетельств и лжи, начавшейся со штрафа в 36 фунтов за превышение скорости на 6 миль в час.

Вся эта подозрительно высокоморальная теория о том, что честные люди не умеют лгать, что повсюду остаются запутанные следы и что всё это оборачивается эпическим провалом типа «черный лебедь», на самом деле действительно находит подтверждение в реальной жизни — хотя то, что мы вообще услышали об этом случае, явно объясняется избирательностью подачи информации.

Ранее я уже говорил о том, что поскольку истина переплетена, ложь заразительна. Если вы подберёте камешек на подъездной дорожке и скажете геологу, что нашли его на пляже — ну, а вы сами-то знаете, что геолог знает о камнях? Я вот не знаю. Но я могу заподозрить, что обточенная водой галька вряд ли будет похожа на каплю застывшей лавы из извергавшегося вулкана. Знаете ли вы, откуда на самом деле взялся камешек на вашей дорожке? Вещи несут на себе отпечатков своего места в закономерной Вселенной; в этой паутине ложь оказывается не на своём месте. (Вообще-то, один геолог в комментариях пишет, что большинство камешков для дорожек берут как раз с пляжей, так что геологи не смогли бы отличить камешек с дорожки от пляжного, но смогли бы отличить горный камешек от дорожно-пляжного. Что и требовалось доказать...)

То, что одному разуму кажется произвольной истиной — которую легко заменить правдоподобной ложью, — в глазах обладателя более глубоких знаний может быть намертво закреплено десятком связей. Для креациониста идея о том, что жизнь возникла благодаря «разумному замыслу», а не «естественному отбору», может звучать просто как название спортивной команды, за которую хочется болеть. Для биолога же попытка правдоподобно доказать, что организм был спроектирован разумно, потребовала бы лжи практически о каждом его аспекте. Чтобы правдоподобно доказать, что «люди» были созданы разумным замыслом, вам пришлось бы солгать об устройстве человеческой сетчатки, архитектуре человеческого мозга, о белках, удерживаемых вместе слабыми силами Ван-дер-Ваальса вместо прочных ковалентных связей...

Или можно просто соврать об эволюционной теории — по этому пути и идёт большинство креационистов. Вместо того чтобы лгать об отдельных узлах сети, они лгут об общих законах, управляющих связями между ними.

А чтобы скрыть это, они лгут о научных правилах — например, о том, что значит назвать что-то «теорией», или что значит для учёного признать, что он не уверен абсолютно.

Так они переходят от лжи о конкретных фактах к лжи об общих законах, а затем — к лжи о правилах мышления. Чтобы соврать о том, эволюционировал ли человек, вам нужно соврать об эволюции; а затем вам придётся соврать о научных правилах, которые ограничивают наше понимание эволюции.

А как иначе? Подобно тому как человек выглядел бы неуместно в сообществе действительно разумно спроектированных форм жизни, и вам пришлось бы врать о правилах эволюции, чтобы представить дело иначе, — точно так же и креационистские убеждения сами по себе неуместны в науке: в упорядоченном разуме вы найдёте их с тем же успехом, с каким обнаружите пальмы, растущие на леднике. И потому приходится рушить барьеры, которые их не допускают.

Что подводит нас к теме самообмана.

Единичная ложь, которую вы говорите себе, может казаться вполне правдоподобной, пока вы не знаете правил, управляющих мышлением, или даже не догадываетесь, что такие правила вообще существуют; и выбор кажется столь же произвольным, как выбор вкуса мороженого, столь же обособленным, как камешек на берегу...

...но затем кто-то оспаривает ваше убеждение, используя правила рассуждения, которые он усвоил. Он говорит: «Где твои доказательства?»

А вы отвечаете: «Что? Зачем мне доказательства?»

Тогда он говорит: «В целом убеждения требуют доказательств».

Этот довод, очевидно, — вражеский солдат, воюющий на другой стороне, и вы обязаны его одолеть. Поэтому вы заявляете: «Я не согласен! Не все убеждения требуют доказательств. В частности, убеждения о драконах доказательств не требуют. Когда речь заходит о драконах, можно верить во всё, во что захочется. Так что мне не нужны доказательства, чтобы верить, что у меня в гараже живёт дракон».

А собеседник говорит: «Чего? Нельзя просто так взять и исключить драконов. Правило о том, что убеждения требуют доказательств, существует не просто так. Чтобы нарисовать точную карту города, вам нужно пройтись по улицам и нанести на бумагу линии, соответствующие тому, что вы видите. Это не какое-то произвольное юридическое требование — если вы будете сидеть в гостиной и чертить линии на бумаге наугад, карта получится неверной. С чрезвычайно высокой вероятностью. И это так же верно для карты дракона, как и для всего остального».

И теперь это объяснение того, почему убеждения требуют доказательств, тоже становится вражеским солдатом. Поэтому вы говорите: «Неверной с чрезвычайно высокой вероятностью? Но ведь шанс всё-таки есть, верно? Я не обязан верить, если нет абсолютной уверенности».

Или, возможно, вы и сами начинаете подозревать, что «убеждения требуют доказательств». Но это угрожает лжи, которая вам дорога; поэтому вы отвергаете внутренний рассвет и заталкиваете Солнце обратно за горизонт.

Или же вы раньше слышали изречение «убеждения требуют доказательств», оно показалось вам довольно мудрым, и вы публично с ним согласились. Но вам и в голову не приходило (пока кто-то другой не обратил на это ваше внимание), что это изречение может относиться к вашей вере в то, что у вас в гараже живёт дракон. И тогда вы быстро соображаете и говорите: «Дракон находится в отдельном магистериуме».

Иметь ложные убеждения — ничего хорошего, но это не обязательно должно наносить непоправимый вред, — если, обнаружив свою ошибку, вы просто оставляете её позади. Опасность заключается в наличии ложного убеждения, которое, как вы считаете, нужно защищать как убеждение, — веры в веру, вне зависимости от того, подкреплена ли она реальной верой.

Всего одна Ложь, Которую Нужно Защищать, может преградить человеку путь к продвинутой рациональности. Нет, это вовсе не безобидная забава.

Подобно тому как сам мир гораздо более переплетён, чем кажется на первый взгляд, правила рассуждения куда более строги и накладывают на убеждения гораздо более жёсткие ограничения, чем мог бы заподозрить неподготовленный ум. Мир соткан прочно и управляется общими законами — и точно так же устроены рациональные убеждения.

Подумайте о том, что потребовалось бы для отрицания эволюции или гелиоцентризма, — обо всех связанных истинах и управляющих законах, которые вам не было бы дозволено знать. Тогда вы сможете представить, как один-единственный акт самообмана способен заблокировать целый метауровень поиска истины, стоит лишь вашему разуму почувствовать угрозу при виде этих связей. Это закрывает путь ко всем промежуточным и высшим уровням Искусства рационалиста, создавая взамен огромный комплекс антизаконов, правил антимышления и универсальных оправданий для веры в ложь.

Стивен Каас сказал: «Распространение убеждений, не являющихся максимально точными, — это акт саботажа. Не делайте этого ни с кем, если только вы не готовы также проткнуть им шины». Всучить кому-то ложное убеждение, которое придётся защищать, — убедить его, что само это убеждение нужно оборонять от любой мысли, которая кажется угрозой, — что ж, этого не стоит делать с человеком, если только вы не готовы сделать ему фронтальную лоботомию.

Стоит вам однажды солгать, и истина становится вашим врагом; и любая истина, связанная с этой истиной, и любой союзник истины вообще — всему этому вы должны противостоять, чтобы защитить ложь. Лжёте ли вы другим или самому себе.

Вам приходится отрицать, что убеждения требуют доказательств, затем приходится отрицать, что карты должны отражать территории, а затем приходится отрицать, что истина — это благо...

Так рождается Тёмная сторона.

Меня беспокоит, что люди не осознают этого или недостаточно осторожны — что, блуждая по нашему человеческому миру, мы неизбежно будем сталкиваться с систематически плохой эпистемологией.

Разгуливающие повсюду мемы о том, «как надо думать», заготовленные мысли «Глубокой Мудрости» — что-то из этого окажется хорошим советом, придуманным рационалистами. Но другие идеи были созданы для защиты лжи или самообмана: они порождены Тёмной стороной.

«Каждый имеет право на собственное мнение». Если задуматься, где родилась эта поговорка? Сказал бы это кто-то ради защиты истины или ради защиты от истины? Но люди не настораживаются и не говорят: «Ага! Чувствую присутствие Тёмной стороны!» Насколько я могу судить, мало кто осознаёт, что Тёмная сторона действительно существует.

Да и как иначе? Обманываете ли вы других или только себя, Ложь, Которую Нужно Защищать, будет рекурсивно распространяться по сети эмпирических причинно-следственных связей, сети общих эмпирических правил, по самим правилам рассуждения и по пониманию, стоящему за этими правилами. Если в мире существует хорошая эпистемология, а также ложь или самообман, которые люди пытаются защитить, то возникнет и плохая эпистемология, чтобы противостоять хорошей. Едва ли в этом мире мы могли бы ожидать встретить Светлую сторону без Тёмной; есть Солнце, и есть то, что прячется от него, порождая укрывающую Тень.

Заметьте, эти люди не обязательно злонамеренны. Подавляющее большинство тех, кто раз за разом повторяет Глубокую Мудрость, скорее обмануты, чем двуличны, скорее сами впали в самообман, чем обманывают других. Мне так кажется.

И я, конечно же, не собираюсь предлагать вам Полностью Универсальный Контраргумент, чтобы всякий раз, когда кто-то предлагает вам эпистемологию, которая вам не нравится, вы говорили: «О, это придумал кто-то с Тёмной стороны». Одно из правил Светлой стороны гласит: вы должны опровергать само утверждение по существу, а не обвинять его автора в дурных намерениях.

Но Тёмная сторона существует. Страх — это путь, который ведёт к ней, и всего одно предательство может обратить вас. Не все, кто носит робы, либо джедаи, либо самозванцы; есть ещё и владыки ситхов, мастера и невольные ученики. Я вас предупредил, будьте начеку.

Что же касается перечисления расхожих мемов, порождённых Тёмной стороной, — заметьте, не просто случайных ложных убеждений, а плохой эпистемологии, этих Шаблонных Защит Провала, — что ж, дорогие читатели, не желаете ли попробовать свои силы?

Это случилось не во время чтения «Вы, конечно, шутите, мистер Фейнман!» или какой-либо другой книги о рациональности, ибо изложенное в них я принимал как нечто само собой разумеющееся. Путь начинается тогда, когда замечаешь серьезное несовершенство в своем текущем искусстве и ощущаешь стремление стать лучше — создавать новые навыки, выходящие за рамки тех полезных, но недостаточных, что были найдены в книгах.

В последние мгновения моей первой жизни мне было пятнадцать лет, и я прокручивал в памяти приятное, преисполненное собственной праведности воспоминание из далекого детства. Мои воспоминания о столь раннем возрасте смутные: в голове стоит картинка, но сколько точно мне было лет, я не помню. Думаю, лет шесть или семь, а само событие произошло в летнем лагере.

А произошло изначально вот что: вожатый, парень-подросток, выстроил нас, ребят помладше, в шеренгу и предложил такую игру: мальчик, стоящий в конце шеренги, должен проползти у нас между ног, а мы будем шлепать его, пока он ползет, после чего настанет очередь следующего восьмилетнего мальчика с конца. (Возможно, дело просто в том, что я утратил детскую невинность, но я невольно задаюсь вопросом...) Я отказался играть в эту игру, и мне велели идти сидеть в углу.

Это воспоминание — об отказе шлепать и быть отшлепанным — стало для меня символом того, что даже в столь раннем возрасте я не желал находить радость в причинении боли другим. Что я не собирался покупать право шлепнуть чужую задницу ценой шлепка по собственной; не собирался платить своей болью за возможность причинить боль другому. Я отказался играть в игру с отрицательной суммой.

И тут, в возрасте пятнадцати лет, я внезапно понял, что все это неправда. Я отказался вовсе не из принципиального неприятия игр с отрицательной суммой. О «дилемме заключенного» я узнал довольно рано, но все же не в семь лет. Я отказался просто потому, что не хотел, чтобы мне было больно, а посидеть в углу казалось приемлемой ценой за то, чтобы избежать боли.

И что еще важнее, я понял, что всегда это знал — что настоящее воспоминание всегда таилось в уголке моего разума, и я лишь на долю секунды бросал на него мысленный взор, а затем поспешно отводил взгляд.

Сделав свой самый первый шаг по Пути, я уловил это ощущение — обобщил этот субъективный опыт — и сказал себе: «Так вот каково это — запихивать неудобную правду в дальний угол ума! Теперь я буду замечать каждый раз, когда так делаю, и вычищу все свои углы!»

Эту дисциплину я назвал одномыслием, по аналогии с оруэлловским двоемыслием. При двоемыслии забываешь, а затем забываешь, что забыл. При одномыслии замечаешь, что забываешь, и тогда вспоминаешь. В уме одновременно удерживается лишь одна непротиворечивая мысль.

«Одномыслие» стало моим первым новым навыком рационалиста, о котором я не читал в книгах. Сомневаюсь, что оно оригинально с точки зрения академического приоритета, но этого, к счастью, и не требуется.

Да, и ещё: в свои пятнадцать лет я очень любил давать всему названия.

Пугающие глубины предвзятости подтверждения кажутся бездонными. Не бесконечно — ведь мозг обладает конечной сложностью, — но достаточно долго, чтобы казаться бесконечными. Вы продолжаете обнаруживать (или читать о них) всё новые механизмы, с помощью которых ваш мозг отпихивает мешающие вещи с дороги.

Но юный я вымел немало углов той своей первой метлой.

В пальцах О’Брайена появился продолговатый обрывок газеты. Секунд пять он находился в поле зрения Уинстона. Это была фотография, и сомнений в том, что это такое, быть не могло. Та самая фотография. Другой экземпляр снимка Джонса, Ааронсона и Резерфорда на партийном празднестве в Нью-Йорке, который случайно попался ему одиннадцать лет назад и который он тут же уничтожил. Лишь на мгновение она возникла перед его глазами и снова скрылась из виду. Но он её видел, несомненно видел! Он сделал отчаянное, мучительное усилие, чтобы высвободить верхнюю половину тела. Сдвинуться хотя бы на сантиметр было невозможно. В эту минуту он забыл даже о шкале. Ему хотелось только одного: снова подержать фотографию в руках или хотя бы посмотреть на неё.

— Она существует! — крикнул он.

— Нет, — сказал О’Брайен.

Он прошёл через комнату.

В противоположной стене было гнездо памяти. О’Брайен приподнял заслонку. Хрупкий листок бумаги, никем не видимый, уносило потоком тёплого воздуха; он исчез в яркой вспышке пламени. О’Брайен повернулся от стены.

— Пепел, — сказал он. — Даже не пепел, который можно опознать. Пыль. Её не существует. Её никогда не существовало.

— Но она существовала! Она существует! Она существует в памяти. Я помню её. И вы её помните.

— Я её не помню, — сказал О’Брайен.

У Уинстона упало сердце. Это и было двоемыслие. Его охватило чувство смертельного бессилия. Будь он уверен, что О’Брайен лжёт, это казалось бы не столь важным. Но было вполне возможно, что О’Брайен действительно забыл о фотографии. А если так, то он уже забыл и о том, как отрицал, что помнит её, и забыл сам акт забывания. Как можно быть уверенным, что это просто уловка? Быть может, это безумное смещение в мозгу действительно возможно — именно эта мысль и сокрушила его.

— Джордж Оруэлл, 1984¹

Недавно я разговаривал с одной женщиной... её трудно описать. Номинально она была ортодоксальной иудейкой. При этом она была очень умна, хорошо знакома с некоторыми археологическими свидетельствами против её религии и с теми поверхностными стандартными аргументами против религии, о которых верующие обычно знают. Например, она знала, что Мардохея, Эсфири, Амана и Вашти нет в персидских исторических хрониках, но что существует аналогичная древнеперсидская легенда о вавилонских богах Мардуке и Иштар и соперничавших с ними эламских богах Хуммане и Вашти. Она знает это — и всё равно празднует Пурим. Одна из тех высокоинтеллектуальных религиозных людей, которые годами варятся в собственных противоречиях, усложняя и подкручивая их, пока их разум изнутри не начинает напоминать картину М. К. Эшера.

Большинство подобных людей делают вид, будто они слишком мудры, чтобы снисходить до разговоров с атеистами, но она охотно проговорила со мной несколько часов.

В результате теперь я понимаю о самообмане как минимум на одну вещь больше, чем явно осознавал ранее, а именно: вам вовсе не обязательно на самом деле обманывать себя, пока вы верите, что обманули себя. Назовём это «верой в самообман».

Когда эта женщина училась в старших классах, она считала себя атеисткой. Но тогда она решила, что должна вести себя так, будто верит в Бога. И затем — как она искренне меня уверяла — со временем она действительно пришла к вере в Бога.

Насколько я могу судить, в этом она абсолютно неправа. На протяжении всего нашего разговора она снова и снова повторяла: «Я верю в Бога», и ни разу — «Бог есть». Когда я спросил её, почему она религиозна, она ни разу не заговорила о последствиях существования Бога — только о последствиях веры в Бога. Никогда: «Бог мне поможет», всегда: «моя вера в Бога мне помогает». Когда я заметил ей: «Тот, кто просто стремился бы к истине и смотрел на нашу Вселенную, даже не изобрёл бы Бога в качестве гипотезы», она сразу же согласилась.

Она на самом деле не обманула себя настолько, чтобы поверить в существование Бога или в истинность иудаизма. И близко нет, насколько я могу судить.

С другой стороны, я думаю, она действительно верит, что обманула себя.

Так что, хотя она и не получает никакой пользы от веры в Бога — потому что не верит, — она искренне верит, что обманом заставила себя поверить в Бога, и потому искренне ожидает получить ту пользу, которую связывает с самообманом, приводящим к вере в Бога; а это, полагаю, должно давать примерно такой же эффект плацебо, как и настоящая вера в Бога.

И это вполне объясняет, почему она так искренне стремилась защищать утверждение, что она верит в Бога, от моих скептических вопросов, но при этом ни разу не обронила: «О, кстати, Бог ведь и правда существует» — и даже, похоже, ни капли не интересовалась самой этой идеей.

Я рассказывал о своем разговоре с номинально ортодоксальной иудейкой, которая рьяно защищала утверждение, будто она верит в Бога, хотя, судя по всему, на самом деле в Него не верила совсем.

Расспрашивая ее о пользе, которую, по ее мнению, приносит вера в Бога, я привел Литанию Тарского — которая на самом деле представляет собой бесконечное семейство литаний; вот конкретный пример:

Если небо голубое,

я желаю верить, что «небо голубое».

Если небо не голубое,

я желаю верить, что «небо не голубое».

— Это не моя философия, — сказала она мне.

— Я так и думал, — ответил я. — Я просто спрашиваю: если предположить, что Бог не существует и это доподлинно известно, то стоит ли вам всё равно в Него верить?

Она помедлила. Похоже, она действительно пыталась обдумать это, что меня удивило.

— То есть это контрфактический вопрос… — медленно произнесла она.

Тогда я подумал, что ей трудно позволить себе представить мир, где Бога не существует, из-за ее привязанности к миру, содержащему Бога.

Сейчас, однако, я подозреваю, что ей было трудно представить разницу в том, как выглядел бы мир, если бы Бог существовал или не существовал, потому что все её мысли крутились вокруг веры в Бога, а её причинно-следственная сеть, моделирующая мир, не содержала Бога в качестве узла. Поэтому она легко могла ответить на вопрос «Как иначе выглядел бы мир, если бы я не верила в Бога?», но не на вопрос «Как иначе выглядел бы мир, если бы Бога не было?».

На тот вопрос она тогда так и не ответила. Но зато она привела контрпример к Литании Тарского:

Она сказала: «Я верю, что люди добрее, чем они есть на самом деле».

Я попытался объяснить, что если вы говорите «люди плохие», это значит, вы верите, что люди плохие, а если вы говорите «я верю, что люди добрые», это значит, вы верите, что верите, будто люди добрые. Таким образом, слова «люди плохие, а я верю, что люди добрые» означают: вы верите, что люди плохие, но верите, что верите, будто они добрые.

Я процитировал ей:

Если бы существовал глагол со значением «ошибочно полагать», у него не было бы сколько-нибудь осмысленной формы первого лица настоящего времени изъявительного наклонения.

— Людвиг Витгенштейн¹

Она улыбнулась и сказала: «Да, я верю, что люди добрее, чем они есть на самом деле. Я просто подумала, что для вас это стоит сформулировать именно так».

— Сдается мне, Матушке надо бы хорошенько тебя осмотреть, Вальтер, — сказала Нянюшка. — По-моему, у тебя в голове всё перепуталось, как в упавшем клубке ниток.

— Терри Пратчетт, «Маскарад»²

И я могу написать слова: «Ну, полагаю, она не считала, что её рассуждения должны оставаться непротиворечивыми при рефлексии», но мне всё ещё трудно уложить это в голове.

Я вижу логику в словах, слетающих с ее губ, но не могу на эмпатическом уровне понять стоящий за ними разум. Я могу вообразить себя на месте инопланетян, пожирающих младенцев, или леди 3-й Кирицугу, но не могу представить, каково это — быть ей. Или, может быть, я просто не хочу этого?

Вот почему у умных людей есть лишь ограниченное время (измеряемое субъективным временем, потраченным на размышления о религии), чтобы стать атеистами. После определенного момента, если вы умны, провели немало времени в размышлениях о своей религии и ее защите, но так и не вырвались из тисков Эпистемологии Темной Стороны, то изнутри ваш разум превращается в картину Эшера.

(Еще один из немногих моментов, заставивших ее задуматься, — упоминаю об этом на случай, если вам представится повод это использовать, — произошел, когда она говорила о том, как хорошо верить, будто кому-то не все равно, поступаете вы правильно или неправильно. Речь, конечно же, не шла о том, что Бог, которому не все равно, на самом деле существует, — это утверждение не входит в ее религию.

И я сказал: «Но мне не все равно, правильно ли вы поступаете. Значит, вы хотите сказать, что этого недостаточно и вам также нужно верить в кого-то выше человечества, кому не все равно?» Это ненадолго поставило ее в тупик, потому что она, конечно же, никогда не думала об этом в таких категориях. Обычное применение нестандартного набора инструментов.)

Позже я спросил ее, следовало ли бы делать хоть что-то иначе, если бы Бога точно не существовало, и на этот раз она ответила: «Нет».

— То есть, — недоверчиво спросил я, — существует Бог или нет, это абсолютно никак не влияет на то, как людям стоит думать или действовать? Полагаю, даже раввин посмотрел бы на это косо.

Ее религия теперь, похоже, состоит целиком из поклонения поклонению. Подобно тому как истинно верующие былых времен верили, что их спасет всевидящий Отец, она теперь верит, что ее спасет сама вера в Бога.

После того как она сказала «я верю, что люди добрее, чем они есть на самом деле», я спросил: «Значит, вы постоянно удивляетесь, когда люди не дотягивают до ваших ожиданий?» Наступила долгая пауза, а затем медленно: «Ну… удивляюсь ли я, когда люди… не дотягивают до моих ожиданий?»

В тот момент я не понял этой паузы. Я хотел намекнуть, что если она постоянно разочаровывается в реальности, то это обратная сторона ложных убеждений. Но она, напротив, казалась ошеломленной выводами, которые следовали из того, что она не удивляется.

Теперь я понимаю, что вся суть ее философии заключалась в ее вере в то, что она обманула саму себя, и возможность того, что ее оценки других людей на самом деле точны, угрожала Эпистемологии Темной Стороны, которую она выстроила вокруг убеждений вроде «Мне полезно верить, что люди добрее, чем они есть на самом деле».

Она свергла старого идола с трона и заменила его открытым поклонением Эпистемологии Тёмной Стороны, некогда изобретённой для его защиты; она поклоняется собственной попытке самообмана. Попытка провалилась, но она искренне этого не осознаёт.

И теперь номинальные стражи здравомыслия человечества (девиз: «портим вашу безумную маленькую вечеринку со времён Эпикура») должны бороться с активным поклонением самообману — поклонением предполагаемой пользе веры вместо Бога.

На самом деле это объясняет кое-что во мне самом, чего раньше я не вполне понимал — причину, по которой меня раздражает, когда люди рассуждают так, будто самообман даётся легко, и почему я пишу целые эссе, доказывая, что принять сознательное решение поверить, будто небо зелёное, гораздо труднее провернуть так, чтобы это сошло с рук, чем принято думать.

Дело в том, что хотя вы не можете просто взять и поверить, будто небо зелёное, — если вы не осознаёте этого факта, вы на самом деле можете обмануть себя, поверив, будто успешно себя обманули.

И поскольку после этого вы искренне ожидаете получить пользу, которую, по вашему мнению, приносит самообман, вы получаете тот же самый плацебо-эффект, какой получили бы от настоящего успешного самообмана.

Так что, разъясняя повсюду, насколько труден самообман, я на самом деле целюсь прямо в плацебо-эффект, который люди получают от веры в то, будто они себя обманули, и атакую новую разновидность религии, которая поклоняется исключительно самому поклонению Богу.

Интересно, породит ли эта битва новый список причин, почему не вера, а вера в веру сама по себе является благом? Почему люди извлекают огромную пользу из поклонения собственному поклонению? Неужели нам придётся повторить всё это с верой в веру в веру и поклонением поклонению поклонения? Или разумные теисты наконец просто откажутся от этой линии аргументации?

Хотелось бы мне верить, что никто не способен верить в веру в веру в веру, но аргумент о мире зомби в философии запутался ещё сильнее, а его сторонники до сих пор от него не отказались.

Парадокс Мура — это стандартный термин для высказывания типа «На улице идет дождь, но я в это не верю». Снимаю шляпу перед painquale с MetaFilter.

Мне кажется, теперь я понимаю парадокс Мура немного лучше, после того как почитал комментарии на Less Wrong. Jimrandomh предполагает:

Многие люди не умеют различать уровни косвенности. Для них «я верю в X» и «X» — это одно и то же, и поэтому причины, по которым полезно верить в X, одновременно являются для них причинами считать, что X истинно.

Я не думаю, что это верно: даже сравнительно маленькие дети способны понять концепцию ложного убеждения, а это требует отдельных ментальных корзин для карты и территории. Но это указывает в направлении похожей идеи:

Многие люди, возможно, сознательно не отличают веру во что-то от одобрения этого.

В конце концов, выражение «я верю в демократию» в разговорной речи означает, что вы одобряете саму концепцию демократии, а не то, что вы верите в существование демократии. Следовательно, у слова «вера» есть несколько значений. Возможно, мы имеем дело с запутанным словом, которое порождает запутанное мышление (или, может быть, оно просто отражает уже существовавшую путаницу).

Итак: в исходном примере «Я верю, что люди лучше, чем они есть на самом деле», она придумала несколько причин, почему было бы хорошо верить в то, что люди хорошие — польза для здоровья и всё такое, — и поскольку теперь у неё возникли тёплые чувства к «вере в то, что люди хорошие», она заглянула в себя, обнаружила этот тёплый отклик и сделала вывод: «Я верю, что люди хорошие». То есть она приняла положительный аффект, связанный с закавыченным убеждением, за признак своей веры в само суждение. В то же время реальный мир показывал, что люди не так уж хороши. И поэтому она сказала: «Я верю, что люди лучше, чем они есть на самом деле».

И это граничит с добросовестным заблуждением — в каком-то смысле, — поскольку людей никто явно не учит тому, как понять, когда они во что-то действительно верят. Как в притче о драконе в гараже: тот, кто говорит «В моём гараже есть дракон, просто он невидимый», не осознаёт, что его ожидание не увидеть дракона указывает на наличие у него (точной) модели, в которой никакого дракона нет.

Людей никто специально не обучает распознавать, когда они во что-то верят. В старших классах им никто не объясняет: «Каково это — действительно верить во что-то, иметь это утверждение в своём наборе убеждений? Это ощущается так, будто мир просто именно так и устроен. Вы должны распознавать это ощущение, которое и является настоящей (незакавыченной) верой, и отличать его от приятных чувств по поводу убеждения, которое вы осознаёте именно как убеждение (что означает, что оно находится в кавычках)».

Благодаря этому данный реальный пример парадокса Мура выглядит уже не столь чуждым и проясняется ещё один механизм, позволяющий людям быть одновременно правыми и неправыми.

То же самое относится к Kurige, который написал:

Я верю, что Бог есть и что Он заложил в нас чувство правильного и неправильного, с помощью которого мы способны оценивать окружающий мир. Я также верю, что чувство морали было запрограммировано в нас эволюционно — чувство морали, которое, скорее всего, является результатом формирования метаполитических коалиций в сообществах бонобо очень, очень давно. Эти два убеждения не противоречат друг другу, но сложность заключается в том, чтобы их примирить.

Подозреваю, Kurige, вы решили, что у вас есть причины одобрять закавыченное убеждение о том, что Бог заложил в нас чувство правильного и неправильного. А также что у вас есть причины одобрять вердикт науки. Похоже, к обоим этим сообществам приятно примкнуть, верно? У обоих наборов убеждений есть свои плюсы? Вы заглядываете в себя и обнаруживаете, что испытываете хорошие чувства по отношению к обоим убеждениям?

Но вы не сказали:

«Бог заложил в нас чувство правильного и неправильного, а также чувство морали было запрограммировано в нас эволюционно. Эти два положения дел в реальности не противоречат друг другу, но сложность заключается в том, чтобы их примирить».

Если вы читаете это, Kurige, вам стоит прямо сейчас быстро произнести это вслух, чтобы заметить, что принять такое утверждение хотя бы чуточку сложнее — обратите внимание на субъективную разницу, — прежде чем вы броситесь заниматься перерационализацией.

В этом и заключается субъективная разница между наличием причин одобрять два разных убеждения и вашей ментальной моделью единого мира, единого устройства вещей.

Не хочу, чтобы казалось, будто я придираюсь к Куриге, но, думаю, стоит ожидать определенной доли расспросов, если вы приходите на Less Wrong и заявляете:

Кое-что из того, что я осознал и что помогает объяснить пропасть, которую я ощущаю при общении с большинством других христиан, заключается в следующем, что где-то по пути мое мировоззрение совершило резкий скачок в сторону от слепой веры и оказалось где-то в районе оруэлловского двоемыслия.

«Если вы знаете, что это двоемыслие...

...как вы можете по-прежнему в это верить?» — беспомощно хочется мне сказать.

Или:

Я решил поверить в существование Бога — намеренно и осознанно. Это решение, однако, ровно никак не влияет на фактическое существование Бога.

Если вы знаете, что ваша вера не коррелирует с реальностью, как вы можете продолжать в нее верить?

Разве интуитивное осознание: «Ой, погодите, небо ведь и правда не зеленое» не должно следовать из осознания «У моей карты, утверждающей, что "небо зеленое", нет причин коррелировать с территорией»?

Что ж... по всей видимости, нет.

Частью разгадки этой головоломки может быть мое объяснение парадокса Мура («Идет дождь, но я не верю в это»): люди при самоанализе ошибочно принимают положительные эмоции, связанные с цитируемым убеждением, за реальную веру.

Но другая ее часть может заключаться в том, что — вопреки возмущению, которое я поначалу хотел выразить, — на самом деле довольно легко не совершать переход от «Карта, отражающая территорию, показывала бы "X"» к реальной вере в «X». Требуется немало усилий, чтобы объяснить представление о разуме как о системе, выстраивающей соответствие между картой и территорией, и даже тогда может потребоваться еще больше усилий, чтобы прочувствовать все следствия на уровне нутра.

Теперь я понимаю, что, когда писал: «Вы не можете усилием воли заставить себя поверить, что небо зеленое», я не просто бесстрастно фиксировал факты. Я также пытался запустить самоисполняющееся пророчество.

Возможно, разумно ходить и намеренно повторять: «Мне не сойдет с рук двоемыслие! В глубине души я буду знать, что это неправда! Если я знаю, что у моей карты нет причин коррелировать с территорией, значит, я в это не верю!»

Потому что в таком случае — если у вас когда-нибудь возникнет искушение попробовать — мысли «Но я же знаю, что это неправда!» и «Я не смогу себя обмануть!» всегда будут легко приходить на ум; и так у вас действительно будет меньше шансов успешно обмануть себя. Вы с большей вероятностью поймете на уровне нутра, что то, что вы говорите себе «X», не делает «X» истиной, а значит, на самом деле верно не-X.

Если вы будете постоянно повторять себе, что не можете просто сознательно решить поверить, будто небо зеленое, — тогда у вас будет меньше шансов преуспеть в самообмане на том или ином уровне; будь то в смысле искренней веры или впадения в парадокс Мура, веру в веру или веру в самообман.

Если вы будете постоянно повторять себе, что в глубине души будете знать —

Если вы будете постоянно повторять себе, что стоит вам только взглянуть на свою искусно выстроенную ложную карту, как вы сразу поймете, что она ложная и никак не коррелирует с территорией, и поэтому, несмотря на всю сложность ее построения, вы не сможете проникнуться к ней доверием —

Если вы будете постоянно повторять себе, что рефлексивная согласованность возьмет верх и заставит вас перестать верить на объектном уровне, как только на метауровне вы осознаете, что карта ничего не отражает, —

Тогда, когда дойдёт до дела, у вас, возможно, и вправду ничего не получится.

Когда речь заходит о намеренном самообмане, вы должны верить в собственную неспособность!

Внушайте себе, что эта попытка обречена, — и так оно и будет!

Сила ли это позитивного мышления или сила негативного? В любом случае, это кажется разумной мерой предосторожности.

Представьте, что на ваших глазах я раскручиваю «Колесо фортуны», и стрелка останавливается на числе 65. Затем я спрашиваю: «Как вы думаете, доля африканских стран в ООН больше или меньше этого числа?» и «Какова, по-вашему, доля африканских стран в ООН?» Если хотите, уделите минуту, чтобы обдумать эти два вопроса самостоятельно, и, пожалуйста, не гуглите.

Кроме того, попробуйте угадать за пять секунд значение следующего арифметического выражения. Пять секунд. На старт... Внимание... Марш!

1 × 2 × 3 × 4 × 5 × 6 × 7 × 8

Тверски и Канеман фиксировали ответы испытуемых, которым на «Колесе фортуны» выпадали разные числа.¹ Медианная оценка испытуемых, видевших число 65, составила 45%, а тех, кто видел число 10, — 25%.

Согласно преобладающей теории, объясняющей этот и подобные эксперименты, испытуемые берут исходное неинформативное число в качестве отправной точки, или якоря, а затем корректируют его в большую или меньшую сторону, пока не доберутся до ответа, который «звучит правдоподобно», после чего прекращают корректировку. Обычно это приводит к недостаточной корректировке относительно якоря: более далекие числа тоже могли бы оказаться «правдоподобными», но человек останавливается на первом же варианте, который кажется ему удовлетворительным.

Сходным образом студенты, которым показывали «1 × 2 × 3 × 4 × 5 × 6 × 7 × 8», давали медианную оценку 512, в то время как студенты, видевшие «8 × 7 × 6 × 5 × 4 × 3 × 2 × 1», давали медианную оценку 2250. Исходная гипотеза состояла в том, что студенты попытаются перемножить (или прикинуть в уме произведение) первых нескольких сомножителей, а затем скорректировать результат в сторону увеличения. В обоих случаях корректировка была недостаточной по сравнению с истинным значением 40 320, но первая группа ответов оказалась гораздо сильнее занижена, поскольку отталкивалась от меньшего якоря.

Тверски и Канеман отмечают, что обещание вознаграждения за точность не снизило эффект привязки.

Штрак и Муссвайлер спрашивали у испытуемых год, когда Эйнштейн впервые посетил США.² Совершенно неправдоподобные якоря, вроде 1215 или 1992 годов, вызывали столь же сильный эффект привязки, что и более правдоподобные, вроде 1905 или 1939 годов.

Этому эффекту можно легко найти применение, скажем, в переговорах о зарплате или при покупке машины. Я не предлагаю вам использовать его в своих интересах, но остерегайтесь тех, кто им пользуется.

И наблюдайте за ходом своих мыслей, стараясь замечать моменты, когда вы корректируете какую-то величину в поисках оценки.

Способы борьбы с эффектом привязки в целом оказались не слишком эффективными. Я бы предложил следующие два: во-первых, если первоначальная догадка кажется неправдоподобной, постарайтесь полностью отбросить её и дать новую оценку с нуля, а не сдвигаться постепенно от якоря. Но одного этого может быть недостаточно: испытуемые, которых просили избегать привязки, всё равно были ей подвержены.³ Поэтому, во-вторых, даже если вы пробуете первый метод, попытайтесь также подумать о противоположном якоре — заведомо слишком маленьком или слишком большом вместо слишком большого или слишком маленького соответственно — и ненадолго на нем сосредоточьтесь.

Представьте, что испытуемых просят нажать одну кнопку, если последовательность букв образует слово, и другую кнопку, если нет (например, «банак» против «баннер»). Затем вы показываете им слово «вода». Позже они быстрее определят последовательность «пить» как слово. Это явление известно как «когнитивный прайминг» (или эффект предшествования); конкретно эта его форма называется «семантическим праймингом» или «концептуальным праймингом».

Самое поразительное в прайминге то, что он происходит на очень низком уровне: прайминг ускоряет распознавание последовательности букв как слова, хотя логично было бы ожидать, что этот процесс происходит до того, как вы задумаетесь о его значении.

Прайминг также раскрывает колоссальный параллелизм распространения активации: если слово «вода» активирует слово «пить», оно, вероятно, также активирует слова «река», «чашка» или «всплеск»... и эта активация распространяется по семантическим связям понятий вплоть до распознавания буквенных строк.

Прайминг происходит подсознательно, и его невозможно остановить, поскольку это артефакт человеческой нейроархитектуры. Попытка удержать себя от прайминга — всё равно что попытка остановить распространение активации в собственных нейронных сетях. Попробуйте назвать вслух цвет — именно цвет, а не значение — следующего слова:

В некоторых ранних экспериментах по эффекту привязки и корректировки проверялось, снижает ли отвлечение испытуемых — создание у них когнитивной нагрузки путём задания высматривать цифру «5» в числовых рядах или чего-то подобного — величину корректировки и, следовательно, усиливает ли влияние якорей. Большинство экспериментов, по-видимому, подтверждали идею о том, что когнитивная занятость усиливает эффект якоря и, в более общем смысле, когнитивное загрязнение.

Изучая накапливающиеся экспериментальные результаты — всё новые доказательства загрязнения мышления, усугубляемого когнитивной занятостью, — Дэниэл Гилберт заметил поистине безумную закономерность: неужели мы верим всему, что нам говорят?

Естественно предположить, что, услышав какое-то утверждение, мы сначала понимаем его смысл, затем обдумываем его и, наконец, принимаем или отвергаем. Эта кажущаяся очевидной модель протекания когнитивных процессов восходит к Декарту. Но соперник Декарта, Спиноза, был с ней не согласен; он предположил, что сначала мы пассивно принимаем утверждение в процессе его понимания и лишь затем активно отвергаем те положения, которые не выдерживают осмысления.

В последние несколько веков философы в основном соглашались с Декартом, поскольку его точка зрения казалась более, ну, знаете, логичной и интуитивно понятной. Но Гилберт нашёл способ проверить гипотезы Декарта и Спинозы экспериментально.

Если прав Декарт, то отвлечение внимания испытуемых должно мешать как принятию истинных утверждений, так и отвержению ложных. Если же прав Спиноза, то отвлечение внимания должно приводить к тому, что испытуемые будут запоминать ложные утверждения как истинные, но не должно приводить к запоминанию истинных утверждений как ложных.

Гилберт, Крулл и Мэлоун подтверждают этот вывод. Они показали, что у испытуемых, которым предъявлялись новые утверждения с пометками «ИСТИНА» или «ЛОЖЬ», отвлечение внимания никак не влияло на распознавание истинных утверждений (55% успеха без отвлечения против 58% при отвлечении), но влияло на распознавание ложных утверждений (55% успеха без отвлечения против 35% при отвлечении).¹

Куда более яркая иллюстрация была получена в последующих экспериментах Гилберта, Тафароди и Мэлоуна.² Испытуемые читали вслух отчёты о преступлениях, бегущие строкой по экрану монитора, причём цвет текста указывал на то, истинно конкретное утверждение или ложно. Некоторые отчёты содержали ложные утверждения, усугубляющие тяжесть преступления, в то время как другие отчёты содержали ложные утверждения, смягчающие (оправдывающие) его. Часть испытуемых во время чтения отчётов должна была также следить за рядами цифр в поисках пятёрки — это и было отвлекающим заданием для создания когнитивной занятости. В конце испытуемые должны были порекомендовать срок тюремного заключения для каждого преступника в диапазоне от 0 до 20 лет.

Испытуемые в условиях когнитивной занятости рекомендовали в среднем 11,15 года тюрьмы для преступников в «отягчающих» условиях, то есть тех, в чьих отчётах содержались помеченные как ложные утверждения, усугубляющие тяжесть преступления. Занятые испытуемые рекомендовали в среднем 5,83 года тюрьмы для преступников, в чьих отчётах содержались помеченные как ложные утверждения, смягчающие преступление. Эта почти двукратная разница была, как вы можете догадаться, статистически значимой.

Свободные от нагрузки участники читали точно такие же отчёты с теми же пометками, и перед ними так же время от времени пробегали строки цифр, однако им не нужно было искать пятёрку. Таким образом, они могли уделять больше внимания «разуверению» в утверждениях, помеченных как ложные. Эти свободные участники рекомендовали в среднем 7,03 года против 6,03 года для преступников, в чьих отчётах содержались ложные отягчающие или ложные смягчающие сведения.

Статья Гилберта, Тафароди и Мэлоуна называлась «Вы не можете не верить всему, что читаете».

Это говорит — как минимум — о том, что нам следует быть осторожнее, когда мы сталкиваемся с недостоверной информацией, особенно если мы заняты в этот момент чем-то ещё. Будьте внимательны, когда просматриваете газету в супермаркете.

P. S. Согласно неподтверждённым слухам, которые я только что выдумал, люди будут менее скептически относиться к этому эссе из-за отвлекающей смены цветов.

Одна из величайших загадок человеческого мозга заключается в том, как эта чертова штука вообще работает, ведь большинство нейронов срабатывают всего 10–20 раз в секунду, от силы 200 Гц. В нейробиологии «правило ста шагов» гласит, что любая гипотетическая операция должна завершаться максимум за 100 последовательных шагов — вы можете распараллеливать процессы сколько угодно, но нельзя предполагать более 100 (а лучше меньше) последовательных нейронных импульсов.

Представляете, каково это — программировать под процессоры с частотой 100 Гц, сколько бы их у вас ни было? К тому же вам понадобилось бы сто миллиардов процессоров просто для того, чтобы делать хоть что-то в режиме реального времени.

Если бы вам действительно понадобилось писать программы реального времени для ста миллиардов 100-герцевых процессоров, один прием вы использовали бы максимально активно — кэширование. Это когда вы сохраняете результаты предыдущих операций и в следующий раз просто извлекаете их, вместо того чтобы вычислять заново с нуля. И это очень нейронный прием — распознавание, ассоциация, достраивание шаблона.

Вполне вероятно, что на самом деле большая часть человеческого мышления сводится к обращениям к кэшу.

Эта мысль действительно частенько приходит мне в голову в определенные моменты.

Была одна на удивление показательная история, которую я, как мне казалось, сохранил в закладках, но так и не смог найти: история об одном человеке, чей сосед-всезнайка как-то вскользь обмолвился, что лучший способ снести дымоход в доме — это разломать камин, подождать, пока кирпичи упадут на уровень ниже, выбить их и повторять так до тех пор, пока от дымохода ничего не останется. Годы спустя, когда этот человек решил снести собственный дымоход, эта кэшированная мысль затаилась, поджидая момента для прыжка...

Как отметил этот человек впоследствии (нетрудно догадаться, что всё закончилось плохо), его сосед не особо разбирался в таких вопросах и совсем не заслуживал доверия. Если бы он подверг сомнению эту идею, он, вероятно, понял бы, насколько она плоха. Некоторые попадания в кэш нам стоило бы вычислять заново. Но мозг достраивает шаблон автоматически — и если вы сознательно не поймете, что шаблон нуждается в исправлении, вы останетесь с уже готовым шаблоном.

Подозреваю, что если бы эта мысль пришла в голову самому человеку — если бы лично ему пришла эта блестящая идея, как убрать дымоход, — он изучил бы ее более критически. Но если кто-то другой уже всё обдумал, можно ведь сэкономить вычислительные ресурсы, просто закэшировав его вывод, верно?

В современной цивилизации никто не может думать достаточно быстро, чтобы думать свои собственные мысли. Если бы во младенчестве меня бросили в лесу и я вырос среди волков или молчаливых роботов, во мне едва ли можно было бы узнать человека. Никто не способен думать так быстро, чтобы за одну жизнь с нуля воспроизвести мудрость племени охотников-собирателей. Что уж говорить о мудрости письменной цивилизации.

Но оборотная сторона состоит в том, что я постоянно вижу людей, стремящихся к критическому мышлению, которые лишь повторяют кэшированные мысли, придуманные вовсе не критически мыслящими людьми.

Хороший пример — скептик, который соглашается: «Ну, религию нельзя доказать или опровергнуть фактическими свидетельствами». Как я уже писал в других статьях, с точки зрения теории вероятностей это попросту неверно. И это также абсолютно неверно с точки зрения реальной психологии религии — еще несколько веков назад за подобные слова вас сожгли бы на костре. Мать, чья дочь больна раком, молится: «Боже, пожалуйста, исцели мою дочь», а не: «Дорогой Боже, я знаю, что у религии не должно быть фальсифицируемых следствий, а значит, Ты никак не можешь исцелить мою дочь, так что... ну, в общем, я молюсь просто чтобы утешить себя, вместо того чтобы сделать что-то, что действительно могло бы ей помочь».

Но люди читают фразу «Религию нельзя доказать или опровергнуть фактическими свидетельствами», а потом, когда в следующий раз видят свидетельство, опровергающее религию, их мозг просто достраивает шаблон. Даже некоторые атеисты без колебаний повторяют эту нелепицу. Если бы они сами додумались до этой идеи, а не услышали ее от кого-то еще, они отнеслись бы к ней гораздо более скептически.

Смерть. Достройте шаблон: «Смерть придает смысл жизни».

Невероятно досадно разговаривать с хорошими, порядочными людьми — теми, кто и за тысячу лет сам по себе никогда бы не додумался до истребления человечества, — поднимать тему экзистенциального риска и слышать от них: «Ну, может быть, человечество и не заслуживает выживания». Они ни за что на свете не застрелили бы собственного ребенка, который является частью человечества, но мозг достраивает шаблон.

Какие шаблоны достраиваются в вашем разуме, хотя вы никогда не выбирали, чтобы они там были?

Рациональность. Достройте шаблон: «Любовь нерациональна».

Если бы эта идея внезапно пришла в голову лично вам, как совершенно новая мысль, как бы вы её критически оценили? Я знаю, что сказал бы я, но что бы сказали вы? Бывает трудно взглянуть на вещи свежим взглядом. Постарайтесь удержать свой разум от достраивания шаблона стандартным, предсказуемым, уже известным способом. Возможно, лучшего ответа, чем стандартный, не существует, но вы не сможете по-настоящему подумать над ответом, пока не заставите свой мозг перестать подставлять его автоматически.

Теперь, когда вы это прочитали, в следующий раз, услышав, как кто-то без колебаний повторяет мем, кажущийся вам глупым или ложным, вы подумаете: «Кэшированные мысли». Моё убеждение теперь у вас в голове, оно ждёт возможности достроить шаблон. Но правда ли это? Не позволяйте своему разуму достраивать шаблон! Думайте!

Всякий раз, когда вас призывают «мыслить вне коробки», вам обычно, для вашего же удобства, в точности указывают, где именно это «вне коробки» находится. Разве не забавно, что все нонконформисты одеваются одинаково...

В области искусственного интеллекта у каждого за пределами этой сферы есть закешированный ответ на тему блестящей новой революционной идеи в ИИ — нейросети, которые работают точно так же, как человеческий мозг! Новая идея в ИИ. Достройте паттерн: «Логические ИИ, несмотря на все громкие обещания, десятилетиями не могли продемонстрировать настоящий интеллект — нам нужны нейросети!»

Эта закешированная мысль существует уже три десятка лет. Интеллекта общего уровня всё ещё нет. Но каким-то образом каждый за пределами этой области знает, что нейросети — это Сметающая-Доминирующую-Парадигму Новая Идея, ещё с тех пор, как в 1970-х изобрели метод обратного распространения ошибки. Вот вам и стареющие хиппи.

Образы нонконформистов по самой своей природе не допускают отклонений от нормы. Если вы не носите чёрное, как люди узнают, что вы — страдающий художник? Как люди распознают уникальность, если вы не вписываетесь в стандартный шаблон того, как эта уникальность должна выглядеть? Как кто-то поймёт, что у вас революционная концепция ИИ, если она не связана с нейросетями?

Другой пример того же тропа — «подрывная» литература, которая вся звучит одинаково и поддерживается крошечной, дерзкой лигой бунтарей, контролирующей всю кафедру английской филологии. Как спрашивает Аноним в блоге Скотта Ааронсона:

Заставило ли вас хоть одно из прочитанных произведений «подрывной» литературы изменить какие-либо из ваших политических взглядов?

Или как замечает Lizard:

Революцию уже показали по телевизору. Революцию выставили на продажу. Революция — это товар, готовый стиль жизни в упаковке, доступный в местном торговом центре. За $19,95 вы получаете чёрную маску, баллончик с краской, протестный плакат «Раздави фашистов» и доступ к блогу, где вы сможете писать о полицейском насилии, которому подверглись, когда приковали себя к пожарному гидранту. Капитализм научился продавать антикапитализм.

Многие в Кремниевой долине замечали, что подавляющее большинство венчурных капиталистов в любой момент времени гоняются за одной и той же Революционной Инновацией — причём той самой, которая вышла на IPO полгода назад. Для венчурного капитала это особенно убийственное наблюдение, поскольку здесь есть прямой экономический мотив не следовать за стадом: либо кто-то другой уже разрабатывает этот продукт, либо кто-то другой предлагает за стартап слишком высокую цену. Стив Юрветсон как-то рассказывал мне, что в Draper Fisher Jurvetson для финансирования любого стартапа на сумму до 1,5 миллиона долларов достаточно согласия всего двух партнёров. И если все партнёры согласны, что идея кажется отличной, они за неё не возьмутся. О, если бы грантовые комитеты были столь же разумны.

Проблема с оригинальностью заключается в том, что для её достижения вам действительно нужно думать, а не позволять мозгу просто достраивать паттерн. Не существует удобно подписанной коробки «Вне коробки», куда можно было бы сразу сбежать. В этом есть что-то почти дзэнское — точно так же нельзя объяснить сатори словами, потому что сатори — это переживание того, как слова вас подводят. Чем сильнее вы пытаетесь следовать словесным наставлениям мастера дзэн, тем дальше вы от обретения пустоты ума.

Думаю, есть причина, почему люди не достигают новизны, когда стремятся именно к ней. Такие свойства, как истинность или хороший дизайн, не зависят от новизны: 2 + 2 = 4 — да, действительно, пусть даже все остальные думают так же. Люди, стремящиеся открыть истину или создать хороший дизайн, со временем могут обрести способность к творчеству. Не всякое изменение — это улучшение, но всякое улучшение — это изменение.

Всякое улучшение — это изменение, но не всякое изменение — улучшение. Тот, кто говорит: «Я хочу создать оригинальную мышеловку!», а не «Я хочу создать оптимальную мышеловку!», почти всегда хочет, чтобы его воспринимали как оригинального. «Оригинальность» в этом смысле социально обусловлена, поскольку её можно определить только в сравнении с другими людьми. Поэтому мозг такого человека просто достраивает стандартный паттерн того, что принято считать «оригинальным», а его друзья согласно кивают и называют это подрывным.

Книги по бизнесу всегда, для вашего удобства, подсказывают, куда переложили ваш сыр. Иначе читатели в растерянности топтались бы на месте, вопрошая: «И где это „Вне коробки“, куда мне велено идти?»

Настоящее мышление, как и сатори, — это бессловесный акт разума.

Выдающиеся философы из Монти Пайтон лучше всего выразили это в «Житии Брайана»:¹

«Вы должны думать самостоятельно! Вы все личности!»

«Да, мы все личности!»

«Вы все разные!»

«Да, мы все разные!»

«Вы все должны во всём разобраться сами!»

«Да, мы должны во всём разобраться сами!»

Поскольку Роберт Пирсиг выразил это очень хорошо, я просто перепишу то, что он сказал. Не знаю, основана ли эта история на реальных событиях, но в любом случае она правдива.¹

У него постоянно возникали трудности со студентами, которым нечего было сказать. Сначала он думал, что это от лени, но потом стало ясно, что дело в другом. Они просто не могли придумать, что сказать.

Одна из них, девушка в очках с толстыми линзами, хотела написать эссе на пятьсот слов о Соединенных Штатах. Он уже привык к тоскливому чувству, которое вызывают подобные заявления, и без всякого пренебрежения предложил ей сузить тему до одного лишь Бозмена.

Когда подошел срок сдачи работы, у нее ничего не было готово, и она была очень расстроена. Она пыталась снова и снова, но так и не смогла придумать, о чем писать.

Это поставило его в тупик. Теперь уже он не знал, что сказать. Повисло молчание, а затем последовал странный ответ: «Сузь тему до главной улицы Бозмена». Это было озарение.

Она послушно кивнула и вышла. Но прямо перед следующим занятием вернулась в самом настоящем отчаянии, на этот раз в слезах — отчаянии, которое, очевидно, мучило её уже давно. Она по-прежнему не могла придумать, о чём писать, и не понимала, почему, если уж она не смогла написать о всем Бозмене, у неё должно получиться написать об одной-единственной улице.

Он разозлился. «Ты не смотришь!» — сказал он. В памяти всплыло его собственное исключение из университета за то, что ему самому было слишком много чего сказать. На каждый факт приходится бесконечное множество гипотез. Чем больше ты смотришь, тем больше видишь. Она действительно не смотрела, но почему-то не понимала этого.

Он сердито сказал ей: «Сузь тему до фасада одного здания на главной улице Бозмена. Оперного театра. Начни с верхнего левого кирпича».

Её глаза за толстыми линзами очков широко раскрылись.

На следующее занятие она пришла с недоумевающим видом и протянула ему эссе на пять тысяч слов о фасаде Оперного театра на главной улице Бозмена, штат Монтана. «Я сидела в закусочной напротив, — сказала она, — и начала писать о первом кирпиче, потом о втором, а к третьему кирпичу дело пошло само собой, и я уже не могла остановиться. Окружающие думали, что я сошла с ума, и подшучивали надо мной, но вот оно всё здесь. Я не понимаю, как это получилось».

Он тоже не понимал, но во время долгих прогулок по улицам города думал об этом и пришел к выводу, что её, по всей видимости, сдерживал тот же внутренний барьер, который парализовал его самого в первый день преподавания. Она зашла в тупик, потому что пыталась воспроизвести на письме то, что уже слышала, точно так же, как в первый день он пытался воспроизвести то, что заранее решил сказать. Она не могла придумать, что написать о Бозмене, потому что не помнила ничего из слышанного, что стоило бы повторить. Она почему-то не подозревала, что может смотреть и видеть всё по-новому, сама по себе прямо в процессе письма, не оглядываясь в первую очередь на то, что уже было сказано до неё. Сужение задачи до одного кирпича преодолело этот барьер, потому что стало совершенно очевидно: ей придётся увидеть всё непосредственно и самой.

— Роберт М. Пирсиг,

Если вы покраситесь в некий точный цвет между синим и зеленым, это обратит для вас силу тяжести вспять, и вы упадете вверх.

В будущем небо заполнят миллиарды парящих черных сфер. Каждая сфера будет больше всех когда-либо существовавших дирижаблей вместе взятых. Если предложить сфере денег, она спустит с неба на эластичном тросе мужчину по вызову.

Ваши внуки будут считать не просто глупостью, а злом сажать воров в тюрьму вместо того, чтобы пороть их.

Вы бы решили, что я сошел с ума, верно?

А теперь представьте, что на дворе 1901 год, и вам приходится выбирать: поверить в те утверждения, которые я только что привел, или же в заявления вроде следующих:

Существует абсолютный предел скорости, с которой, как может казаться, два объекта движутся друг относительно друга, — ровно 670 616 629,2 мили в час. Если вы запрыгнете в поезд, несущийся почти с такой скоростью, и выстрелите из пистолета в окно, фундаментальные единицы длины изменятся так, что вам покажется, будто пуля летит впереди вас, но другие люди увидят совсем иное. Ах да, и время тоже изменится.

В будущем возникнет глобальная суперсеть из миллиардов арифмометров, каждый из которых будет мощнее всех арифмометров мира до 1901 года, вместе взятых. И одним из главных способов применения этой сети будет передача движущихся картинок с лесбийским сексом под видом чисел.

Ваши внуки будут считать не просто глупостью, а злом утверждение, будто женщина не должна быть президентом США только потому, что она чернокожая.

Навеяно комментарием Робина Хансона: «Интересно, можно ли описать вымышленную альтернативную реальность в таких подробностях, чтобы наши предки не смогли отличить её от правды, — просто для того, чтобы наглядно показать, насколько удивительной оказалась действительность?»

Что плохого в том, чтобы использовать фильмы или романы в качестве отправной точки для дискуссии? В конце концов, никто ведь не утверждает, что это правда. Где же здесь ложь, в чем грех рационалиста? Научная фантастика — это попытка автора визуализировать будущее; почему бы не воспользоваться интеллектуальной работой, которую уже проделали за нас, вместо того чтобы начинать все сначала?

Не всякий неверный шаг в точном танце рациональности заключается в слепой вере в ложь; существуют и более тонкие способы ошибиться.

Для начала давайте отбросим мысль, будто научная фантастика — это полноценная рациональная попытка спрогнозировать будущее. Даже самые добросовестные писатели-фантасты — это прежде всего рассказчики; законы повествования отличаются от законов прогнозирования. Как отмечает Ник Бостром:¹

Когда вы в последний раз видели фильм о том, как человечество внезапно вымирает (без предупреждения и не сменяясь какой-то другой цивилизацией)? Хотя этот сценарий может быть гораздо более вероятным, чем сценарий, в котором человеческие герои успешно отражают вторжение монстров или роботов-воинов, смотреть его было бы не слишком интересно.

Итак, в художественных произведениях существуют определенные искажения. Но просто пытаться скорректировать эти конкретные искажения недостаточно. Любая история — это никогда не рациональная попытка анализа, даже у самых добросовестных писателей-фантастов, поскольку в историях не используются распределения вероятностей. Проиллюстрирую это следующим образом:

Боб Меркельтхад осторожно проскользнул в дверь инопланетного космического корабля, поглядывая направо, а затем налево (или налево, а затем направо), чтобы проверить, не осталось ли там еще ужасных Космических Монстров. У его бедра висело единственное оружие, оказавшееся эффективным против Космических Монстров: Космический Меч из чистого титана с вероятностью 30%, обычный железный лом с вероятностью 20% и мерцающий черный диск, найденный в дымящихся руинах Стоунхенджа, с вероятностью 45% — оставшиеся же 5% распределялись между слишком многочисленными мелкими исходами, чтобы перечислять их здесь.

Меркельтхад (хотя существует значительная вероятность того, что вместо него там была Сьюзан Уиффлфуфер) сделал два шага вперед или один шаг назад, когда тишину черного шлюза разорвал оглушительный рев! Или тихий фоновый гул белого шлюза! Хотя Амфер и Вуфи (1997) утверждают, что в этот момент Меркельтхада пожирают, Спэклбэкл (2003) указывает, что...

Персонажи могут пребывать в неведении, но автор не может произнести три волшебных слова: «Я не знаю». Главный герой должен провести одну-единственную линию сквозь будущее, изобилующее деталями, которые придают истории плоть — от подобающе футуристических взглядов Уиффлфуфер на феминизм вплоть до цвета ее сережек.

Затем все эти обременительные детали и сомнительные допущения упаковываются воедино и снабжаются кратким ярлыком, создавая иллюзию, что они представляют собой единый пакет.

В задачах с большим пространством ответов самая большая сложность — не проверить правильный ответ, а для начала просто найти его в этом пространстве. Если кто-то с порога спрашивает, засунет ли нас ИИ в капсулы, как в «Матрице», он сразу перескакивает к 100-битному утверждению, не имея соответствующих 98 бит свидетельств, позволяющих поместить его в пространство ответов как возможность, заслуживающую явного рассмотрения. После первых 98 бит потребовалось бы лишь немного дополнительных свидетельств, чтобы превратить эту возможность в почти полную уверенность — и это кое-что говорит нам о том, где именно выполняется почти вся работа.

«Предварительный» шаг по выявлению возможностей, заслуживающих явного рассмотрения, включает в себя такие действия, как: взвешивание того, что вы знаете и чего не знаете, что вы можете и чего не можете предсказать, сознательные усилия по избеганию искажения абсурдности и расширению доверительных интервалов, размышления о том, какие вопросы действительно важны, попытки сделать поправку на возможных «Черных лебедей» и обдумать (ранее) неизвестные неизвестные. Перескок сразу к вопросу «Матрица: да или нет?» полностью все это пропускает.

Любой профессиональный переговорщик знает: контролировать условия дебатов — значит практически контролировать их исход. Если вы начинаете с мыслей о «Матрице», в воображении возникают марширующие армии роботов, побеждающие людей после долгой борьбы, а вовсе не сверхинтеллект, щелкающий нанотехнологическими пальцами. Это смещает фокус на противостояние по принципу «мы против них», направляя внимание на вопросы вроде «Кто победит?», «Кто должен победить?» и «Будет ли ИИ действительно таким?». Это создает общую развлекательную атмосферу в духе «Каково ваше потрясающее видение будущего?».

В гулкой пустоте бесследно теряются: размышления о том, что у «искусственного интеллекта» может быть множество вариантов устройства разума; зависимость будущего от начальных условий; могущество разума, превосходящего человеческий, и аргументы в пользу его непредсказуемости; то, что люди могут отнестись ко всему этому серьезно и попытаться что-то предпринять.

Если бы какой-нибудь коварный отравитель дискуссий решил, что для достижения нужного ему исхода лучше всего заставить спорящих начать с опровержения «Терминатора», он отлично справился бы с задачей смещения рамок. Дискутируя о контроле над оружием, представитель Национальной стрелковой ассоциации не хочет, чтобы его представляли как «фанатика оружия», а противник оружия не желает быть представленным как «сторонник разоружения жертв». Почему же вы позволяете голливудским сценаристам проделывать аналогичное смещение рамок, пусть даже случайно?

Журналисты не говорят мне: «Будущее будет как в «2001»». Но они спрашивают: «Будет ли будущее похожим на «2001» или на «Искусственный разум»?» Это точно такое же масштабное искажение рамок дискуссии, как и вопрос: «Должны ли мы сократить пособия для ветеранов-инвалидов или поднять налоги для богатых?»

В среде обитания наших предков не было движущихся картинок; то, что вы видели своими глазами, было правдой. Мимолетный взгляд на одно-единственное слово может вызвать прайминг и сделать созвучные мысли более доступными, что, как доказано, оказывает сильное влияние на оценку вероятностей. Как вы думаете, какой хаос может посеять в ваших суждениях двухчасовой фильм? Избавиться от этого ущерба даже с помощью намеренной концентрации будет достаточно трудно — зачем же добровольно впускать вампира в свой дом? В шахматах или го каждый потраченный впустую ход — это потеря; в рациональности любое не основанное на свидетельствах влияние (в среднем) ведет к энтропии.

Удается ли кинозрителям отбросить веру в то, что они видят? Насколько я могу судить, мало кто из них ведет себя так, будто напрямую наблюдал будущее Земли. Люди, смотревшие фильмы о «Терминаторе», не прятались в убежищах 29 августа 1997 года. Но те, кто совершает эту ошибку, ведут себя так, словно видели события фильма происходящими на какой-то другой планете — не на Земле, но где-то очень на нее похожей.

Вы говорите: «Представьте, что мы создали очень умный ИИ», а вам отвечают: «Но разве в «Терминаторе» это не привело к ядерной войне?» Насколько я могу судить, это рассуждение — вплоть до интонации — абсолютно идентично словам того, кто мог бы сказать: «Но разве это не привело к ядерной войне на Альфе Центавра?» или «Разве это не привело к падению итальянского города-государства Пикколо в четырнадцатом веке?» В фильм никто не верит, но он легкодоступен в памяти. Его воспринимают не как пророчество, а как наглядный исторический пример. Повторится ли история? Кто знает?

В недавней дискуссии о взрыве интеллекта кто-то упомянул, что Виндж, похоже, не считал, что нейрокомпьютерные интерфейсы значительно повысят интеллект, и сослался на роман «Затерянные в реальном времени» и Тунджа Блюменталя — самого продвинутого из путешественников, который, однако, не казался таким уж всемогущим. Я возмущенно возразил: «Но ведь Тундж потерял большую часть своего оборудования! Он был калекой!» А потом я мысленно споткнулся и подумал: «Что за чертовщину я несу?»

Разве этот вопрос не следует обсуждать по существу, независимо от того, какими Виндж изобразил своих персонажей? Тундж Блюменталь не «калека», он вымышлен. Я мог бы сказать: «Виндж решил изобразить Тюнча калекой по причинам, которые могли быть, а могли и не быть связаны с его собственными точными прогнозами», и это придало бы его авторскому выбору соответствующий вес в качестве свидетельства. Но я не могу сказать: «Тундж был калекой». Никакого «был» для Тунджа Блюменталя не существует.

Я намеренно оставил ошибку, которую допустил в первом черновике начала этого эссе: «Другие защищают использование этого примера, не соглашаясь с тем, что это логическая ошибка». Но ведь «Матрица» — это не пример!

Схожий изъян — логическая ошибка аргументации на основе воображаемых свидетельств: «Ну, если бы ты действительно дошел до конца радуги, ты бы нашел там горшок с золотом — что как раз и доказывает мою правоту!» (Обновление убеждений на основе предсказанных, но не наблюдавшихся свидетельств — это математическое зеркальное отражение ретроспективного искажения.)

У мозга есть множество механизмов обобщения наблюдений, а не только эвристика доступности. Вы видите трех зебр, у вас формируется категория «зебра», и эта категория воплощает в себе автоматическое перцептивное умозаключение. Похожие на лошадей существа в черную и белую полоску классифицируются как «зебры», следовательно, они быстры и вкусны; ожидается, что они будут похожи на других наблюдаемых зебр.

И вот люди видят (на экране) трех боргов, их мозг автоматически создает категорию «борг», и они автоматически делают вывод, что люди с нейрокомпьютерными интерфейсами относятся к классу «боргов» и будут похожи на других известных им боргов: холодные, лишенные сострадания, одетые в черную кожу, шагающие тяжелой механической поступью. Журналисты не верят, что в будущем действительно появятся борги, они не считают «Звездный путь» пророчеством. Но когда кто-то заговаривает о нейрокомпьютерных интерфейсах, они думают: «Будет ли будущее содержать боргов?» А не: «С чего я взял, что компьютерная телепатия делает людей менее добрыми?» Не: «Я никогда не видел борга, как и никто другой». И не: «Я формирую расовый стереотип на основе буквально нулевых доказательств».

Как сказал Джордж Оруэлл о клише:²

Прежде всего необходимо, чтобы смысл выбирал слово, а не наоборот... Когда думаешь о чем-то абстрактном, больше склоняешься к тому, чтобы с самого начала использовать слова, и, если не сделать сознательного усилия, существующий диалект хлынет потоком и сделает за вас всю работу, размыв или даже полностью изменив ваш смысл.

И все же, по моей оценке, самый пагубный аспект использования чужого воображения заключается в том, что оно мешает людям использовать свое собственное. Как сказал Роберт Пирсиг:³

Она зашла в тупик, потому что пыталась повторить в своей работе то, что уже когда-то слышала, — точно так же, как в первый день он пытался повторить то, что заранее решил сказать. Она не могла придумать, что написать о Бозмене, потому что не могла вспомнить ничего из услышанного, что стоило бы повторить. Она странным образом не осознавала, что может сама смотреть на вещи и видеть их по-новому, прямо по ходу письма, не оглядываясь на то, что уже было сказано прежде.

Всплывающие в памяти вымыслы врываются и думают за вас; они подменяют собой видение — самое смертоносное из всех удобств.

То, что верно для одного яблока, может быть неверно для другого; а потому о конкретном яблоке можно сказать больше, чем обо всех яблоках мира.

— Двенадцать добродетелей рациональности

Недавно я ходил на встречу дискуссионного клуба, темой которой в тот раз была Смерть. Она вызвала глубокие эмоции. Пожалуй, из всех ланчей в Кремниевой долине, на которых я бывал, этот был самым искренним: люди говорили о смерти близких, о смерти друзей, о том, что они думают о собственной смерти. Люди действительно слушали друг друга. Мне бы хотелось знать, как надежно воспроизводить подобные условия.

Я был единственным трансгуманистом среди присутствующих и вел себя крайне осторожно, чтобы не раздражать окружающих. («Фанатик — это тот, кто не может изменить свои взгляды и не хочет менять тему». Я стараюсь по крайней мере быть способным сменить тему.) Как и следовало ожидать, люди говорили о смысле, который смерть придает жизни, или о том, что смерть — это на самом деле благословение, пусть и скрытое. Но я всё же очень осторожно объяснил, что трансгуманисты в целом относятся к жизни положительно, а смерти ставят «палец вниз».

После встречи несколько человек подошли ко мне и сказали, что я мыслю очень «глубоко». Что ж, да, так и есть, но это заставило меня задуматься о том, почему люди кажутся глубокими.

В какой-то момент обсуждения одна женщина сказала, что мысли о смерти заставляют её быть добрее к людям, ведь кто знает — вдруг она больше их не увидит. «Если мне хочется сказать кому-то что-то приятное, — поделилась она, — теперь я говорю это сразу же, а не откладываю на потом».

«Это прекрасная мысль, — сказал я, — и даже если когда-нибудь над вами перестанет висеть угроза смерти, надеюсь, вы продолжите так делать…»

Впоследствии эта женщина была одной из тех, кто назвал меня глубоким.

В другой момент дискуссии мужчина заговорил о неком преимуществе смерти X — не помню точно, о каком именно. И я сказал: «Знаете, учитывая человеческую природу, если бы людей каждую неделю били бейсбольной битой по голове, довольно скоро они придумали бы причины, почему получать бейсбольной битой по голове — это здорово. Но если бы вы взяли кого-то, кого битой по голове не бьют, и спросили, хочет ли он этого, он ответил бы «нет». Думаю, если бы вы взяли кого-то бессмертного и спросили, хочет ли он умереть ради преимущества X, он ответил бы «нет»».

Впоследствии этот мужчина тоже назвал меня глубоким.

Корреляция не означает причинно-следственной связи. Возможно, в тот день я просто говорил глубоким голосом, оттого и казался мудрым.

Но я подозреваю, что показался «глубоким» потому, что связно нарушил закешированный шаблон «глубокой мудрости» — причем сделал это так, что смысл был понятен сразу.

Существует стереотип Глубокой Мудрости. Смерть. Завершите шаблон: «Смерть придает жизни смысл». Все знают этот стандартный Глубоко Мудрый ответ. И потому он приобретает некоторые свойства табло «Аплодисменты». Если вы произнесёте его, люди начнут кивать, потому что мозг достраивает шаблон, и они знают, что кивать — положено. Они могут даже сказать: «Какая глубокая мудрость!», возможно, в надежде, что их самих тоже сочтут глубокими. Но они не будут удивлены; они не услышат ничего нестандартного; они не услышат ничего такого, до чего не могли бы додуматься сами. Это можно назвать «верой в мудрость»: мысль маркируется как «глубоко мудрая», она представляет собой завершенный стандартный шаблон «глубокой мудрости», но в ней нет переживания инсайта.

Люди, которые пытаются казаться Глубоко Мудрыми, часто в итоге кажутся пустыми, точно гулкое эхо, потому что они пытаются казаться Глубоко Мудрыми вместо того, чтобы заниматься оптимизацией.

Много ли мне пришлось думать, чтобы показаться глубоким? Человеческий мозг работает на частоте всего около 100 Гц, а я отвечал в режиме реального времени, так что бо́льшая часть работы, должно быть, была просчитана заранее. Единственное, что потребовало от меня усилий, — это выбор ответа, который был бы понятен всего за один шаг логического вывода, и его формулировка для максимального эффекта.

С философской точки зрения почти вся работа уже была проделана. Завершите шаблон: Существующее положение дел X на самом деле оправдано, потому что у него есть преимущество Y. «Натуралистическая ошибка?» / «Систематическая ошибка статус-кво?» / «Можем ли мы получить Y без X?» / «Если бы мы никогда раньше не слышали об X, согласились ли бы мы добровольно принять его ради Y?» Думаю, будет справедливо сказать, что я воспроизвожу эти мысленные шаблоны с той же степенью автоматизма, с какой дышу. В конце концов, бо́льшая часть человеческого мышления должна сводиться к поиску в кэше, если мы хотим, чтобы мозг вообще работал.

К тому же я уже придерживался развитой философии трансгуманизма. У трансгуманизма тоже есть закешированные мысли о смерти. Смерть. Завершите шаблон: «Смерть — это бессмысленная трагедия, которую люди рационализируют». Это был нестандартный кэш, незнакомый моим слушателям. У меня было несколько возможностей использовать нестандартный кэш, и поскольку все эти мысли были частью развитой философии трансгуманизма, они явно укладывались в одну тему. Это помогло мне показаться не только оригинальным, но и последовательным.

Полагаю, в этом кроется одна из причин, почему восточная философия кажется западным людям глубокой: у неё есть нестандартный, но последовательный кэш для Глубокой Мудрости. Симметрично в японских художественных произведениях порой можно встретить христиан, изображенных как хранители глубокой мудрости и/или мистических тайн. (А порой — нет.)

Если мне не изменяет память, один экономист как-то заметил, что широкая публика настолько не знакома с базовой экономикой, что во время выступлений на телевидении ему достаточно было просто пересказать вводный курс экономики, чтобы показаться потрясающе оригинальным мыслителем.

Решающую роль играло и то, что мои слушатели могли сразу же понять, что в моём ответе есть смысл. Они могли соглашаться или не соглашаться с этой мыслью, но она не казалась им полной бессмыслицей. Я знаю трансгуманистов, которые не могут казаться глубокими из-за того, что неспособны понять, чего именно их слушатель ещё не знает. Если вы хотите казаться глубоким, никогда не говорите ничего, что отдалено более чем на один шаг инференционной дистанции от текущего ментального состояния вашего слушателя. Так уж это устроено.

Чтобы казаться глубоким, изучайте нестандартные философии. Ищите дискуссии на темы, которые дадут вам шанс показаться глубоким. Обдумывайте философские вопросы заранее, чтобы иметь возможность сосредоточиться на том, как лучше их объяснить. И главное — тренируйтесь не выходить за рамки одного шага инференционной дистанции.

Чтобы быть глубоким, думайте самостоятельно о «мудрых», важных или эмоционально напряжённых темах. Думать самостоятельно — не то же самое, что придумывать необычные ответы. Это означает видеть всё самому, а не позволять своему мозгу просто завершать шаблон. Если вы не остановитесь на первом же ответе и будете отбрасывать варианты, которые кажутся смутно неудовлетворительными, со временем ваши мысли сложатся в связное целое, исходящее из вас самих как из единого источника, а не останутся обрывочными повторениями чужих выводов.

За последние несколько лет мы ненавязчиво обращались к коллегам, стоявшим перед выбором между предложениями о работе, и просили их оценить вероятность того, что они выберут то или иное предложение. Средняя уверенность в предсказанном выборе составляла скромные 66%, но лишь 1 из 24 респондентов выбрал вариант, которому изначально приписывал меньшую вероятность, что дает общую точность предсказания в 96%.

— Дейл Гриффин и Амос Тверски¹

Норман Р. Ф. Майер заметил, что, когда группа сталкивается с проблемой, естественная склонность её членов — предлагать возможные решения сразу же, как только начинается обсуждение. В результате групповое взаимодействие фокусируется на достоинствах и недостатках предложенных вариантов, люди эмоционально привязываются к собственным идеям, а более удачные решения так и остаются невысказанными. Чтобы повысить эффективность группового решения задач, Майер ввел правило: «Не предлагайте решений до тех пор, пока проблема не будет обсуждена как можно более подробно без упоминания каких-либо вариантов». Легко показать, что это правило работает в ситуациях, где существуют объективно наилучшие решения.

Чтобы доказать свою правоту, Майер разработал следующий «ролевой» эксперимент. Три работника с разными способностями трудятся на сборочном конвейере. Они чередуют три вида работ, требующих разной квалификации, поскольку самый способный из них — он же самый доминантный — изо всех сил стремится избежать скуки. Напротив, наименее способный рабочий, понимая, что справляется с трудной работой хуже остальных, согласился на ротацию из-за доминирования своего способного коллеги. «Эксперт по эффективности» отмечает, что если бы самому способному работнику поручили самую сложную задачу, а наименее способному — самую легкую, производительность труда выросла бы на 20%, и рекомендует прекратить ротацию. Трех рабочих и... четвертого участника, исполняющего роль мастера, просят обсудить рекомендацию эксперта. Некоторым ролевым группам дают указание Майера не обсуждать решения, пока они досконально не разберут саму проблему; другим группам такого указания не дают. Те, кто не получил этого указания, сразу же начинают спорить о важности производительности в сравнении с автономностью рабочих и защитой от скуки. Группы, следовавшие правилу Майера, с гораздо большей вероятностью приходят к решению, при котором двое более способных рабочих продолжают меняться местами, в то время как наименее способный постоянно выполняет самую простую работу — решению, которое обеспечивает рост производительности на 19%.

Я часто использовал это правило в группах, которыми руководил, — особенно когда они сталкивались с очень сложной задачей, ведь именно в таких случаях люди больше всего склонны сразу же предлагать готовые решения. И хотя у меня нет объективного критерия для оценки качества работы этих групп, правило Майера, по всей видимости, действительно способствует поиску более удачных решений.

Это настолько верно, что даже не смешно. И чем сложнее задача, тем хуже всё становится. Возьмем, к примеру, искусственный интеллект. Поразительно много людей, которых я встречаю, кажется, точно знают, как создать сильный искусственный интеллект (AGI), при этом не умея, скажем, создать систему оптического распознавания символов или систему коллаборативной фильтрации (а ведь это гораздо более простые задачи). А уж что касается создания ИИ, оказывающего положительное влияние на мир, — грубо говоря, Дружественного ИИ, — да ведь эта задача настолько невероятно сложна, что самое настоящее большинство людей «решает» её за пятнадцать секунд. Да не смешите меня.

Эта проблема отнюдь не уникальна для сферы ИИ. Физики то и дело сталкиваются с нефизиками, предлагающими собственные теории физики, а экономистам приходится выслушивать массу удивительных новых экономических теорий. Если вы эволюционный биолог, любой встречный может мгновенно решить любую открытую проблему в вашей области — как правило, постулировав групповой отбор. И так далее.

Совет Майера перекликается с принципом итоговой строки: эффективность наших решений определяется лишь тем, какие свидетельства мы рассмотрели и как их обработали, прежде чем прийти к выводу, — после того как вы написали итоговую строку, уже поздно приписывать аргументы над ней. Если вы принимаете решение на самых ранних этапах, оно на самом деле будет основываться на очень скудных размышлениях, сколько бы потрясающих доводов вы ни придумали постфактум.

К тому же учтите: мы меняем свое мнение реже, чем нам кажется. Из 24 человек, давших в среднем 66% вероятности тому, что они выберут наиболее ожидаемый вариант будущего решения, лишь один действительно выбрал вариант, казавшийся менее вероятным. Если вы уже можете предугадать свой ответ, вы, скорее всего, уже приняли решение. Если вы способны угадать свой ответ спустя полсекунды после того, как услышали вопрос, значит, на проявление интеллекта у вас была всего полсекунды. Не так уж много времени.

Традиционная рациональность делает упор на фальсификацию — способность отказаться от первоначального мнения, столкнувшись с явными опровергающими доказательствами. Но как только идея укореняется в вашей голове, для её искоренения потребуется слишком уж много доказательств. Хуже того, мы не всегда можем позволить себе роскошь обладать неопровержимыми доказательствами.

Я подозреваю, что более мощный (и более сложный) метод — повременить с поиском ответа. Приостановить, затянуть тот крошечный миг, когда мы ещё не знаем, каким будет наш ответ, дав тем самым нашему интеллекту больше времени для работы.

Даже полминуты были бы шагом вперед по сравнению с полусекундой.

В списках логических ошибок вы найдете «генетическую ошибку» — ошибку, заключающуюся в нападках на убеждение на основании причин, по которым кто-то в него верит.

На первый взгляд это очень странная мысль: если причины убеждения не определяют его систематическую надежность, то что же определяет? Если Deep Blue предлагает нам шахматный ход, мы доверяем ему, основываясь на нашем понимании кода, который перебирает дерево игры, поскольку сами оценить это дерево не в состоянии. Что еще может дать право считать оценку вероятности «рациональной», кроме того факта, что она была получена в результате какого-то систематически надежного процесса?

В статьях о генетической ошибке вам скажут, что генетическая аргументация не всегда ошибочна — что происхождение свидетельства может иметь значение для его оценки, как в случае с авторитетным экспертом. Но в других случаях, как пишут в статьях, это действительно ошибка; химик Кекуле впервые увидел кольцевую структуру бензола во сне, но это не значит, что мы никогда не сможем доверять этому убеждению.

Выходит, иногда генетическая ошибка — это ошибка, а иногда нет?

Формально генетическая ошибка действительно является ошибкой, поскольку первоначальная причина убеждения — это не то же самое, что его текущий статус обоснованности, то есть совокупность всех подтверждений и контраргументов, известных на данный момент.

И всё же мы меняем свое мнение реже, чем нам кажется. Генетические обвинения имеют для людей такую силу, какой они не имели бы для идеальных байесовцев.

Очищение разума — мощная эвристика в ситуации, когда вы сталкиваетесь с новым подозрением, что многие ваши идеи могли возникнуть из ненадежного источника.

Стоит идее засесть у нас в голове, и свидетельствам не всегда легко ее оттуда выкорчевать. Вспомните всех тех людей, которые выросли с верой в Библию, позже отвергли (на сознательном уровне) мысль о том, что Библия написана рукой Бога, но тем не менее считают, что Библия содержит незаменимую этическую мудрость. Им не удалось очистить свой разум; они могли бы справиться значительно лучше, если бы сомневались во всем, что написано в Библии, просто потому, что это написано в Библии.

При этом им пришлось бы твердо помнить принцип «глупость наизнанку — это еще не ум»; цель состоит в том, чтобы по-настоящему встряхнуть свой разум и мыслить самостоятельно, а не в том, чтобы просто отрицать Библию и делать из этого отрицания свой алгоритм.

Стоит идее попасть вам в голову, как вы начинаете находить ей подтверждения повсюду — и поэтому, когда первоисточник внезапно попадает под подозрение, с вашей стороны будет очень разумно заподозрить и все листья, которые изначально выросли на этой ветви...

Если у вас получится! Очистить разум не так-то просто. Требуется колоссальное усилие, чтобы действительно пересмотреть свои взгляды, вместо того чтобы позволить своему уму скатиться к повторению кэшированных аргументов. «Это не настоящий кризис веры, если дело с равным успехом не может повернуться в любую сторону», — сказал Тор Шенкель.

Вам следует крайне насторожиться, если у вас есть множество идей, подсказанных источником, который, как вы теперь знаете, не заслуживает доверия, но — надо же! — похоже, все эти идеи в итоге всё равно оказались верными (Библия здесь — очевидный архетипический пример).

С другой стороны... существуют настолько однозначные свидетельства, что происхождение идеи уже не играет существенной роли. Накопление таких однозначных свидетельств — это то, в чём заключается суть Науки. Больше не важно, что Кекуле впервые увидел кольцевую структуру бензола во сне — было бы не важно, даже если бы мы нашли гипотезу для проверки, генерируя случайные компьютерные изображения, или услышали её от спиритиста, разоблаченного как мошенник, или даже прочитали в Библии. Кольцевая структура бензола подтверждена достаточным количеством экспериментальных свидетельств, чтобы источник этой догадки потерял всякое значение.

В отсутствие таких однозначных свидетельств вам действительно нужно обращать внимание на первоисточники идей: оказывать экспертам больше доверия, чем неспециалистам (если их область заслужила уважение); подозревать идеи, которые вы изначально получили из сомнительных источников; не доверять тем, чьи мотивы сомнительны, если они не могут представить аргументы, не зависящие от их собственного авторитета.

Генетическая ошибка действительно оказывается ошибкой, когда существуют обоснования помимо самого факта её происхождения, но генетическое обвинение преподносится так, будто оно закрывает вопрос. Хэл Финни предлагает называть корректное обращение к происхождению утверждения «генетической эвристикой».

Несколько полезных практических правил (для людей):

Относитесь с подозрением к генетическим обвинениям против убеждений, которые вам не нравятся, особенно если сторонник убеждения приводит обоснования, выходящие за рамки простого авторитета источника. «Полет — это религиозная идея, поэтому братья Райт, должно быть, лжецы» — один из классических примеров.

Точно так же не думайте, что сможете получить качественную информацию по техническому вопросу, просто с глубокомысленным видом подвергая психоанализу личности участников и их порочные мотивы. Если существуют технические аргументы, приоритет отдается им.

Когда под подозрение попадает один из ваших фундаментальных источников, вам действительно следует подвергнуть сомнению все ветви и листья, выросшие из этого корня. Это не дает вам права с ходу отвергать эти выводы, поскольку глупость наизнанку — это еще не ум, но...

Насторожитесь до крайности, если обнаружите, что по-прежнему верите ранним идеям источника, который вы впоследствии отвергли.

Эвристика аффекта — это явление, при котором субъективные впечатления о «хорошем» и «плохом» выступают в роли эвристики — источника быстрых, перцептивных суждений. Приятные и неприятные чувства лежат в основе человеческого мышления, и эвристика аффекта порождает восхитительные когнитивные искажения — одни из моих любимых.

Начнем с относительно менее безумного искажения. Вы собираетесь переезжать в другой город, и вам нужно переслать старинные напольные часы. В первом случае эти часы подарили вам бабушка с дедушкой на пятилетие. Во втором случае часы достались вам от дальнего родственника, и никаких особых чувств вы к ним не испытываете. Сколько бы вы заплатили за страховку, которая выплатит 100 долларов, если часы потеряются при транспортировке? Согласно исследованиям Си и Кунройтера, в первом случае испытуемые заявляли о готовности заплатить более чем вдвое больше.¹ Это может показаться рациональным — почему бы не заплатить больше ради защиты более ценной вещи? — пока вы не поймете, что страховка вовсе не защищает часы. Она просто выплачивает компенсацию в случае их утери, причем абсолютно одинаковую сумму в обоих случаях. (И да, в условиях эксперимента было оговорено, что страховка оформляется у сторонней компании, так что для грузчиков это не служило дополнительным стимулом.)

Ладно, это звучит не так уж безумно. Можно даже попытаться заявить, что испытуемые страховали эмоциональные последствия, а не финансовые — то есть покупали себе утешение.

А как вам такое? Ямагиси показал, что испытуемые считали болезнь более опасной, когда ее описывали как убивающую 1286 человек из каждых 10 000, по сравнению с болезнью, вероятность летального исхода от которой составляла 24,14%.² Судя по всему, мысленный образ тысячи мертвых тел пугает гораздо сильнее, чем один человек, у которого шансы выжить выше, чем умереть.

Но подождите, дальше только хуже.

Предположим, руководство аэропорта должно решить, стоит ли тратить деньги на покупку нового оборудования, в то время как критики утверждают, что эти средства лучше направить на другие аспекты безопасности. Словик и соавторы представили двум группам испытуемых аргументы за и против покупки оборудования, предложив шкалу оценки от 0 (вообще бы не поддержал) до 20 (очень сильная поддержка).³ Первой группе мера была представлена как спасающая 150 жизней. Второй группе ту же меру описали как спасающую 98% из 150 жизней. Гипотеза, побудившая к проведению этого эксперимента, заключалась в том, что «спасение 150 жизней» звучит как-то неопределенно хорошо — много это или мало? — тогда как спасение 98% чего-либо очевидно воспринимается как нечто прекрасное, ведь 98% находятся очень близко к верхней границе процентной шкалы. И вот результат: спасение 150 жизней получило среднюю оценку поддержки 10,4, а спасение 98% из 150 жизней — 13,6.

Или обратимся к отчету Денеш-Радж и Эпштейна:⁴ испытуемым предлагали выиграть по 1 доллару за каждую случайно вытянутую из чаши красную мармеладку. Они часто предпочитали тянуть из чаши, где красных мармеладок было больше количественно, но их доля была меньше. Например, вариант «7 из 100» предпочитали варианту «1 из 10».

По словам Денеш-Радж и Эпштейна, впоследствии эти испытуемые признавались: хотя они и знали, что вероятность не в их пользу, им казалось, что шансы выше там, где красных мармеладок физически больше. Тебе, о Статистически Искушенный Читатель, это может показаться безумием, но если подумать хорошенько, то окажется, что в этом есть глубокий смысл. Разница между вероятностью в 7% и 10% — новость, конечно, неприятная, но она с лихвой компенсируется увеличением количества красных мармеладок. Вероятность хуже, да, но у вас всё равно больше шансов выиграть, понимаете? Вам стоит медитировать над этой мыслью до тех пор, пока вы не достигнете просветления относительно того, как остальная часть планеты думает о вероятностях.

Финукейн и соавторы обнаружили, что при оценке ядерных реакторов, природного газа и пищевых консервантов предоставление информации о высокой пользе заставляло людей воспринимать риски как более низкие; информация о высоких рисках заставляла их видеть меньше пользы; и так далее по всем квадрантам.⁵ Люди объединяют свои суждения об отдельных хороших или плохих аспектах чего-либо в общее «хорошее» или «плохое» чувство по отношению к этому объекту.

Финукейн и соавторы также обнаружили, что дефицит времени значительно усиливал эту обратную зависимость между воспринимаемым риском и воспринимаемой пользой. Это согласуется с общим выводом о том, что нехватка времени, недостаток информации или отвлекающие факторы усиливают доминирование перцептивных эвристик над аналитическим мышлением.

Ганзах обнаружил тот же эффект в сфере финансов.⁶ Согласно классической экономической теории, доходность и риск должны коррелировать положительно — или, иными словами, люди переплачивают за безопасные инвестиции, что снижает их доходность; акции приносят больший доход, чем облигации, но и риск по ним соответственно выше. При оценке знакомых акций суждения аналитиков о рисках и доходности коррелировали положительно, как и предсказывает теория. Но при оценке незнакомых акций аналитики были склонны судить о них так, будто они были в целом хорошими или в целом плохими — приписывая им либо низкий риск и высокую доходность, либо высокий риск и низкую доходность.

Для дальнейшего чтения я рекомендую прекрасную обзорную статью Словика «Рациональные субъекты или рациональные глупцы: значение эвристики аффекта для поведенческой экономики».⁷

С приближением дорогой части сезона Хэллоублагорождества в умах наших читателей наверняка встает важный вопрос:

«Дорогой Overcoming Bias, есть ли какие-нибудь когнитивные искажения, которыми я могу воспользоваться, чтобы выглядеть щедрым, на самом деле не тратя кучу денег?»

Рад сообщить, что ответ — да! Согласно Кристоферу Си — в статье под названием «Меньше — лучше: когда менее ценные варианты ценятся выше, чем более ценные» — если вы купите кому-то шарф за 45 долларов, вас с большей вероятностью сочтут щедрым, чем если вы купите пальто за 55 долларов.¹

Это частный случай более общего феномена. В более раннем эксперименте Си спрашивал испытуемых, сколько они готовы заплатить за подержанный музыкальный словарь:²

Словарь А, 1993 года издания, 10 000 словарных статей, в состоянии нового.

Словарь Б, 1993 года издания, 20 000 словарных статей, с порванной обложкой, в остальном в состоянии нового.

Подвох заключался в том, что некоторые испытуемые видели оба словаря рядом друг с другом, тогда как другие видели только один словарь...

Испытуемые, видевшие только один из этих вариантов, были готовы заплатить в среднем 24 доллара за словарь А и в среднем 20 долларов за словарь Б. Испытуемые, которые видели оба варианта бок о бок, были готовы заплатить 27 долларов за словарь Б и 19 долларов за словарь А.

Разумеется, количество статей в словаре важнее, чем порванная обложка, — по крайней мере, если вы планируете им пользоваться. Но если вам предлагают только один словарь, в котором 20 000 статей, число 20 000 мало о чем говорит. Это мало? Или много? Кто знает? Оно не поддается оценке. С другой стороны, порванная обложка бросается в глаза. Она имеет определенную аффективную валентность — а именно негативную.

Однако, когда они представлены бок о бок, количество статей переходит из не поддающегося оценке в поддающееся оценке, поскольку появляются две сопоставимые величины для сравнения. И как только количество статей становится оцениваемым, этот аспект полностью затмевает значимость порванной обложки.

Из работы Словича и др.: Что бы вы предпочли?³

Шанс 29/36 выиграть 2 доллара.

Шанс 7/36 выиграть 9 долларов.

Хотя средние цены (эквивалентные стоимости), назначенные этим двум вариантам, составили 1,25 и 2,11 доллара соответственно, их средние оценки привлекательности оказались равны 13,2 и 7,5. И цены, и оценки привлекательности выявлялись в условиях, когда испытуемым сообщали, что из оцененных лотерей случайным образом выберут две, и они разыграют ту, которая получила более высокую цену или более высокую оценку привлекательности. (У испытуемых был стимул оценивать как более привлекательные или назначать более высокую цену именно тем лотереям, которые они действительно предпочли бы разыграть.)

Лотерея, сулившая больше денег, казалась менее привлекательной — классический пример инверсии предпочтений. Исследователи предположили, что долларовые суммы лучше согласуются с задачей оценки стоимости, тогда как вероятность выигрыша лучше согласуется с привлекательностью. И тогда исследователи подумали: почему бы не попробовать сделать выигрыш более эмоционально значимым, более аффективно оцениваемым и, следовательно, более привлекательным?

И как же они это сделали? Добавив к лотерее крошечный проигрыш. В старой лотерее был шанс 7/36 выиграть 9 долларов. В новой лотерее оставался шанс 7/36 выиграть 9 долларов, но добавлялся шанс 29/36 проиграть 5 центов. В старой лотерее вы неявно оцениваете привлекательность 9 долларов. Новая лотерея заставляет вас оценивать привлекательность выигрыша в 9 долларов против проигрыша в 5 центов.

«Результаты, — заявили Слович и соавторы, — превзошли наши ожидания». В новом эксперименте простая лотерея с шансом 7/36 выиграть 9 долларов получила среднюю оценку привлекательности 9,4, тогда как сложная лотерея, включавшая шанс 29/36 проиграть 5 центов, получила среднюю оценку привлекательности 14,9.

Последующий эксперимент проверял, предпочтут ли испытуемые старую лотерею гарантированному выигрышу в 2 доллара. Только 33% студентов предпочли старую лотерею. В другой группе, которой предложили выбрать между гарантированными 2 долларами и новой лотереей (с добавленной вероятностью проигрыша 5 центов), целых 60,8% предпочли лотерею. В конце концов, 9 долларов — не слишком привлекательная сумма денег, но 9 долларов к 5 центам — это поразительно привлекательное соотношение выигрыша и проигрыша.

Можно сделать лотерею более привлекательной, добавив чистый проигрыш! Разве психология — это не весело? Вот почему никто из тех, кто по-настоящему ценит удивительную сложность человеческого разума, не хочет создавать искусственный интеллект по образу и подобию человека.

Конечно, это работает только в том случае, если испытуемые не видят обе лотереи бок о бок.

Подобным образом, какое из этих двух мороженых, по-вашему, предпочли испытуемые в исследовании Си 1998 года?

«Психофизика», вопреки названию, — вполне респектабельная область науки, связывающая физические воздействия с сенсорными ощущениями. Если вы закачиваете акустическую энергию в воздух — проще говоря, шумите — то насколько громким этот шум покажется человеку в зависимости от величины этой энергии? Насколько больше акустической энергии нужно закачать в воздух, чтобы шум показался слушателю вдвое громче? Вовсе не вдвое; скорее, раз в восемь.

Измерить акустическую энергию или фотоны не составляет труда. Но когда вы хотите выяснить, насколько громким воспринимается акустический стимул или насколько ярким кажется источник света, вы обычно спрашиваете слушателя или наблюдателя. Для этого можно использовать ограниченную шкалу — от «очень тихо» до «очень громко» или от «очень тускло» до «очень ярко». Можно использовать и неограниченную шкалу, где ноль означает «совсем не слышно» или «совсем не видно», а дальнейшие значения растут без предела. При использовании неограниченной шкалы наблюдателю обычно предъявляют постоянный стимул — модуль, которому присваивается фиксированная оценка. Например, звуку присваивается громкость 10. Тогда, если следующий звук покажется наблюдателю вдвое громче модуля, он может обозначить его числом 20.

И этот метод зарекомендовал себя как довольно надежный. Но что произойдет, если дать испытуемым неограниченную шкалу, но не дать модуля? От нуля до бесконечности, без всякой опорной точки для фиксированного значения? Разумеется, тогда они выдумают свой собственный модуль. Соотношения между стимулами по-прежнему будут надежно коррелировать у разных испытуемых. Испытуемый А говорит, что громкость звука X равна 10, а звука Y — 15. Если испытуемый Б говорит, что громкость звука X равна 100, то можно с уверенностью предположить, что звуку Y он присвоит громкость где-то в районе 150. Но если вы не знаете, какой модуль — какой масштабный коэффициент — использует испытуемый В, то у вас нет ни единого шанса угадать, какую оценку он даст звуку X. Это может быть и 1, и 1000.

Для испытуемого, оценивающего один-единственный звук по неограниченной шкале без фиксированного эталона сравнения, почти вся дисперсия обусловлена произвольным выбором модуля, а не самим звуком.

«Хм, — думаете вы, — это чертовски напоминает присяжных, совещающихся о размере штрафного возмещения. Неудивительно, что здесь такой разброс!» Интересная аналогия, но как доказать её экспериментально?

Канеман и его коллеги ознакомили 867 потенциальных присяжных с описаниями судебных дел (например, о ребенке, на котором загорелась одежда) и попросили их выполнить одно из трех действий:

Оценить по ограниченной шкале, насколько возмутительными были действия ответчика;

Оценить по ограниченной шкале степень, в которой ответчик должен быть наказан; или

Определить размер штрафного возмещения в долларах.¹

И — о чудо! — хотя оценки возмущения и строгости наказания у разных испытуемых отлично коррелировали между собой, назначенные ими суммы штрафного возмещения демонстрировали огромный разброс. И тем не менее ранжирование сумм штрафного возмещения испытуемыми — то есть их распределение от наименьшей суммы к наибольшей — хорошо коррелировало между собой.

Если задаться вопросом, какая доля дисперсии в шкале «наказания» объясняется конкретным сценарием — тем или иным судебным делом, предложенным разным испытуемым, — то ответ даже для исходных оценок составит 0,49. Для рангового порядка ответов в долларовом выражении предсказанная доля дисперсии составляла 0,51. А для абсолютных долларовых сумм объясненная дисперсия составила всего 0,06!

Иными словами, зная сценарий (того самого ребенка в загоревшейся одежде), вы могли бы довольно точно угадать оценку наказания и ранговый порядок выплаты в долларовом выражении относительно других дел, но саму сумму компенсации предсказать было бы абсолютно невозможно.

Вычисление медианы для двенадцати случайно выбранных ответов тоже не особо помогало.

Таким образом, присуждаемая присяжными сумма штрафного возмещения — это не столько экономическая оценка, сколько выражение отношения, психофизическая мера возмущения по неограниченной шкале без стандартного модуля.

Я замечаю, что многие футуристические прогнозы точно так же правильнее всего рассматривать как выражение отношения. Возьмем вопрос: «Сколько времени пройдет, прежде чем мы создадим ИИ человеческого уровня?» Ответы, которые я слышал, разнятся колоссально. Однажды один представитель ИИ-мейнстрима сказал мне: «Через пятьсот лет». (!!)

Причины, по которым сроки создания ИИ попросту плохо предсказуемы, — это тема для отдельного долгого разговора. Но ведь не то чтобы парень, сказавший «пятьсот лет», заглянул в будущее, чтобы это выяснить. И он не мог получить эту цифру с помощью стандартного псевдонаучного метода с использованием закона Мура. Так что же означало это число 500?

Насколько я могу судить, это равносильно вопросу: «Если представить шкалу, где ноль — „совсем не сложно“, то насколько сложной проблема ИИ ощущается вами?» Будь эта шкала ограниченной, любой здравомыслящий респондент отметил бы крайнюю правую точку — «невероятно сложно». Всё кажется невероятно сложным, когда вы не знаете, как это сделать. Но вместо этого перед ними неограниченная шкала без стандартного модуля. И люди просто придумывают число, обозначающее «крайне сложно», — им может оказаться и 50, и 100, и даже 500. Затем они приписывают в конце слово «лет», и вот вам готовый футуристический прогноз.

«Насколько сложной ощущается проблема ИИ?» — не единственный вопрос, которым подменяют исходный. Другие отвечают так, словно я спросил: «Насколько позитивно вы настроены по отношению к ИИ?» (с той лишь разницей, что меньшие числа означают более позитивный настрой), а потом тоже приписывают в конце слово «лет». Но если эти «оценки времени» выражают что-то иное, кроме отношения по неограниченной шкале без модуля, мне так и не удалось этого обнаружить.

Эвристика аффекта — это то, как общее ощущение хорошего или плохого влияет на множество других суждений, логично это или нет, осознаёте вы это или нет. Испытуемые, которым рассказали о преимуществах ядерной энергетики, склонны оценивать её риски как более низкие; биржевые аналитики, оценивая незнакомые акции, судят о них как о «в целом хороших» или «в целом плохих» — низкий риск и высокая доходность или же высокий риск и низкая доходность — вопреки стандартной экономической теории, согласно которой риск и доходность должны коррелировать положительно.

Эффект ореола — это проявление эвристики аффекта в социальной психологии. Роберт Чалдини в книге «Влияние: наука и практика»,¹ резюмирует:

Исследования показывают, что мы автоматически приписываем привлекательным людям такие положительные качества, как талант, доброта, честность и ум (обзор этих данных см. в работе: Eagly, Ashmore, Makhijani, and Longo, 1991).² Более того, мы выносим эти суждения, не осознавая, что физическая привлекательность играет здесь какую-то роль. Некоторые последствия неосознанного допущения «красивый — значит хороший» меня пугают. Например, исследование федеральных выборов в Канаде в 1974 году показало, что привлекательные кандидаты получили более чем в два с половиной раза больше голосов, чем непривлекательные (Efran and Patterson, 1976).³ Несмотря на столь явные свидетельства фаворитизма по отношению к симпатичным политикам, последующие исследования продемонстрировали, что избиратели не осознавали своей предвзятости. На самом деле 73 процента опрошенных канадских избирателей самым категорическим образом отрицали, что на их выбор повлияла внешность кандидатов; и лишь 14 процентов хотя бы допускали возможность такого влияния (Efran and Patterson, 1976).⁴ Избиратели могут сколько угодно отрицать влияние привлекательности на шансы быть избранным, но факты продолжают подтверждать её тревожное присутствие (Budesheim and DePaola, 1994).⁵

Схожий эффект был обнаружен и при найме на работу. В одном исследовании ухоженный вид соискателей на смоделированном собеседовании сильнее влиял на положительное решение о найме, чем их профессиональная квалификация — и это несмотря на то, что проводившие собеседование заявляли, будто внешность сыграла незначительную роль в их выборе (Mack and Rainey, 1990).⁶ Преимущество привлекательных работников выходит далеко за рамки самого приёма на работу и распространяется на оплату труда. Экономисты, изучившие американскую и канадскую выборки, обнаружили, что привлекательным людям платят в среднем на 12–14 процентов больше, чем их менее привлекательным коллегам (Hamermesh and Biddle, 1994).⁷

Не менее тревожные исследования показывают, что наш судебный процесс точно так же подвержен влиянию пропорций тела и строения костей. Похоже, красивые люди могут рассчитывать на крайне благосклонное отношение в судебной системе (обзоры см. в: Castellow, Wuensch, and Moore, 1991; Downs and Lyons, 1990).⁸ Например, в ходе исследования в Пенсильвании (Stewart, 1980)⁹ исследователи оценили физическую привлекательность 74 подсудимых-мужчин в начале уголовных процессов над ними. Когда гораздо позже исследователи сверились с судебными архивами, чтобы узнать исходы этих дел, они обнаружили, что привлекательные мужчины получили значительно более мягкие приговоры. Более того, привлекательные подсудимые имели в два раза больше шансов избежать тюремного заключения, чем непривлекательные. В другом исследовании — на этот раз о присуждении компенсации ущерба в инсценированном судебном процессе по делу о халатности — с подсудимого, который был привлекательнее своей жертвы, взыскали в среднем 5623 доллара; но когда более привлекательной из двух сторон оказывалась жертва, средняя компенсация составляла 10 051 доллар. Более того, предвзятость в пользу красоты демонстрировали присяжные обоих полов (Kulka and Kessler, 1978).¹⁰

Другие эксперименты продемонстрировали, что привлекательные люди с большей вероятностью получают помощь, когда в ней нуждаются (Benson, Karabenic, and Lerner, 1976),¹¹ и более убедительны, когда пытаются изменить мнение аудитории (Chaiken, 1979)...¹²

Влияние привлекательности на оценку ума, честности или доброты — яркий пример предвзятости (особенно когда вы судите об этих качествах на основании одного и того же текста), поскольку нет никаких разумных причин ожидать, что суждения о честности и привлекательности должны смешиваться. С другой стороны, какая доля приписываемого мне ума обусловлена моей честностью? Какая доля приписываемой мне честности обусловлена моим умом? Поиск истины и высказывание правды в природе разделены далеко не так сильно, как привлекательная внешность и умный вид...

Однако эти исследования эффекта ореола, вызываемого привлекательностью, должны заставить нас заподозрить, что аналогичный эффект ореола может существовать для доброты или ума. Допустим, вы знаете кого-то, кто кажется не только очень умным, но также честным, альтруистичным, доброжелательным и безмятежным. Вам стоит насторожиться: возможно, некоторые из этих воспринимаемых качеств влияют на ваше восприятие остальных. Быть может, этот человек действительно умён, честен и альтруистичен, но вовсе не так уж доброжелателен или безмятежен. Стоит насторожиться, если знакомые вам люди слишком чётко делятся на ангелов и демонов.

И — я знаю, вы думаете, будто вам этого делать не нужно, но, возможно, именно вам и стоит — будьте хоть чуточку скептичнее к более привлекательным политическим кандидатам.

Представьте себе тяжело вооруженного социопата, похитителя с заложниками, который только что отверг все предложения о переговорах и объявил о своем намерении начать убивать. В реальной жизни хорошие парни обычно не вышибают дверь, если у плохого парня есть заложники. Но иногда — очень редко, но все же — жизнь подражает Голливуду до такой степени, что настоящим хорошим парням действительно приходится выламывать дверь.

Представьте в двух далеких друг от друга реальностях двух героев, которые врываются в комнату первыми, чтобы противостоять злодею.

В одной реальности герой силен настолько, что может швыряться машинами, способен испускать энергетические лучи из ноздрей, обладает рентгеновским слухом, а его кожа не просто отражает пули, а аннигилирует их при соприкосновении. Злодей засел в начальной школе и взял в заложники более двухсот детей; их родители плачут на улице, ожидая развязки.

В другой реальности герой — полицейский из Нью-Йорка, а заложники — три проститутки, которых злодей подобрал на улице.

Задумайтесь над этим вопросом очень серьезно: кто из них больший герой? И у кого больше шансов получить собственную серию комиксов?

Эффект ореола заключается в том, что восприятие всех положительных качеств взаимосвязано. Профили людей, получившие более высокие оценки по шкале привлекательности, также оцениваются выше по шкалам таланта, доброты, честности и интеллекта.

И поэтому персонажи комиксов, которые кажутся сильными и неуязвимыми (что само по себе положительные черты), также кажутся наделенными большей отвагой и героизмом. И тем не менее:

Насколько тяжело корчить из себя храбреца и смельчака, когда ты практически неуязвим?

— Адам Уоррен, Empowered, том 1¹

Не помню, прочитал ли я следующую мысль где-то или додумался до нее сам: известность, судя по всему, суммируется со всеми остальными чертами личности. Вспомните Ганди. Был ли Ганди самым альтруистичным человеком двадцатого века или просто самым известным альтруистом? Ганди противостоял полицейским с дубинками и солдатам с ружьями. Но Ганди был знаменитостью, и его защищала его слава. А как насчет остальных участников марша — людей, которые шли навстречу дубинкам и пулям, хотя их госпитализация или смерть от пуль не попали бы в международные заголовки?

Что думал Ганди о том, что получает все заголовки газет, известность, славу, место в истории, становясь архетипом ненасильственного сопротивления, в то время как он рисковал меньше, чем любой из шедших рядом с ним людей? Что он чувствовал, когда один из этих безымянных героев подходил к нему с горящими глазами и говорил Ганди, какой тот замечательный? Представлял ли Ганди когда-нибудь свой мир в таких терминах? Я не знаю, я не Ганди.

Это ни в коем случае не критика Ганди. Суть ненасильственного сопротивления не в том, чтобы хвастаться мужеством. Этого можно гораздо проще достичь, спустившись по Ниагарскому водопаду в бочке. Ганди не мог ничего поделать с тем, что слава в какой-то мере (пусть и не полностью) защищала его. И поступки Ганди действительно требовали мужества — пусть и не столь огромного, как безвестное участие в марше, но все же очень большого.

Искажение, на которое я хочу указать, заключается в том, что показатель славы Ганди в нашем восприятии как будто суммируется с его заслуженным показателем альтруизма. Когда вы думаете о ненасилии, вы вспоминаете Ганди, а не безымянную протестующую на одном из его маршей, которая шла навстречу полицейским дубинкам и оружию, была избита, попала в больницу, хромала всю оставшуюся жизнь — и чье имя никто никогда не вспоминал.

Аналогично: что величественнее — рискнуть жизнью ради спасения двухсот детей или рискнуть жизнью ради спасения троих взрослых?

Ответ зависит от того, что понимать под словом «величественнее». Если вам когда-нибудь придется выбирать между спасением двухсот детей и спасением троих взрослых, выбирайте первое. Изречение «Кто спасает одну жизнь, как будто спасает целый мир» может служить отличным лампочкой «Аплодисменты», но это ужасный этический совет, если вам действительно приходится выбирать одно из двух. Так что если под словом «величественнее» вы имеете в виду «Что важнее?», или «Какой исход предпочтительнее?», или «Что мне выбрать, если придется делать выбор?», то спасти двести человек величественнее, чем троих.

Но если вы спрашиваете о величии в смысле проявленной добродетели, то человек, готовый рискнуть жизнью ради спасения всего лишь троих, проявляет больше мужества, чем тот, кто рискнул бы жизнью ради спасения двухсот детей, но не стал бы рисковать ради троих.

Это не означает, что вы можете намеренно решить рискнуть жизнью ради спасения троих взрослых и бросить на произвол судьбы двести школьников просто потому, что хотите проявить больше добродетели. Человек, который рискует жизнью из желания быть добродетельным, проявляет гораздо меньше добродетели, чем тот, кто рискует жизнью из желания спасти других. Тот, кто решает спасти три жизни вместо двухсот, считая, что это демонстрирует большее величие его души, настолько эгоистично увлечен собственным «величием», что совершает моральный эквивалент непредумышленного убийства.

Это один из тех сценариев в духе у-вэй: вы не можете проявить добродетель, пытаясь ее проявить. Если у вас есть выбор между безопасным способом спасти мир без каких-либо личных жертв или неудобств и способом, который сопряжен с риском для жизни и требует от вас терпеть огромные лишения, вы не станете героем, если намеренно выберете второй путь. Нет ничего героического в желании казаться героем. Это было бы утратой истинной цели.

По-настоящему добродетельные люди, которые искренне стремятся спасать жизни, а не демонстрировать добродетель, будут постоянно искать способы спасти больше жизней с меньшими усилиями — а значит, их добродетель проявится в меньшей степени. Это может сбивать с толку, но здесь нет противоречия.

Однако мы не всегда можем выбрать неуязвимость для пуль. После того как мы сделали все возможное, чтобы снизить риск и увеличить масштаб, любой оставшийся героизм раскрывается во всей своей полноте.

Полицейский, который рискует своей жизнью, не обладая суперспособностями, рентгеновским зрением, суперсилой, способностью летать и, главное, неуязвимостью для пуль, проявляет гораздо большую добродетель, чем Супермен — всего лишь супергерой.

Я писал о том, как эффект ореола — из-за которого люди склонны связывать между собой все положительные качества (например, более привлекательные люди кажутся нам также более добрыми, честными и умными) — заставляет нас сильнее восхищаться героями, если они сверхсильны и пуленепробиваемы. Хотя логически для того, чтобы быть героем, требуется куда больше мужества, если ты не пуленепробиваем. Кроме того, мужественный поступок ради спасения одной-единственной жизни свидетельствует о большем благородстве, чем спасение всего мира. (Хотя, конечно, если приходится выбирать, то спасать нужно мир.)

Но давайте поговорим более конкретно.

Джон Перри был нью-йоркским полицейским, который к тому же был экстропийцем и трансгуманистом — именно поэтому мне и знакомо его имя. Он должен был вот-вот выйти на пенсию и открыть собственную юридическую практику, когда пришло известие о том, что самолет врезался во Всемирный торговый центр. Джон погиб, когда рухнула Северная башня. Лично я его не знал, поэтому не могу утверждать наверняка, но очень немногие экстропийцы верят в Бога, и я полагаю, что Перри тоже был атеистом.

Иными словами, Перри понимал, что каждую неделю на службе он рискует самим своим существованием. И дело не в том, будто он, подобно большинству людей в истории, знал, что волен выбирать лишь то, как умереть, и решил придать этой смерти смысл, — нет, Перри был трансгуманистом, у него была настоящая надежда. И всё же Перри выходил на службу и рисковал жизнью. Не потому, что ждал какой-то божественной награды. И не потому, что надеялся почувствовать хоть что-то после смерти. Но потому, что другие люди были в опасности, у них тоже не было бессмертных душ, а его надежда на жизнь стоила не больше, чем их собственная.

Я не знал Джона Перри лично. Не знаю, смотрел ли он на мир именно так. Но сам факт того, что атеист и трансгуманист может служить в полиции и вбежать в вестибюль горящего здания, говорит о величии человеческого духа куда больше, чем все мученики, когда-либо уповавшие на Царствие Небесное.

Итак, вот один конкретный полицейский...

...а теперь поговорим о супергерое.

Как рассказывают христиане, Иисус Христос мог ходить по воде, усмирять бури и изгонять бесов одним словом. Должно быть, это была весьма комфортная жизнь. Проблема с голодом? Отксерокопируй немного хлеба. Не нравится дерево? Прокляни его. Проблема с римлянами? Натрави на них своего папу. В конце концов эта сказочная жизнь закончилась, когда Иисус добровольно отдался на распятие. Быть прибитым к кресту — не самый приятный способ умереть. Но в христианском изложении Иисус пошел на это, зная, что через три дня воскреснет, а затем отправится на Небеса. Какая же угроза побудила Иисуса перенести эти временные страдания, за которыми следовала вечность в раю? Была ли это жизнь одного человека? Была ли это коррумпированность иудейской церкви или гнет Рима? Нет: в христианском изложении на кон была поставлена вечная судьба всего человечества, прежде чем Иисус позволил временно прибить себя к кресту.

Но я не хочу осуждать человека, который не совершал ничего столь предосудительного. Что, если Иисус — нет, давайте произносить его имя правильно: Йешу, — что, если Йешу из Назарета никогда не ходил по воде и тем не менее бросил вызов иудейской церкви, поддерживаемой властью Рима?

Разве это не заслуживает большего почтения, чем то, которое воздается Иисусу Христу, бывшему всего лишь мессией?

Увы, почему-то нам кажется более великим герой со стальной кожей и божественными силами. Почему-то кажется, что умереть на время ради спасения всего мира — это большее благородство, чем умереть навсегда, противостоя коррумпированной церкви. Это кажется столь обыденным, будто множество других людей в истории поступали так же.

Уютно устроившись две тысячи лет спустя в будущем, мы можем критиковать Йешу на все лады, но Йешу делал то, что считал правильным, противостоял церкви, которую считал коррумпированной, и умер за это. Не обладая послезнанием, он едва ли мог предсказать истинное влияние своей жизни на мир. По сравнению с большинством других пророков его эпохи он, вероятно, был относительно более честен, относительно менее склонен к насилию и относительно более смел. Если отбросить непреднамеренные последствия, то худшее, что можно сказать о Йешу, — это то, что другие исторические фигуры справились лучше. (На ум приходят Эпикур, Будда и Марк Аврелий.) Йешу умер навсегда, и — с определенной точки зрения — сделал это ради честности. За полторы тысячи лет до появления науки словосочетание «религиозная честность» не было оксюмороном.

Как писал Сэм Харрис:¹

Недостаточно того, что Иисус был человеком, изменившим себя до такой степени, что Нагорная проповедь могла стать исповедью его сердца. Ему также надлежало быть Сыном Божьим, рожденным девой, которому суждено вернуться на землю в облаках славы. Подобная догма навсегда делает пример Иисуса недосягаемым. Его учение перестает быть набором эмпирических утверждений о связи этики и духовного прозрения, превращаясь вместо этого в беспочвенную и довольно жуткую сказку. Согласно догматам христианства, стать таким же, как Иисус, невозможно. Человеку остается лишь перечислять свои грехи, верить в невероятное и ждать конца света.

Я очень сильно сомневаюсь, что Йешу действительно произносил Нагорную проповедь. Тем не менее Йешу заслуживает почтения. Он заслуживает большего почтения, чем готовы выказать ему христиане.

Но поскольку Йешу, вероятно, ожидал, что его душа продолжит жить, он заслуживает не большего почтения, чем Джон Перри.

Много, невероятно много изъянов в человеческом мышлении заставляют нас переоценивать то, насколько хорошо наша любимая теория объясняет факты. Химическая теория флогистона могла объяснить практически всё, что угодно — при условии, что ей не требовалось предсказывать это заранее. И чем больше явлений вы объясняете с помощью любимой теории, тем более истинной она кажется — разве её не подтверждают все эти многочисленные наблюдения? По мере того как теория кажется всё более верной, вы с большей вероятностью начнёте подвергать сомнению свидетельства, которые ей противоречат. По мере того как любимая теория кажется всё более универсальной, вы будете стремиться использовать её для всё новых и новых объяснений.

Если вы знаете кого-то, кто верит, что Бельгия тайно контролирует банковскую систему США или что с помощью невидимой голубой духовной силы можно находить свободные места на парковке, — скорее всего, именно так всё у них и началось.

(Просто понаблюдайте, и вы заметите массу вещей, которые будто бы подтверждают эту теорию...)

Этот цикл положительной обратной связи между легковерием и подтверждением действительно страшен и повинен во множестве ошибок как в науке, так и в повседневной жизни.

Но всё это ничто по сравнению со спиралью смерти, которая начинается с заряда положительного аффекта — мысли, которая кажется невероятно приятной.

Новая политическая система, способная спасти мир. Великий лидер — сильный, благородный и мудрый. Потрясающий тоник, который лечит расстройство желудка и рак.

Чёрт возьми, почему бы не замахнуться на все три? Великому делу нужен великий лидер. А великий лидер наверняка сумеет сварить парочку волшебных тоников.

Эффект ореола заключается в том, что любая воспринимаемая положительная характеристика (например, привлекательность или сила) усиливает восприятие любой другой положительной характеристики (например, ума или мужества). Даже когда в этом нет никакого смысла — или когда это вообще лишено всякого смысла.

Положительные характеристики усиливают восприятие всех остальных положительных характеристик? Это очень похоже на то, как делящийся атом урана испускает нейтроны, которые вызывают деление других атомов урана.

Слабый положительный аффект докритичен; он не закручивается в неконтролируемую спираль. Привлекательный человек кажется более честным, что, возможно, делает его ещё более привлекательным, однако эффективный коэффициент размножения нейтронов меньше единицы. Метафорически выражаясь. Резонанс вносит некоторую путаницу, но затем угасает.

Когда же интенсивный положительный аффект привязан к Великой Штуковине, резонанс проникает повсюду. Верующий коммунист видит мудрость Маркса в каждом гамбургере, купленном в «Макдоналдсе»; в каждом отказе в повышении, которое непременно досталось бы ему в истинном рабочем раю; в каждых выборах, результаты которых ему не по вкусу; в каждой газетной статье, «поданной под неверным углом». Всякий раз, когда он использует Великую Идею для интерпретации очередного события, Великая Идея подтверждается ещё сильнее. Это вызывает приятные эмоции — положительное подкрепление, — а когда что-то приятно, это, увы, заставляет нас хотеть поверить в это ещё сильнее.

Когда Великая Штуковина приносит достаточно приятных эмоций, чтобы заставить вас искать новые поводы восхититься ею ещё сильнее, ежедневно применяя её для истолкования новых событий, резонанс положительного аффекта становится похож на комнату, полную взведённых мышеловок с шариками для пинг-понга.

Это можно назвать «счастливым аттрактором», «чрезмерно положительной обратной связью», «петлей автоподстройки похвалы» или «липучкой для радости». Лично я предпочитаю термин «аффективная спираль смерти».

В следующем выпуске: как противостоять аффективной спирали смерти. (Подсказка: не за счёт отказа от восхищения чем-либо вообще и не за счёт сокрытия того, чем вы восхищаетесь, в безопасном маленьком закрытом магистериуме).

Жил-был человек, который был убежден, что владеет Великой Идеей. И действительно, по мере того как он все больше размышлял о Великой Идее, он понимал, что это не просто какая-то хорошая мысль, а самая замечательная идея на свете. Великая Идея разгадает тайны вселенной, затмит авторитет продажного и погрязшего в ошибках истеблишмента, наделит своих приверженцев почти магическими способностями, накормит голодных, исцелит больных, сделает весь мир лучше и так далее, и так далее, и так далее.

Этим человеком был Фрэнсис Бэкон, его Великой Идеей был научный метод, и он оказался единственным безумцем за всю историю, который заявлял о пользе такого масштаба для человечества и оказался абсолютно прав.

(Бэкон, конечно, не изобрел науку в одиночку, но он внес свой вклад и, возможно, первым осознал ее силу.)

Вот в чем проблема с решением никогда ничем слишком сильно не восхищаться: некоторые идеи действительно настолько хороши. Хотя никто еще не подтвердил делом столь же дерзкие притязания, как Бэкон — по крайней мере, пока.

Но как тогда нам противостоять счастливой спирали смерти в отношении самой Науки? Счастливая спираль смерти запускается, когда вы верите, что нечто настолько прекрасно, что из-за эффекта ореола вы находите все больше и больше хороших слов в его адрес, отчего оно кажется вам еще более замечательным, и так далее, пока вы не взмоете по спирали прямо в бездну. Что если Наука на самом деле приносит столько пользы, что мы не можем признать ее истинное величие и при этом сохранить рассудок? Звучит здорово, правда? О нет, началось, бежииииим...

Если вы извлечете из памяти стандартную кэшированную глубокую мудрость на тему «не нужно слишком сильно восхищаться наукой», вы наткнетесь на мысли вроде «Наука дала нам кондиционеры, но она же создала водородную бомбу» или «Наука может рассказать нам о звездах и биологии, но ей никогда не доказать и не опровергнуть существование дракона в моем гараже». Но люди, которые породили эти мысли, не пытались противостоять счастливой спирали смерти. Их не беспокоило, что их собственное восхищение наукой выйдет из-под контроля. Скорее всего, им просто не нравилось то, что наука говорила об их любимых верованиях, и они искали способы подорвать ее авторитет.

Стандартные критические замечания в адрес науки вряд ли найдут отклик у того, кто искренне испытывает восторг перед ней, — ведь они рассчитаны на другую аудиторию. Так что нам придется поискать другие аргументы «против».

Но если вы избирательно ищете что-то плохое о науке — пусть даже пытаясь противостоять счастливой спирали смерти, — разве вы автоматически не уличаете себя в рационализации? Зачем вообще прислушиваться к собственным мыслям, зная, что вы пытаетесь манипулировать собой?

Я вообще скептически отношусь к заявлениям о том, что одно когнитивное искажение можно использовать для нейтрализации другого. Мне это напоминает автомеханика, который говорит, что у правого дворника сломался моторчик, но вместо починки предлагает сломать и левый дворник — для равновесия. Это та самая изобретательность, из-за которой люди стреляют себе в ногу. Каким бы ни было решение, оно должно основываться на вере в истинные вещи, а не на вере в то, что вы верите в вещи, которые сами считаете ложными.

Можно ли предотвратить счастливую спираль смерти, если ограничить свое восхищение Наукой какой-то узкой областью? Часть этой спирали заключается в том, чтобы видеть Великую Идею повсюду — например, размышлять о том, как коммунизм мог бы вылечить рак, если бы только ему дали шанс. Пожалуй, самый надежный признак лидера секты — это то, что он претендует на экспертность не в одной области, и даже не в группе смежных областей, а абсолютно во всем. Гуру знает, что адептам секты следует есть, как одеваться, чем зарабатывать на жизнь; с кем заниматься сексом; на какое искусство смотреть и какую музыку слушать...

К несчастью для этого плана, большинство людей терпят сокрушительное фиаско, пытаясь очертить тесные рамки, в которых якобы должна оставаться наука. Обычная уловка вроде «Послушайте, наука ведь не вылечит рак» не сработает. «Науке нечего сказать о любви родителей к ребенку» — увы, это чистая ложь. Пытаясь отделить науку, например, от родительской любви, вы отрицаете не только когнитивистику и эволюционную психологию. Вы также отрицаете то, как Мартина Ротблатт основала компанию United Therapeutics, чтобы найти лекарство от легочной гипертензии у своей дочери (и, замечу, успешно). Наука действительно так или иначе связана практически с каждым важным аспектом человеческого существования.

Хорошо, а каков пример ложного приятного утверждения о науке?

На мой скромный взгляд, одно из таких ложных утверждений состоит в том, что наука настолько прекрасна, что ученым даже не нужно пытаться брать на себя этическую ответственность за свою работу — мол, все и так автоматически закончится хорошо. Мне кажется, что авторы этого утверждения не понимают природу процесса, благодаря которому наука приносит пользу человечеству. Ученые — люди, и у них, как и у большинства других людей, есть просоциальные устремления; и в этом кроется по меньшей мере часть причин, почему наука в конечном счете приносит больше добра, чем зла.

Но этот аргумент, очевидно, не бесспорен. Так что вот вам более простое ложное приятное утверждение: «Больного раком можно вылечить, просто опубликовав достаточно статей в научных журналах». Или: «Социопаты могли бы стать абсолютно нормальными людьми, если бы просто пообещали себе никогда ни во что не верить без воспроизводимых экспериментальных доказательств с уровнем значимости p < 0,05».

Способ не верить в подобные заявления — это не введение эмоционального лимита, когда вы решаете, что наука хороша лишь слегка. И не поиск причин поверить, что публикация статей в научных журналах вызывает рак. И не вера в то, что науке так или иначе вообще нечего сказать о раке.

Напротив, если вы достаточно конкретно представляете себе, как работает наука, то понимаете: хотя в принципе и возможно, что «наука вылечит рак», больной раком не добьется чудесной ремиссии, просто сочиняя статьи в журналы. Эта конкретная предложенная причинно-следственная цепочка работать не будет.

Счастливая спираль смерти становится эмоциональной проблемой лишь из-за когнитивного искажения — эффекта ореола, который заставляет нас охотнее соглашаться с последующими позитивными утверждениями, стоит нам принять первое из них. Мы не можем избавиться от этого эффекта по щелчку пальцев; скорее всего, он всегда будет хоть немного на нас влиять. Но мы в силах замедлиться, остановиться, отнестись к каждому очередному приятному заявлению как к еще одной обременительной детали и сосредоточиться на конкретной сути утверждения, отбросив его привлекательность.

Что если конкретное приятное утверждение «нельзя опровергнуть», но при этом есть аргументы «и за, и против»? Вообще-то, к этим формулировкам стоит относиться с осторожностью: часто люди прибегают к ним, когда бесконечно перебирают доказательства или избегают по-настоящему слабых мест. Учитывая опасность счастливой спирали смерти, разумно стараться не радоваться недоказанным утверждениям — не делать их источником еще больших положительных эмоций по поводу того, что вам и так нравится.

Счастливая спираль смерти становится серьезной эмоциональной проблемой лишь из-за избыточной положительной обратной связи — способности процесса переходить в критическую фазу. Возможно, вам не удастся полностью устранить эффект ореола, но вы можете применить достаточно критического мышления, чтобы удерживать эти ореолы в докритическом состоянии — следить, чтобы резонанс затухал, а не приводил к взрыву.

Можно даже сказать, что вся проблема берет начало в тот момент, когда люди, приняв некую базовую посылку, больше не утруждают себя критическим разбором каждой дополнительной обременительной детали — не требуют весомых доказательств, чтобы компенсировать усложнение картины, не ищут изъяны наряду с подтверждениями и не включают любопытство. Без ошибки конъюнкции эффект ореола всё равно мог бы существовать, но счастливой спирали смерти бы не возникло.

Даже в отношении самых приятных Приятных Штук во всей известной Вселенной идеальный рационалист, требующий ровно столько доказательств, сколько необходимо для подтверждения каждого последующего (позитивного) заявления, не испытывал бы аффективного резонанса. Вы так не сможете, но вы можете оставаться достаточно рациональными, чтобы не дать своей радости выйти из-под контроля и закрутиться по спирали.

По-настоящему опасны ситуации, когда любая критика любого позитивного утверждения о Великой Штуке воспринимается болезненно или считается социально неприемлемой. Аргументы — это солдаты, любое позитивное утверждение — боец на нашей стороне, а удар в спину собственным солдатам — это измена. В таких условиях цепная реакция становится сверхкритической. Подробнее об этом позже.

Стюарт Армстронг дает очень близкий к этому совет:

Разбейте свою Великую Штуку на более мелкие независимые идеи и относитесь к ним как к независимым.

Например, марксист мог бы разобрать Великую Штуку Маркса на трудовую теорию стоимости, теорию политических отношений между классами, теорию заработной платы и теорию о конечном политическом устройстве человечества. Каждую из них следовало бы оценивать независимо, и истинность или ложность одной теории не должна создавать ореол вокруг других. Если нам это удастся, мы убережемся от спирали, ведь каждая теория в отдельности слишком узка, чтобы запустить этот процесс сама по себе.

Метафорически это похоже на то, как не дают соединиться докритическим массам плутония. Три Великие Идеи гораздо менее вероятно сведут вас с ума, чем одна Великая Идея. Совет Армстронга также помогает мыслить конкретнее: как только кто-то заявляет: «Публикация достаточного количества статей может вылечить рак», вы спрашиваете: «Это преимущество экспериментального метода, и если да, то на каком этапе экспериментального процесса рак излечивается? Или это преимущество науки как социального процесса, и если да, опирается ли оно на искреннее желание ученых победить болезнь, или они могут преследовать собственные интересы?» В идеале это уводит вас от хороших или плохих эмоций в сторону обнаружения путаницы и нехватки обоснований.

Подводя итог, вы действительно избегаете счастливой спирали смерти, если:

разбиваете Великую Идею на части;

относитесь к каждой дополнительной детали как к обременительной;

размышляете о конкретных звеньях причинно-следственной связи, а не о хороших или плохих эмоциях;

не прокручиваете бесконечно доказательства в голове; и

не подпитываете радость утверждениями, неверность которых «нельзя доказать»;

но не тем, что:

отказываетесь слишком сильно чем-то восхищаться;

ведете предвзятый поиск негативных моментов, пока снова не почувствуете себя несчастным; или

насильно запихиваете идею в безопасный ящик.

Время от времени можно увидеть, как люди спорят о том, является ли атеизм «религией». Как я упоминаю в другом месте, в «Цели и прагматизме», спор о значении слова почти всегда означает, что вы упустили из виду исходный вопрос. С чего вообще может начаться такой спор?

Атеист разглагольствует, обвиняя «религию» в инквизиции, крестовых походах и различных конфликтах с исламом или внутри него. Верующий может ответить: «Но атеизм — это тоже религия, ведь у вас тоже есть убеждения о Боге; вы верите, что Бога нет». Тогда атеист парирует: «Если атеизм — это религия, то неколлекционирование марок — это хобби», и спор разгорается.

Или верующий может возразить: «Но не меньшие ужасы творил Сталин, который был атеистом и закрывал церкви во имя атеизма; следовательно, вы неправы, возлагая вину за насилие на религию». Тут у атеиста может возникнуть искушение ответить уловкой «Ни один истинный шотландец», заявив: «Религией Сталина был коммунизм». Верующий на это отвечает: «Если коммунизм — это религия, то фэндом „Звёздных войн“ — это правительство», и спор разгорается.

Стоит ли определять «религиозного» человека как того, у кого есть определённое мнение о существовании хотя бы одного бога — например, кто оценивает вероятность существования Зевса ниже 10% или выше 90%? Или же «религиозным» нужно считать того, у кого есть положительное убеждение (скажем, вероятность выше 90%) в существовании хотя бы одного бога? В первом случае Сталин был «религиозен», во втором — «нерелигиозен».

Но это в корне неверный взгляд на проблему. Что вы на самом деле хотите узнать — о чём изначально и шёл спор, — так это почему в определённые моменты человеческой истории огромные группы людей подвергались массовым убийствам и пыткам, якобы во имя какой-то идеи. Переопределение слова никак не изменит исторические факты.

Коммунизм был сложной катастрофой, и, возможно, здесь нет единого «почему», единого критического звена в причинно-следственной связи. Но если бы мне пришлось указать на первородную ошибку, это было бы... впрочем, пусть Бог скажет это за меня:

Если брат твой, сын отца твоего или матери твоей, или сын твой, или дочь твоя, или жена, которую ты обнимаешь, или твой самый близкий друг станет тайно подговаривать тебя, говоря: «Пойдём и будем служить иным богам», которых не знал ни ты, ни твои предки, богам народов, окружающих вас, близких к тебе или далёких, в любом конце земли, то не соглашайся с ним, не слушай его; не жалей его, не щади его и не скрывай его вины. Нет, убей его; твоя рука первая должна подняться на него, чтобы предать его смерти, а затем руки всего остального народа. Побей его камнями до смерти, ибо он пытался отвратить тебя от Яхве, Бога твоего.

— Второзаконие 13:7–11, выделение добавлено

Такое же правило Сталин установил для коммунизма, а Гитлер — для нацизма: если твой брат пытается объяснить тебе, в чём Маркс неправ, если твой сын пытается доказать тебе, что евреи не замышляют мировое господство, то не спорь с ним и не приводи свои доказательства, не проводи воспроизводимые эксперименты и не изучай историю, но немедленно сдай его в тайную полицию.

Я предположил, что один из ключей к сопротивлению аффективной спирали смерти — это принцип «обременительных деталей»: нужно просто не забывать подвергать сомнению конкретные детали каждого нового приятного утверждения о Великой Идее. (Это не банальный совет. Люди часто забывают делать это, даже когда слушают футуролога, рисующего удивительно подробные картины чудес завтрашнего дня, не говоря уже о тех случаях, когда они думают о своей самой любимой идее.) Это не избавило бы от эффекта ореола, но, хочется надеяться, снизило бы резонанс ниже уровня критичности, так что одно приятное на слух утверждение порождало бы в среднем менее 1,0 новых приятных утверждений.

Диаметрально противоположный этому совет, который переводит эффект ореола в сверхкритический режим, — это когда кажется неправильным спорить против любого положительного утверждения о Великой Идее. Политика — убийца разума. Аргументы — это солдаты. Как только вы понимаете, на чьей вы стороне, вы обязаны поддерживать все благоприятные заявления и оспаривать все неблагоприятные. Иначе это выглядит как пособничество врагу или удар в спину своим друзьям.

Если...

...вы чувствуете, что возразить кому-то, кто делает ошибочное, но приятное заявление в пользу эволюции, означало бы оказать пособничество креационистам;

...вам кажется, будто вы получаете духовные баллы за каждое доброе слово о Боге, а споры об этом помешают вашим отношениям с Богом;

...у вас есть чёткое ощущение, что другие люди в комнате невзлюбят вас за то, что вы «не поддерживаете наших ребят», если вы выступите против очередной войны;

...за любые слова против коммунизма вас побивают камнями расстреливают;

...тогда аффективная спираль смерти перешла в сверхкритическое состояние. Теперь это Суперсчастливая спираль смерти.

Не религия как таковая является ключевой категорией применительно к нашему исходному вопросу: «Что порождает бойню?» Лучшее разграничение, которое я слышал, между «сверхъестественным» и «натуралистическим» мировоззрениями состоит в том, что сверхъестественное мировоззрение утверждает существование онтологически базовых ментальных субстанций, таких как духи, в то время как натуралистическое сводит ментальные явления к нементальным составляющим. Фокусироваться на этом как на источнике проблемы — значит признавать религиозную исключительность. Сверхъестественные утверждения стоит выделять, потому что они всегда оказываются неверными по весьма фундаментальным причинам. Но это всё равно лишь одна из разновидностей ошибок.

Аффективная спираль смерти может зарождаться вокруг сверхъестественных верований — особенно монотеизмов, на вершине которых стоит Суперсчастливый Агент, определяемый главным образом тем, что он соглашается с любым приятным утверждением о нём; особенно вокруг мем-комплексов, развившихся достаточно, чтобы угрожать сверхъестественными карами за неверие. Но спираль смерти может также начаться вокруг политического нововведения, харизматичного лидера, веры в расовое предназначение или экономической гипотезы. Урок истории состоит в том, что аффективные спирали смерти опасны независимо от того, замешано ли в них сверхъестественное. Религия как класс ошибок не является чем-то настолько особенным, чтобы быть ключевой проблемой.

Сэм Харрис подошёл ближе к сути, когда указал обвиняющим перстом на веру. Если вы не возлагаете надлежащее бремя доказывания на абсолютно каждое дополнительное приятное утверждение, аффективный резонанс запускается очень легко. Посмотрите на бедных ньюэйджеров. Христианство выработало защиту от критики, отстаивая чудеса веры; ньюэйджеры же культурно унаследовали кэшированную мысль о том, что вера — это благо, но у них нет исключающего священного писания христианства, способного не допускать конкурирующие мемы. В итоге ньюэйджеры оказываются в счастливых спиралях смерти вокруг звёзд, деревьев, магнитов, диет, заклинаний, единорогов...

Но аффективная спираль смерти становится куда более смертоносной после того, как критика превращается в грех, оплошность или преступление. В этом мире есть вещи, заслуживающие величайшей похвалы, и нельзя категорически утверждать, будто восхваление сверх определённого предела запрещено. Но никогда не бывает Идеи настолько истинной, чтобы критика любого поддерживающего её аргумента считалась предосудительной. Никогда. Никогда-преникогда, во веки веков. Вот это — категорично. Подавляющее большинство возможных убеждений в нетривиальном пространстве ответов ложны, и точно так же подавляющее большинство возможных поддерживающих аргументов в пользу истинного убеждения тоже ложны, и даже самая счастливая идея не способна этого изменить.

И отвечать на критику насилием — трижды ультра-запрещено. В человеческом искусстве рациональности есть очень немного предписаний, не допускающих никаких «если», «но» или лазеек. Это — одно из них. На плохой аргумент отвечают контраргументом. Не пулей. Никогда. Никогда-преникогда, во веки веков.

Первые исследователи культов к своему удивлению обнаружили, что, когда культы сталкиваются с серьезным потрясением — пророчество не сбывается, вскрывается моральный изъян основателя, — они часто выходят из кризиса еще более сильными, а их вера и фанатизм только крепнут. Свидетели Иеговы на основе библейских расчетов назначили Армагеддон на 1975 год; 1975 год пришел и ушел. Юнарианский культ, процветающий и по сей день, пережил неприбытие межгалактического космического флота 27 сентября 1975 года.

Почему групповое убеждение становится сильнее после столкновения с сокрушительными опровержениями?

Общепринятая интерпретация этого феномена основана на когнитивном диссонансе. Когда люди совершили «необратимые» поступки во имя веры — раздали все свое имущество в ожидании приземления тарелок, — они просто не могут признать, что ошибались. Удар по их вере вызывает сильнейший когнитивный диссонанс; чтобы справиться с потрясением, они вынуждены искать подкрепляющие мысли и в результате становятся еще более фанатичными. Согласно этой трактовке, рост группового фанатизма является следствием роста фанатизма индивидуального.

Как-то раз я рассматривал Java-апплет, демонстрирующий использование испарительного охлаждения для получения конденсата Бозе — Эйнштейна, и мне пришло в голову, что к росту фанатизма может приводить совершенно иная сила. При испарительном охлаждении вокруг скопления горячих атомов создается потенциальный барьер. Тепловая энергия по своей сути статистична — не все атомы движутся с одинаковой скоростью. Кинетическая энергия любого конкретного атома меняется при столкновении с другими атомами. Если вы установите потенциальный барьер лишь чуть выше средней тепловой энергии, случайным образом у некоторых атомов кинетическая энергия окажется достаточно высокой, чтобы вырваться из ловушки. Когда необычайно быстрый атом улетает, он уносит с собой необычайно большое количество кинетической энергии, и средняя энергия снижается. Группа становится существенно холоднее, чем окружающий ее потенциальный барьер. Игра с этим Java-апплетом поможет прояснить этот процесс.

В классической книге Фестингера, Рикена и Шэхтера «Когда пророчество не сбывается» один из членов культа вышел за дверь сразу после того, как летающая тарелка не приземлилась.¹ Кто теряет терпение и уходит первым? Среднестатистический адепт? Или относительно более скептически настроенный участник, который раньше мог выступать в роли голоса разума и сдерживать более фанатичных членов?

После того как члены группы с наибольшей «кинетической энергией» уходят, все дальнейшие дискуссии будут вестись между крайними фанатиками с одной стороны и чуть менее крайними фанатиками с другой, а групповой консенсус окажется где-то «посередине».

А в чем же тогда аналогия с коллапсом при образовании конденсата Бозе — Эйнштейна? Ну, на самом деле нет нужды заходить в этой аналогии так далеко. Но вы, возможно, помните, что я использовал аналогию с цепной реакцией деления для аффективной спирали смерти: когда группа изгоняет все свои голоса умеренности, оставшиеся люди подстегивают друг друга и подавляют инакомыслие, из-за чего средний уровень фанатизма внутри группы может возрасти. (Никакой термодинамической аналогии здесь нет, если только кто-нибудь не создаст ядерную бомбу, которая взрывается при охлаждении.)

Когда сторонникам объективизма стало известно о многолетнем романе Айн Рэнд с Натаниэлем Бранденом, значительная часть объективистов откололась и последовала за Бранденом, начав отстаивать «открытую систему» объективизма, не связанную столь жестко с личностью Айн Рэнд. Кто же остался с Айн Рэнд даже после того, как разразился скандал? Те, кто очень, очень сильно в нее верил — и, возможно, часть колеблющихся, которые после ухода сторонников умеренности слышали аргументы только с одной стороны. Этим можно объяснить, почему Институт Айн Рэнд, как сообщается, стал после раскола более фанатичным, чем первоначальное ядро объективистов под руководством Брандена и Рэнд.

Несколько лет назад я состоял в рассылке трансгуманистов, где небольшая группа сторонников «социал-демократического трансгуманизма» ядовито оскорбляла каждого либертарианца в списке. Большинство либертарианцев покинули рассылку, а большинство остальных перестали писать. В результате оставшаяся группа существенно сдвинулась влево. Было ли это сделано намеренно? Скорее всего, нет, поскольку я сомневаюсь, что зачинщики так хорошо знали психологию. (К слову, я не припомню, чтобы аналогия с испарительным охлаждением встречалась где-то еще, хотя это не значит, что ее никто не замечал ранее.) В лучшем случае они могли думать о том, как стать «крупной рыбой в маленьком пруду».

Это одна из причин, почему важно иметь предвзятость в пользу терпимости к инакомыслию. Подождите еще значительное время после того, как изгнание члена из группы покажется вам оправданным, прежде чем сделать это на самом деле. Если вы избавитесь от прежних крайних элементов, позиция группы сместится, и чудаком станет кто-то другой. Если вы изгоните и его, вы окажетесь на верном пути к тому, чтобы превратиться в конденсат Бозе — Эйнштейна и... ну, взорваться.

Обратная сторона медали: Томас Кун считал, что наука, прежде чем начать приносить реальные результаты, должна выработать «парадигму» с общим техническим языком, исключающим посторонних. На этапе становления науки, по мнению Куна, ее приверженцы прикладывают огромные усилия, чтобы сделать свои труды понятными для сторонних ученых. Но (согласно Куну) наука может достичь реального прогресса как техническая дисциплина лишь тогда, когда она отказывается от требования доступности для непосвященных, а ученые, работающие в рамках парадигмы, при общении друг с другом исходят из того, что собеседник уже знаком со значительным объемом специального материала. По сравнению с тем, что обычно говорят о понимании науки широкой общественностью, это звучит цинично, но я определенно вижу здесь рациональное зерно.

Моя собственная теория интернет-модерации заключается в том, что для начала живого обсуждения необходимо быть готовым отсеивать троллей и спам. Более того, если вы хотите, чтобы дело двигалось, вам нужно быть готовым исключать из технических рассылок даже доброжелательных, но технически не подкованных людей. По-настоящему открытое обсуждение в интернете быстро деградирует. Согласно этой теории, вам следует остерегаться изгнания именно красноречивых троллей — они выполняют скрытую функцию, легитимизируя менее радикальные разногласия. Однако таких красноречивых троллей не должно быть слишком много, иначе они начнут спорить друг с другом или доминировать в обсуждениях. Если в сообществе есть хотя бы один человек на роли известного Парня, Который Не Согласен Вообще Ни С Чем, то любой, кто выскажет более разумное и умеренное возражение, уже не будет выглядеть единственным торчащим гвоздем. На практике эта теория интернет-модерации, возможно, показала себя не лучшим образом, так что отнеситесь к ней со здоровой долей скептицизма.

Как-то утром я встал с постели, включил компьютер, и мой почтовый клиент Netscape автоматически загрузил панель новостей за день. В тот конкретный день новость заключалась в том, что два угнанных самолета врезались во Всемирный торговый центр.

Вот мои первые три мысли, по порядку:

Похоже, я и правда живу в Будущем.

Слава богу, не ядерный удар.

а затем

Чрезмерная реакция на это окажется в десять раз хуже самого события.

Оценка «в десять раз хуже» оказалась колоссальным преуменьшением. Даже я не предполагал, насколько плохо всё обернется. В этом и заключается сложность пессимизма: действительно трудно опустить планку ожиданий настолько, чтобы приятно удивляться так же часто и сильно, как и неприятно.

Тем не менее, я сразу понял, что все вокруг будут твердить, насколько это ужасное и чудовищное событие, и никто не осмелится стать голосом сдержанности, голосом соразмерного ответа. В первое время после 11 сентября считалось, что погибло шесть тысяч человек. Любого политика, который посмел бы сказать: «6000 смертей — это всего лишь одна восьмая ежегодных жертв автомобильных аварий в США», попросили бы уйти в отставку в тот же час.

Нет, 11 сентября не было хорошим днем. Но если каждый получает очки одобрения за то, что подчеркивает, как ему больно, и никто не смеет призвать к сдержанности при выборе силы ответного удара, то реакция неизбежно превысит соразмерный уровень — каким бы этот соразмерный уровень ни был.

Это еще более темное зеркало спирали счастливой смерти — спираль ненависти. Любой, кто нападает на Врага, — патриот; а всякий, кто пытается препарировать хотя бы одно негативное утверждение о Враге, — предатель. Но точно так же, как подавляющее большинство сложных утверждений ложны, подавляющее большинство негативных вещей, которые можно сказать о ком угодно, даже о худшем человеке в мире, не соответствуют действительности.

Думаю, лучшим примером здесь служит фраза: «угонщики-смертники были трусами». Проявите хоть немного здравого смысла! Чтобы добровольно направить самолет в здание, требуется определенное мужество. В списке их грехов трусости точно не значилось. Но, видимо, любая гадость, сказанная в адрес террориста, какой бы глупой она ни была, обязана быть правдой. Получил бы я еще больше очков одобрения, если бы обвинил «Аль-Каиду» в убийстве Джона Ф. Кеннеди? Или, может, если бы я обвинил их в сталинизме? Серьезно, трусость?

Да, то, что угонщики 11 сентября не были трусами, действительно важно. И не только для понимания реальной психологии врага. Ущерб от спиралей ненависти попросту слишком велик. Слишком опасно, когда в мире существует хоть какая-то мишень — будь то евреи или Адольф Гитлер, — в отношении которой негативные суждения оказываются важнее точных фактов.

Когда вооруженные силы насчитывают тысячи самолетов и сотни тысяч тяжело вооруженных солдат, стоит задуматься о том, что сама иммунная система способна нанести больше ущерба, чем девятнадцать парней и четыре гражданских самолета. США потратили миллиарды долларов и тысячи жизней солдат, выстрелив себе в ногу гораздо эффективнее, чем любая террористическая группировка могла только мечтать.

Если бы США полностью проигнорировали теракт 11 сентября — просто пожали плечами и отстроили здания заново — это было бы лучше, чем реальный ход истории. Но в политическом плане такого варианта не существовало. Даже если кто-то в глубине души и догадывался, что реакция иммунной системы нанесет больше вреда, чем сама болезнь, у американских политиков не оставалось иного способа сохранить карьеру, кроме как покорно шагнуть в ловушку «Аль-Каиды». Всякий, кто требует более жесткого ответа, — патриот. Всякий, кто препарирует патриотические утверждения, — предатель.

Поначалу звучали и более разумные реакции на 11 сентября, чем я ожидал. Помню, как один конгрессмен — уже не помню кто — сказал перед камерами: «Мы забыли, что первейшая цель правительства — это не экономика и не здравоохранение, а защита страны от нападения». У меня глаза округлились: политик смог сказать что-то, что не было лампочкой для аплодисментов. Эмоциональный шок, должно быть, был невероятно силен, если конгрессмен сказал нечто настолько... настоящее.

Но уже через пару дней подлинный шок прошел, и забота об имидже вернула себе полный контроль над политическим дискурсом. Затем спираль эскалации захватила власть целиком. Как только сдержанность становится чем-то немыслимым, независимо от того, с чего начинался дискурс, уровень ярости и глупости со временем может только расти.

Задумывались ли вы когда-нибудь в детстве, не преследует ли ваш дурацкий «летний лагерь» какую-то сложную скрытую цель — скажем, что все это был научный эксперимент, а «вожатые» на самом деле были исследователями, наблюдавшими за вашим поведением?

Вот и я нет.

Но мы стали бы куда бóльшими параноиками, если бы прочитали книгу «Межгрупповой конфликт и сотрудничество: Эксперимент "Пещера разбойников"» Шерифа, Харви, Уайта, Худа и Шериф.¹ В этом исследовании подопытными — прошу прощения, «отдыхающими» — были 22 мальчика, переходивших из пятого класса в шестой, отобранных из 22 разных школ Оклахома-Сити, из благополучных протестантских семей среднего класса, хорошо учившихся, с медианным IQ 112. Они были настолько хорошо социально адаптированы и похожи друг на друга, насколько исследователям вообще удалось подобрать.

Эксперимент, проведенный в атмосфере растерянности после Второй мировой войны, был призван исследовать причины — и возможные способы урегулирования — межгрупповых конфликтов. Как они собирались разжечь конфликт, чтобы его изучить? Что ж, 22 мальчиков разделили на две группы по 11 человек, и —

— и этого оказалось вполне достаточно.

Первоначальный план исследователей предполагал проведение эксперимента в три этапа. На первом этапе каждая группа обживалась на месте, не подозревая о существовании другой. Ближе к концу первого этапа группы должны были постепенно узнать друг о друге. На втором этапе серия соревнований и конкурсов с призами должна была столкнуть группы лбами.

Насчет второго этапа они могли бы и не утруждаться. Враждебность возникла почти в тот самый момент, когда группы узнали о существовании друг друга: они пользуются нашим лагерем, нашей бейсбольной площадкой. При первой же встрече группы принялись осыпать друг друга оскорблениями. Они дали себе названия — «Гремучие змеи» и «Орлы» (им не нужны были названия, пока они оставались единственной группой в лагере).

Когда, согласно заранее утвержденной процедуре эксперимента, были объявлены состязания и призы, соперничество между группами накалилось до предела. Первые два дня в играх еще проявлялось спортивное благородство, но оно быстро сошло на нет.

«Орлы» украли и сожгли флаг «Гремучих змей». «Змеи» совершили налет на хижину «Орлов» и украли джинсы их лидера, которые на следующий день выкрасили в оранжевый цвет и носили как знамя с надписью «Последний из Орлов». «Орлы» предприняли ответный налет на «Змей», переворачивая кровати и разбрасывая грязь. Затем они вернулись в свою хижину, где забаррикадировались и приготовили оружие (носки, набитые камнями) на случай ответного штурма. После того как «Орлы» выиграли последнее состязание, запланированное на втором этапе, «Змеи» ворвались в их хижину и украли призы. Это переросло в драку, которую персоналу пришлось остановить из опасения травм. «Орлы», пересказывая эту историю друг другу, превратили всю эту историю в триумфальную победу — якобы они гнали «Змей» «больше половины пути обратно до их хижины» (на самом деле нет).

У каждой группы сложился негативный стереотип о «Них» и контрастирующий с ним позитивный стереотип о «Нас». «Змеи» отчаянно ругались. «Орлы» после победы в одной из игр пришли к выводу, что они выиграли благодаря своим молитвам, а «Змеи» проиграли, потому что постоянно сквернословили. Сами «Орлы» решили вообще отказаться от бранных слов. Они также решили, что раз «Змеи» постоянно ругаются, разумнее будет с ними не разговаривать. «Орлы» создали себе образ благовоспитанных и добродетельных; «Змеи» же сформировали образ грубых и крутых ребят.

Члены групп зажимали носы, когда мимо проходили представители соперников.

На третьем этапе исследователи попытались снизить напряженность между двумя группами.

Простой контакт (нахождение рядом без соревнований) не снизил напряженность. Совместное участие в приятных мероприятиях — например, запуск фейерверков на День независимости — тоже не помогло; напротив, все переросло в битву едой.

Хотите угадать, что действительно сработало?

(Место для спойлера . . .)

Мальчикам сообщили, что во всем лагере может закончиться вода из-за таинственной неисправности в водопроводе — возможно, по вине вандалов. (Внешний враг — один из старейших трюков в истории.)

Территорию между лагерем и резервуаром должны были осмотреть четыре поисковых отряда. (Изначально эти поисковые отряды были однородными — каждый состоял из членов только одной группы.) Если ничего не обнаружится, все отряды должны были встретиться у бака для воды. Поскольку ничего найдено не было, группы встретились у бака и сами убедились, что из крана не течет вода. Обе группы мальчиков обсудили, в чем может быть проблема, постучали по стенкам бака, нашли лестницу наверх, убедились, что бак полон, и наконец обнаружили мешок, застрявший в водопроводном кране. Все мальчики собрались вокруг крана, чтобы прочистить его. Предложения посыпались от членов обеих групп, и ребята с обеих сторон пытались воплотить их в жизнь.

Когда кран наконец прочистили, «Змеи», у которых были фляжки, не возражали против того, чтобы «Орлы» набрали воду первыми (у «Орлов» фляжек с собой не было). Не прозвучало ни одного оскорбления, даже привычного «Дамы вперед».

Это не положило конец соперничеству окончательно. На следующее утро случилась еще одна битва едой, сопровождавшаяся взаимными оскорблениями. Но еще несколько общих задач, требовавших совместных усилий обеих групп — например, завести заглохший грузовик, — сделали свое дело. В конце поездки «Змеи» потратили 5 долларов, выигранных в конкурсе по бросанию бобов, чтобы купить молочные коктейли для всех мальчиков из обеих групп.

Эксперимент «Пещера разбойников» иллюстрирует психологию племен охотников-собирателей, отголоски которой доносятся до нас сквозь века, так безупречно, как ни один другой эксперимент, когда-либо придуманный социальными науками.

Любое сходство с современной политикой — лишь плод вашего воображения.

(Иногда мне кажется, что вторая по значимости потребность человечества — это суперзлодей. Пожалуй, изберу это поприще, когда закончу со своей нынешней работой.)

Кейд Метц из The Register недавно заявил, что секретный список рассылки топ-администраторов Википедии стал одержим баном всех критиков и возможных критиков Википедии. Включая бан продуктивного пользователя после того, как один из администраторов — исключительно из-за этой продуктивности — уверился, что пользователь — шпион, подосланный Wikipedia Review. И что верхушка Википедии сплотила ряды, чтобы защитить своих. (Я сам пока не проверял эти утверждения. Спасибо за наводку Ойгену Лейтлю.)

Кроется ли какой-то глубокий нравственный изъян в стремлении систематизировать мировые знания, который неизбежно сводит с ума сторонников этого Дела? Возможно, только люди с врожденными тоталитарными наклонностями будут пытаться стать мировым авторитетом во всем —

Внимание: ошибка соответствия! (Ошибка соответствия: вывод о личных склонностях человека на основе поведения, которое можно полностью объяснить ситуацией, в которой оно происходит. Когда мы видим, как кто-то пинает торговый автомат, мы думаем, что это «агрессивный человек», но когда мы сами пинаем автомат, это потому, что автобус опоздал, поезд ушел раньше времени, а автомат сожрал наши деньги.) Если обвинения в адрес Википедии справедливы, они объясняются обычной человеческой природой, а не исключительной человеческой природой.

Деление на «своих» и «чужих» — часть обычной человеческой природы. То же касается радостных спиралей смерти и спиралей ненависти. Благородному Делу не нужен глубокий скрытый изъян, чтобы его приверженцы сплотились в сектантскую ингруппу. Достаточно того, чтобы сторонники были людьми. Всё остальное следует естественным образом, как распад по умолчанию — словно продукты, портящиеся в холодильнике после отключения электричества.

Точно так же, как любая разность температур стремится выровняться, а любая компьютерная программа стремится превратиться в нагромождение ситуативных заплаток, каждое Дело хочет стать культом. Это высокоэнтропийное состояние, к которому стремится система, аттрактор в человеческой психологии. И это может быть никак не связано с тем, насколько благородным Дело является на самом деле. Можно подумать, что Благородное Дело должно распространить свое благородство на все аспекты жизни связанных с ним людей — что его сторонники будут менее восприимчивы к статусным играм, предвзятости «свой — чужой», аффективным спиралям и лидерам-божествам. Но вера в одну истинную идею не отключит эффект ореола. Благородное дело не сделает своих сторонников кем-то большим, чем просто люди. Существует множество плохих идей, способных причинить массу вреда, — но дело здесь не обязательно в них.

Любая группа людей с необычной целью — хорошей, плохой или глупой — будет тяготеть к аттрактору культа, если только не будет прилагать постоянных усилий для сопротивления этому. Вы можете поддерживать в доме прохладу, когда на улице жарко, но для этого кондиционер должен работать постоянно, и как только вы отключите электричество — сдадитесь в борьбе с энтропией — всё вернется к «норме».

Был один известный случай, когда группа, приобретшая черты полукульта, сделала своим лозунгом «Рациональность! Разум! Объективная реальность!» (Об этом подробнее позже.) Навешивание на Великую Идею ярлыка «рациональность» защитит вас не больше, чем вывеска над домом с надписью «Холод!». Вам всё равно придется включать кондиционер — расходовать необходимое количество энергии в единицу времени, чтобы обратить вспять естественное скатывание к культовости. Поклонение рациональности не сделает вас здравомыслящим, точно так же как поклонение гравитации не научит вас летать. Вы не можете разговаривать с термодинамикой и не можете молиться теории вероятностей. Вы можете использовать их, но не можете вступить в них, как в ингруппу.

Культовость — это количественная характеристика, а не качественная. Вопрос не в том, «культ — да или нет?», а в том, «сколько в этом культовости и где?». Даже в Науке, которая являет собой архетип Истинно и По-настоящему Благородного Дела, мы можем без труда указать на текущие рубежи войны с энтропией культа, где линия фронта то наступает, то отступает. С большей ли вероятностью журналы примут статью за авторством известного ученого или неизвестного автора из известного института по сравнению с неизвестным автором из неизвестного института? Какая часть убежденности держится на авторитете, а какая — на эксперименте? Какие журналы используют «слепое» рецензирование и насколько оно эффективно?

Я привожу этот пример вместо стандартных туманных обвинений в духе «ученые закрыты для новых идей», потому что он наглядно показывает линию фронта — место, где человеческую психологию активно теснят, где накопленная энтропия культа выкачивается наружу. (Разумеется, это требует выделения некоторого количества побочного тепла.)

Это эссе — не каталог методов активного противодействия культовости. О некоторых таких методах я уже рассказывал раньше, о других расскажу позже. Здесь я лишь хочу указать на то, что благородство Дела не означает, что вы можете прилагать хотя бы на йоту меньше усилий для сопротивления аттрактору культа. И если вы можете указать на существующие линии фронта, это не значит, что вы признаете свое Благородное Дело недостойным. Вы можете подумать, что если бы вопрос стоял «Культ, да или нет?», вы были бы обязаны ответить «Нет», иначе вы предали бы свое любимое Дело. Но это всё равно что делить двигатели на «со стопроцентным КПД» и «неэффективные» вместо того, чтобы измерять потери.

Напротив, если вы верите, что именно врожденная порочность тех Других Глупых Дел сбила их с пути, если вы смеетесь над глупостью «жертв сект», если вы думаете, что культы возглавляют и населяют мутанты, то вы не станете прилагать необходимых усилий для борьбы с энтропией — для того, чтобы сопротивляться тому, чтобы быть просто человеком.

В адрес рационалистов порой звучит критика: «Инквизиция ведь тоже думала, что она обладает истиной! Очевидно, что вся эта история с «истиной» опасна».

На это есть множество очевидных ответов, например: «Если вы думаете, что обладание истиной давало бы вам право пытать и убивать, вы совершаете ошибку, которая не имеет никакого отношения к эпистемологии». Или: «Кстати, то историческое утверждение об инквизиции, которое вы только что сделали, — оно-то истинно?»

Обратная глупость — это не ум: «Если ваш компьютер перестал работать, нельзя сделать вывод, будто вся система в корне неверна и вам нужен новый компьютер без процессора AMD и видеокарты ATI... пусть даже в вашей нынешней неработающей системе всё это есть. Возможно, вам просто нужен новый кабель питания». Чтобы прийти к неверному выводу, достаточно сделать лишь один неверный шаг, а вовсе не ошибаться на каждом шагу. Инквизиторы верили, что 2 + 2 = 4, но не это было источником их безумия. Может быть, и эпистемологический реализм тут ни при чём?

Звучит правдоподобно, что если бы инквизиция состояла из релятивистов, заявляющих, что ничто не истинно и ничто не имеет значения, у них было бы поменьше энтузиазма для пыток. Но у них было бы меньше энтузиазма и после лоботомии. Думаю, это вполне справедливая аналогия.

И всё же... я полагаю, что отношение инквизиции к истине сыграло свою роль. Инквизиция верила, что истина существует и что она важна; что ж, Ричард Фейнман верил в то же самое. Но инквизиторы не были Искателями Истины. Они были её Хранителями.

Однажды я наткнулся на довод (источник уже не найду), что ключевым компонентом духа времени является то, где он помещает свои идеалы: в будущем или в прошлом. Почти все культуры до эпохи Просвещения верили в грехопадение — в то, что когда-то в далёком прошлом всё было идеально, но затем случилась катастрофа, и с тех пор мир медленно катится по наклонной:

В те времена, когда жизнь на Земле была полна... Люди любили друг друга и не знали, что это называется «любовью к ближнему». Они никого не обманывали и не знали, что они «люди, достойные доверия». Они были надежны и не знали, что это «честность». Они жили свободно, делясь друг с другом, и не знали, что они «щедры». По этой причине деяния их не были описаны. Они не оставили истории.

— «Путь Чжуан-цзы», пер. Томаса Мертона¹

Идеального золотого века в прошлом, согласно всем антропологическим данным, никогда не существовало. Но культура, которая видит жизнь неуклонно катящейся по наклонной, разительно отличается от культуры, в которой можно достичь невиданных ранее высот.

(Я говорю «культура», а не «общество», поскольку в одном обществе может уживаться несколько субкультур.)

Можно было бы сказать, что различие, к примеру, между Ричардом Фейнманом и инквизицией состояло в том, что инквизиция считала, будто уже обладает истиной, тогда как Ричард Фейнман её искал. Но это не совсем так, ведь наверняка существовали истины, которыми, по собственному мнению, Фейнман тоже обладал. Например: «небо голубое» или «2 + 2 = 4».

Да, в науке фактически существуют определенные истины. Общую теорию относительности может опровергнуть какая-нибудь будущая физика — но явно не так, чтобы из этого следовало, будто Солнце вращается вокруг Юпитера; новая теория должна перенять успешные предсказания старой, а не противоречить им. Но эволюционная теория работает на более высоком уровне организации материи, чем атомы, и никакие новые открытия о кварках не опровергнут дарвинизм, клеточную теорию, атомную теорию в химии или сотню других блестящих открытий, истинность которых сегодня установлена вне разумных сомнений.

Являются ли они «абсолютными истинами»? Не в смысле обладания вероятностью ровно в 1,0. Но в этих случаях наука, по сути, считает, что уже нашла истину.

И всё же ученые не пытают тех, кто сомневается в атомной теории. Почему? Потому что они не считают, будто уверенность дает право на пытки? Ну да, в этом состоит внешнее различие; но почему ученые не верят в это?

Потому что химия не грозит сверхъестественным наказанием в виде вечных пыток за неверие в атомную теорию? Но мы снова уходим в рекурсию и спрашиваем: «Почему?» Почему химики не верят, что за неверие в атомную теорию попадают в ад?

Потому что научные журналы не опубликуют вашу статью, пока вы не предоставите надежные экспериментальные наблюдения ада? Но слишком многие ученые способны подавлять свой скептический рефлекс по собственному желанию. Почему же у химиков нет тайного культа, утверждающего, что не-химики попадут в ад, учитывая, что многие из них и так христиане?

Подобные вопросы не имеют простых односложных ответов. Но я бы утверждал, что один из факторов заключается в принятии продуктивной позиции по отношению к истине в противовес позиции оборонительной.

Когда вы Хранитель Истины, вы не можете сделать для неё ничего полезного, кроме как охранять её. Когда же вы пытаетесь получить Нобелевскую премию по химии, открывая следующий бензол или бакибол, тот, кто ставит под сомнение атомную теорию, кажется вам не столько угрозой вашему мировоззрению, сколько пустой тратой вашего времени.

Когда вы Хранитель Истины, всё, что вы можете делать, — это пытаться предотвратить неизбежное скатывание в энтропию, уничтожая всё, что отклоняется от Истины. Но если есть способ откачивать энтропию — производить новые истинные убеждения вместе с небольшим количеством рассеянного тепла, — то этот же самый насос может сохранять истину живой и без тайной полиции. В химии вы можете воспроизвести эксперименты и убедиться во всем сами — и это сохраняет драгоценную истину без всякого насилия.

И это не такая уж страшная угроза, если мы где-то совершим одну ошибку и ненадолго поверим в какую-нибудь неправду, — ведь завтра мы сможем вернуть утраченные позиции.

Но весь этот трюк работает только потому, что экспериментальный метод является «критерием качества», а не просто «критерием сравнения». Поскольку эксперименты могут восстановить истину без потребности в авторитете, они также могут опровергать авторитеты и создавать новые истинные убеждения там, где их раньше не существовало.

Там, где есть критерии качества, не являющиеся критериями сравнения, могут происходить изменения, которые будут улучшениями, а не угрозами. Там же, где есть только критерии сравнения, где нет возможности выйти за рамки авторитета, нет и способа разрешить разногласия между авторитетами. Разве что путём истребления. Побеждает тот, у кого пушки крупнее.

Я не пытаюсь предложить какую-то грандиозную всеобъемлющую однофакторную картину истории. Но я хочу указать на глубокое психологическое различие между тем, чтобы видеть главное дело своей жизни в защите, охране и сохранении, и тем, чтобы видеть его в открытии, созидании и улучшении. Куда указывает направление «вверх» на оси времени — в прошлое или в будущее? Это различие накладывает отпечаток на всё и пускает свои побеги повсюду.

Вот почему я всегда настаивал, например, что если вы собираетесь рассуждать об «этике ИИ», вам лучше говорить о том, как вы собираетесь улучшить текущее положение дел с помощью ИИ, а не просто о том, как не дать вещам пойти наперекосяк. Как только вы переходите на критерии простого сравнения, вы начинаете терять из виду свои идеалы — упускаете из виду правильное и неправильное и начинаете видеть просто «другое» и «то же самое».

Я также считаю, что это базовое психологическое различие — одна из причин, по которой научная дисциплина, переставшая активно развиваться, обычно озлобляется. (По крайней мере, по утончённым меркам науки. Репутационное убийство выглядит довольно безобидно по историческим меркам; большинство оборонительных систем убеждений предпочитали делать это по-настоящему.) Если крупные потрясения случаются недостаточно часто, чтобы регулярно продвигать молодых учёных за заслуги, а не за конформизм, область перестаёт сопротивляться стандартному вырождению в засилье авторитетов. Когда открытий совершается немного, не остаётся ничего другого, кроме как целыми днями устраивать охоту на еретиков.

Чтобы получить максимальную пользу для психического здоровья от установки «открывать/создавать/улучшать», нужно действительно добиваться прогресса, а не просто надеяться на него.

Как и любой образованный житель двадцать первого века, вы, возможно, слышали о Второй мировой войне. Возможно, вы помните, что Гитлер и нацисты планировали продолжить романтизированный процесс эволюции, чтобы вывести новую расу господ — сверхлюдей, более сильных и умных, чем кто-либо существовавший ранее.

На самом деле это распространенное заблуждение. Гитлер верил, что арийский сверхчеловек уже существовал в прошлом — нордический стереотип, белокурый голубоглазый хищник, — но был осквернен смешением с нечистыми расами. Произошло расовое грехопадение.

О том, насколько глубоко концепция прогресса пронизывает западную цивилизацию, говорит уже то, что, когда нам рассказывают о нацистской евгенике, мы слышим: «Они пытались вывести сверхчеловека». Вы, дорогой читатель, — если бы вы ошиблись настолько сильно, что поддержали бы принудительную евгенику, — вы попытались бы создать сверхчеловека. Потому что вы помещаете свои идеалы в будущее, а не в прошлое. Потому что вы созидательны. Мысль о том, чтобы путем селекции вернуться к какому-то нордическому архетипу тысячелетней давности, даже не пришла бы вам в голову как возможный вариант — что, просто викинги? И это всё? Если бы вы ошиблись настолько сильно, что решились на убийство, вы бы, черт возьми, попытались достичь невиданных прежде высот — иначе всё это было бы зря, верно? Что ж, дорогой читатель, вот одна из причин, почему вы не нацист.

Это кое-что говорит о том, как трудно относительно здоровым людям поставить себя на место относительно больных: нам рассказывают о нацистах, а мы искажаем эту историю, выставляя их дефектными трансгуманистами.

Дефектными трансгуманистами были как раз коммунисты. «Новый советский человек» и всё в таком роде. Нацисты же в этой истории совершенно точно были биоконсерваторами.

Для скептиков мысль о том, что разум может привести к культу, абсурдна. Характеристики культа находятся в противофазе с разумом на все 180 градусов. Но, как я покажу далее, это не просто может случиться — это уже случилось, и притом с группой, которую следовало бы счесть самым невероятным культом в истории. Это урок о том, что происходит, когда истина становится важнее поиска истины...

— Майкл Шермер, «Самый маловероятный культ в истории»¹

Один начинающий рационалист, учившийся у мастера Оуги, получил упрек от друга, который сказал: «Ты проводишь всё это время, слушая своего мастера и твердя «рационально то, рационально сё» — да ты же попал в секту!»

Новичок был глубоко встревожен; этой ночью, когда он лежал в постели, и даже во сне у него в ушах звучали слова: «Ты попал в секту!»

На следующий день новичок подошел к Оуги, рассказал о случившемся и сказал: «Мастер, меня постоянно гложет тревога, что всё это на самом деле секта, а ваше учение — лишь догма».

Оуги ответил: «Если ты найдешь на дороге молоток и продашь его, ты можешь попросить за него низкую цену или высокую. Но если ты оставишь молоток себе и станешь забивать им гвозди, кто усомнится в его ценности?»

Новичок сказал: «Вот-вот, именно об этом я и беспокоюсь — о ваших таинственных дзенских ответах».

Оуги сказал: «Хорошо, тогда я буду говорить яснее и изложу совершенно разумные доводы, которые докажут, что ты не попал в секту. Но сначала ты должен надеть эту дурацкую шляпу».

Оуги протянул новичку огромную коричневую ковбойскую шляпу.

«Э-э, мастер...» — произнес новичок.

«Когда я тебе всё объясню, — сказал Оуги, — ты поймешь, почему это было необходимо. В противном случае ты можешь и дальше лежать без сна по ночам, гадая, не секта ли это».

Новичок надел ковбойскую шляпу.

Оуги сказал: «Сколько ещё ты будешь повторять мои слова и игнорировать их смысл? Сумбурные мысли начинаются с привязанности к желаемым выводам. Ты слишком печешься о своем образе рационалиста. Ты пришел ко мне за утешением. Если бы тебе было действительно любопытно и ты не склонялся ни к тому, ни к другому варианту, ты бы придумал способы разрешить свои сомнения. Поскольку тебе было необходимо устранить когнитивный диссонанс, ты согласился надеть дурацкую шляпу. Будь я злым человеком, я мог бы заставить тебя заплатить сто серебряных монет. Когда ты концентрируешься на вопросе из реального мира, ценность или никчемность твоего понимания быстро становится очевидной. Ты подобен мечнику, который то и дело оглядывается, чтобы посмотреть, не смеется ли кто-то над ним...»

«Ладно», — сказал новичок.

«Ты сам просил подробную версию», — сказал Оуги.

Этот новичок впоследствии занял место Оуги и стал известен как Ни но Тати. С тех пор он запрещал своим ученикам цитировать его слова в спорах, говоря: «Используйте техники и не упоминайте их».

Пугает в экспериментах Аша на конформность то, что можно заставить многих людей утверждать, будто чёрное — это белое, если поместить их в комнату, полную других людей, утверждающих то же самое. Обнадёживает то, что появление всего одного несогласного колоссально снижало уровень конформизма, даже если этот несогласный давал просто другой неправильный ответ. И удручает то, что несогласие не усваивалось в ходе эксперимента: стоило единственному несогласному принять сторону группы, как уровень конформизма снова взлетал.

Выражение несогласия может принести группе реальную пользу. Но у этого также (как всем известно) есть своя цена. К тому же вам придётся продолжать в том же духе. Плюс ко всему, вы можете ошибаться.

Недавно со мной произошёл интересный случай: я начал обсуждать проект с двумя людьми, которые до этого планировали его самостоятельно. Мне показалось, что они настроены слишком оптимистично, и я сделал ряд предложений по проекту, касающихся запаса прочности. Вскоре мимо проходил четвёртый парень (он должен был подвезти домой одного из тех двоих) и тоже стал предлагать идеи. В этот момент меня внезапно осенило, как именно группы приходят к чрезмерной самоуверенности: каждый раз, когда я указывал на возможную проблему, четвёртый парень говорил: «Не волнуйся, уверен, мы с этим справимся!» или что-то столь же ободряющее.

У человека, работающего в одиночку, возникают естественные сомнения. Он думает про себя: «Действительно ли я смогу сделать XYZ?», ведь нет ничего невежливого в том, чтобы сомневаться в собственной компетентности. Но когда двое неуверенных в себе людей объединяются в группу, вежливость требует говорить приятные и ободряющие вещи, а сомневаться в компетентности другого становится невежливо. Вместе они проникаются большим оптимизмом, чем каждый из них по отдельности: сомнения каждого подавляются кажущейся уверенностью заверений другого, и ни один не понимает, что изначально у собеседника были те же самые внутренние сомнения.

Самая пугающая перспектива, на которую указывают эксперименты Аша на конформность, — это призрак всеобщего согласия с группой под влиянием уверенных чужих голосов, когда каждый старается не показывать собственных сомнений, не понимая, что и другие подавляют точно такие же опасения. Это явление известно как «плюралистическое невежество».

У нас с Робином Хансоном идёт давний спор о том, когда именно начинающим рационалистам стоит осмеливаться на несогласие. Я склоняюсь к широко распространённой позиции, что у вас нет иного выбора, кроме как формировать собственное мнение. Робин Хансон отстаивает более радикальную позицию: вы — а не только другие люди — должны допускать, что другие могут оказаться мудрее. Независимо от наших споров по различным вопросам, мы оба согласны с тем, что теорема Ауманна о согласии в своём расширенном толковании подразумевает, что общее знание о фактическом несогласии указывает на то, что кто-то должен быть иррационален. Несмотря на косые взгляды, которые на нас бросают, мы твёрдо стоим на своём в вопросе скромности: забудьте всё, что вам говорят об индивидуализме, вы должны обращать внимание на то, что думают другие люди.

Кхм. Суть в том, что для рационалистов несогласие с группой — дело серьёзное. От него нельзя просто отмахнуться фразой «Каждый имеет право на собственное мнение».

Я думаю, самый важный урок, который можно извлечь из экспериментов Аша, — это научиться отличать «выражение опасений» от «несогласия». Озвучивание соображения, которое другие не высказали, вовсе не означает обещания не согласиться с группой в конце обсуждения.

Процесс схождения мнений у идеального байесианца включает в себя обмен свидетельствами, непредсказуемыми для слушателя. Результат Ауманна о согласии применим только к общему знанию — когда вы знаете, я знаю, вы знаете, что я знаю, и так далее. Статья или пост Хансона «Мы не можем предвидеть несогласие» показывает, насколько странно выглядело бы сближение оценок вероятности у идеальных рационалистов; это совершенно не похоже на то, как торгуются двое на рынке, сходясь в цене.

К сожалению, в социальном плане разница между «выражением опасений» и «несогласием» невелика. Группа рационалистов может договориться делать вид, что разница есть, но человеческая природа устроена иначе. Стоит вам высказаться, и вы совершаете социально необратимый поступок: вы становитесь торчащим гвоздем, фальшивой нотой в уютной групповой гармонии, и этого уже не отменить. Любой, кого задело выраженное вами сомнение в его способности успешно справиться с задачей XYZ, скорее всего, затаит не меньшую обиду, даже если в конце вы скажете: «Без проблем, я согласен с группой».

Эксперимент Аша показывает, что способность несогласия вдохновлять других реальна. Эксперимент Аша показывает, что сила конформизма реальна. Если все будут воздерживаться от озвучивания своих личных сомнений, это действительно приведёт группы к безумию. Но история изобилует уроками о том, какова цена быть первым или даже вторым, кто скажет, что король-то голый. Люди биологически не приспособлены отличать «выражение опасения» от «несогласия даже при общем знании»; это различие — лишь искусственный конструкт рационалистов. Если вы почитаете более циничные книги по саморазвитию (например, «Государя» Макиавелли), там вам посоветуют полностью маскировать свой нонконформизм, а не высказывать сначала опасения, чтобы затем согласиться. Если вы оказываете группе услугу, становясь тем, кто озвучивает очевидные проблемы, не ждите, что группа скажет вам спасибо.

Таковы издержки и выгоды несогласия — выражаете ли вы полноценное «несогласие» или просто «высказываете опасения», — и решать только вам.

Эксперимент Аша на конформизм показал, что присутствие даже одного несогласного колоссально снижает частоту «конформистских» неверных ответов. Как показывает эксперимент, быть индивидуалистом легко, когда ваше неповиновение кто-то разделяет. Все остальные испытуемые в комнате, кроме одного, говорят, что черное — это белое. Вы становитесь вторым человеком, который говорит, что черное — это черное. И это потрясающее чувство: вы двое, одинокие и дерзкие бунтари, против всего мира! (Последующие опросы показали, что испытуемые в условиях одного несогласного испытывали сильное чувство товарищества по отношению к нему — хотя, конечно, они не считали, что присутствие несогласного как-то повлияло на их собственный нонконформизм.)

Но вы можете лишь присоединиться к бунту после того, как кто-то где-то станет первым, кто взбунтуется. Кто-то должен сказать, что черное — это черное, выслушав, как все остальные, один за другим, говорят, что черное — это белое. И это, как показывает эксперимент, намного труднее.

Одинокое несогласие ощущается не так, словно вы пришли в школу во всем черном. Оно ощущается так, будто вы пришли в школу в костюме клоуна.

В этом и разница между тем, чтобы присоединиться к бунту, и тем, чтобы отбиться от стаи.

Если и есть что-то, чего я терпеть не могу, так это фальшь — вы, возможно, уже заметили. Так вот, одинокое несогласие — пожалуй, одно из самых часто и нарочито имитируемых качеств. Все хотят быть иконоборцами.

Я не хочу обесценивать сам акт присоединения к бунту. Есть бунты, к которым стоит примкнуть. Требуется мужество, чтобы встретить неодобрение своего круга общения или, что, пожалуй, еще хуже, их равнодушное пожимание плечами. Само собой разумеется, поход на рок-концерт — это не бунт. Но, к примеру, вегетарианство — вполне себе бунт. Сам я не вегетарианец, но уважаю тех, кто им является, поскольку полагаю, что требуется изрядная доля тихого мужества, чтобы объявить окружающим, что гамбургеры на ужин не подойдут. (Хотя в Районе Залива об этом спрашивают уже в порядке вещей.)

И все же, если вы скажете людям, что вы вегетарианец, они подумают, что понимают ваши мотивы (даже если это не так). Они могут не согласиться. Они могут обидеться, если вы преподнесете это с излишней гордостью, или, если уж на то пошло, они могут обидеться просто потому, что их легко обидеть. Но они знают, как к вам относиться.

Когда кто-то приходит в школу во всем черном, учителя и другие дети понимают роль, которую этот человек на себя берет в их сообществе. Это «Вне Системы» — самым стандартным образом, который все узнают и понимают. А не то чтобы, знаете ли, на самом деле вне системы. Это Вызов Стандартному Мышлению стандартного толка, так что люди с возмущением говорят: «Я не могу понять, почему ты...», но им при этом не приходится задумываться о том, о чём они никогда не думали раньше. Как говорится: «Заставила ли хоть какая-то из прочитанных вами "подрывных книг" изменить ваши политические взгляды?»

Что действительно требует настоящего мужества, так это столкнуться с полным непониманием окружающих, когда вы делаете что-то, что не является «Стандартным Бунтом № 37», что-то, для чего у них нет готового сценария. Вас не ненавидят как бунтаря, вас просто считают каким-то странным и отворачиваются. Подобная перспектива вызывает куда более глубокий страх. В этом и разница между тем, чтобы объяснять вегетарианство, и тем, чтобы объяснять крионику. Где-то в мире есть и другие сторонники крионики, но их нет рядом с вами. Вам приходится объяснять это в одиночку людям, которые считают это просто странным. Не запретным, а находящимся за рамками того, о чем люди вообще задумываются. Заморозить голову? И ты думаешь, это спасет тебя от смерти? Что значит «информация в мозге»? А? Что? Ты сумасшедший?

Велик соблазн попытаться дать постфактум эволюционно-психологическое объяснение: можно было собраться небольшой группой друзей и уйти из своего племени охотников-собирателей, но необходимость выживать в лесах в одиночку, скорее всего, означала смертный приговор — как минимум в репродуктивном плане. Мы не выстраиваем эти рассуждения явно, но эволюционная психология устроена иначе. Присоединиться к бунту, о котором все знают, страшно, но далеко не так страшно, как сделать что-то совсем по-другому. Что-то, что в первобытные времена могло закончиться не разделением племени, а вашим изгнанием в одиночку.

Как показывает пример с крионикой, страх мыслить по-настоящему иначе сильнее, чем страх смерти. Охотники-собиратели должны были регулярно сталкиваться со смертью лицом к лицу, охотясь на крупных млекопитающих или просто передвигаясь по миру, полному хищников. Это мужество было необходимо им для выживания. А вот мужество бросить вызов стандартным способам мышления племени, допускать мысли, которые кажутся по-настоящему странными — что ж, оно, вероятно, не приносило своим обладателям особой пользы. Мы не просчитываем это явно; эволюционная психология работает по-другому. Мы, люди, просто устроены так, что среди нас гораздо больше тех, кто прыгает с парашютом, чем тех, кто подписывает договор на крионику.

Но и это еще не высшая степень мужества. В мире есть не один сторонник крионики. Но только Роберту Эттингеру пришлось заявить об этом первым.

Чтобы стать научным революционером, вы должны первым пойти наперекор тому, что думают все ваши знакомые. Это не единственный путь к величию в науке; он редок даже среди великих. Никто не может стать научным революционером, пытаясь имитировать революционность. Прийти к этому можно лишь стремясь к правильному ответу во всем, независимо от того, революционен этот ответ или нет. Но если со временем — впитав в себя всю мощь и мудрость уже накопленных знаний, — если после всего этого и благодаря доле чистого везения вы обнаружите, что стремление к простой истине уводит вас на неизведанную территорию... вот тогда-то ваше мужество и может вам изменить.

В этом и заключается истинное мужество одинокого несогласия, которое пытается имитировать каждая чертова рок-группа.

Разумеется, не все, что требует мужества, — хорошая идея. Чтобы спрыгнуть с обрыва, тоже нужно мужество, но в итоге вы просто превратитесь в лепешку.

Страх одинокого несогласия мешает появлению хороших идей, но далеко не всякая бунтарская идея хороша. См. также эссе Робина Хэнсона «Против вольнодумцев». Главная сложность на пути к новой истинной научной мысли заключается в слове «истинная».

На самом деле вовсе не обязательно отличаться от других просто ради того, чтобы отличаться. Если вы будете поступать иначе только тогда, когда видите для этого чрезвычайно вескую причину, вам с лихвой хватит неприятностей на всю оставшуюся жизнь.

В мире есть несколько настоящих стай иконоборцев. Церковь Недомудреца, например, кажется, искренне стремится запутать обывателей, а не просто оскорбить их. И в мире существуют островки подлинной терпимости — например, конвенты любителей научной фантастики. Есть люди, которые совершенно не боятся отбиться от стаи. Их существует гораздо меньше, чем тех, кто воображает себя бунтарями, но они всё же есть. И тем не менее научные революционеры встречаются несравнимо реже. Подумайте над этим.

Вот я, знаете ли, действительно иконоборец. Все думают, что они такие, но в моём случае это правда, понимаете. Я бы запросто пришёл в школу в костюме клоуна. Мои серьёзные разговоры велись с книгами, а не с другими детьми.

Но если вы думаете, что запросто надели бы этот костюм клоуна, то и этим не стоит слишком гордиться! Это лишь означает, что вам нужно прикладывать усилия в противоположном направлении, чтобы не противоречить большинству слишком уж легко. Именно это мне и приходится делать, чтобы вносить поправку на собственную природу. У других людей действительно есть причины думать так, как они думают, и полностью игнорировать это столь же плохо, как и бояться им возразить. Вы же не хотите в итоге оказаться вольнодумцем. Это, понимаете ли, не добродетель — просто уклон в ту или иную сторону.

В современном мире попасть в секту — пожалуй, худшее, что может с вами случиться. В лучшем случае вы окажетесь в группе искренних, но заблуждающихся людей, которые совершают честную ошибку, но в остальном ведут себя прилично; вы потратите кучу времени и денег и в итоге останетесь ни с чем. Вообще-то, под это описание подходит любой провалившийся стартап из Кремниевой долины. А это, если вдуматься, чертовски тяжелое испытание. Так что да, очень пугающе.

Настоящие секты гораздо хуже. «Бомбардировка любовью» как метод вербовки, нацеленный на людей в состоянии личного кризиса. Депривация сна. Хроническая усталость от изнурительного труда. Удаленные коммуны, чтобы изолировать новичка от друзей и семьи. Ежедневные собрания для исповеди в «нечистых помыслах». Для сект обычное дело — забирать все деньги новобранца (и сбережения, и еженедельную зарплату), заставляя его зависеть от секты в плане еды и одежды. Голод как наказание за непослушание. Серьезное промывание мозгов и серьезный ущерб.

С учетом всего этого мне, наверное, следовало бы больше сочувствовать людям, которые ужасно нервничают, начиная какое-то странное на первый взгляд дело, из-за того, что они могут оказаться в секте. Это не должно действовать мне на нервы. Но действует.

Пункт первый: «секты» и «не-секты» — это не обособленные естественные виды, как собаки и кошки. Если вы посмотрите на любой список признаков секты, вы увидите пункты, которые легко могут описывать политические партии и корпорации: «членов группы поощряют недоверчиво относиться к внешней критике, видя в ней скрытые мотивы», «иерархическая авторитарная структура». Я писал о паттернах групповых ошибок вроде групповой поляризации, счастливых спиралей смерти, некритичности мышления и испарительного охлаждения — все они словно подпитывают друг друга. Когда эти сбои закручиваются в один вихрь и сталкиваются, они соединяются в некий Суперсбой, который глупее любой из своих частей, прямо как Вольтрон. Но это не сущность секты, это сектантский аттрактор.

Собаки рождаются с ДНК собаки, а кошки — с ДНК кошки. В современном мире промежуточных вариантов нет. (Даже с помощью генной инженерии нельзя было бы просто взять и создать организм с половиной собачьих генов и половиной кошачьих). Нет такого, что существует взаимоусиливающий набор собачьих качеств, в который отдельная кошка может забрести наполовину и стать полусобакой.

Человеческий разум, мысля категориями, похоже, предпочитает сущности аттракторам. Человеку хочется сказать: «Это секта» или «Это не секта», и на этом задача классификации решена. Если вы видите, что у Сократа десять пальцев, он носит одежду и свободно говорит по-гречески, то можете сказать: «Сократ — человек», и отсюда сделать вывод: «Сократ уязвим для цикуты», не проводя специального анализа крови для подтверждения его смертности. Вы раз и навсегда определили человеческую сущность Сократа.

Но если вы замечаете, что некая группа людей демонстрирует поляризацию «мы — они» и видит положительный эффект ореола вокруг своего Самого Любимого Дела — которым может быть объективизм, вегетарианство или нейронные сети, — вы не можете на основе собранных на данный момент свидетельств сделать вывод, достигли ли они некритичности мышления. Вы не можете сделать вывод, истинна ли их главная идея, ложна или искренне полезна, но не настолько, как они думают. На основе собранной к этому моменту информации вы не можете сделать вывод, вежливы ли они в остальном или же они заманят вас в изоляцию и лишат сна и еды. Признаки сектантства не обязаны присутствовать или отсутствовать все разом.

Если вы посмотрите на интернет-споры о том, «является ли X сектой» или «не является ли X сектой», то одна сторона берет сетевой список признаков секты, находит тот, который подходит, и заявляет: «Следовательно, это секта!» А защитник находит признак, который не подходит, и заявляет: «Следовательно, это не секта!»

С помощью такого эссенциализма невозможно составить точную картину динамики мышления группы. Вам нужно рассматривать каждый признак в отдельности.

Кроме того, глупость наоборот — это еще не ум. Если вас интересует суть идеи, а не просто группа, которая ее воплощает, то помните, что у умных идей могут быть глупые последователи. Многие сторонники нью-эйджа рассуждают о «квантовой физике», но это не аргумент против квантовой физики. Разумеется, у глупых идей тоже могут быть глупые последователи. Рука об руку с бинарным эссенциализмом идет убеждение, что если вы пришли к выводу, будто группа — «секта», то ее убеждения обязательно должны быть ложными, поскольку ложные убеждения характерны для сект так же, как шерсть — для кошек. Если вас интересует идея, смотрите на саму идею, а не на людей. Сектантство — это характеристика скорее групп, нежели гипотез.

Вторая ошибка заключается в том, что когда люди нервно спрашивают: «Это же не секта, правда?», мне кажется, будто они ищут подтверждения собственной рациональности. Идея о том, что рационалисту не следует слишком привязываться к своему образу рационалиста, заслуживает отдельного эссе (впрочем, см. «Двенадцать добродетелей», «Зачем нужна истина? И...» и «Два сектантских коана»). Но даже без подробностей очевидно, что нервный поиск подтверждений — не лучший психологический настрой для оценки вопросов рациональности. Вы не будете искренне любопытны и не станете искать способы разрешить свои сомнения. Вместо этого вы найдете в интернете какой-нибудь источник, где написано, что секты используют депривацию сна для контроля над людьми, заметите, что Ваша Любимая Группа депривацию сна не практикует, и сделаете вывод: «Это не секта. Фух!» Раз у него нет шерсти, значит, это не кошка. Как обнадеживающе.

Но Любое Движение Стремится Стать Сектой, независимо от того, мудра его цель или глупа. Дихотомия «свой-чужой» и тому подобное — часть человеческой природы, а не какое-то особое проклятие мутантов. Рациональность — это исключение, а не правило. Чтобы удерживать рациональность вопреки естественному сползанию в энтропию, нужно постоянно прилагать усилия. Если вы решите «Это не секта!» и вздохнете с облегчением, вы перестанете прикладывать постоянные усилия, чтобы сдерживать обычные склонности к сектантству. Вы решите, что «сущность секты» отсутствует, и перестанете бороться с энтропией секты-аттрактора.

Если вы жутко боитесь сектантства, вам захочется отрицать любой намек на любые признаки, напоминающие секту. Но любая группа, цель которой видится в позитивном свете, рискует поддаться эффекту ореола и должна бороться с энтропией, чтобы не сорваться в аффективную спираль смерти. Это верно даже для обычных институтов вроде политических партий — например, когда люди думают, что «либеральные ценности» или «консервативные ценности» могут излечить рак и тому подобное. Это верно для стартапов Кремниевой долины, как успешных, так и прогоревших. Это верно для пользователей Mac и пользователей Linux. Эффект ореола не становится нормальным только потому, что ему подвержены все; если все будут прыгать с обрыва, вы же не прыгнете за ними? С ошибками в рассуждениях нужно бороться, а не мириться с ними. Но если вы слишком сильно переживаете: «А вы уверены, что это не секта?», то вам очень не захочется замечать малейшие признаки сектантства, ведь это означало бы, что вы в секте, а Это не секта!! В итоге вы не увидите тех полей сражений, где обычные сектантские тенденции наступают или терпят поражение.

Третья ошибка тех, кто нервно спрашивает: «Это ведь не секта, правда?», заключается в том, что, как я сильно подозреваю, эта нервозность вызвана совершенно не теми причинами.

Почему группы, которые превозносят свою Любимую Штуку до небес, призывают адептов жертвовать все свои деньги и добровольно трудиться в рабских условиях, а также содержат закрытые общины, где члены группы находятся в строгой изоляции, называют «религиями», а не «сектами», стоит им просуществовать несколько сотен лет?

Почему большинство людей, которые нервно спрашивают о крионике: «Это же не секта?», не испытывают такой же тревоги при посещении политического митинга республиканцев или демократов? Дихотомия «свой-чужой» и аффективные спирали смерти могут возникать в политических дискуссиях, в традиционных религиях, в спортивном фанатстве. Если бы эта нервозность проистекала из страха совершить ошибки рациональности, люди точно так же боязливо спрашивали бы на митингах демократов или республиканцев: «Это же не дихотомия "свой-чужой"?».

Есть веская причина бояться либертарианства меньше, чем секты свидетелей летающих тарелок: за либертарианцами не водится славы людей, использующих депривацию сна для обращения неофитов. Но ведь и за сторонниками крионики такая слава тоже не водится. Так почему же беспокоиться о том, что вашу голову заморозят после того, как вы перестанете дышать, сильнее?

Подозреваю, что эта нервозность вызвана вовсе не страхом ошибиться в убеждениях или страхом физического вреда. Это страх одинокого несогласия. То нервное чувство, которое возникает у участников эксперимента Аша на конформность, когда все остальные участники (на самом деле подставные лица) один за другим утверждают, что отрезок C равен по длине отрезку X, хотя испытуемому кажется, что отрезку X равен отрезок B. Страх отбиться от стаи.

Вот почему группы, чьи убеждения существуют достаточно давно, чтобы казаться «нормальными», не внушают такого же беспокойства, как «секты» — хотя некоторые традиционные религии тоже могут забрать все ваши деньги и отправить вас в монастырь. Вот почему такие группы, как политические партии, весьма подверженные ошибкам рациональности, не вызывают той же нервозности, что и «секты». Слово «секта» используется не как символ ошибок рациональности, а как ярлык для всего, что кажется странным.

Не всякое изменение есть улучшение, но всякое улучшение — это обязательно изменение. То, что вы хотите делать лучше, вам волей-неволей придется делать по-другому. Общепринятая мудрость действительно содержит изрядную долю, собственно, настоящей мудрости; да, имеет смысл требовать повышенного бремени доказательств для всякого рода странностей. Но эта нервозность вовсе не является результатом подобного взвешенного, рационального рассуждения. Это страх поверить во что-то, из-за чего друзья станут смотреть на вас очень странно. И потому люди спрашивают: «Это ведь не секта, правда?» — таким тоном, который они никогда бы не использовали, собираясь на политический митинг или вешая гигантские рождественские гирлянды.

Именно это меня и раздражает.

Как будто стоит вам поверить во что-то, во что не верили ваши предки, как с небес спустится Сектантская Фея, вселит в вас Сущность Сектантства, и не успеете вы опомниться, как уже все вместе ходите в балахонах и распеваете песнопения. Как будто «странные» убеждения — это прямая причина всех проблем, а депривация сна и побои тут ни при чем. Вред, наносимый сектами — самоубийство адептов «Врат рая» и тому подобное, — якобы лишь доказывает, что любой человек со странными убеждениями безумен; ведь первая и главная характеристика «сектантов» заключается в том, что они — Чужаки со Странными Обычаями.

Да, социально необычные убеждения подвергают группу риску скатывания к мышлению «свой-чужой», испарительному охлаждению и другим проблемам. Но необычность — это фактор риска, а не болезнь сама по себе. То же самое касается наличия цели, которую вы считаете достойной достижения. Независимо от того, истинно ли убеждение, наличие прекрасной цели всегда ставит вас под угрозу аффективной спирали смерти. Но это делает благородные цели фактором риска, а не болезнью. Некоторые цели действительно заслуживают того, чтобы к ним стремиться.

С другой стороны, я не вижу никаких веских причин для лишения сна или угроз избиения несогласных — и точка. Когда группа так поступает, то независимо от того, назовете вы ее «сектой» или «не сектой», вы получите прямой ответ на сугубо практический вопрос, стоит ли к ней присоединяться.

Проблема четвертая: страх одинокого несогласия — это как раз то, что используют сами секты. Страх перед тем, что друзья посмотрят на вас с осуждением, — это именно тот эффект, который настоящие секты используют, чтобы вербовать и удерживать членов, — они окружают новообращенных сплошной стеной согласия со стороны верующих адептов.

Страх перед странными идеями и стремление к конформизму, без сомнения, уберегли многих потенциальных жертв от сект свидетелей летающих тарелок. Когда вы снаружи, это удерживает вас снаружи. Но стоит вам оказаться внутри, это удерживает вас внутри. Конформизм просто приклеивает вас к тому месту, где вы находитесь, — будь оно хорошим или плохим.

Человеку хочется иметь какую-то возможность быть уверенным, что он не находится в «секте». Какое-то определенное, сокрушительное возражение людям, которые косо на него смотрят. Какую-то возможность раз и навсегда узнать, что он все делает правильно, без этих постоянных сомнений. Кажется, это называется «потребностью в определенности». И — разумеется — секты используют это тоже.

Отсюда и выражение «сектантская антисектантность».

Жить с сомнениями — не добродетель: цель любого сомнения состоит в том, чтобы самоуничтожиться благодаря успеху или поражению, а сомнение, которое просто висит мертвым грузом, ничего не дает. Но порой сомнению требуется время, чтобы самоуничтожиться. Жизнь со стопкой неразрешенных на данный момент сомнений — неизбежная данность для рационалистов. Сомнение не должно пугать. Иначе вам придется выбирать между чертовски загнанной жизнью и жизнью чертовски глупой.

Если вы действительно, искренне не можете понять, является ли группа «сектой», вам просто придется делать выбор в условиях неопределенности. В этом и заключается вся суть теории принятия решений.

Проблема пятая: отсутствие стратегического мышления.

Я знаю людей, которые с осторожностью относятся к сингулярианству, и они также осторожны с политическими партиями и традиционными религиями. Осторожны, а не нервничают и не занимают оборонительную позицию. Этим людям с первого взгляда ясно, что сингулярианство — очевидно, не полноценная секта с лишением сна и прочим. Но они беспокоятся, что сингулярианство станет сектой из-за таких факторов риска, как превращение концепции мощного ИИ в «Суперсчастливого агента» (агента, определяемого главным образом тем, что он соглашается с любым приятным словом в свой адрес). То, что нечто не является сектой сейчас, не означает, что оно не станет ею в будущем. Сектантство — это аттрактор, а не сущность.

Раздражает ли меня такая осторожность? Черт возьми, нет. Я и сам трачу кучу времени на беспокойство по поводу такого сценария. Я стараюсь расставлять свои камни для го заранее, чтобы заблокировать движение в этом направлении. Отсюда, к примеру, и серия эссе о сектантских ошибках в рассуждениях.

У людей, которые рассуждают о «рациональности», также есть дополнительный фактор риска. Давать людям советы о том, как думать, — дело само по себе опасное. Но это фактор риска, а не болезнь.

Оба моих любимых дела подвержены риску сектантства. Но почему-то вопрос «Вы уверены, что это не секта?» мне задают гораздо чаще, когда я говорю о мощном ИИ, нежели когда я рассуждаю о теории вероятностей и когнитивных науках. Не знаю, какой из факторов риска выше, но я точно знаю, какой из них звучит более странно...

Проблема № 6 с вопросом «Это ведь не секта, правда?»...

Сам этот вопрос ставит меня в крайне досадную ситуацию «Уловки-22». Настоящий Злой Гуру наверняка использовал бы нервозность человека против него самого и выстроил бы убедительный, сложный аргумент, объясняющий, почему это не секта, а человек с готовностью бы его принял. Иногда у меня складывается впечатление, что люди хотят от меня именно этого! Всякий раз, когда я пытаюсь писать о сектантстве и о том, как его избежать, меня не покидает чувство, будто я потакаю этому порочному желанию — будто в конечном счете я даю людям успокоение. Даже когда я говорю им, что необходима постоянная борьба с энтропией.

Такое ощущение, будто я выставляю себя первым несогласным в эксперименте Аша на конформизм, говоря людям: «Да, отрезок X действительно равен отрезку B, вы тоже можете так сказать». Им не нужно спрашивать об этом! Или, что еще хуже, мне кажется, будто я привожу изощренное доказательство того, почему это не секта. Это неправильный вопрос.

Просто сами взгляните на процессы мышления в группе и сами решите, хотите ли вы быть ее частью, избавившись от страха перед странным. Не допускать у себя сектантского мышления — это ваша личная ответственность, в какой бы группе вы сейчас ни состояли.

Стоит кому-то спросить: «Это ведь не секта, правда?», как вне зависимости от моего ответа я начинаю чувствовать, будто защищаюсь. Мне не нравится это чувство. В обязанности байесовского мастера не входит успокаивать, а в обязанности рационалистов — защищаться.

Секты питаются групповым мышлением, нервозностью, жаждой успокоения. Нервозность нельзя прогнать одним лишь желанием, а ложная самоуверенность еще хуже. Но пока человеку нужно успокоение — пусть даже успокоение в том, что он рационалист, — в его доспехах всегда будет брешь. Умелый мечник концентрируется на цели, а не оглядывается по сторонам, чтобы проверить, не смеется ли кто над ним. Когда вы знаете, чего пытаетесь достичь и зачем, вы будете понимать, получается ли у вас это или нет, и помогает ли вам группа или мешает.

(P. S. Если человек придет к вам и спросит: «Ты уверен, что это не секта?», не пытайтесь объяснить все эти концепции на одном дыхании. Вы недооцениваете инференциальную дистанцию. Человек скажет: «Ага, то есть ты признаешь, что вы секта!» или «Погоди, ты хочешь сказать, что мне не стоит беспокоиться из-за вступления в секту?» или «То есть... страх перед сектами — это сектантство? По-моему, звучит жутко сектантски». Так что последний раздражающий фактор — № 7, если вы ведете счет, — заключается в том, что все это слишком долго объяснять.)

Я только что закончил читать историю краха корпорации Enron, «Самые умные парни в этой комнате», которая отныне получает мой личный приз в номинации «Самое неподходящее название книги».

Вполне ожидаемой чертой медленного гниения и внезапного краха Enron было то, что топ-менеджеры никогда не признавали совершения крупной ошибки. Когда катастрофа № 247 разрасталась до такой степени, что требовала реального изменения политики, они говорили: «Жаль, что ничего не вышло — идея-то была отличная, — как теперь скрыть эту проблему в балансовом отчете?» Вместо того чтобы сказать: «В ретроспективе теперь кажется очевидным, что это с самого начала было ошибкой». Вместо: «Я был глуп». У них никогда не было переломного момента, момента смиренного осознания, признания фундаментальной проблемы. После банкротства Джефф Скиллинг, бывший операционный директор и — в течение недолгого времени — генеральный директор Enron, отклонил совет собственных адвокатов воспользоваться Пятой поправкой; он дал показания перед Конгрессом, заявив, что Enron была великой компанией.

Не всякая перемена — это улучшение, но всякое улучшение — это обязательно перемена. Если мы признаем лишь мелкие локальные промахи, мы будем делать лишь мелкие локальные изменения. Мотивация для больших перемен рождается из признания большой ошибки.

В детстве я рос в равной степени на науке и научной фантастике, и от Хайнлайна до Фейнмана усваивал тропы Традиционной Рациональности: теории должны быть смелыми и подставлять себя под фальсификацию; нужно быть готовым принести героическую жертву и отказаться от собственных идей при столкновении с противоречащими доказательствами; вести споры вежливо; стараться не обманывать себя; и прочие туманные словесные формулировки.

Традиционное рациональное воспитание пытается вырастить спорщиков, которые в конце концов уступят опровергающим доказательствам — должна существовать хоть какая-то гора улик, способная сдвинуть вас с места. Это не тривиально; именно это отличает науку от религии. Но здесь меньше внимания уделяется скорости, тому, чтобы выйти из боя как можно быстрее, эффективно усваивая новые свидетельства, чтобы требовался лишь минимум опровержений для разрушения вашего лелеемого убеждения.

Я воспитывался в духе Традиционной Рациональности и считал себя заправским рационалистом. Я перешел на байесовское мастерство (Лаплас / Джейнс / Тверски / Канеман) после событий... ну, это долгая история. Грубо говоря, я перешел потому, что понял: расплывчатых словесных штампов Традиционной Рациональности оказалось недостаточно, чтобы уберечь меня от совершения огромной ошибки.

Когда я наконец полностью признал свою ошибку, я оглянулся на путь, который привел меня к этому Ужасному Осознанию. И увидел, что пошел на серию мелких, минимальных уступок, со скрипом отдавая каждый миллиметр территории, каждый раз осознавая лишь малейшую часть своей ошибки и признавая поражение лишь крошечными, терпимыми порциями. Я понял, что мог бы двигаться гораздо быстрее, если бы просто закричал «ОЙ!»

И я подумал: мне нужно выйти на новый уровень.

В признании того, что вы совершили большую ошибку, кроется огромное преимущество. Это больно. Но это также может изменить всю вашу жизнь.

Важно пережить переломный момент, момент смиренного осознания. Признать фундаментальную проблему, а не дробить ее на мелкие, легко перевариваемые ошибки.

Не увлекайтесь драмой и не начинайте гордиться признанием ошибок. Разумеется, гораздо лучше оказываться правым с первого раза. Но если уж вы совершили ошибку, то куда лучше увидеть ее целиком и сразу. Даже с гедонистической точки зрения выгоднее понести одну крупную потерю, чем множество мелких. Альтернатива — растягивать битву с самим собой на долгие годы. Альтернатива — это Enron.

С тех пор я не раз наблюдал, как другие люди идут по пути минимальных уступок, неохотно сдавая каждый миллиметр территории; никогда не признавая глобальную ошибку там, где можно обойтись локальной; всякий раз извлекая как можно меньше уроков из каждого промаха. То, что они могли бы добровольно исправить одним махом, они превращают в крошечные локальные заплатки, необходимость которых им приходится доказывать. Никогда они не скажут, признав очередной промах: «Я был глупцом». Они делают все возможное, чтобы сгладить неловкость, заявляя: «В принципе я был прав», или «Это могло сработать», или «Я все еще хочу сохранить истинную суть того, к чему привязан». Защищая свою гордость в текущий момент, они гарантируют себе, что снова совершат ту же ошибку и им снова придется защищать свою гордость.

Лучше проглотить всю горькую пилюлю целиком за один ужасный глоток.

Когда я был совсем юным — кажется, лет тринадцати или четырнадцати, — мне показалось, что я нашел опровержение диагонального метода Кантора, знаменитой теоремы, доказывающей, что вещественных чисел больше, чем рациональных. Ах, какие мечты о славе и величии кружились тогда у меня в голове!

Моя идея заключалась в том, что поскольку каждое целое число можно разложить на набор степеней двойки, то можно отобразить целые числа на множество подмножеств целых чисел, просто выписав их двоичную запись. Например, число 13 (в двоичной записи — 1101) отображалось бы на {0, 2, 3}. Прошла целая неделя, прежде чем мне пришло в голову, что, возможно, стоит применить диагональный метод Кантора к моей остроумной конструкции. И, конечно же, метод тут же выдал контрпример — двоичное число (... 1111), которое не соответствует ни одному конечному целому числу.

Обнаружив этот контрпример, я понял, что моя попытка опровержения оказалась несостоятельной, а вместе с ней рухнули и мои мечты о славе и величии.

Сначала я был немного разочарован.

В голове вертелась мысль: «В конце концов я одолею эту теорему! Когда-нибудь я опровергну диагональный метод Кантора, пусть даже первая попытка и провалилась!» Я злился на теорему за то, что она упрямо оставалась верной, лишая меня славы и богатства, и принялся искать другие опровержения.

И тут до меня кое-что дошло. Я осознал, что совершил ошибку, и теперь, когда я ее заметил, не было абсолютно никаких причин сомневаться в верности диагонального метода Кантора больше, чем в любой другой важнейшей математической теореме.

Я предельно ясно увидел, что передо мной открывается перспектива стать математическим фриком и провести остаток дней, рассылая профессорам математики гневные письма, написанные зелеными чернилами. (Когда-то я читал книгу о таких математических чудаках.)

Такого будущего себе я не желал, поэтому я тихонько усмехнулся и отпустил эту мысль. Я доброжелательно помахал диагональному методу Кантора рукой, пожелав ему счастливого пути, и больше никогда не подвергал его сомнению.

И сейчас я уже не помню, подумал ли я так тогда или же пришел к этому позже... но какое же это ужасно несправедливое испытание для тринадцатилетнего ребенка. Мне нужно было уже в этом возрасте быть настолько рациональным, иначе меня ждал провал.

Чем вы умнее, тем в более раннем возрасте у вас может впервые возникнуть идея, которая покажется вам действительно революционной. Мне повезло, что я сам заметил свою ошибку; что не потребовалось вмешательства другого математика, который указал бы мне на нее и тем самым, возможно, дал повод винить кого-то со стороны. Мне повезло, что опровержение моей идеи было достаточно простым, чтобы я сам смог в нем разобраться. Иначе, возможно, я бы со временем оправился. Будучи взрослым, я оправлялся и от куда более серьезных ударов. Но если бы я свернул не туда так рано, смог бы я вообще когда-нибудь развить в себе этот навык?

Интересно, скольким из тех, кто пишет гневные письма зелеными чернилами, было тринадцать, когда они сделали свой первый роковой шаг? Интересно, сколько среди них было до этого подающих надежды умов?

Я ошибся. Только и всего. Я не был по-настоящему прав в глубине души; я не одержал моральную победу; я не проявил ни амбициозности, ни скептицизма, ни какой-либо другой удивительной добродетели; это не было объяснимой ошибкой; я не был прав наполовину или хотя бы на самую малость. Мне пришла в голову мысль, которая никогда не пришла бы, будь я умнее, — вот и вся история.

Если бы я не смог признаться себе в этом, если бы переосмыслил свою ошибку как проявление добродетели, если бы из гордости настаивал на том, что я прав хотя бы немного, я бы не отпустил эту ситуацию. Я бы продолжил искать изъян в диагональном методе. И рано или поздно я бы его, пожалуй, нашел.

Пока вы не признаете свою неправоту, вы не сможете двигаться дальше; ваш образ себя по-прежнему будет привязан к старой ошибке.

Всякий раз, когда у вас возникает соблазн цепляться за мысль, которая никогда не пришла бы вам в голову, будь вы умнее, вам предлагают стать фриком. Даже если вы никогда не напишете ни одного гневного письма зелеными чернилами. Если никто не станет с вами спорить или если вы вообще никому не расскажете о своей идее, вы все равно можете оставаться фриком. Суть именно в цеплянии за неё.

Это неправда. Это неправда даже в глубине души. Это не полуправда и даже не капля правды. Это всего лишь мысль, которая никогда не должна была приходить вам в голову. Не во всякой неудаче есть свои плюсы. Люди совершают ошибки, и далеко не каждая из них — это замаскированный успех. Люди совершают ошибки; так бывает, только и всего. Скажите «ой» и живите дальше.

Кейси Серин, 24-летний веб-программист без опыта работы с недвижимостью, должен банкам 2,2 миллиона долларов после того, как соврал в ипотечных заявках, чтобы одновременно купить восемь разных домов в разных штатах. Он обналичивал часть ипотеки (запрашивал суммы, превышающие стоимость домов) и тратил эти деньги на жизнь и семинары по недвижимости. Похоже, он рассчитывал на рост рынка.

И это ещё не самое печальное. Самое печальное — то, что он до сих пор не сдался. Кейси Серин не признает поражения. Он отказывается объявлять о банкротстве или устраиваться на работу; он всё ещё думает, что может крупно преуспеть в недвижимости. Он продолжал тратить деньги на семинары. Он попытался взять ипотеку на девятый дом. Видите ли, он вовсе не потерпел неудачу, он просто приобрел ценный опыт.

Вот что происходит, когда вы отказываетесь терять надежду.

Хотя такое поведение может показаться просто глупым, оно также напоминает мне о двух лауреатах Нобелевской премии по экономике…

…а именно о Мертоне и Шоулзе из Long-Term Capital Management.

Хотя в первые три года LTCM получала гигантские прибыли, в 1998 году рыночные неэффективности, которые она использовала, начали исчезать — о трюке прознали другие, и он перестал работать.

LTCM отказалась терять надежду. Подсевшие на 40% годовых, они всё сильнее наращивали кредитное плечо, чтобы зарабатывать на всё более крошечной марже. Когда у LTCM всё пошло наперекосяк, их собственный капитал составлял 4,72 миллиарда долларов, объем заемных средств — 124,5 миллиарда долларов, а объем позиций по деривативам — 1,25 триллиона долларов.

В каждой профессии ум проявляется по-своему — везде свои навыки, которые нужно освоить, и правила, которым нужно следовать. Поэтому можно подумать, что изучение «рациональности» как общей дисциплины мало что дает для успеха в реальной жизни. И все же мне кажется, что умение не быть глупым имеет очень много общего в самых разных профессиях. Если вы зададитесь целью научить кого-то тому, как не превращать мелкие ошибки в большие, то окажется, что это практически одно и то же искусство — хоть в хедж-фондах, хоть в любви, и один из главных секретов здесь таков: будьте готовы признать, что проиграли.

Однажды, разглагольствуя о Пути, я заметил, что большинство организованных систем убеждений существуют для того, чтобы бежать от сомнений. Один из слушателей возразил мне, что иезуиты, должно быть, застрахованы от этой критики, поскольку они практикуют организованное сомнение: их послушникам, по его словам, велят сомневаться в христианстве, сомневаться в существовании Бога, сомневаться в истинности своего призвания, сомневаться в том, что они подходят для принесения вечных обетов целомудрия и бедности. И я сказал: «А, но они ведь должны преодолеть эти сомнения, верно?» Он ответил: «Нет, они должны сомневаться, что их сомнения могут вырасти и окрепнуть».

Поиск в Google не позволил ни подтвердить, ни опровергнуть эти утверждения. (Если кто-то из аудитории сможет помочь, буду премного благодарен.) Но я нахожу этот сценарий интригующим, заслуживающим обсуждения независимо от того, правда это в отношении иезуитов или нет. Если иезуиты практиковали намеренное сомнение, как описано выше, были бы они тем самым добродетельны как рационалисты?

Полагаю, мне придется признать, что поведение иезуитов в описанном выше (возможно, гипотетическом) сценарии нельзя в полной мере охарактеризовать как «бегство от сомнений». Однако это (возможно, гипотетическое) поведение все равно кажется мне крайне подозрительным. Для истинно добродетельного рационалиста сомнение не должно быть пугающим. Описанная практика больше напоминает мне программу десенсибилизации к чему-то очень страшному — вроде демонстрации пауков арахнофобу в строго контролируемых условиях.

Но даже в этом случае они побуждают своих послушников сомневаться, верно? Имеет ли значение, что их основания ошибочны? Разве это все равно не достойное рационалиста деяние?

Всякое любопытство стремится уничтожить само себя; нет такого любопытства, которое не хотело бы получить ответ. Но если вы получаете ответ, если вы удовлетворяете свое любопытство, то великолепная тайна перестает быть тайной.

Точно так же любое сомнение существует для того, чтобы уничтожить какое-то конкретное убеждение. Если сомнение не уничтожает свою цель, оно умирает неисполненным — но это все же разрешение, финал, пусть и более печальный. Сомнение, которое не уничтожает ни себя, ни свою цель, с тем же успехом могло бы вообще никогда не существовать. Именно разрешение сомнений, а не сам акт сомнения, толкает храповик рациональности вперед.

Каждое улучшение — это изменение, но не каждое изменение — это улучшение. Каждый рационалист сомневается, но не все сомнения рациональны. Ношение сомнений делает вас рационалистом не больше, чем ношение белого медицинского халата делает вас врачом.

Рациональное сомнение возникает по конкретной причине — у вас есть веские основания подозревать, что убеждение ошибочно. Эта причина, в свою очередь, указывает направление исследования, которое либо уничтожит целевое убеждение, либо уничтожит само сомнение. Это справедливо даже для весьма абстрактных сомнений вроде: «Интересно, нет ли более простой гипотезы, которая также объясняет эти данные?». В таком случае вы исследуете вопрос, пытаясь придумать более простые гипотезы. Чем дольше этот поиск продолжается бесплодно, тем менее вероятным вам кажется, что следующий шаг вычислений принесет успех. В конце концов затраты на поиск превысят ожидаемую пользу, и вы прекратите его. В этот момент вы больше не можете утверждать, что сомневаетесь с пользой. Сомнение, которое не исследуется, с тем же успехом может не существовать. Любое сомнение существует для того, чтобы тем или иным способом уничтожить само себя. Неразрешенное сомнение — это пустая операция; оно не крутит колесо ни вперед, ни назад.

Если вы действительно верите самой религии (а не просто верите в неё), зачем вам велеть своим послушникам рассматривать сомнения, которые обречены умереть неисполненными? Это всё равно что заставлять студентов-физиков кропотливо сомневаться в том, что революция XX века могла быть ошибкой, а ньютоновская механика — верна с самого начала. Если вы в чем-то на самом деле не сомневаетесь, зачем притворяться, будто это так?

Потому что все мы хотим казаться рациональными — а сомнение широко считается добродетелью рационалиста. Но мало кто понимает, что для сомнения нужна конкретная причина или что неразрешенное сомнение — это пустая операция. Вместо этого люди думают, что дело в скромности, покорности, поддержании племенной статусной иерархии — практически та же проблема, что и со смирением, о котором я писал ранее. Публичная демонстрация сомнений ради того, чтобы убедить себя в собственной рациональности, принесет примерно столько же пользы, сколько ношение медицинского халата.

Чтобы избежать пустого декларирования сомнений, помните:

Рациональное сомнение существует для того, чтобы уничтожить целевое убеждение, и если оно этого не делает, то умирает неисполненным.

Рациональное сомнение возникает по конкретной причине, по которой убеждение может быть ошибочным.

Неразрешенное сомнение — это пустая операция.

Неисследованное сомнение с тем же успехом могло бы вообще не существовать.

Не следует гордиться самим фактом сомнения, хотя вы имеете полное право гордиться, когда только что закончили разрывать в клочья дорогое вам убеждение.

Хотя для того, чтобы взглянуть в лицо своим сомнениям, может потребоваться мужество, никогда не забывайте, что для идеального разума сомнение вообще не было бы пугающим.

Люди могут вынести то, что истинно,

ведь они уже это выносят.

—Юджин Джендлин

Подумайте, что происходит с вами на психологическом уровне, когда вы начинаете со слов: «Мой долг — критиковать собственные убеждения». Роджер Желязны однажды провел различие между «желанием быть писателем» и «желанием писать». Марк Твен говорил: «Классика — это то, что каждый хочет иметь прочитанным, но никто не хочет читать». Критика себя из чувства долга приводит к тому, что вы хотите, чтобы исследование уже было проведено, чтобы потом иметь возможность сказать, что ваша вера не слепа. Но это совсем не то же самое, что желание исследовать.

Это может привести к мотивированной остановке исследования. Вы рассматриваете возражение, затем контраргумент к этому возражению, и на этом останавливаетесь. Вы повторяете это с несколькими возражениями, пока не почувствуете, что выполнили свой долг по исследованию, и на этом останавливаетесь. Вы достигли своей глубинной психологической цели: избавились от когнитивного диссонанса, который возник бы, если бы вы считали себя рационалистом, но знали при этом, что даже не пытались критиковать свое убеждение. Это можно назвать покупкой рационалистического удовлетворения — попыткой создать «приятное тепло» от выполненного долга.

В итоге заявляемый вами уровень вероятности окажется достаточно высоким, чтобы оправдать сохранение планов и убеждений, с которых вы начинали, но не настолько высоким, чтобы вызвать недоверие у вас самих или у других рационалистов.

Когда вы искренне любопытны, вас будет тянуть к поискам, которые кажутся наиболее многообещающими с точки зрения изменения убеждений, или к поискам, наименее похожим на те, что вы уже предпринимали. После этого ваше распределение вероятностей, скорее всего, не должно выглядеть так же, как в самом начале — сдвиги должны произойти, будь то в сторону увеличения или уменьшения; и любое направление одинаково устраивает вас, если вы действительно любопытны.

Сравните это с подсознательным мотивом удерживать поиск на знакомой территории, чтобы поскорее покончить с исследованием, чтобы вы могли оставить исследование позади и восстановить привычный баланс, на котором строятся ваши старые привычные планы и убеждения.

Что касается того, как, по-моему, должно выглядеть истинное любопытство и какой силой оно обладает, я отсылаю вас к «Басне о науке и политике». Каждый из персонажей призван проиллюстрировать разные уроки. Феррис, последний персонаж, воплощает в себе силу невинного любопытства: легкость и страстное стремление к свидетельствам.

Урсула К. Ле Гуин писала: «В невинности нет силы против зла. Но в ней есть сила для добра».¹ Невинное любопытство может невинно заблуждаться, и поэтому обучение рационалиста и сопутствующая ему искушенность — это опасность, на которую нам нужно отважиться, если мы хотим стать сильнее. Тем не менее, мы можем постараться сохранить легкость и страстное стремление, свойственные невинности.

Как написано в «Двенадцати добродетелях»:

Если в глубине души вы верите, что уже знаете, или если в глубине души вы не хотите знать, то ваши расспросы будут бесцельными, а ваши навыки — лишенными направления. Любопытство стремится уничтожить само себя; нет такого любопытства, которое не желало бы ответа.

Истинному любопытству просто нет достойной замены. «Жгучий зуд познания выше торжественного обета стремиться к истине». Но нельзя вызвать любопытство одним лишь усилием воли, точно так же, как нельзя заставить замерзшую ногу согреться усилием воли. Иногда всё, что у нас есть, — это лишь наши торжественные обеты.

Так что же делать с чувством долга? Для начала мы можем попытаться проявить интерес к нашим проводимым из чувства долга исследованиям — внимательно следить за искрами подлинного интереса или даже подлинного невежества и желания его устранить. Это напрямую связано с тем, чтобы обращать особое внимание на болезненные возможности, от которых вы отворачиваетесь — и всё это не сводится к одному лишь негативному мышлению.

Также должно помочь размышление о Сохранении ожидаемого свидетельства. Для каждого нового пункта исследования, для каждого не виденного ранее свидетельства, на которое вы внезапно обратите внимание, ожидаемая апостериорная вероятность должна быть равна вашей априорной вероятности. В микропроцессе исследования ваше убеждение всегда должно находиться в хрупком равновесии, готовое сдвинуться в любую сторону. Не всякий довод способен полностью прояснить картину — например, сдвинуть уверенность с 70% до 30% — но если ваша текущая уверенность составляет 70%, вы должны быть в равной степени готовы как опустить её до 69%, так и поднять до 71%. Вы не должны думать, будто знаете, в какую сторону она изменится (в среднем), поскольку по законам теории вероятностей, если вы знаете пункт назначения, вы уже там. Если вы способны исследовать честно, так чтобы каждый новый довод действительно имел равный потенциал сдвинуть убеждение вверх или вниз, это поможет вам сохранить интерес или даже любопытство к самому микропроцессу исследования.

Если аргумент, который вы рассматриваете, не нов, то почему ваше внимание направлено именно сюда? Стали бы вы смотреть сюда, если бы были искренне любопытны? Не критикуете ли вы подсознательно свое убеждение в его сильных, а не слабых местах? Не перебираете ли вы уже известные доказательства?

Если вы сумеете не прокручивать в голове уже известные подтверждения и сможете снижать степень своей убежденности по крупицам под воздействием новых свидетельств, вы, возможно, даже сумеете полностью отказаться от этого убеждения — осознать, с какой стороны дует против вас ветер свидетельств.

Еще одно средство для восстановления любопытства — это то, что я стал называть литанией Тарского, которая на самом деле представляет собой мета-литанию, конкретизирующуюся для каждого отдельного случая (и это вполне естественно). Например, если я в напряжении размышляю, лежит ли в запертом ящике бриллиант, то вместо того, чтобы думать о прекрасных последствиях того, что бриллиант там действительно лежит, я могу повторить литанию Тарского:

Если в ящике лежит бриллиант,

Традиционная рациональность формулируется в терминах социальных правил, а нарушения интерпретируются как жульничество — как отступление от норм сотрудничества. Если вы хотите, чтобы я принял ваше убеждение, вы обязаны предоставить мне определенное количество свидетельств. Если вы пытаетесь уклониться от этого, мы все понимаем, что вы жульничаете и нарушаете своё обязательство. Теория обязана сама делать смелые предсказания, а не просто красть предсказания, ради которых трудились другие теории. Теория обязана подставляться под фальсификацию — если она пытается этого избежать, это всё равно что пытаться уклониться от грозного ритуала инициации; вам придётся заплатить свою цену.

Традиционная рациональность сформулирована сходным образом с обычаями, управляющими человеческими обществами, благодаря чему её легко передавать из уст в уста. Люди распознают социальное жульничество с гораздо большей надёжностью, чем изоморфные нарушения абстрактных логических правил. Но взгляд на рациональность как на социальное обязательство порождает некоторые странные идеи.

Например, можно встретить верующих людей, защищающих свои убеждения словами: «Ну, вы-то тоже не можете обосновать свою веру в науку!» Иными словами: «Как ты смеешь критиковать меня за необоснованные убеждения, лицемер! Ты делаешь то же самое!»

Для байесианцев мозг — это двигатель точности: он обрабатывает и концентрирует сцепленные свидетельства в карту, отражающую территорию. Принципы рациональности — это законы в том же смысле, что и второе начало термодинамики: получение достоверного убеждения требует поддающегося расчёту количества сцепленных свидетельств, точно так же как для надёжного охлаждения содержимого холодильника требуется поддающийся расчёту минимум свободной энергии.

В принципе, законы физики обратимы во времени, поэтому существует бесконечно малая вероятность — неотличимая от нуля ни для кого, кроме математиков, — что холодильник самопроизвольно охладится, попутно вырабатывая электричество. Существует чуть более крупная, но всё же бесконечно малая вероятность того, что вы сможете точно нарисовать подробную карту улиц Нью-Йорка, никогда там не бывав, сидя в своей гостиной с закрытыми жалюзи и без подключения к интернету. Но я бы не стал на это рассчитывать.

Прежде чем пытаться нанести на карту неисследованную территорию, налейте в чашку воды комнатной температуры и подождите, пока она самопроизвольно замёрзнет, и только потом продолжайте. Так вы сможете убедиться, что общий трюк — игнорирование бесконечно малых вероятностей успеха — работает исправно. Вы можете не осознавать напрямую, что ваша карта неверна, особенно если никогда не побываете в Нью-Йорке; но вы же видите, что вода сама по себе не замерзает.

Если правила рациональности — это социальные обычаи, то может показаться, будто ссылка на то, что другие делают то же самое, оправдывает поведение X. Было бы несправедливо требовать от вас свидетельств, если мы сами не можем их предоставить. Мы поймём, что никто из нас не лучше остальных, смягчимся и милостиво освободим вас от вашей социальной обязанности предоставлять свидетельства в пользу вашего убеждения. И все мы заживём долго и счастливо в свободе, равенстве и братстве.

Если же правила рациональности — это математические законы, то попытка оправдать убеждение, не подкреплённое свидетельствами, указанием на то, что кто-то другой делает то же самое, будет примерно столь же эффективна, как перечисление тридцати причин, почему вы не должны падать с обрыва. Даже если мы все проголосуем за то, что потребность вашего холодильника в электричестве несправедлива, он всё равно не заработает (с вероятностью ~1). Даже если мы все проголосуем за то, что вы не обязаны посещать Нью-Йорк, карта всё равно останется неверной. Госпожа Природа, как известно, безучастна к подобным мольбам, равно как и Госпожа Математика.

Так что — возвращаясь к социальному языку Традиционной Рациональности — не думайте, что вам сойдёт с рук отговорка, будто иметь произвольные убеждения о XYZ — это нормально, поскольку у других людей тоже есть произвольные убеждения. Если обе стороны договора ведут себя одинаково скверно, человеческий судья может решить не накладывать штрафы ни на одну из них. Но если два инженера спроектируют свои двигатели одинаково плохо, ни один из двигателей не заработает. Одна ошибка проектирования не может служить оправданием для другой. Даже если я делаю XYZ неправильно, это вам не поможет и не освободит вас от правил; это просто означает, что нам обоим крышка.

С точки зрения человеческого закона в либеральных демократиях, каждый имеет право на собственные убеждения. С точки зрения законов Природы, у вас нет права на точность. Мы не арестовываем людей за веру в странные вещи — по крайней мере, в более разумных странах. Но никто не может отменить закон, согласно которому вам необходимы свидетельства для формирования точных убеждений. Даже голосование всего человечества не поможет снискать милосердия в суде Природы.

Физики не устанавливают законы физики, они лишь угадывают их. Рационалисты не устанавливают законы рациональности, мы лишь угадываем их. Нельзя «рационализировать» то, что изначально не является рациональным. Если благодаря необычайной убедительности вы заставите всех физиков мира поверить, что освобождены от закона всемирного тяготения, и шагнёте с обрыва, вы всё равно упадёте. Даже фраза «Мы не устанавливаем» слишком антропоморфна. Не существует высшей инстанции, которая могла бы освободить вас от этих законов. Есть только причина и следствие.

Помните об этом, когда будете просить освободить вас от правил всего один разок. Мы не можем освободить вас. Решать не нам.

Комната, в которой Джеффриссай принимал посетителей из числа не-бейсуцаев, отличалась сдержанной официальностью и была безупречно обставлена в самом консервативном вкусе. Солнечный свет и наружный воздух струились сквозь решетку из полированного серебра, а несколько острых краев ясно давали понять, что открывать эту стену не следует. Пол и стены были из стекла, достаточно толстого, чтобы искажать вид, и уходили на такую глубину, что было совершенно неважно, что именно под ними скрывается. На стеклянных поверхностях виднелись тонко процарапанные узоры без какого-либо особого смысла, нанесенные словно рукой одаренного ребенка (так оно, впрочем, и было).

В других частях дома Джеффриссая были комнаты в ином стиле; но именно такого приема, как он выяснил, большинство чужаков ожидало от Мастера-Байесианца, и он предпочитал не разуверять их в этом. В конце концов, подобное тихое развлечение было одной из маленьких радостей жизни.

Гостья сидела напротив него: колени на подушке, пятки сзади. Она явилась исключительно по делам своего Заговора, и её наряд это подтверждал: облегающий комбинезон из розовой кожи, перчатки даже на руках — вплоть до капюшона, скрывающего голову и волосы, хотя лицо под ним оставалось открытым и ничем не защищенным.

И потому Джеффриссай решил принять её именно в этой комнате.

Джеффриссай шумно выпустил воздух из легких. — Вы уверены?

— О, — отозвалась она, — разве я должна быть совершенно уверена, чтобы мой совет пошатнул ваши убеждения? Разве недостаточно того, что я эксперт в своей области, а вы — нет?

Уголок рта Джеффриссая приподнялся в полуулыбке. — И откуда вы вообще так хорошо знаете наши правила? У вас ведь не было систематического обучения даже на планковскую длину.

— И вам еще нужно спрашивать? — сухо спросила она. — Если о чем-то вы, бейсуцаи, и любите разглагольствовать часами, так это о причинах, побуждающих вас совершать те или иные поступки.

Джеффриссай мысленно содрогнулся при мысли о попытках научиться рациональности, просто наблюдая за тем, как о ней рассуждают другие...

— И не надо так мысленно содрогаться при мне, — добавила она. — Я не пытаюсь сама стать рационалистом, я лишь пытаюсь победить рационалиста в споре. Между этим есть разница, в чем вы, я уверена, неустанно убеждаете своих учеников.

Неужели она действительно так легко меня читает? Джеффриссай посмотрел сквозь серебряную решетку на солнечный свет, отражающийся от граней горного склона. Всегда, изо дня в день золотой солнечный свет заливал это место высоко над облаками. Неизменная сущность, этот свет. Далекое Солнце, порождавшее его, через пять миллиардов лет было угасшим, но сейчас, в этот миг, оно всё ещё светило. И этого уже никогда не изменить. Зачем желать, чтобы вещи оставались вечно прежними, если это желание уже исполнено настолько абсолютно, насколько вообще возможно? Парадокс постоянства и непостоянства: лишь с точки зрения последнего вообще существуют такие понятия, как прогресс или утрата.

— Вы всегда давали мне хорошие советы, — сказал Джеффриссай. — И в этом отношении оставались неизменной. За все то время, что мы знаем друг друга.

Она наклонила голову в знак согласия. Это было правдой, и не было нужды вдаваться в подробности.

— Итак, — произнес Джеффриссай. — Не ради спора. Лишь потому, что хочу знать ответ. Вы действительно уверены? — Он даже не представлял, как она могла догадаться.

— Довольно уверена, — ответила она. — Мы давно собираем статистику, и в девятистах восьмидесяти пяти случаях из тысячи, подобных вашему...

Затем она рассмеялась, глядя на выражение его лица: — Да нет, я шучу. Конечно же, я не уверена. Такое можете решить только вы сами. Но я точно уверена, что вам стоит уйти и заняться тем, чем вы там обычно занимаетесь — я вполне уверена, что у вас есть для этого какой-нибудь ритуал, даже если вы не обсуждаете его с посторонними, — когда вы со всей серьезностью обдумываете отказ от давней предпосылки своей жизни.

С этим трудно было спорить, размышлял Джеффриссай, тем более когда специалист в данной области говорит тебе, что ты, скорее всего, неправ.

— Я уступаю, — произнес Джеффриссай. Из его уст эта фраза прозвучала с непререкаемой окончательностью. Больше нет нужды спорить со мной: вы победили.

— Да бросьте вы, — сказала она. Она поднялась со своей подушки одним плавным движением, без малейшей лишней суеты. Она не кичилась своим возрастом, но и не скрывала его. Она взяла его протянутую руку и поднесла к губам для церемонного поцелуя. — Прощайте, сенсей.

— «Прощайте»? — повторил Джеффриссай. Это означало расставание совсем иного порядка, нежели «до свидания». — Я намерен навестить вас снова, миледи; и вам здесь всегда рады.

Она пошла к выходу, ничего не ответив. У дверей она помедлила, не оборачиваясь. — Все уже не будет прежним, — произнесла она. И затем, вовсе не производя впечатления торопливости, удалилась так стремительно, словно просто растворилась в воздухе.

Джеффриссай вздохнул. Но по крайней мере теперь, вплоть до самого испытания, все его действия были строго предписаны и предсказуемы.

Покинув официальную приемную, он перешел в свой зал и распорядился отправить гонцов к ученикам с вестью, что завтрашние занятия пройдут в его отсутствие в режиме импровизации, а позже их ждет испытание.

После этого он не занимался ничем конкретным. Прочел еще сотню страниц одолженного учебника; книга была так себе, но и та, которую он дал взамен, была не лучше. Он бродил из комнаты в комнату по своему дому, лениво проверяя различные кладовые, не пропало ли чего (не хватало колоды карт, но не более того). Время от времени его мысли возвращались к завтрашнему испытанию, и он позволял им течь вольно. Он вообще не направлял свои мысли, лишь отсекал любую мысль, которая уже возникала у него прежде, и не допускал никаких выводов — и даже размышлений о том, куда эти размышления могут его завести.

Солнце зашло, и некоторое время он наблюдал за ним, аккуратно переведя разум на холостой ход. Это было невероятное искусство равновесия — перевести разум на холостой ход так, чтобы не зацикливаться на этом и не тратить сил на поддержание такого состояния; много лет назад ему пришлось бы изрядно попотеть, но благодаря долгой практике он давно отточил это умение до совершенства.

На следующее утро он проснулся, все еще отчетливо помня хаос ночных сновидений, и, стараясь изо всех сил сохранить не только память об этом хаосе, но и само его ощущение, спустился по лестничному пролету, затем еще по одному, затем еще по одному, и в конце концов пришел в самую непритязательную комнату во всем своем доме.

Она была белой. На этом, в общем-то, цветовая гамма и заканчивалась.

Вдоль одной из стен висели таблички, которые давным-давно, следуя классическому и рекомендованному методу, еще молодой Джеффриссай очень тщательно начертал сам, выжигая понятия в своем разуме с каждым прикосновением кисти, выводившей слова. То, что может быть разрушено истиной, должно быть разрушено. Люди способны выдержать то, что истинно, ведь они уже это переносят. Любопытство стремится уничтожить само себя. Имелась даже одна маленькая табличка, на которой не было ничего, кроме красной горизонтальной черты. Символы можно заставить означать всё что угодно — гибкость визуального представления, открыто признать которую не решился бы даже Бардовский заговор.

Под табличками на стене были нацарапаны две группы зарубок. В столбце «плюс» — две зарубки. В столбце «минус» — пять зарубок. Семь раз он входил в эту комнату; пять раз он решал не менять своего мнения; дважды выходил из нее уже немного другим человеком. Не существовало никакого предписанного соотношения или установленного диапазона — это было бы чистым издевательством. Но если по прошествии времени в столбце «плюс» так и не появлялось отметок, с тем же успехом можно было признать, что в этой комнате нет никакого смысла, поскольку вы не обладаете способностью, которую она олицетворяет. Либо так, либо вы родились, изначально зная истину и будучи правым во всем.

Джеффриссай сел, повернувшись к табличкам спиной, лицом к пустой белой стене. Лучше, чтобы перед глазами не было ничего отвлекающего.

Мысленно он повторил сначала мета-мнемонику, а затем и различные связанные с ней субмнемоники для семи главных принципов и шестидесяти двух конкретных техник, которые с наибольшей вероятностью могли понадобиться в Ритуале Изменения Своего Мнения. К этому Джеффриссай добавил еще одну мнемонику, напоминавшую ему о четырнадцати его самых постыдных оплошностях.

Глубокого вдоха он делать не стал. Лучше всего было дышать ровно.

И затем он задал себе вопрос.

Глядя на этот малоаппетитный ком, ни за что не подумаешь, что перед тобой одна из самых могущественных субстанций в известной нам Вселенной. Если бы вы никогда не видели учебника по анатомии и наткнулись на лежащий на улице мозг, вы бы сказали «Фу!» и постарались бы не испачкать обувь. Аристотель считал мозг органом, охлаждающим кровь. Он вовсе не выглядит опасным.

Пять миллионов лет назад предки львов правили днём, а предки волков бродили по ночам. Господствующие хищники были вооружены зубами и когтями — острыми, твёрдыми режущими кромками, приводимыми в движение мощными мышцами. Их жертвы в целях самообороны обзавелись в ходе эволюции панцирями, острыми рогами, ядами и камуфляжем. Война шла на протяжении сотен эпох и бесчисленных гонок вооружений. Множество проигравших выбыло из игры, но победителя видно не было. Там, где у одного вида появлялся панцирь, у другого развивалась способность его раскалывать; там, где один вид становился ядовитым, другой учился переносить этот яд. У каждого вида была своя ниша — ведь кто мог жить одновременно в море, в небе и на суше? Не существовало ни абсолютного оружия, ни абсолютной защиты, и не было причин полагать, что нечто подобное вообще возможно.

А затем наступил День Мягкотелых.

У них не было брони. У них не было когтей. У них не было яда.

Если бы вы увидели запись ядерного взрыва и вам сказали бы, что это дело рук земной формы жизни, вы бы и в самых безумных фантазиях не представили, что за этим стоят Мягкотелые. В конце концов, сами Мягкотелые не радиоактивны.

Вначале у Мягкотелых не было ни истребителей, ни пулемётов, ни винтовок, ни мечей. Ни бронзы, ни железа. Ни молотов, ни наковален, ни клещей, ни кузниц, ни рудников. Всё, что было у Мягкотелых, — это их мягкие пальцы, слишком слабые, чтобы сломать дерево, не говоря уже о горе. Очевидно, они не представляли опасности. Чтобы резать камень, нужна сталь, а Мягкотелые не умели выделять сталь. В природе не валялось стальных лезвий, которые мягкие пальцы могли бы подобрать. Их тела не могли генерировать температуру, даже отдалённо достаточную для плавки металла. Весь этот сценарий выглядел откровенным абсурдом.

А уж мысль о том, что Мягкотелые будут манипулировать ДНК, была и вовсе запредельно смехотворной. Мягкие пальцы не настолько малы. С уровня Мягкотелых доступа к ДНК нет; это всё равно что пытаться ухватить атом водорода. О, технически это всё одна вселенная, технически Мягкотелые и ДНК — часть одного мира, подчинённого одним и тем же единым законам физики, той же великой паутине причинно-следственных связей. Но давайте смотреть на вещи реально: отсюда туда никак не добраться.

Даже если бы Мягкотелые и могли когда-нибудь эволюционировать до подобных свершений, на это ушли бы тысячи тысячелетий. Мы наблюдали за приливами и отливами Жизни на протяжении эпох и уж поверьте нам: год — это даже не один тик эволюционных часов. О, конечно, технически год равен шестистам триллионам триллионов триллионов триллионов планковских интервалов. Но ничто и никогда не происходит быстрее, чем за шестьсот миллионов триллионов триллионов триллионов триллионов планковских интервалов, так что этот спор лишён смысла. Мягкотелые, бегающие сейчас по саванне, полетят над континентами не раньше чем через десять миллионов лет; ни у кого не может быть столько секса.

А теперь объясните мне ещё раз, почему Искусственный Интеллект не способен сделать ничего примечательного в Интернете, пока программист-человек не построит для него тело робота.

Я заметил, что рефлекторная реакция человека на слово «интеллект» — мысль, которая проносится у него в голове в первую же полсекунды после того, как он слышит это слово, — часто определяет его инстинктивную реакцию на саму идею взрыва интеллекта. Часто люди, обращаясь к понятию «интеллект», извлекают из памяти концепт «книжного ума» — мысленный образ гроссмейстера, который никак не может сходить на свидание, или университетского профессора, неспособного выжить за пределами академической среды.

«Чтобы преуспеть в профессии, одного интеллекта мало», — говорят люди, как будто харизма гнездится в почках, а не в мозгу. «Против пули интеллект бессилен», — говорят они, словно пистолеты растут на деревьях. «Откуда Искусственный Интеллект возьмёт деньги?» — спрашивают они, словно первые Homo sapiens находили падающие с неба долларовые купюры и расплачивались ими в магазинчиках, которые уже стояли в лесу. Человеческий вид не родился в условиях рыночной экономики. Пчёлы не продадут вам мёд, если вы предложите им электронный перевод. Человеческий вид вообразил деньги, вызвав их к жизни, и они существуют — для нас, а не для мышей или ос, — потому что мы продолжаем в них верить.

Я постоянно пытаюсь объяснить людям, что архетип интеллекта — это вовсе не Дастин Хоффман в «Человеке дождя». Это человек, и точка. Это мягкотелые создания, которые взрываются в вакууме, но оставляют следы на своей луне. Внутри этого серого влажного комка кроется сила, позволяющая прокладывать пути сквозь великую паутину причинно-следственных связей и находить дорогу к тому, что кажется невозможным, — сила, которую иногда называют творчеством.

Люди — в особенности венчурные капиталисты — иногда спрашивают, как именно результаты будут коммерциализированы, если Научно-исследовательский институт машинного интеллекта (MIRI) успешно создаст истинный ИИ. Вот это мы и называем проблемой фрейминга.

А может быть, тут кроется нечто более глубокое, чем простое несовпадение предпосылок. Приложив немного творческого мышления, люди могут представить себе, как отправиться на Луну, победить оспу или производить компьютеры. Но вообразить трюк, способный совершить всё это разом, кажется решительно невозможным — хотя подобная сила таится всего в нескольких сантиметрах за их собственными глазами. Серая влажная штуковина по-прежнему кажется загадкой для самой этой серой влажной штуковины.

И поэтому, поскольку люди не вполне понимают, как всё это будет работать, сила интеллекта кажется менее реальной; её сложнее вообразить, чем огненный столп, отправляющий корабль на Марс. Перспектива полета на Марс будоражит воображение. Но если пообещать и полет на Марс, и теорию Великого объединения, и доказательство гипотезы Римана, и лекарство от ожирения, и лекарство от рака, и лекарство от старения, и лекарство от глупости — что ж, это просто звучит как-то неправильно, вот и всё.

И это вполне естественно. Считать, что интеллект годен лишь на столь малое, — это серьезный провал воображения. Кто мог вообразить давным-давно, на что однажды окажется способен разум? Возможно, мы даже не знаем, в чём заключаются наши настоящие проблемы.

Но тем временем, поскольку трудно понять, как один процесс может обладать столь разнородными силами, трудно и вообразить, что одним махом можно решить даже такие прозаические проблемы, как ожирение, рак и старение.

Что ж, один-единственный трюк победил оспу, построил самолеты, окультурил пшеницу и приручил огонь. Наша нынешняя наука, возможно, ещё не сошлась во мнениях о том, как именно работает этот трюк, но он всё равно работает. Если вы временно чего-то не знаете о каком-то явлении, это факт о вашем нынешнем состоянии ума, а не о самом явлении. Пустая карта не означает пустую территорию. И даже если человек не вполне понимает силу, которая оставила следы на Луне, эти следы всё равно там — настоящие следы на настоящей Луне, оставленные настоящей силой. Если понять её достаточно глубоко, то эту силу можно будет создавать и направлять. Интеллект так же реален, как электричество. Просто он гораздо мощнее, гораздо опаснее, влечет за собой куда более глубокие последствия для разворачивающейся истории жизни во Вселенной — и понять, как построить для него генератор, самую малость сложнее.

Человек, глядя на мир природы, видит тысячекратную целесообразность. Ноги кролика, созданные и сочленённые для бега; челюсти лисы, созданные и сочленённые для того, чтобы рвать плоть. Но то, что вы видите, — это не совсем то, что есть на самом деле...

В додарвиновские времена причина всей этой кажущейся целесообразности была величайшей загадкой для науки. Божисты твердили: «Это дело рук Бога» — ведь за каждое упоминание слова «Бог» в предложении начисляется 50 бонусных очков. Но, возможно, я несправедлив. В додарвиновскую эпоху эта гипотеза выглядела куда более разумной. Найдите в пустыне часы, говорил Уильям Пейли, и вы сможете сделать вывод о существовании часовщика.

Но когда вы смотрите на всю кажущуюся целесообразность в природе, а не выбираете лишь удобные примеры, вы начинаете замечать вещи, которые не вписываются в иудео-христианскую концепцию единого благого Бога. Лисы кажутся отлично спроектированными для ловли кроликов. Кролики кажутся отлично спроектированными для бегства от лисиц. Творцу никак не удавалось принять окончательное решение?

Когда я проектирую тостер, я не делаю одну деталь, которая пытается подать ток на спирали, и вторую, которая пытается этому помешать. Это было бы пустой тратой сил. Кто спроектировал экосистему с её хищниками и жертвами, вирусами и бактериями? Даже кактус, который, казалось бы, отлично приспособлен для того, чтобы обеспечивать пустынных животных водой и плодами, утыкан неудобными колючками.

Экосистема выглядела бы куда более осмысленной, если бы она была спроектирована не единым «Кто», а создана целым сонмом божеств — скажем, из индуистского или синтоистского пантеонов. Это легко объясняет как повсеместную целесообразность, так и повсеместные конфликты: действовало не одно божество, и зачастую они мешали друг другу. И лиса, и кролик были кем-то спроектированы, но разными, соперничающими богами. Интересно, обращал ли кто-нибудь внимание на то, какое прекрасное доказательство превосходства индуизма над христианством здесь кроется? Скорее всего, нет.

Точно так же иудео-христианский Бог считается благодетельным — ну, в каком-то смысле. И всё же значительная часть природной целесообразности кажется откровенно жестокой. Изучение наездников навело Дарвина на мысль о нестандартном Создателе, ведь их парализующие уколы сохраняют добычу живой, чтобы её пожирали личинки: «Я не могу убедить себя в том, — писал Дарвин, — что благодетельный и всемогущий Бог намеренно создал наездников с явным намерением, чтобы они кормились внутри живых тел гусениц, или чтобы кошка играла с мышами».¹ Интересно, отмечал ли кто-то из мыслителей прошлого, какое замечательное доказательство в пользу манихейства против монотеизма дает этот факт?

К настоящему моменту мы все знаем развязку: достаточно просто сказать «эволюция».

Боюсь, именно так некоторые люди и воспринимают «научное» объяснение — как некую волшебную фабрику целесообразности в природе. Ранее я уже обсуждал случай со Шторм из фильма «Люди Икс», которая всего за одну мутацию получает способность метать молнии. Почему? Ну, просто существует штука под названием «эволюция», которая каким-то образом накачивает природу целесообразностью, а изменения происходят посредством «мутаций». И если Шторм претерпит по-настоящему крупную мутацию, её организм перестроится так, чтобы метать молнии. Радиоактивность — популярный источник суперсил: радиация вызывает мутации, значит, более мощное излучение вызывает более мощные мутации. Железная логика.

Но эволюция не позволяет проникать в природу какой угодно целесообразности. Именно поэтому эволюция так успешна как эмпирическая гипотеза. Если бы эволюционная биология могла объяснить устройство тостера, а не только дерева, грош бы ей был цена. Теория эволюции — это гораздо больше, чем просто указать пальцем на природу и сказать: «Теперь целесообразность разрешена!» или «Это сделала эволюция!». Сила теории не в том, что она разрешает, а в том, что она запрещает; если вы можете придумать одинаково убедительное объяснение для любого исхода, ваши знания равны нулю.

«Многие далекие от биологии люди, — заметил Джордж Уильямс, — думают, что погремушка на хвосте гремучей змеи растет ради их собственного блага».² Мимо! Такой вид целесообразности не допускается. Эволюция работает иначе: она не впускает случайные вспышки целесообразности, перекраивая один вид на благо случайного адресата.

Двигателем эволюции служит систематическая корреляция между различными способами, которыми разные гены строят организмы, и тем, сколько копий этих генов попадает в следующее поколение. Чтобы на хвостах гремучих змей выросли погремушки, гены, отвечающие за рост погремушек, должны встречаться всё чаще и чаще в каждом последующем поколении. (На самом деле — гены, отвечающие за постепенное усложнение погремушек, но если я начну описывать все тонкости и оговорки эволюционной биологии, мы действительно застрянем здесь на весь день.)

Не существует никакой Феи Эволюции, которая обозревала бы текущее состояние природы, решала, что было бы «отличной идеей», и выбирала бы повышение частоты генов, строящих погремушки.

Полагаю, именно на этом моменте многие люди и спотыкаются в эволюционной биологии. Они понимают, что «полезные» гены распространяются шире, но «полезность» позволяет просочиться целесообразности любого рода. Они не верят в существование Феи Эволюции, но при этом рассуждают о том, какие гены будут «полезными», словно ген гремучей змеи может «помочь» тем, кто гремучей змеей не является.

Ключевое осознание состоит в том, что никакой Феи Эволюции не существует. Нет никакой внешней силы, решающей, какие гены следует продвигать. Всё, что происходит, происходит благодаря самим генам.

Гены, отвечающие за построение (постепенно улучшающихся) погремушек, должны были каким-то образом стать более частыми в генофонде гремучих змей благодаря самой погремушке. В данном случае это произошло, вероятно, потому, что змеи с лучшими погремушками выживают чаще — а не потому, что они успешнее спариваются или их братья более успешно размножаются, и так далее.

Возможно, хищники остерегаются погремушек и не наступают на змею. А может быть, погремушка отвлекает внимание от головы змеи. (Как предполагает Джордж Уильямс: «Исход схватки между собакой и гадюкой во многом зависит от того, схватит ли собака рептилию сначала за голову или за хвост».)

Но это всего лишь змеиная погремушка. Существуют гораздо более сложные способы, которыми ген может способствовать увеличению частоты своих копий в следующем поколении. У вашего брата или вашей сестры — половина ваших генов. Ген, который жертвует одной единицей ресурсов, чтобы одарить тремя единицами ресурсов брата, может продвигать свои копии, жертвуя одним из созданных им организмов. (Если вы действительно хотите узнать все подробности и оговорки, купите книгу по эволюционной биологии; царского пути здесь нет.)

Главное заключается в том, что эффект гена должен приводить к тому, чтобы копии этого гена становились более частыми в следующем поколении. Нет никакой Феи Эволюции, вмешивающейся извне. Нет ничего, что решало бы, будто некоторые гены «полезны» и потому должны увеличивать свою частоту. Это просто причина и следствие, берущие начало в самих генах.

Это объясняет странную, полную внутренних противоречий целесообразность Природы и её частую жестокость. Это объясняет происходящее даже лучше, чем полчища синтоистских божеств.

Почему столь большая часть Природы воюет с другими её частями? Потому что нет единой Эволюции, направляющей весь процесс. Существует столько же различных «эволюций», сколько размножающихся популяций. Гены кроликов становятся более или менее частыми в популяциях кроликов. Гены лисиц становятся более или менее частыми в популяциях лисиц. Гены лисиц, создающие лис, которые ловят кроликов, оставляют больше своих копий в следующем поколении. Гены кроликов, создающие кроликов, которые убегают от лис, естественным образом оказываются более распространенными в следующем поколении кроликов. Отсюда и выражение «естественный отбор».

Почему Природа жестока? Вы, человек, можете посмотреть на осу-наездника и решить, что поедать свою добычу заживо — это жестоко. Вы можете решить, что если уж вы собираетесь есть свою добычу живьем, то могли бы иметь хоть каплю приличия и избавить её от боли. Осе почти ничего не стоило бы не просто парализовать добычу, но и обезболить её. Или как насчет старых слонов, которые умирают от голода, когда у них выпадает последний комплект зубов? Эти слоны всё равно больше не будут размножаться. Чего бы стоило эволюции — точнее, эволюции слонов — сделать так, чтобы слон умирал сразу же, а не медленно и в муках? Чего бы стоило эволюции обезболить слона или подарить ему приятные сны перед смертью? Ничего; этот слон в любом случае не принесет больше или меньше потомства.

Если бы вы разговаривали с другим человеком, пытаясь разрешить конфликт интересов, вы были бы в выгодной позиции для переговоров — вам было бы легко его убедить. Ведь это стоит так мало — обезболить добычу, дать слону умереть без мучений! Пожалуйста, сделай это, будь так любезен... гм...

Но спорить не с кем.

Люди придумывают свои обоснования: сначала определяют, чего они хотят, одним способом, а затем обосновывают это другим. Не существует Феи Эволюции Слонов, которая пыталась бы (а) выяснить, что лучше для слонов, а затем (б) придумать, как обосновать это перед Эволюционным Смотрителем, который (в) не хочет снижения репродуктивной приспособленности, но (г) готов согласиться с идеей безболезненной смерти, пока это не наносит реального вреда генам.

В этой системе вообще нет никого, кто выступал бы защитником слонов.

Люди, которых часто глубоко волнует благополучие животных, могут очень убедительно доказывать, что те или иные проявления милосердия ничуть не повредили бы репродуктивной приспособленности. К сожалению, эволюция слонов не пользуется подобным алгоритмом; она не отбирает добрые гены, в пользу полезности которых для репродуктивной приспособленности можно привести правдоподобные доводы. Всё просто: гены, которые копируются чаще, становятся более распространенными в следующем поколении. Как вода, текущая под уклон, — и столь же благожелательно.

Человек, обозревая Природу, начинает думать обо всех способах, какими мы могли бы сконструировать организмы. И затем мы склонны подыскивать рациональные объяснения тому, почему наши улучшения конструкции повысили бы репродуктивную приспособленность — чистый политический инстинкт, попытка продвинуть свой любимый вариант, выдав его за соответствующий излюбленному обоснованию босса.

В итоге биологи-эволюционисты-любители строят самые разные прекрасные и совершенно ошибочные прогнозы. Потому что биологи-любители подводят свой итог — и, что еще важнее, помещают свое предсказание в пространство гипотез — с помощью иного алгоритма, нежели тот, который использует эволюция для подведения своих итогов.

Человек-инженер спроектировал бы человеческие вкусовые рецепторы так, чтобы они измеряли, сколько у нас есть каждого питательного вещества и сколько нам требуется. Когда жиров не хватало, миндаль или чизбургеры казались бы невероятно вкусными. Но если бы вы начали полнеть или если бы вам не хватало витаминов, самым вкусным казался бы салат-латук. Но не существует Феи Эволюции Человека, которая бы разумно планировала наперед и создала общую систему на любой случай жизни. Надежным инвариантом среды обитания предков человека было то, что калорий всегда не хватало. Поэтому гены, носители которых обожали калории, становились более частыми. Как вода, текущая под уклон.

Мы — просто живое воплощение истории того, какие организмы в действительности выжили и дали потомство, а не того, каким организмам разумно следовало бы выжить и дать потомство.

Человеческая сетчатка устроена шиворот-навыворот: светочувствительные клетки находятся сзади, а нервы выходят спереди и тянутся назад сквозь сетчатку в мозг. Отсюда слепое пятно. Инженеру-человеку это кажется просто глупым — тем более что у других организмов в ходе независимой эволюции развилась «правильно» ориентированная сетчатка. Почему бы не перепроектировать сетчатку?

Проблема в том, что ни одна отдельная мутация не перестроит всю сетчатку разом. Человек-инженер может перепроектировать несколько частей одновременно или планировать изменения наперед. Но если одна мутация ломает какую-то жизненно важную часть организма, уже не имеет значения, какую чудесную надстройку над ней могла бы соорудить Фея, — организм погибает, а частота гена падает.

Если развернуть клетки сетчатки без одновременного перепрограммирования нервов и зрительного кабеля, система в целом не заработает. И неважно, что с точки зрения Феи или инженера-человека это шаг вперед на пути к перепроектированию сетчатки. Организм слеп. У эволюции нет предвидения, это просто застывшая история того, какие организмы в действительности размножились. Эволюция так же слепа, как наполовину перестроенная сетчатка.

«Найдите часы в пустыне, — говорил Уильям Пейли, — и вы сможете сделать вывод о существовании часового мастера». Когда-то были те, кто это отрицал и считал, что жизнь возникла «сама собой», без всякой нужды в процессе оптимизации, а мыши самозарождаются в соломе и грязных рубахах.

Если спросить, кто был более прав — теологи, отстаивавшие Бога-Творца, или интеллектуально неудовлетворенные атеисты, утверждавшие, что мыши зарождаются самопроизвольно, — то победителями придется признать теологов: эволюция — это не Бог, но она ближе к Богу, чем к чистой случайной энтропии. Мутации случайны, но отбор неслучаен. Это не значит, что какая-то разумная Фея вмешивается и делает выбор. Это значит, что между геном и тем, как часто организм размножается, существует ненулевая статистическая корреляция. За несколько миллионов лет эта ненулевая статистическая корреляция складывается во что-то невероятно мощное. Это не бог, но это гораздо ближе к богу, чем к «снегу» на экране телевизора.

Во многих отношениях эволюция подобна теологии. «Боги должны онтологически отличаться от творений, — сказал Дэмиен Бродерик, — иначе они не стоят и той бумаги, на которой о них написано». И действительно, Ваятель Жизни сам по себе творением не является. Эволюция бестелесна, как иудео-христианское божество. Вездесуща в Природе, имманентна падению каждого листа. Обширна, как поверхность планеты. Возрастом в миллиарды лет. Сама по себе не сотворенная, естественным образом возникающая из структуры физики. Разве всё это не звучит как то, что вполне можно было бы сказать о Боге?

И все же у этого Создателя нет разума, как нет и тела. С человеческой точки зрения, плоды его трудов в некотором отношении спроектированы невероятно скверно. Он внутренне разделен. И самое главное, он совсем не добр.

В каком-то смысле Дарвин открыл Бога — Бога, который не совпал с теологическими шаблонами и потому остался непризнанным. Если бы Дарвин обнаружил, что жизнь создана разумным творцом — бестелесным разумом, который любит нас и испепелит молнией, посмей мы утверждать обратное, — люди бы воскликнули: «Боже мой! Да это же Бог!»

Но вместо этого Дарвин открыл странного, чуждого Бога — не уютно-«непостижимого», а действительно, по-настоящему отличающегося от нас. Эволюция — не Бог, но будь она богом, это был бы не Иегова. Это был бы Азатот Говарда Лавкрафта — слепой безумный бог, хаотично бормочущий в самом центре бытия под тонкий монотонный писк флейт.

Что и можно было предсказать, если бы вы действительно всмотрелись в Природу.

Вот и грош цена заявлениям некоторых верующих о том, что они верят в некое неопределенное божество, вероятность существования которого соответственно высока. Любой, кто действительно верил бы в неопределенное божество, узнал бы своего странного нечеловеческого создателя, как только Дарвин сказал: «Ага!»

Вот и грош цена заявлениям некоторых верующих о том, будто они с невинным любопытством ждут, когда Наука откроет Бога. Наука уже открыла этого своего рода божественного создателя человека — но это было совсем не то, что верующие хотели услышать. Они ждали открытия своего Бога, совершенно определённого Бога, которого они хотят там видеть. Они будут ждать вечно, ибо великое открытие уже состоялось, и победителем оказался Азатот.

Что ж, тем лучше для нас, людей. Мне приятно сознавать, что у меня есть Творец, которого я могу перехитрить. Это всяко лучше, чем быть домашним питомцем. Я рад, что им оказался Азатот, а не Один.

Как в нашей вселенной впервые возникает оптимизация? Если природу создал разумный агент, то кто создал этого разумного агента? Где тот первый проект, у которого нет проектировщика? Загадка не в том, как первый этап самораскрутки может быть суперумным и суперэффективным; загадка в том, как это может произойти вообще.

Эволюция прерывает бесконечный регресс не за счет того, что она суперумна и суперэффективна, а за счет того, что она глупа, неэффективна и все равно работает. В этом и заключается чудо.

По роду деятельности мне часто приходится обсуждать медлительность, случайность и слепоту эволюции. А потом кто-нибудь говорит: «Но вы же сами только что сказали, что эволюция не может планировать одновременные изменения и что она крайне неэффективна из-за случайности мутаций. Разве не то же самое говорят креационисты? Что невозможно собрать часы, просто тряся детали в коробке?»

Но ответ креационистам заключается не в том, что собрать часы, тряся коробку с деталями, можно. Ответ в том, что эволюция работает вовсе не так. Если вы думаете, будто эволюция действительно работает по принципу урагана, собирающего «Боинг-747», значит, креационистам удалось исказить для вас биологию; они подсунули вам соломенное чучело.

Настоящий же ответ таков: сложные механизмы эволюционируют либо постепенно, либо за счет приспособления уже имеющихся сложных механизмов под новые нужды. Белки прыгают с одной верхушки дерева на другую, используя только свои мышцы, но дальность их прыжка в какой-то степени зависит от аэродинамики их тела. Так появились летяги, чья аэродинамика позволяет им планировать на небольшие расстояния. Если бы птицы вымерли, потомки летяг могли бы занять эту экологическую нишу миллионов через десять лет, когда их летательные перепонки превратились бы в крылья. И креационисты сказали бы: «Какой толк от половины крыла? Ты просто упадешь и разобьешься всмятку. Как вообще белкоптицы могли эволюционировать постепенно?»

Вот так одна сложная адаптация может дать толчок новой сложной адаптации. Сложность может нарастать и постепенно, начиная с единичной мутации.

Сначала появляется некий простой ген A, который сам по себе приносит хотя бы немного пользы, так что A распространяется на весь генофонд. Затем появляется ген B, который полезен только в присутствии A, но поскольку A гарантированно присутствует в генофонде, возникает устойчивое давление отбора в пользу B. Затем возникает модифицированная версия A^*, которая зависит от B, но не нарушает зависимость B от A∕A^*. Потом появляется C, который зависит от A^* и B, и B^*, который зависит от A^* и C. И вскоре вы получаете «несократимо сложный» механизм, который ломается, стоит убрать любую его деталь.

И все же вы по-прежнему можете проследить путь назад, к этой единственной детали: можно, не ломая весь механизм, сделать одну деталь чуть менее зависимой от другой, и проделать это несколько раз, пока наконец не удастся вынуть целую деталь без поломки машины, и так далее, пока тикающие часы не превратятся обратно в примитивные солнечные часы.

Вот пример: ДНК очень хорошо хранит информацию, в прочном формате, обеспечивающем точное копирование. Рибосома превращает эту сохраненную информацию в последовательность аминокислот — белок, который сворачивается в разнообразные химически активные формы. Совместная система ДНК и рибосомы способна создавать любые виды белковых механизмов. Но какая польза от ДНК без рибосомы, переводящей информацию ДНК в белки? Какая польза от рибосомы без ДНК, указывающей ей, какие белки нужно производить?

Организмы не всегда оставляют окаменелости, и эволюционная биология не всегда способна реконструировать этот постепенный путь. Но в данном случае мы действительно знаем, как все происходило. РНК, как и ДНК, способна переносить информацию и самовоспроизводиться, хотя РНК менее долговечна и копируется менее точно. И РНК, подобно белкам, умеет сворачиваться в химически активные формы, пусть она и не столь универсальна, как цепочки аминокислот у белков. Почти наверняка именно РНК была тем самым одиночным элементом A, который предшествовал взаимозависимым A^* и B.

Столь же важно заметить, что РНК справляется с двойной ролью ДНК и белков плохо, как и то, что она вообще с ней справляется. Уже то, что одна молекула способна и хранить информацию, и управлять химическими реакциями, поразительно. Если бы она делала эту работу еще и хорошо, это было бы совершенно излишним чудом.

Каким был самый первый репликатор из всех существовавших? Вполне возможно, это была цепочка РНК, потому что по какому-то странному совпадению химические ингредиенты РНК представляют собой вещества, которые вполне естественно возникли бы на пребиотической Земле четыре миллиарда лет назад. Пожалуйста, обратите внимание: эволюция не объясняет происхождение жизни; эволюционная биология и не должна объяснять появление первого репликатора, потому что первый репликатор не происходит от другого репликатора. Эволюция описывает статистические закономерности репликации. Первый репликатор не был статистической закономерностью — он был чистой случайностью. Представление о том, что эволюция должна объяснять происхождение жизни, — это чистейшей воды соломенное чучело, очередное креационистское искажение.

Если бы вы наблюдали за первобытным бульоном в день появления первого репликатора — в день, изменивший облик Земли, — вас бы вряд ли впечатлило то, насколько хорошо этот первый репликатор воспроизводил себя. Скорее всего, первый репликатор копировал себя как пьяная обезьяна под ЛСД. В нем не было бы и следа той тонкой настройки, которая присуща современным репликаторам, потому что первый репликатор был случайностью. Этой одиночной цепочке РНК, химическому гиперциклу или узору на глине вовсе не требовалось копировать себя безупречно. Это просто должно было происходить хоть как-то. И даже так это было, вероятно, крайне маловероятным событием, если рассматривать его изолированно, — но произойти ему требовалось всего один-единственный раз, а приливных луж на планете хватало. Спустя несколько миллиардов лет эти репликаторы уже ходят по Луне.

Первый случайный репликатор был самой важной молекулой в истории времени. Но если бы вы принялись превозносить его слишком сильно, приписывая ему всевозможные удивительные, облегчающие репликацию свойства, вы бы совершенно упустили суть.

Не думайте, что в политической борьбе между эволюционистами и креационистами любой, кто превозносит эволюцию, обязательно стоит на стороне науки. У науки есть очень точное представление о возможностях эволюции. Если вы превозносите эволюцию хотя бы на миллиметр выше этого уровня, вы вовсе не «сражаетесь на стороне эволюции» против креационизма. Вы допускаете научную неточность, и точка. Вы попадаете в креационистскую ловушку, настаивая на том, что — да, ураган действительно способен собрать «Боинг-747»! Разве это не поразительно! Как изумительно умна эволюция, как она достойна похвалы! Посмотрите на меня, я присягаю на верность науке! Чем больше хорошего я скажу об эволюции, тем сильнее я, должно быть, на стороне эволюции против креационистов!

Но чрезмерное восхваление эволюции губит настоящее чудо, которое заключается не в том, насколько хорошо эволюция проектирует вещи, а в том, что естественному процессу удается спроектировать хоть что-то вообще.

Так давайте же избавимся от мысли, будто эволюция — это замечательный конструктор или чудесный вершитель судеб видов, которому мы, люди, должны подражать. Для человеческого разума подражать эволюции как конструктору — все равно что для высокоорганизованной современной бактерии пытаться подражать первому репликатору в роли биохимика. Как выразился Т. Г. Гексли, «бульдог Дарвина»:¹

«Поймем же раз и навсегда, что этический прогресс общества зависит не от подражания космическому процессу, и еще менее от бегства от него, а от борьбы с ним».

Гексли сказал это не потому, что не верил в эволюцию, а потому, что понимал ее слишком хорошо.

У науки есть очень точное представление о возможностях эволюции. Если вы превозносите эволюцию хотя бы на миллиметр больше этого, вы вовсе не «сражаетесь на стороне эволюции» против креационизма. Вы допускаете научную неточность, и точка.

В этом эссе я опишу некоторые общеизвестные неэффективности и ограничения эволюций. Я говорю «эволюций» во множественном числе, потому что эволюция лис преследует цели, противоположные целям эволюции кроликов, и ни та, ни другая не может пообщаться с эволюцией змей, чтобы научиться отращивать ядовитые клыки.

Итак, я говорю здесь об ограничениях эволюции, но это не значит, что я пытаюсь протащить креационизм. Это стандартный курс «Эволюционная биология 201». (583, если вам непременно нужно выводить уравнения.) Ограниченные таким образом эволюции все еще способны объяснить наблюдаемую биологию; на самом деле эти ограничения необходимы, чтобы в ней вообще был смысл. Помните, что чудо эволюций заключается не в том, насколько хорошо они работают, а в том, что они вообще работают.

Человеческий интеллект настолько сложен, что ни у кого нет хорошего способа рассчитать его эффективность. Естественный отбор, хотя и непрост, все же проще человеческого мозга — и, соответственно, медленнее и менее эффективен, как и подобает первому из когда-либо существовавших процессов оптимизации. На самом деле эволюции достаточно просты, чтобы мы могли рассчитать, насколько именно они глупы.

Эволюции медленны. Насколько медленны? Представьте, что произошла полезная мутация, которая дает преимущество в приспособленности в 3%: в среднем у носителей этого гена рождается в 1,03 раза больше детей, чем у тех, у кого его нет. Если предположить, что мутация вообще распространится, сколько времени потребуется, чтобы она охватила всю популяцию? Это зависит от размера популяции. Гену, дающему 3%-ное преимущество в приспособленности и распространяющемуся в популяции из 100 000 особей, потребуется в среднем 768 поколений, чтобы достичь универсальности в генофонде. Для популяции в 500 000 особей потребуется 875 поколений. Общая формула выглядит так:

Число поколений до фиксации = 2ln(N) / s,

где N — размер популяции, а (1 + s) — приспособленность. (Если у каждого носителя гена рождается в 1,03 раза больше детей, чем у не-носителя, то s = 0,03.)

Таким образом, если бы размер популяции составлял 1 000 000 человек — оценочный размер популяции во времена охотников-собирателей, — то для распространения гена, дающего преимущество в 1%, по всему генофонду потребовалось бы 2763 поколения.¹

В этом нет ничего удивительного: генам приходится проделывать всю работу по своему распространению самостоятельно. Не существует никакой Эволюционной Феи, которая могла бы присматривать за генофондом и говорить: «Хм, этот ген, похоже, быстро распространяется — надо бы раздать его всем». В человеческой рыночной экономике тот, кто реально получает 20% прибыли на инвестиции (особенно если за этим стоит очевидный и понятный механизм), может быстро привлечь дополнительный капитал от других инвесторов, а конкуренты начнут создавать аналогичные предприятия. Генам же приходится распространяться без фондовых рынков, банков или подражателей — представьте, если бы Генри Форду пришлось собрать одну машину, продать её, купить на вырученные деньги детали в среднем еще для 1,01 машины, продать получившиеся машины и продолжать в том же духе, пока он не доберётся до миллиона машин.

И все это при условии, что ген вообще начнет распространяться. Здесь уравнение проще и в итоге совершенно не зависит от размера популяции:

Вероятность фиксации = 2s.

Мутация, дающая 3%-ное преимущество (а по меркам мутаций это чертовски много), имеет лишь 6%-ный шанс распространиться, по крайней мере в этот конкретный раз.² Мутации могут происходить неоднократно, но в популяции из миллиона особей при точности копирования в 10^⁻⁸ ошибок на основание за поколение вам, возможно, придется ждать еще сто поколений до следующей попытки, и даже тогда вероятность ее фиксации составит всего 6%.

И все же в долгосрочной перспективе у эволюции есть неплохой шанс в конечном итоге прийти к результату. (Эта тема еще не раз повторится.)

Сложные адаптации формируются очень долго. Сначала появляется аллель А, который выгоден сам по себе, и ему требуется тысяча поколений, чтобы закрепиться в генофонде. Только после этого другой аллель, B, зависящий от А, может начать путь к фиксации. Меховая шуба не дает большого преимущества, если только среда не имеет статистически устойчивой склонности подбрасывать вам холода. Так вот, гены составляют часть окружения других генов, и если B зависит от А, то B не получит весомого преимущества, если только А не присутствует надежно в генетическом окружении.

Допустим, B дает преимущество в 5% в присутствии A и никакого преимущества в его отсутствие. Тогда, пока частота встречаемости A в популяции составляет всего 1%, B будет давать свое преимущество лишь в одном случае из ста, так что среднее преимущество B в приспособленности составит 0,05%, а вероятность фиксации B будет равна 0,1%. В случае со сложной адаптацией сначала в течение тысячи поколений должен эволюционировать аллель A, затем еще тысячу поколений — аллель B, затем еще тысячу поколений — аллель A^*... и несколько миллионов лет спустя у вас появляется новая сложная адаптация.

К тому же другие эволюции ей не подражают. Если эволюция змей разработает потрясающий новый яд, это никак не поможет эволюции лис или львов.

Сопоставьте все это с работой человека-программиста, который способен разработать новый сложный механизм из сотни взаимозависимых деталей всего за один день. Как такое вообще возможно? Я не знаю ответа целиком и подозреваю, что науке это тоже неизвестно; человеческий мозг устроен гораздо сложнее, чем эволюции. Я мог бы поумничать и сказать что-то вроде «целенаправленный обратный вывод с использованием комбинаторных модульных представлений», но это не поможет вам сконструировать собственного человека. Тем не менее: люди способны дальновидно проектировать новые детали в расчете на последующее создание других деталей; производить скоординированные одновременные изменения во взаимосвязанных механизмах; учиться на основе единичных примеров; локализовать проблемные места и абстрактно мыслить над их решением; а также расставлять приоритеты, определяя, какие улучшения стоит опробовать, вместо того чтобы ждать, пока космический луч случайно породит удачную мутацию. По меркам естественного отбора это чистой воды магия.

Люди способны делать вещи, которые эволюциям, вероятно, не под силу в принципе за все ожидаемое время существования Вселенной. Как однажды выразилась выдающийся биолог Синтия Кеньон на ужине, на котором я имел честь присутствовать: «Один аспирант за час может сделать то, что эволюция не смогла бы сделать и за миллиард лет». Согласно современным научным представлениям биологов, эволюции изобретали полностью вращающееся колесо в общей сложности всего три раза.

И не забывайте о том, как программист выкладывает фрагмент кода в интернет.

Да, некоторые творения эволюции впечатляют даже в сравнении с лучшими технологиями Homo sapiens. Но наш собственный кембрийский взрыв начался, и мы по-настоящему начали накапливать знания всего лишь... ну сколько, лет четыреста назад? В некоторых отношениях биология всё еще превосходит лучшие человеческие технологии: мы не умеем создавать самовоспроизводящиеся системы размером с бабочку. В других же отношениях человеческие технологии оставляют биологию далеко позади. У нас есть колеса, у нас есть сталь, у нас есть ружья, у нас есть ножи, у нас есть заостренные палки; у нас есть ракеты, у нас есть транзисторы, у нас есть атомные электростанции. С каждым десятилетием этот баланс смещается всё сильнее.

Итак, еще раз: если человек ищет в естественном отборе вдохновение для искусства проектирования, это всё равно что высокоразвитая современная бактерия попыталась бы скопировать биохимию самого первого, неуклюжего репликатора. Появись первый репликатор в сегодняшней конкурентной экосистеме, его сожрали бы мгновенно. Та же участь постигнет любого проектировщика-человека, который вздумает вносить случайные точечные мутации в свои стратегии и ждать 768 циклов тестирования, чтобы внедрить 3%-ное улучшение.

Не хвалите эволюции ни на миллиметр больше, чем они того заслуживают.

Впереди: еще больше захватывающих математических ограничений для эволюции!

Законы физики и правила математики не перестают действовать. Это даёт мне основания полагать, что эволюция не останавливается. А это, в свою очередь, наводит на мысль, что природа — «с окровавленными клыками и когтями», как её называют, — просто перейдет на следующий уровень...

[Избавиться от дарвиновской эволюции] — все равно что пытаться избавиться от гравитации. Пока существуют ограниченные ресурсы и множество конкурирующих агентов, способных передавать свои характеристики по наследству, вы будете иметь давление отбора.

— Перри Мецгер, предсказывающий, что царствование естественного отбора продолжится в неопределенном будущем