Читать онлайн На краю пропасти. Экзистенциальный риск и будущее человечества бесплатно

На краю пропасти. Экзистенциальный риск и будущее человечества

© 2020, Toby Ord. All rights reserved.

© Hilary Paynter, иллюстрация на с. 10, 2020

© Е. Фоменко, перевод на русский язык, 2023

© А. Бондаренко, художественное оформление, макет, 2023

© ООО “Издательство Аст”, 2023

Издательство CORPUS ®

Издание осуществлено при поддержке “Книжных проектов Дмитрия Зимина”

* * *

Посвящается той сотне миллиардов человек, которые жили до нас и сформировали нашу цивилизацию; тем семи миллиардам, которые живут сейчас и своими действиями определяют ее судьбу; и тем триллионам, которые появятся в будущем и существование которых зависит от поддержания равновесия.

Рис.0 На краю пропасти. Экзистенциальный риск и будущее человечества

Введение

Если все будет хорошо, история человечества только начинается. Человечеству примерно двести тысяч лет. Но Земля будет пригодна для жизни еще сотни миллионов лет – этого достаточно, чтобы появились миллионы будущих поколений; достаточно, чтобы навсегда положить конец болезням, бедности и несправедливости; достаточно, чтобы достичь высот, которые сегодня невозможно даже вообразить. Если мы найдем способ продвинуться дальше в космос, у нас, возможно, появится еще больше времени: триллионы лет на исследование миллиардов миров. Такая продолжительность жизни говорит о том, что сегодня человечество пребывает в раннем младенчестве.

Мы нередко теряем из виду этот потенциал. Очередной скандал вызывает у нас негодование; очередная трагедия – сочувствие. Время и пространство сжимаются. Мы забываем о масштабе истории, в которой принимаем участие. Но бывают моменты, когда мы вспоминаем о нем – когда наш ракурс смещается, а приоритеты перестраиваются. Мы понимаем, что человеческий вид оказался в опасной близости от самоуничтожения и будущее, сулящее огромные перспективы, висит на волоске. И тогда главной заботой общества становится сделать так, чтобы этот волосок не порвался.

В этой книге утверждается, что защита будущего человечества – определяющая задача нашего времени. Дело в том, что мы живем в переломный момент истории своего вида. Подпитываемая техническим прогрессом, наша мощь настолько возросла, что впервые за долгую историю человечества у нас появилась возможность уничтожить самих себя, поставив крест на собственном будущем и всех своих перспективах.

Но если человечество при этом и стало мудрее, то ненамного, и это опасно. Человечеству недостает зрелости, координации и дальновидности, без которых не обойтись, если мы хотим избежать непоправимых ошибок. По мере увеличения разрыва между мощью и мудростью человечества наше будущее оказывается сопряжено со все большим риском. Но долго так продолжаться не может. Последующие несколько веков готовят человечеству испытания: оно либо научится действовать решительно, чтобы защитить себя и свой потенциал в долгосрочной перспективе, либо, что вполне вероятно, лишится этого потенциала навсегда.

Чтобы выжить, несмотря на сложности, и обеспечить себе будущее, действовать необходимо прямо сейчас: нам нужно управлять сегодняшними рисками, предупреждать завтрашние и становиться обществом, которое никогда больше не подвергнет себя подобным рискам.

Лишь в последнее столетие стало очевидно, что человечество может представлять угрозу собственному будущему. Об одном из самых страшных эпизодов стало известно совсем недавно. В субботу 27 октября 1962 года один офицер с советской подводной лодки едва не положил начало ядерной войне. Его звали Валентин Савицкий. Он был капитаном лодки Б-59, одной из четырех субмарин, которые СССР отправил для поддержки своих военных операций на Кубе. На каждой из них было секретное оружие – ядерная торпеда, по мощности не уступающая бомбе, сброшенной на Хиросиму.

В разгаре был Карибский кризис. За две недели до этого американская воздушная разведка получила фотографические свидетельства того, что СССР разместил ядерные боеголовки на Кубе, откуда можно было нанести прямой удар по материковой части США. В ответ США заблокировали моря, омывающие Кубу, разработали планы вторжения и привели свои ядерные силы в беспрецедентный уровень готовности DEFCON 2 (“Следующий шаг – ядерная война”).

В ту субботу одно из американских военных судов, блокирующих Кубу, обнаружило подводную лодку Савицкого и попыталось вынудить ее всплыть, сбросив маломощные глубинные бомбы в качестве предупредительных выстрелов. Подводная лодка несколько дней скрывалась на глубине. Радиосвязи с ней не было, поэтому экипаж не знал, не началась ли уже война. Условия на борту были чрезвычайно плохими. Лодка была приспособлена для операций в Арктике, и установленный на ней вентилятор сломался в тропических водах. Внутри было невыносимо жарко: температура колебалась от 45 °C у торпедных аппаратов до 60 °C в машинном отделении. Концентрация углекислого газа достигла опасной отметки, и члены экипажа начали терять сознание. Глубинные бомбы разрывались прямо возле корпуса. Позже один из членов экипажа вспоминал: “Казалось, мы сидели в железной бочке, по которой постоянно колотили кувалдой”.

На грани отчаяния капитан Савицкий приказал экипажу готовить секретное оружие:

Может, наверху уже война началась, а мы тут кувыркаемся. Мы сейчас по ним шарахнем! Сами погибнем, их потопим всех, но флот не опозорим![1]

Чтобы выпустить атомную торпеду, нужно было получить согласие замполита подводной лодки, у которого была вторая половина стартового ключа. Хотя решение капитана не было согласовано с Москвой, замполит его одобрил.

На любой из других трех подводных лодок этого было бы достаточно для пуска атомной торпеды. Но на борту Б-59 по чистейшей случайности присутствовал командующий всей флотилией капитан Василий Архипов, поэтому требовалось и его согласие. Архипов отказался его дать. Он успокоил капитана Савицкого, уговорил его отказаться от своего плана и вместо этого поднять судно на поверхность и ожидать дальнейших распоряжений из Москвы[2].

Мы не знаем точно, что случилось бы, если бы Архипов дал согласие – или если бы он просто находился на любой из трех других лодок. Возможно, Савицкий не исполнил бы собственный приказ. И все же ясно, что мы оказались в опасной близости от ядерного удара по блокирующему остров флоту – удара, который, скорее всего, привел бы к ядерному ответу, а затем эскалации конфликта в полномасштабную ядерную войну (единственную, к которой США готовились). Много лет спустя Роберт Макнамара, который занимал пост министра обороны во время кризиса, пришел к такому же выводу:

Не следует полагать, что, если бы американские войска были атакованы ядерными боеголовками, США не ответили бы ядерными боеголовками. К чему бы это привело? К полной катастрофе[3].

С тех пор как у человечества появилось ядерное оружие, мы постоянно оказываемся перед подобным выбором. Решения в нашем мире принимаются в неидеальных условиях: оперируя поразительно неполной информацией, люди управляют технологиями, которые угрожают будущему всего нашего вида. Нам повезло в тот субботний день в 1962 году, и мы смогли избежать катастрофы. Но наши разрушительные способности продолжают расти, и мы не можем вечно полагаться на удачу.

Нам нужно принять решительные меры, чтобы покончить с этим периодом эскалации риска и обеспечить себе будущее. К счастью, это в нашей власти. Главные риски связаны с деятельностью человека, поэтому он может их предотвратить. Таким образом, нам предстоит решить, выживет ли человечество в эту эпоху. Но это непростой выбор. Все зависит от того, как быстро мы поймем и примем на себя новую ответственность, которая приходит с нашей беспрецедентной мощью.

Это книга об экзистенциальных рисках – рисках, которые грозят уничтожением долгосрочного потенциала человечества. Вымирание – самый очевидный путь к уничтожению этого потенциала, но есть и другие. Если цивилизацию на планете ждет полный крах, наш долгосрочный потенциал тоже погибнет. Мы увидим, что есть и антиутопические сценарии: мы можем оказаться взаперти в обреченном мире, где у нас не будет пути назад.

Хотя эта категория рисков разнообразна, она еще и специфична. Мне придется воздержаться от рассмотрения множества важных рисков, которые в нее не входят: мы говорим не о новых темных веках, которые ждут человечество и природный мир (какими бы ужасными они ни оказались), а о полном уничтожении потенциала человечества.

Экзистенциальные риски ставят перед нами проблемы нового типа. Они требуют от нас координации на международном и межпоколенческом уровнях, причем такого тесного, какого не было прежде. И нам следует быть дальновидными, а не действовать методом проб и ошибок. Поскольку риски не дают нам права на ошибку, необходимо создать институты, гарантирующие, что никогда в будущем мы не станем жертвами такой катастрофы.

Чтобы должным образом раскрыть тему, нужно охватить очень многое. Анализ рисков предполагает погружение в физику, биологию, геонауки и информатику; определение их места в общей картине мира требует обращения к истории и антропологии; при оценке ставок задействуются философия морали и экономика; а поиск решений невозможен без международных отношений и политологии. Если делать все как полагается, нужно глубоко погружаться в каждую из этих дисциплин, а не выбирать цитаты экспертов и исследования, подходящие для обоснования заранее выстроенной концепции. Это было бы непосильной задачей для одного человека, поэтому я невероятно благодарен десяткам ведущих мировых экспертов в этих сферах, которые консультировали меня и давали свои критические оценки[4].

В этой книге я ставлю перед собой амбициозные задачи. Внимательный анализ потенциала человечества и рисков, с которыми мы сталкиваемся, показывает, что мы живем в самую важную эпоху человеческой истории. Серьезные риски, грозящие нашему будущему, – это новая проблема, и мы еще не научились размышлять о них. Книга “На краю пропасти” предлагает новую этическую перспективу, существенно перестраивая наши представления о мире и нашем месте в нем. Это нужно, чтобы попытаться сократить разрыв между мудростью и мощью человечества и дать людям четко понять, что стоит на кону, чтобы мы приняли верные решения для защиты собственного будущего.

Я не всегда занимался вопросами защиты долгосрочного будущего человечества и пришел к этой теме поневоле. Я философ в Оксфордском университете, и моя специальность – этика. Ранее я анализировал более осязаемые проблемы всемирного здравоохранения и глобальной бедности и искал наиболее действенные способы помочь тем, кому приходится сложнее всего. Подобравшись вплотную к этим вопросам, я понял, что нужно вывести мою работу по этике за стены моей башни из слоновой кости. Я стал советником Всемирной организации здравоохранения, Всемирного банка и правительства Великобритании по вопросам этики всемирного здравоохранения. Когда я понял, что мои собственные деньги могут дать страдающим от бедности в сотни раз больше, чем мне самому, я взял на себя обязательство всю жизнь жертвовать в их пользу не меньше десятой части своих доходов[5]. Я основал организацию Giving What We Can (“Подарим что можем”), чтобы ко мне могли присоединиться и другие люди, и очень обрадовался, когда тысячи участников собрались вместе, решив за свою жизнь отдать более миллиарда фунтов стерлингов самым эффективным из известных нам благотворительным фондам, которые занимаются самыми важными проблемами. Общими усилиями мы уже изменили жизни десятков тысяч людей[6]. Поскольку помимо пожертвований существует множество других способов улучшить мир, я помог основать более широкое движение, получившее название “эффективный альтруизм”, в рамках которого люди стараются, опираясь на факты и здравый смысл, творить как можно больше добра.

Чтобы избавить наш мир от ненужных страданий в настоящем, нужно сделать очень многое, и поэтому я не сразу обратил внимание на будущее. Оно было гораздо менее реальным, гораздо более абстрактным. Неужели оно и правда может представлять столь же серьезную проблему, как страдания людей в настоящем? Размышляя о фактах и идеях, которые в итоге стали темой этой книги, я пришел к выводу, что риски для будущего человечества столь же реальны и столь же неотложны, но при этом ими пренебрегают даже в большей степени. И людям будущего, возможно, окажется еще сложнее защититься от рисков, которым мы их подвергаем, чем обездоленным наших дней.

Теперь анализ этих рисков стал главным направлением моей работы: я изучаю проблемы, с которыми мы сталкиваемся, и консультирую такие группы, как администрация премьер-министра Великобритании, Всемирный экономический форум и компания DeepMind, о том, как лучше всего отвечать на эти вызовы. Я наблюдаю, как со временем осведомленность об этих рисках растет и признается необходимость скоординированных действий.

Стремясь обратиться к широкой и разнородной аудитории, я беспощадно удалял из этой книги жаргон, ненужные технические подробности и оборонительные замечания, характерные для научных статей (включая и мои собственные). Читатели, желающие узнать больше и ознакомиться с этими замечаниями, могут обратиться ко множеству примечаний и приложений, написанных специально для них[7].

Я всячески старался внимательно и взвешенно анализировать факты и аргументы, перечисляя ключевые положения, даже если они шли вразрез с моим повествованием. В таких вопросах крайне важно докапываться до истины, ведь внимание человечества – дефицитный товар, а потому его не стоит разменивать на ошибочные теории и идеи[8].

В каждой главе этой книги центральные вопросы рассматриваются в новом ракурсе. Первая часть (“Ставки”) начинается с обзора уникального исторического момента, в который нам выпало жить, а далее в ней объясняется, почему ситуация требует скорейшего рассмотрения. Во второй части (“Риски”) анализируется наука рисков, с которыми сталкивается человечество, как природных, так и антропогенных, и показывается, что, хотя угроза некоторых из них преувеличена, риск действительно существует и растет. В третьей части (“Путь вперед”) описываются инструменты, с помощью которых можно понять, как риски соотносятся и сочетаются друг с другом, а также предлагаются новые стратегии для работы с ними. В завершение я излагаю свое видение будущего, показывая, чего мы можем достичь, если добьемся успеха.

Моя книга не сводится к хорошо известным историям об опасностях изменения климата и ядерной войны. Именно эти риски впервые показали нам, что мы можем уничтожить самих себя, но ими дело не ограничивается. Появляются новые риски, например связанные с биотехнологиями и продвинутым искусственным интеллектом, и вполне возможно, что в грядущем столетии они будут представлять гораздо большую опасность для человечества.

Наконец, эта книга далека от пессимизма. В ней не говорится, что кульминацией текущего витка истории непременно станет наша гибель. Ее никак не назвать нравоучительной историей о нашей технологической гордыне и последующем крахе. Вовсе нет. Главная ее мысль заключается в том, что риски для нашего будущего действительно существуют, но у нас есть возможность изменить ситуацию с помощью верных решений. Я полагаю, что мы в силах справиться с задачей – что, делая правильный выбор, мы можем отойти от края пропасти и со временем обеспечить себе поразительно светлое будущее, где нас ждет немыслимое прежде изобилие, к которому мы придем, внедрив еще не предложенные инновации. Именно моим глубоким оптимизмом относительно будущего человечества и объясняется мое стремление написать эту книгу. У нас огромный потенциал. Нам очень многое нужно защитить.

Часть первая

Ставки

Глава 1

На краю пропасти

Возможно, это типичная последовательность, через которую проходят многие миры. Молодая планета безмятежно обращается вокруг своей звезды; медленно развивается жизнь; на планете появляются, калейдоскопически сменяя друг друга, разнообразные существа; возникает разум, который, как минимум до определенного момента, крайне способствует выживанию; затем совершенствуются технологии. Разумных существ осеняет, что существуют законы природы, что эти законы можно открыть путем эксперимента и что знание этих законов позволяет как спасать, так и отнимать жизнь, причем в беспрецедентных масштабах. Наука – осознают эти существа – дает невероятное могущество. Они мигом создают инструменты для изменения миров. Некоторые планетарные цивилизации способны спланировать будущее, определиться с тем, что можно сделать и чего делать нельзя, поэтому спокойно проходят период невзгод. Другие, менее благоразумные или менее везучие, исчезают.

Карл Саган[9]

Мы живем в период, исключительно важный для будущего человечества. Чтобы понять почему, нам нужно сделать шаг назад и окинуть взглядом всю человеческую историю: понять, как мы добрались до этой точки и куда можем пойти дальше.

Основное внимание мы уделим растущей мощи человечества, которое может как улучшить свое положение, так и нанести себе вред. Мы увидим, как ключевые переходные моменты в человеческой истории сделали нас могущественнее и позволили нам добиться необычайных успехов. Если нам удастся избежать катастрофы, можно осторожно надеяться, что прогресс продолжится: сознательное человечество ждет поразительно светлое будущее. Но растущая мощь ведет также к новому переходному моменту, ничуть не менее значительному, чем предыдущие, и это переход к нашему времени опасностей.

Что было раньше

Лишь небольшая часть истории человечества уже рассказана, поскольку лишь небольшая ее часть вообще может быть рассказана. Наш вид Homo sapiens появился в саваннах Африки 200 тысяч лет назад[10]. На протяжении почти непредставимого времени мы переживали огромную любовь и дружбу, страдали от тягот и печалей, исследовали, творили и размышляли о своем месте во Вселенной. И все же, задумываясь о великих достижениях человечества, мы, как правило, вспоминаем исключительно о делах, записанных на глине, папирусе и бумаге, но этим записям не более 5000 лет. Мы редко думаем о человеке, который около 70 тысяч лет назад первым ступил на землю странного нового мира в Австралии; о человеке, который раньше всех стал называть и изучать растения и животных всех мест, куда мы добирались; о рассказах, песнях и стихах, сложенных на заре человечества[11]. Между тем эти достижения были реальными и выдающимися.

Мы знаем, что даже до появления сельского хозяйства и зарождения цивилизации человечество оказывало значительное влияние на мир. Применяя простые, но в то же время революционные технологии мореходства, шитья одежды и разведения огня, мы преодолевали большие расстояния, чем любое млекопитающее до нас. Мы лучше приспосабливались к новой среде и в итоге расселились по всему земному шару[12].

Рис.1 На краю пропасти. Экзистенциальный риск и будущее человечества

Рисунок 1.1. Как мы заселяли мир. Стрелками обозначены сухопутные и морские пути, которыми, как мы полагаем сегодня, следовали наши предки, а цифры говорят, сколько лет назад люди добрались до каждого из регионов[13].

Что делало человечество исключительным даже на столь ранних этапах? Люди не были ни крупнее, ни сильнее, ни крепче других видов. Нас отличали не физические, а умственные характеристики – интеллект, творческие способности и речь[14].

И все же, даже обладая этими уникальными умственными способностями, один в пустыне человек не добился бы ничего особенного. Возможно, он сумел бы выжить, компенсируя недостаток физической силы интеллектом, но вряд ли занял бы господствующее положение. С точки зрения экологии примечателен не человек, а человечество.

Способность отдельного человека к кооперации с десятками других людей из его окружения оказалась уникальной в среде крупных животных. Она позволила нам сформировать нечто большее, чем мы сами. По мере того как наш язык становился все более выразительным и абстрактным, мы научились группироваться с максимальной пользой, объединяя наши знания, идеи и планы.

Особенно важно, что мы могли сотрудничать друг с другом, преодолевая время, а не только пространство. Если бы каждому поколению приходилось учиться всему заново, то нам никогда не удалось бы создать даже такое техническое новшество, как железная лопата. Однако мы учились у предков, внедряли собственные небольшие инновации и передавали опыт детям. Мы сотрудничали не с десятками, а с десятками тысяч человек, связывая поколения, сохраняя и развивая идеи на протяжении времен. Мало-помалу объем наших знаний рос, а культура развивалась[15].

В долгой истории человечества было несколько переходных периодов: занятия человека менялись, в результате чего его влияние росло гораздо быстрее, что сказывалось на всех последующих событиях. Я опишу три важных перехода[16].

Первым стала неолитическая революция[17]. Около 10 тысяч лет назад люди, жившие в Плодородном полумесяце на Ближнем Востоке, начали культивировать дикую пшеницу, ячмень, чечевицу и горох, чтобы дополнить свой рацион, обеспечиваемый собирательством. Специально выбирая для следующих посевов семена лучших растений, они сумели подчинить себе силу эволюции и создали новые одомашненные сорта с более крупными семенами и высокой урожайностью. Эта тактика сработала и с животными, что предоставило людям прямой доступ мясу и шкурам, а также к молоку, шерсти и навозу. Используя физическую силу тяглового скота, чтобы пахать поля и перевозить урожай, человечество расширило свои возможности не меньше, чем при освоении огня[18].

Хотя Плодородный полумесяц часто называют “колыбелью цивилизации”, на самом деле у цивилизации было много колыбелей. Совершенно независимо друг от друга неолитические революции происходили по всему миру в местах с благоприятным климатом, где водились подходящие для одомашнивания виды: в Восточной Азии, Черной Африке, на Новой Гвинее, в Южной, Центральной и Северной Америке, а возможно, и где-то еще[19]. Новая практика распространялась из каждого из этих очагов и меняла образ жизни множества людей, которые переходили от собирательства к земледелию.

Это оказало огромное влияние на размах человеческой кооперации. Переход к сельскому хозяйству в сотню раз уменьшил количество земли, необходимое для пропитания одного человека, и благодаря этому появились крупные поселения, которые начали объединяться в государства[20]. Если крупнейшие общества собирателей состояли от силы из нескольких сотен человек, то число жителей некоторых ранних городов измерялось десятками тысяч. В период расцвета в Шумере обитало около миллиона человек[21]. Две тысячи лет назад число подданных империи Хань в Китае достигло 60 миллионов, что почти в сто тысяч раз больше, чем численность любого сообщества в эпоху собирательства, и почти в десять раз больше, чем общемировая численность собирателей при пиковом значении[22].

Все больше людей получали возможность делиться своими знаниями и открытиями, благодаря чему стремительно развивались технологии, институты и культура. Число людей, торгующих друг с другом, росло, и это позволяло им специализироваться в своих сферах – посвящать свою жизнь управлению, торговле или ремеслам – и гораздо серьезнее их развивать.

В первые 6000 лет ведения сельского хозяйства мы изменили мир, предложив ему такие новшества, как письменность, математика, законы и колесо[23]. Особенной важностью обладала письменность, которая укрепила нашу способность сотрудничать друг с другом сквозь время и пространство: она расширила возможности взаимодействия поколений, повысила надежность информации и увеличила расстояние передачи идей.

Рис.2 На краю пропасти. Экзистенциальный риск и будущее человечества

Рисунок 1.2. Колыбели цивилизации. Отмечены регионы мира, где независимо друг от друга зародилось сельское хозяйство, и указано, сколько лет назад это произошло.

Следующим великим переходом стала научная революция[24]. Ранние формы науки развивались с древних времен, и семена эмпиризма можно найти в работах средневековых ученых исламского мира и Европы[25]. Но лишь около 400 лет назад человечество разработало научный метод и положило начало настоящему научному прогрессу[26]. В результате опора на авторитетные источники уступила место внимательному наблюдению за миром природы и поиску простых и поддающихся проверке объяснений увиденного. Способность проверять и отвергать не оправдавшие себя гипотезы помогла нам высвободиться из оков догматов и впервые приступить к систематическому накоплению знаний об устройстве мира.

Некоторые из новообретенных знаний можно было использовать для совершенствования окружающего мира. Ускоренное накопление знаний привело к ускорению внедрения технических инноваций и наделило человечество растущей способностью подчинять себе природу. Изменения происходили очень быстро, и потому люди успевали на своем веку увидеть, как они преображают окружающую действительность. В результате сформировалось современное представление о прогрессе. Если ранее в мире преобладали идеи об упадке и крахе или о цикличности происходящего, то теперь люди с растущим интересом изучали новую концепцию: великий проект совместной работы на благо будущего.

Вскоре случился третий великий переход – промышленная революция. Она стала возможной благодаря обнаружению огромных запасов энергии в форме угля и другого ископаемого топлива. Такое топливо формируется из спрессованных останков организмов, которые жили в прошедшие эпохи, и дает нам доступ к части солнечного света, падавшего на Землю на протяжении миллионов лет[27]. К тому моменту мы уже научились создавать простые машины, работающие на возобновляемой энергии ветра, рек и лесов, но ископаемое топливо открыло нам доступ к гораздо большим запасам энергии, хранящейся в гораздо более сконцентрированной и удобной форме.

Но энергия бесполезна, если не существует способа преобразовать ее в полезную работу, чтобы менять мир нужным нам образом. Паровой двигатель дал людям возможность превращать накопленную химическую энергию угля в механическую энергию[28]. На этой механической энергии работали машины, которые выполняли для человека огромное количество задач, благодаря чему сырье превращалось в готовые продукты гораздо быстрее и с меньшими затратами, чем раньше. А благодаря железным дорогам это богатство можно было перевозить на большие расстояния и продавать вдали от места производства.

Производительность труда и благосостояние людей стали расти все быстрее, и внедряемые одна за другой инновации увеличивали эффективность, масштабы и разнообразие автоматизации, закладывая фундамент для текущей эпохи стабильного экономического развития[29].

Такие перемены оказывали не только положительный эффект. После неолитической революции люди в целом стали больше работать, хуже питаться и чаще болеть[30]. Наука дала нам смертоносное оружие, которое преследует нас по сей день. Промышленная революция оказалась одним из самых неспокойных периодов в истории человечества. Неравномерное распределение выгод и эксплуатация рабочих стали причиной революционных выступлений начала XX века[31]. Неравенство между странами существенно возросло (эта тенденция пошла на спад лишь в последние два десятилетия)[32]. Использование энергии, заключенной в ископаемом топливе, приводит к выбросу парниковых газов, а промышленность, зависящая от такой энергии, ставит под угрозу существование ряда биологических видов, наносит урон экосистемам и загрязняет окружающую среду.

И все же, несмотря на эти серьезные проблемы, в среднем сегодня человек живет значительно лучше, чем когда-либо в прошлом. Самой поразительной переменой, пожалуй, следует считать избавление от нищеты. Только в последние 200 лет – в период, составляющий одну тысячную долю от общей продолжительности нашей истории[33], – увеличение мощи человечества и повышение его благосостояния перестали сопровождаться ростом численности населения. Прежде доход на душу населения оставался практически неизменным: чуть больше необходимого минимума при достатке, чуть меньше – при нужде[34]. Промышленная революция нарушила это правило и позволила доходам расти быстрее численности населения, что привело к беспрецедентному повышению благосостояния, которое продолжается по сей день.

Мы часто рассматриваем экономическое развитие с точки зрения общества, которое уже достаточно благополучно, из-за чего не столь очевидно, улучшит ли дальнейший рост нашу жизнь. Но самое существенное влияние экономическое развитие оказало на жизнь беднейших людей. В современном мире каждый десятый человек настолько беден, что живет менее чем на два доллара в день, – таков общепризнанный порог “крайней бедности”. В мире очень много бедных, и это одна из главных проблем нашего времени, изучению которой я посвятил большую часть своей жизни. Поразительно, но, оглянувшись назад, мы увидим, что до промышленной революции 19 из 20 человек (даже с поправкой на инфляцию и покупательную способность денег) жили меньше чем на два доллара в день. До промышленной революции процветала лишь крошечная прослойка элит, а крайняя бедность была в порядке вещей. Но в последние два столетия все больше людей вырывалось из оков крайней бедности, и сейчас этот процесс идет быстрее, чем когда-либо[35]. Два доллара в день достатком не назовешь, и эта статистика вряд ли утешит тех, кто по-прежнему живет в бедности, но положительная тенденция очевидна.

Жизнь стала лучше не только с материальной точки зрения. Взгляните на образование и здравоохранение. Всеобщее школьное обучение привело к радикальному повышению уровня образования. До промышленной революции лишь один из десяти людей на планете умел читать и писать, а теперь грамотой владеют более восьми из десяти человек[36]. На протяжении 10 тысяч лет, прошедших с неолитической революции, ожидаемая продолжительность жизни составляла от 20 до 30 лет. Теперь она возросла более чем в два раза и составляет 72 года[37]. Как и распространение грамотности, увеличение продолжительности жизни оказало влияние на весь мир. В 1800 году самая высокая ожидаемая продолжительность жизни составляла всего 43 года и была зафиксирована в Исландии. Теперь нет такой страны, где ожидаемая продолжительность жизни не превышала бы 50 лет[38]. В индустриальную эпоху все человечество стало более состоятельным, образованным и долгоживущим, чем когда-либо прежде. Но предаваться самоуспокоению, наблюдая этот поразительный прогресс, пока рано. То, что мы так быстро достигли столь многого, должно подтолкнуть нас как можно скорее разобраться со страданиями и несправедливостью, которые пока не искоренены.

Рис.3 На краю пропасти. Экзистенциальный риск и будущее человечества

Рисунок 1.3. Поразительные улучшения в сферах крайней бедности, грамотности, детской смертности и ожидаемой продолжительности жизни, произошедшие за последние 200 лет[39]

Значительные изменения к лучшему произошли также в нравственной сфере[40]. Среди самых очевидных тенденций – тенденция к постепенному расширению морального сообщества путем признания прав женщин, детей, бедняков, иностранцев и представителей этнических и религиозных меньшинств. Также произошел явный отход от насилия как морально приемлемого элемента общественного устройства[41]. В последние шестьдесят лет мы дополнили свои моральные установки необходимостью заботы об окружающей среде и благополучии животных. Эти общественные перемены не стали естественным следствием повышения уровня жизни. Их обеспечили реформаторы и активисты, убежденные в том, что мы можем – и должны – становиться лучше. Нам предстоит пройти долгий путь, прежде чем мы начнем соответствовать новым идеалам, и порой мы движемся вперед чрезвычайно медленно, но стоит оглянуться хотя бы на один-два века назад – и станет ясно, как многого мы уже добились.

Разумеется, на нашем пути возникало немало трудностей и непредвиденных ситуаций. Дорога была непростой, и часто ситуация становилась лучше по одним параметрам и хуже по другим. Несомненно, существует опасность выборочного подхода к истории, при котором возникает упрощенный нарратив: человечество постоянно улучшается по пути от варварского прошлого к славному настоящему. Но если смотреть на общую картину человеческой истории, где видны не взлеты и падения отдельных империй, а изменения человеческой цивилизации на всей планете, тенденция к прогрессу очевидна[42].

Порой бывает сложно поверить, что тенденция именно такова, ведь часто кажется, что кругом все только рушится. Отчасти этот скептицизм объясняется нашим жизненным опытом и наблюдением за сообществами на протяжении нескольких лет – в масштабе, где провалы почти столь же вероятны, как и успехи. Также отчасти он, возможно, связан с нашей склонностью делать акцент на плохих, а не на хороших новостях, на угрозах, а не на возможностях: такая установка исправно работает, когда нужно определить направление движения, но подводит, когда мы хотим объективно оценить баланс хорошего и плохого[43]. Однако если мы обратимся к наиболее объективным глобальным индикаторам качества нашей жизни, трудно не заметить существенных улучшений от столетия к столетию.

Такие тенденции не должны нас удивлять. Каждый день мы извлекаем выгоду из бесчисленного количества инноваций, которые внедрялись на протяжении сотен тысяч лет. Это инновации в технологиях, математике, языке, институтах, культуре, искусстве; идеи сотни миллиардов человек, которые жили до нас и оказали влияние почти на все аспекты современного мира[44]. Это потрясающее наследие. Немудрено, что наша жизнь в результате стала лучше.

Нельзя утверждать наверняка, что описанные тенденции к прогрессу сохранятся. Однако, учитывая их устойчивость, пессимистам придется поискать аргументы, чтобы объяснить, почему крах должен случиться именно сейчас. Не стоит забывать, что коллапс предрекают давно, но пока предсказания не оправдывались. Об этом хорошо сказал Томас Маколей:

Мы не можем безусловно доказать, что те заблуждаются, которые говорят нам, будто общество достигло апогея своего развития и будто мы видели лучшие дни. Но так говорили все пришедшие до нас, и говорили с совершенно таким же видимым основанием… Если мы не видим позади себя ничего, кроме усовершенствования, то на каком же основании мы не должны ожидать впереди ничего, кроме перемены к худшему?[45]

Он написал эти слова в 1830 году, после чего прошло еще 190 лет прогресса и ошибочных предсказаний о его окончании. В эти годы продолжительность жизни удвоилась, уровень грамотности взлетел, а восемь из десяти человек спаслись от крайней бедности. Что может принести нам будущее?

Что может ждать нас впереди

В масштабах жизни одного человека наша двухсоттысячелетняя история кажется почти непостижимо долгой. Однако по меркам геологии она коротка, а по меркам Вселенной – и вовсе мизерна. История нашего космоса насчитывает 14 миллиардов лет, и даже это немного, если рассматривать ее в более крупных масштабах. Впереди нас ждут триллионы лет. Будущее необозримо.

Какую часть этого будущего мы сможем увидеть на своем веку? Ископаемые находки служат источником полезных сведений. Как правило, виды млекопитающих живут около миллиона лет, а затем вымирают; наш близкий родственник Homo erectus прожил почти два миллиона лет[46]. Если приравнять миллион лет к одной 80-летней жизни, то сегодня человечество пребывает в подростковом возрасте – ему шестнадцать лет, оно только обретает силу, но уже может нажить серьезные неприятности[47].

Очевидно, однако, что человека не назвать представителем типичного вида. Прежде всего, люди недавно обрели уникальную способность уничтожать самих себя – способность, которой и посвящена большая часть этой книги. Но у нас есть и другая уникальная способность – способность защищаться от внешних угроз нашему существованию, а это дает нам шанс пережить родственные виды.

Как долго мы могли бы прожить на Земле? Наша планета будет пригодна для жизни еще примерно миллиард лет[48]. Этого достаточно на триллионы человеческих жизней; достаточно, чтобы увидеть, как вырастают горы, сталкиваются континенты, перестраиваются орбиты, – и достаточно, чтобы исцелить наше общество и нашу планету от ран, которые мы нанесли им в период своей незрелости.

Возможно, у нас даже больше времени. Как сказал один из пионеров ракетостроения, “Земля – колыбель человечества, но не может же оно все время находиться в колыбели”[49]. Мы пока не знаем, как добраться до других звезд и заселить вращающиеся вокруг них планеты, но и не видим серьезных препятствий для этого. Судя по всему, нам просто нужно время, чтобы этому научиться. Это вселяет в меня оптимизм. В конце концов, первый летательный аппарат тяжелее воздуха поднялся в небо в 1903 году, а всего 68 лет спустя мы запустили космический корабль, который вышел за пределы Солнечной системы и однажды доберется до звезд. Наш вид обучается быстро, особенно в последнее время, а миллиард лет – долгий срок. Думаю, нам хватит и гораздо меньшего.

Если мы сможем добраться до других звезд, нам откроется вся галактика. В одном только Млечном Пути более 100 миллиардов звезд, и некоторые из них не погаснут триллионы лет, что значительно увеличивает потенциальную продолжительность нашей жизни. Помимо нашей, есть и миллиарды других галактик. Если мы достигнем будущего таких масштабов, то у нас, вероятно, появится поистине непомерное количество потомков, у которых будет достаточно времени, ресурсов, мудрости и опыта, чтобы сотворить множество чудес, невообразимых сегодня.

Хотя человечество уже движется к повышению уровня благосостояния, здравоохранения, образования и нравственной терпимости, впереди у нас долгий путь. Сегодня наш мир омрачают малярия и ВИЧ, депрессия и деменция, расизм и сексизм, притеснения и пытки. Однако, имея достаточно времени, мы можем положить конец этим ужасам и построить поистине справедливое и гуманное общество.

Мир без страданий и несправедливости – это лишь нижний предел хорошей жизни. Верхний пока не удалось обозначить ни естественным, ни гуманитарным наукам. О том, чего мы могли бы достигнуть, намекают лучшие моменты нашей жизни: проблески искренней радости, ослепительной красоты, беспредельной любви. Минуты, когда мы чувствуем себя по-настоящему живыми. Такие моменты при всей их краткости позволяют представить, каким может быть истинное процветание далеко за рамками существующего статус-кво и наших нынешних представлений.

В распоряжении наших потомков могут оказаться целые эпохи, когда они будут исследовать эти новые вершины новыми способами. И речь здесь не только о благосостоянии. Что бы вы ни ценили – красоту, понимание, культуру, сознание, свободу, приключения, открытия, искусство, – наши потомки сумеют вывести все это на новый уровень, а может, даже обнаружить совершенно новые категории ценностей, пока нам вовсе незнакомые. Музыку, которую нам не дано услышать.

Пропасть

Но это будущее под угрозой. Дело в том, что недавно случился еще один сдвиг в нашей способности менять мир, и этот сдвиг не менее значителен, чем неолитическая, научная и промышленная революции, которые ему предшествовали.

Со взрывом первой атомной бомбы человечество вступило в новую эпоху[50]. В тот момент наша быстро нарастающая технологическая мощь наконец достигла уровня, на котором мы обрели способность уничтожить самих себя. Впервые в истории внутренняя угроза человечеству перевешивает угрозы внешнего мира. Будущее человечества висит на волоске. Все завоевания наших предков могут быть растеряны, а достижения наших потомков – отвергнуты. Бо́льшая часть книги человеческой истории окажется ненаписанной, рассказ прервется, страницы останутся белыми.

С появлением ядерного оружия власть человека над окружающим миром резко возросла. Единственная бомба, сброшенная на Хиросиму, погубила многие тысячи человек. А в одной термоядерной бомбе, изобретенной шесть лет спустя, содержалось больше энергии, чем во всей взрывчатке, использованной в ходе Второй мировой войны[51].

Стало очевидно, что война таким оружием изменит планету беспрецедентным в истории человечества образом. Мировые лидеры, ученые-атомщики и общественные деятели начали всерьез полагать, что ядерная война может положить конец человечеству, которое ждет либо уничтожение, либо полный крах цивилизации[52]. Поначалу опасения вызывали радиоактивные осадки и ущерб озоновому слою, но в 1980-х годах акцент сместился на сценарий, называемый ядерной зимой, во время которой ядерные огненные смерчи будут поднимать дым из горящих городов в верхние слои атмосферы[53]. Высоко над облаками дым не вымывается дождем и потому будет сохраняться годами, коптя небо, охлаждая Землю и приводя к серьезному неурожаю злаков. Так ядерная война может привести к сильнейшему голоду не только в противоборствующих странах, но и во всех странах мира. Миллионы людей погибнут непосредственно от взрывов, а затем миллиарды умрут от истощения и – возможно – в результате коллапса человечества.

Насколько мы близки к такой войне? На кону стоит очень многое, и ядерная война не выгодна никому. Можно ожидать, что такие очевидные опасности обеспечат определенную степень защиты, а мировые лидеры неизбежно будут отступать, не пересекая последнюю черту. Однако по мере обнародования все новой и новой закулисной информации о холодной войне становится очевидно, что мы едва избежали полномасштабного ядерного конфликта.

Мы видели, как вмешательство единственного человека, капитана Василия Архипова, возможно, предотвратило настоящую ядерную войну на пике Карибского кризиса. Но еще поразительнее то, сколько раз за эти несколько дней мы оказывались на пороге катастрофы и спасались только благодаря решениям отдельных людей.

Основные события кризиса уложились в одну неделю. В понедельник, 22 октября 1962 года, президент США Джон Кеннеди выступил по телевидению с речью и сообщил американцам, что СССР начал размещать стратегическое ядерное вооружение на Кубе, тем самым создавая прямую угрозу США. Он предупредил, что любое применение этого вооружения приведет к ответному полномасштабному ядерному удару по СССР. Его советники подготовили планы для воздушного удара по 48 обнаруженным ракетам и для военного вторжения на Кубу. Американские войска были переведены в состояние повышенной боевой готовности DEFCON 3 в ожидании возможной ядерной войны[54].

В среду, 24 октября, США начали морскую блокаду, чтобы воспрепятствовать доставке новых ракет на Кубу, и перевели свои ядерные силы на беспрецедентный уровень боевой готовности DEFCON 2. Ядерные боеголовки были подготовлены к пуску, а бомбардировщики – носители ядерного оружия поднялись в воздух, готовые начать полномасштабную атаку на СССР. Пик кризиса пришелся на субботу, когда СССР сбил американский самолет-разведчик U-2 ракетой класса “земля – воздух”, в результате чего погиб летчик.

Воскресным утром все было кончено. СССР отступил, неожиданно объявив, что уберет все ядерные боеголовки с Кубы. Но все вполне могло закончиться иначе.

Ведутся споры о том, насколько близко этот кризис подвел нас к ядерной войне. Но по мере обнародования подробностей в последующие десятилетия краски сгущались. Кеннеди и Хрущев приложили большие усилия, чтобы не позволить воинственным политикам и генералам пересечь черту[55]. Но война вполне могла начаться, даже если этого не хотела ни одна из сторон, как в случае с Первой мировой. В ту неделю события на местах вышли из-под контроля, и лидеры едва смогли предотвратить эскалацию кризиса. США были в шаге от нападения на Кубу, вероятность ядерного ответа в этом случае была гораздо выше, чем кто-либо мог предположить, а это, в свою очередь, вполне могло перерасти в полномасштабную ядерную войну.

Дважды в период кризиса США чуть не начали атаку на Кубу. На пике трений Кеннеди согласился, что если будет сбит U-2, то США немедленно ударят по Кубе, не созывая заново военный совет. В субботу U-2 действительно сбили. И все же Кеннеди передумал и отменил контрудар. Он предъявил СССР секретный ультиматум, в котором пообещал начать атаку с воздуха и почти наверняка полное вторжение, если СССР не согласится убрать боеголовки в течение суток или если будет сбит еще один самолет.

Этот шаг тоже едва не стал поводом к атаке. Американцы не знали, что Хрущев далеко не в полной мере контролирует свои войска на Кубе. U-2 был сбит советским генералом, нарушившим прямой приказ Хрущева. Еще в меньшей степени Хрущев контролировал кубинские войска, которые уже попали по летящему на небольшой высоте самолету-разведчику из зенитных орудий и очень хотели сбить еще один. Понимая, что он не сможет сдержать собственных союзников, жаждущих сбить очередной самолет, и что в результате это спровоцирует атаку США, Хрущев поспешил выступить с заявлением и положить конец кризису, не дожидаясь возобновления разведывательных полетов утром.

Что случилось бы, если бы США все же начали наступление? Американские лидеры полагали, что исключительно обычная (не ядерная) атака на Кубу спровоцирует аналогичный ответ. Они считали, что СССР в таком случае не станет наносить ядерный удар по материковой части США. Однако они упускали из виду еще один значимый факт. Американцы обнаружили на Кубе лишь часть ракет, которые доставил СССР. Всего на острове было 158 боеголовок. И более 90 из них были тактическим ядерным оружием, которое СССР привез специально, чтобы нанести ядерный удар первым и уничтожить флот вторжения США, прежде чем американцы произведут высадку[56].

Более того, Кастро очень хотелось пустить их в ход. Он открыто просил Хрущева выпустить ядерные боеголовки, если американцы попытаются начать вторжение, хотя и понимал, что такой шаг приведет к уничтожению его страны: “Что случилось бы с Кубой? Она была бы полностью уничтожена”[57]. Совершив еще один беспрецедентный шаг, Хрущев ослабил центральный контроль над тактическим ядерным оружием, передав коды запуска и право принятия решения об открытии огня советскому командующему на месте. Прослушав телеобращение Кеннеди, Хрущев отдал новые приказы не применять оружие без четкого разрешения, но все же опасался, что в пылу конфликта их нарушат, как ранее нарушили его приказ не стрелять по американским самолетам-разведчикам.

Таким образом, хотя американское военное командование этого не знало, атака на Кубу с применением обычного оружия, вероятно, была бы встречена ответным ядерным ударом по американским войскам. Такой удар с большой вероятностью привел бы к ядерному ответу США. Скорее всего, США не ограничились бы атакой на Кубу и развязали бы полномасштабную ядерную войну с СССР. В своем телеобращении в понедельник Кеннеди прямо заявил: “Любой пуск ракеты с Кубы против любого государства в Западном полушарии наша страна будет рассматривать как атаку СССР на США, требующую полномасштабного ответного удара по Советскому Союзу”[58].

Чрезвычайно сложно оценить вероятность перерастания Карибского кризиса в ядерную войну[59]. Вскоре после него Кеннеди сказал одному из ближайших советников, что, по его мнению, шансы завершения кризиса ядерной войной с СССР были “примерно в диапазоне от одного к трем до равных”[60]. Недавно стало известно, что в день окончания кризиса Пол Нитце (член военного совета Кеннеди) оценил вероятность в 10 % и счел, что остальные члены совета назвали бы еще более высокую цифру[61]. Более того, никто из этих людей не знал о тактическом ядерном оружии на Кубе, о том, что Хрущев не контролировал свои войска, а также о произошедшем на подводной лодке Б-59.

Хотя мне не хочется сомневаться в тех, чьи решения вполне могли привести к началу войны, лично я полагаю, что они были настроены чересчур пессимистично, учитывая, что им было известно в то время. Тем не менее, если добавить к их сведениям обнародованную позже информацию о том, что на самом деле происходило на Кубе, мои оценки примерно совпадут с их мнением. Я бы сказал, что вероятность эскалации кризиса в ядерную войну с СССР составляла примерно 10–50 %[62].

Когда пишешь о таких критических ситуациях, возникает соблазн приравнять их вероятность к вероятности краха цивилизации или уничтожения человечества. Но это было бы большим и ненужным преувеличением. Нам следует сочетать вероятность начала ядерной войны с вероятностью, что такая война приведет к уничтожению человечества или человеческой цивилизации, чего может и не произойти. И все же даже с такими оговорками Карибский кризис остается одним из поворотных моментов в двухсоттысячелетней истории человечества и, возможно, той точкой, когда мы сильнее всего рисковали потерять вообще всё.

Даже теперь, когда холодная война осталась в прошлом, ядерное оружие по-прежнему представляет опасность для человечества. На момент написания этой книги вероятнее всего, пожалуй, ядерный конфликт с участием КНДР. Но не все ядерные войны одинаковы. Количество ядерных боеголовок в арсенале КНДР составляет менее 1 % от запасов России или США, и сами боеголовки значительно меньше. Ядерная война с КДНР стала бы ужасной катастрофой, но в настоящее время она не слишком угрожает долгосрочному будущему человечества[63].

Основной экзистенциальный риск от ядерного оружия сегодня, вероятно, по-прежнему связан с огромными арсеналами России и США. Разработка МБР (межконтинентальных баллистических ракет) дала каждой из сторон возможность уничтожить большую часть ракет противника, потратив лишь тридцать минут на подготовку, и поэтому обе стороны перевели многие ракеты в “состояние повышенной готовности”, благодаря чему их можно запускать всего за десять минут[64]. При таком уровне готовности ракеты очень легко запустить случайно или намеренно при ложной тревоге. Как мы увидим в четвертой главе, леденящий душу список ложных тревог продолжает пополняться и по завершении холодной войны. В более длительной перспективе также существует риск, что другие страны создадут собственные огромные арсеналы, что инновации в военных технологиях подорвут логику сдерживания путем устрашения и что сдвиги в геополитической сфере приведут к началу новой гонки вооружения с участием крупных держав.

Человечеству угрожает не только ядерное оружие. Наше внимание направлено именно на него, поскольку оно стало первым серьезным риском и уже грозило человечеству. Но есть и другие риски.

Экспоненциальное повышение благосостояния, которое подтолкнула промышленная революция, сопровождалось стремительным ростом объема выбросов углекислого газа. Незначительный побочный эффект индустриализации в конце концов вылился в глобальную угрозу здоровью, окружающей среде, международной стабильности и, возможно, даже всему человечеству.

Ядерное оружие и изменение климата имеют поразительные сходства и различия. В обоих случаях человечеству грозят существенные сдвиги в температуре Земли, но эти сдвиги направлены в разные стороны. Один из них – результат непредсказуемого научного прорыва, другой – продолжение векового развития старых технологий. Один связан с малым риском внезапной и резкой катастрофы, другой предполагает длительный, постепенный процесс с отложенным началом, где катастрофа в некоторых масштабах неизбежна и неясно только, насколько серьезной она будет. Один сопряжен с секретной военной технологией, контролируемой горсткой могущественных людей, другой – с совокупностью малых воздействий на мир со стороны каждого из его обитателей.

Технологии продолжают развиваться, и на горизонте возникают новые угрозы. Эти угрозы, вероятно, будут похожи скорее на ядерное оружие, чем на изменение климата: они будут возникать из-за неожиданных прорывов, приводить к резким катастрофам и связываться с действиями небольшого числа лиц. Меня особенно заботят две зарождающиеся технологии, которым будет посвящена пятая глава.

С самой неолитической революции мы меняли геном растений и животных, чтобы удовлетворять свои нужды. Но открытие генетического кода и создание инструментов, позволяющих читать и переписывать его, привело к резкому расширению нашей способности перестраивать жизнь с новыми целями. Внедрение биотехнологий приведет к значительному прогрессу в медицине, промышленности и сельском хозяйстве. Но возникнут и риски для цивилизации и самого человечества, и их источниками будут как случайности, которые могут произойти при санкционированных исследованиях, так и возможность создания биологического оружия.

Мы также наблюдаем стремительное расширение способностей систем искусственного интеллекта (ИИ), причем самый серьезный прогресс наблюдается в тех областях, где ИИ традиционно был слабее всего, таких как восприятие, обучение и общий интеллект. Специалисты полагают, что в этом столетии человеческие способности превзойдет не только узкий ИИ, но и общий, то есть умеющий преодолевать разнообразные препятствия для достижения поставленных целей. Человечество смогло обрести контроль над миром именно благодаря своим непревзойденным умственным способностям. Если мы уступим пальму первенства машинам, именно они в итоге займут наше уникальное положение. Это должно заставить нас задуматься, почему именно человечество и дальше будет править миром. Нам нужно научиться соотносить цели все более умных и автономных машин с интересами человечества, и сделать это необходимо прежде, чем такие машины станут сильнее нас.

Эти угрозы человечеству и наши ответы на них определяют наше время. Появление ядерного оружия создало реальный риск уничтожения человечества в XX веке. Технологии развиваются все быстрее, а серьезных усилий для защиты человечества не прикладывается, поэтому есть все основания полагать, что в текущем столетии риск станет еще выше и будет расти с каждым веком, пока продолжается технический прогресс. Поскольку такие антропогенные риски превосходят все природные риски, вместе взятые, именно они определяют, сколько у человечества времени, чтобы отойти от края пропасти.

Я не утверждаю, что вымирание – это неизбежный итог научного прогресса или даже самый вероятный его результат. Я утверждаю, что человечество становится все могущественнее и уже достигло той точки, когда само создает серьезную угрозу собственному существованию. Нам решать, как мы будем работать с этим риском.

Я не призываю и к отказу от технологий. Технологиям принадлежит огромная заслуга в улучшении благосостояния человечества. Кроме того, без технологий человечество не сумеет раскрыть свой потенциал в долгосрочной перспективе. В отсутствие технологий мы были бы обречены из-за совокупного риска таких природных катастроф, как падение астероидов. В отсутствие технологий мы никогда не придем к истинному процветанию, хотя мы могли бы его достичь.

Проблема не столько в переизбытке технологий, сколько в недостатке мудрости[65]. Особенно хорошо об этом сказал Карл Саган:

Большинство угроз, с которыми мы сталкиваемся, действительно обусловлены наукой и технологиями, но на более фундаментальном уровне они вызваны тем, что мы стали могущественнее, при этом не став соизмеримо мудрей. Средства изменения миров, полученные нами благодаря технологии, требуют такой осмотрительности и дальновидности, которые не требовались нам никогда ранее[66].

Адвокатом этой идеи выступает даже бывший президент США:

Сама искра, которая служит отличительной особенностью нашего вида, – наши мысли, наше воображение, наш язык, наше умение изготавливать инструменты, наша возможность отстраняться от природы и подчинять ее своей воле – всё это также дает нам беспрецедентные способности к разрушению… Технологический прогресс, не сопровождаемый эквивалентным прогрессом в сфере человеческих институтов, обречет нас на гибель. Научная революция, которая привела к делению атома, требует и революции в моральной сфере[67].

Нам нужно обрести эту мудрость, пережить моральную революцию. Поскольку вымирание необратимо, нельзя откладывать дела на потом и ждать, когда угроза воплотится в жизнь. Необходимо действовать заблаговременно. Мудрость не обрести, а моральную революцию не начать в одночасье, поэтому нам пора браться за дело.

Думаю, мы, скорее всего, переживем этот период. Не потому, что трудности незначительны, а потому, что мы сумеем с ними справиться. Упомянутые риски проистекают из действий человека, и одно это показывает, что человек в состоянии на них ответить[68]. Пораженчество неуместно и контрпродуктивно, как самосбывающееся пророчество. Нам следует работать с этими рисками, рассуждая трезво и беспристрастно и руководствуясь позитивным видением будущего, которое мы стараемся защитить.

Как серьезны эти риски? Сложно точно ответить на этот вопрос, ведь речь идет о комплексных (то есть не поддающихся простому математическому анализу) и беспрецедентных (то есть не подлежащих аппроксимации по частоте возникновения в долгосрочной перспективе) рисках. И все же очень важно хотя бы попытаться дать количественную оценку. Такие качественные утверждения, как “серьезный риск вымирания человечества”, можно трактовать как риск в диапазоне от 1 до 99 %[69]. Они не проясняют ситуацию, а усиливают путаницу. В связи с этим я предлагаю количественные оценки, но с оговоркой, что их нельзя считать точными и можно пересматривать.

Насколько я могу судить, в XX веке риск вымирания человечества или непоправимого коллапса цивилизации составлял примерно один к ста. С учетом всего, что мне известно, я оцениваю экзистенциальный риск в текущем столетии как примерно один к шести: это русская рулетка[70]. (См. Таблицу 6.1 на с. 199, где приводятся оценки для разных рисков.) Если мы не возьмемся за ум, если мы допустим, чтобы наша сила и дальше нарастала быстрее, чем накапливается мудрость, то стоит ожидать, что этот риск станет еще выше в следующем столетии и далее будет усиливаться от века к веку.

Это самые серьезные риски, с которыми мы когда-либо сталкивались[71]. Если я хотя бы в общих чертах прав, то с такими рисками многие столетия нам не прожить. Этот уровень риска неприемлем[72]. Следовательно, так или иначе этот период вряд ли продлится больше чем несколько веков[73]. Либо человечество обретет контроль над собственной судьбой и снизит риск до приемлемого уровня, либо люди уничтожат самих себя.

Представим историю человечества как долгое путешествие по диким землям. В пути случается свернуть не туда и столкнуться с трудностями, но порой быстро преодолеваешь большое расстояние и перед тобой открывается головокружительный вид. В середине XX века мы прошли по высокогорному перевалу и обнаружили, что дальше есть лишь одна дорога – узкая тропинка вдоль ущелья, осыпающийся карниз на краю пропасти. Стоит посмотреть вниз – и кружится голова. Если мы упадем, все будет потеряно. Мы не знаем, насколько вероятно падение, но это самый серьезный риск, с которым мы когда-либо сталкивались.

Этот сравнительно короткий период – уникальное испытание в истории нашего вида. Наш ответ на вызов определит нашу историю. В будущем историки дадут название этому времени, о нем будут рассказывать на школьных уроках. Но я думаю, что название ему не помешает и сейчас. Я называю этот период Пропастью.

Пропасть наделяет наше время огромным смыслом. В огромных масштабах истории – если мы сумеем выжить – наше время запомнится именно этим: высочайшими уровнями риска, а также пробуждением человечества, которое придет к зрелости и гарантирует себе долгое и светлое будущее. В этом и заключается смысл нашего времени.

Я не прославляю наше поколение, но и не пытаюсь выставить нас злодеями. Дело в том, что ставки сегодня чрезвычайно высоки. В зависимости от того, как мы распорядимся своими возможностями, мы станем либо победителями, либо проигравшими. Надеюсь, мы выживем и расскажем своим детям и внукам, что не сидели сложа руки, а воспользовались шансом, чтобы сыграть отведенную нам историческую роль.

Защита человечества от этих опасностей должна быть главной задачей нашего времени. Я не говорю, что в мире нет других проблем и людям следует забыть обо всем, что им важно, ради этого. Но если вы понимаете, как внести свой вклад, – если у вас есть необходимые навыки или если вы молоды и можете самостоятельно прокладывать свой путь, – то, думаю, защита человечества сегодня входит в число самых благородных целей, которым вы могли бы служить.

Пропасть и антропоцен

Становится все более очевидно, что человек оказывает самое значительное влияние на окружающую среду. Ученые приходят к выводу, что человечество занимает центральное место не только в своем представлении, но и при рассмотрении ситуации с объективных позиций биологии, геологии и климатологии. Если в далеком будущем найдутся геологи, они обнаружат, что слой породы, соответствующий нашему времени, фундаментально отличается от прошлых слоев.

В связи с этим современные геологи подумывают о том, чтобы официально изменить классификацию геологического времени и выделить в нем новую эпоху антропоцена. Среди предлагаемых точек ее отсчета – исчезновение мегафауны, неолитическая революция, пересечение Атлантики, промышленная революция и первые испытания ядерного оружия[74].

Соответствует ли она Пропасти? В чем их различия?

Антропоцен – это время, когда человечество оказывает существенное влияние на окружающую среду, а Пропасть – время, когда человечество всерьез рискует уничтожить само себя.

Антропоцен – это геологическая эпоха, а геологические эпохи, как правило, длятся миллионы лет, в то время как Пропасть – это период человеческой истории (сродни эпохе Просвещения и промышленной революции), который, вероятно, завершится за несколько веков.

Точкой отсчета для обоих может служить первое испытание атомной бомбы, но объясняется такой выбор совершенно по-разному. В случае с антропоценом это событие главным образом обеспечивает удобную датировку эпохи, но в случае с Пропастью отсчет ведется именно от него потому, что ядерное оружие представляет угрозу для выживания человечества.

Глава 2

Экзистенциальный риск

Ключевая роль, отведенная нам как существам моральным, – это роль членов межпоколенческого сообщества, сообщества существ, которые смотрят назад и вперед, трактуют прошлое в свете настоящего, считают будущее продолжением прошлого, чувствуют свою принадлежность к устойчивым семьям, народам, культурам, традициям.

Аннетт Байер[75]

Мы увидели, как длинная кривая человеческой истории привела нас к исключительно важной точке нашего повествования – ко времени, когда наше будущее повисло на волоске. Мы также заглянули в будущее и поняли, что может ждать нас впереди, если только мы сумеем преодолеть риски.

Пора глубже изучить, что стоит на кону и почему защита человечества в этот период имеет такую важность. Для этого нам прежде всего нужно дать определение экзистенциальному риску. Что такое экзистенциальный риск? Как это понятие соотносится с более знакомыми нам идеями о вымирании и крахе цивилизации?

После этого мы проанализируем, почему эти риски требуют повышенного внимания. На мой взгляд, главная причина в том, что мы можем полностью лишиться будущего: того, кем мы могли бы стать и чего могли бы достичь. Но этим дело не ограничивается. Необходимость сберечь свое будущее проистекает также из множества нравственных устоев и традиций. Экзистенциальные риски грозят и разрушить наше настоящее, и предать наше прошлое. Они проверяют цивилизацию на прочность и грозят тому, что, возможно, представляет собой самый сложный и значимый компонент Вселенной.

Если любая из этих причин кажется нам достаточно весомой, то нам предстоит немало сделать, чтобы защитить свое будущее. Дело в том, что экзистенциальным риском обычно пренебрегают и государства, и ученые, и общество. Мы увидим, почему дело обстоит именно так и почему есть основания полагать, что ситуация изменится.

Что такое экзистенциальный риск?

Будущее человечества изобилует возможностями. Мы достигли глубокого понимания обитаемого мира и вышли на такой уровень здоровья и благосостояния, о котором наши предки могли только мечтать. Мы начали исследовать другие миры в небесах у себя над головой и создавать виртуальные миры, непостижимые для наших предков. Границ тому, чего мы можем добиться, почти не существует.

Вымирание человечества закроет наше будущее. Оно уничтожит наш потенциал. Ликвидирует все возможности, кроме одной: мира, лишенного процветающего человечества. Вымирание приведет к возникновению этого обреченного мира и навсегда отрежет любые пути назад.

Философ Ник Бустрём показал, что вымирание – не единственный сценарий, по которому такое может произойти: возможны и другие катастрофические исходы, связанные с потерей не только настоящего, но и потенциала в будущем[76].

Представьте мир в руинах: масштабная катастрофа привела к глобальному коллапсу цивилизации и вернула человечество в состояние, в котором оно пребывало до перехода к сельскому хозяйству. В ходе этой катастрофы окружающей среде был нанесен такой серьезный урон, что у выживших не осталось шанса восстановить цивилизацию. Даже если бы такая катастрофа не привела к вымиранию человечества, она оказала бы сходное влияние на наше будущее. Огромный диапазон возможных вариантов будущего, открытых для нас сегодня, существенно сузился бы. Мы оказались бы в обреченном мире, не имея никакой надежды вернуться назад.

Рис.4 На краю пропасти. Экзистенциальный риск и будущее человечества

Рисунок 2.1. Классификация экзистенциальных катастроф по типу исхода, который не поддается изменению.

Теперь представьте мир в оковах: в будущем, напоминающем “1984” Джорджа Оруэлла, где вся планета оказалась во власти жестокого тоталитарного режима, решительно настроенного не сдавать своих позиций. Благодаря мощной пропаганде, поддерживаемой технологиями, а также надзору и принуждению, немногочисленные диссиденты не в силах даже отыскать друг друга, не говоря уже о том, чтобы произвести переворот. Так живет все население Земли, и режим не знает угроз – ни внутренних, ни внешних. Если бы такой режим мог поддерживаться бессрочно, погружение в тоталитарный мир имело бы немало общего с вымиранием: у людей осталось бы лишь ограниченное число вариантов будущего и не осталось бы выхода.

Вслед за Бустрёмом я буду называть такие события “экзистенциальными катастрофами”, определяя их следующим образом[77]:

Экзистенциальная катастрофа – это разрушение долгосрочного потенциала человечества.

Экзистенциальный риск – это риск, грозящий уничтожением долгосрочного потенциала человечества.

Эти определения показывают, что исход экзистенциальной катастрофы и плачевен, и необратим. У нас не просто исчезнет возможность реализовать свой потенциал – сам потенциал тоже будет навсегда потерян. Хотя я хочу оставить официальные определения краткими, несколько аспектов этих понятий требуют пояснения.

Во-первых, долгосрочным потенциалом человечества я считаю совокупность всех возможных вариантов будущего, которые открыты для нас[78]. Это огромный диапазон, куда входит все, чего человечество может добиться в будущем, даже если нам только предстоит изобрести средства достижения своих целей[79]. Но отсюда следует, что, если выбор, который мы совершаем сегодня, отсекает часть наших возможностей, он уже не может открыть новые. Таким образом, любое уменьшение потенциала человечества должно считаться необратимым. Сегодня перед нами стоит задача сохранить наш огромный потенциал и защитить его от риска последующего уничтожения. Суть в том, чтобы дать нашим потомкам возможность реализовать этот потенциал и воплотить в жизнь один из лучших открытых для нас вариантов будущего.

Хотя в таком масштабе моя идея может показаться абстрактной, на самом деле мы сталкиваемся с ней изо дня в день. Представьте ребенка, обладающего высоким долгосрочным потенциалом: ему доступно множество вариантов прекрасного будущего. Важно сохранить этот потенциал, чтобы лучшие варианты будущего не оказались отсеченными из-за несчастного случая, травмы или недостатка образования. Важно и защитить этот потенциал, то есть принять превентивные меры, чтобы его потеря стала крайне маловероятной. Также важно, чтобы ребенок в итоге реализовал свой потенциал – иными словами, прошел по одной из лучших дорог, которые ему открыты. С человечеством дело обстоит точно так же.

Экзистенциальные риски грозят уничтожить потенциал человечества. Уничтожение может быть как полным (например, при вымирании), так и почти полным, скажем при необратимом коллапсе цивилизации, когда остаются возможности для очень скромного процветания или слабая надежда на восстановление[80]. Я не провожу четких границ, но следует понимать, что в случае любой экзистенциальной катастрофы бо́льшая часть нашего потенциала утрачивается и остается лишь минимум[81].

Во-вторых, упор на человечество в моих определениях не подразумевает, что я не учитываю ценность окружающей среды, других животных, преемников Homo sapiens и существ, живущих в других областях космоса. Я вовсе не хочу сказать, что в расчет идут только люди. Я лишь утверждаю, что люди – единственные из известных нам существ, которые воспринимают моральные суждения и доводы, а следовательно, могут изучать мир и решать, как лучше поступать. Если мы не справимся, то эта направленная вверх сила, эта способность стремиться к лучшему и справедливому попросту исчезнет из мира.

Наш потенциал – это то, чего человечество может достичь в результате совокупных усилий всех людей до единого. Ценность наших действий будет отчасти определяться тем, что мы делаем в отношении людей и для людей, но будет также зависеть от того, как наши действия влияют на другие виды. Если в будущем мы каким-то образом поспособствуем возникновению новых моральных агентов, в соответствии с моим определением их нужно будет включить в категорию “человечества”.

Поскольку я рассматриваю все человечество, угрозы отдельным странам и культурам не могут считаться экзистенциальными рисками. Подобный термин существует и для них – порой люди называют нечто “экзистенциальной угрозой для определенной страны”. Если не учитывать, что такие утверждения обычно бывают преувеличенными, в их основе лежит схожая идея – идея о том, что нечто грозит навсегда уничтожить долгосрочный потенциал отдельной культуры или страны[82]. Но очень важно, чтобы понятие “экзистенциального риска” (без явной привязки к конкретной группе) употреблялось только в отношении угроз для всего человечества.

В-третьих, любое определение риска сопряжено с понятием вероятности. Каков принцип оценки вероятности экзистенциального риска? Нет смысла рассматривать вероятность как объективную долгосрочную частоту, поскольку экзистенциальные катастрофы, которые нас интересуют, могут случиться лишь один раз и всегда будут оставаться беспрецедентными, пока не станет слишком поздно. Нельзя сказать, что вероятность экзистенциальной катастрофы равняется нулю просто потому, что такой катастрофы никогда не происходило прежде.

Подобные ситуации требуют логического подхода к оценке вероятности, при котором на основе имеющейся информации называется адекватная степень уверенности в том, что событие произойдет. Такой подход используется в судах, банках и букмекерских конторах. Говоря о вероятности экзистенциальной катастрофы, я буду иметь в виду то, насколько человечеству следует быть уверенным, что такая катастрофа произойдет, с учетом самых убедительных доказательств, имеющихся в нашем распоряжении[83].

Множество возможных кошмарных исходов не попадают в категорию экзистенциальных катастроф.

Например, может случиться не одно событие, которое приведет человечество к шагу в пропасть, а целый ряд менее серьезных сбоев. Дело в том, что я пользуюсь традиционным определением катастрофы как единственного решающего события, а не совокупности событий, приводящих к неблагоприятному исходу. Если бы мы растеряли свой потенциал, просто неизменно плохо относясь друг к другу или вообще не совершая великих дел, результат был бы столь же неудачен, но наступил бы не в результате катастрофы.

Или же может случиться единственная катастрофа, но такая, которая оставит человечеству шанс на восстановление. С нашей точки зрения, если заглянуть на несколько поколений в будущее, подобная перспектива может показаться не менее мрачной. Но через тысячу лет ее, возможно, будут считать лишь одним из нескольких печальных эпизодов в человеческой истории. Настоящая экзистенциальная катастрофа должна быть по природе своей решающим моментом – той точкой, в которой мы потерпели полное поражение.

Даже катастрофы, способные привести к глобальному коллапсу цивилизации, могут не дотягивать до экзистенциального уровня. Хотя глобальный коллапс цивилизации нередко называют “концом света”, он может и не поставить точку в человеческой истории. Несмотря на серьезнейшие последствия, он может не оказаться ни полным, ни необратимым.

В этой книге я использую понятие “коллапс цивилизации” в буквальном смысле, имея в виду ситуацию, когда человечество по всему земному шару утрачивает цивилизацию (по крайней мере временно) и возвращается к тому образу жизни, который вело до перехода к сельскому хозяйству. Часто это понятие используют в более узком смысле, когда говорят о сильной разрухе, утрате современных технологий или уничтожении нашей культуры. Я же говорю о мире, в котором нет ни письменности, ни городов, ни законов, ни каких-либо иных признаков цивилизации.

Коллапс цивилизации – очень серьезная катастрофа, вызвать которую чрезвычайно сложно. Несмотря на все трудности, с которыми цивилизации сталкивались в своей истории, такого не случалось никогда – даже в масштабах континента[84]. Европа выжила, потеряв 25–50 % своего населения во время эпидемии чумы, но сохранив цивилизацию невредимой, и это свидетельствует, что коллапс цивилизации может случиться, только если в каждом регионе мира будет потеряно более 50 % населения[85].

Даже если бы коллапс случился, вполне вероятно, что цивилизацию удалось бы восстановить. Как мы видели, цивилизации независимо друг от друга возникли по крайней мере у семи обособленных народов[86]. Хотя может показаться, что из-за истощения ресурсов восстановить цивилизацию будет сложнее, на самом деле задача сегодня значительно проще. Если произойдет катастрофа, в результате которой человечество не вымрет, после нее на земле останутся одомашненные животные, а также огромное количество материальных ресурсов в руинах городов: заново выковать железо из старых перил наверняка проще, чем выплавить его из руды. Гораздо проще, чем в XVIII веке, будет получить доступ даже к невозобновляемым ресурсам, таким как уголь, ведь у нас найдутся заброшенные разработки и шахты[87]. Кроме того, по всему миру будут обнаруживаться свидетельства о том, что цивилизация вообще возможна, и сведения об инструментах и знаниях, необходимых, чтобы ее восстановить.

Существуют, однако, две тесные связи между коллапсом цивилизации и экзистенциальным риском. Во-первых, если коллапс необратим, он может считаться экзистенциальной катастрофой. Так, вполне можно представить, что определенное изменение климата или специально подготовленная эпидемия сделают планету непригодной для жизни, в результате чего человечество навсегда вернется к собирательству и разрозненному образу жизни[88]. Во-вторых, глобальный коллапс цивилизации может повысить вероятность вымирания человечества, сделав людей более уязвимыми для последующей катастрофы.

В частности, коллапс может привести к вымиранию, если крупнейшая из выживших популяций окажется меньше минимальной жизнеспособной популяции, то есть если ее численность будет ниже, чем необходимо для выживания. Точной цифры здесь нет – этот уровень определяют с позиций вероятности с учетом множества факторов: где находится популяция, к каким технологиям она имеет доступ, в какой катастрофе она выжила. Оценки варьируются в диапазоне от нескольких сотен до десятков тысяч человек[89]. Если непосредственно в результате катастрофы численность населения планеты опускается ниже этого уровня, логичнее считать такую катастрофу событием вымирания, а не необратимым коллапсом цивилизации. Я полагаю, что этот путь к вымиранию будет одним из наиболее типичных.

Мы редко всерьез задумываемся о рисках для всего потенциала человечества. В основном мы сталкиваемся с ними в боевиках, но в таких случаях наш эмоциональный ответ оказывается приглушенным из-за того, что подобными угрозами злоупотребляют, ведь с их помощью легко усилить драматический эффект[90]. Мы видим их и в интернете, когда листаем списки вроде “десять вариантов конца света”, составляемые главным образом для того, чтобы будоражить и развлекать читателей. После окончания холодной войны мы редко натыкаемся на рациональные дискуссии с участием ведущих мыслителей на тему того, что вымирание значило бы для нас, для наших культур, а также для всего человечества[91]. Поэтому в обычной жизни люди зачастую довольно легкомысленно относятся к перспективе вымирания человека.

Но когда риск становится очевидным и достоверным – когда совершенно ясно, что миллиарды жизней и все будущие поколения висят на волоске, – большинство людей не сомневается в важности защиты долгосрочного потенциала человечества. Если бы мы узнали, что к Земле летит крупный астероид, столкновение с которым с вероятностью более 10 % приведет к вымиранию человечества до завершения текущего столетия, вряд ли кто-то стал бы спорить, что́ лучше – потрудиться и построить отклоняющую систему или же закрыть глаза на проблему и понадеяться на авось. Напротив, ответ на угрозу немедленно стал бы одним из главных мировых приоритетов. Таким образом, отсутствие беспокойства из-за подобных угроз сегодня связано скорее с тем, что мы пока не верим в их существование, чем с тем, что мы всерьез сомневаемся в огромном размере ставок.

И все же очень важно постараться понять, из каких источников исходят серьезные угрозы. Это понимание подстегнет наши эмоции и подтолкнет к действию, вызовет новые дискуссии, а также поможет принимать решения о расстановке приоритетов.

Что мы видим в настоящем?

Не все экзистенциальные катастрофы предполагают вымирание человечества, и не все сценарии вымирания предполагают боль или безвременную смерть. Например, теоретически мы могли бы просто решить не заводить потомство. Это могло бы уничтожить наш потенциал, не причинив нам страданий, что вполне допустимо. Но экзистенциальные риски, с которыми мы сталкиваемся в реальности, не столь безболезненны. Напротив, они объективно чудовищны, если судить по общепринятым моральным стандартам.

Если в грядущее столетие человечество будет уничтожено в ходе ядерной зимы, или спроектированной пандемии, или катастрофической войны с использованием новых технологий, то прервутся семь миллиардов жизней, включая, возможно, и вашу жизнь или жизни ваших близких. Многие, вероятно, умрут в муках – от голода, огня, болезней.

Нет нужды объяснять, почему мораль обязывает нас предотвратить этот ужас. Человечество уже переживало катастрофы меньших масштабов, в которых погибали тысячи и даже миллионы людей. Мы знаем, как бесконечно важно предотвращать такие события. В таком масштабе мы теряем способность в полной мере осознавать величину убытков, и все же цифры дают нам представление о том, что с моральной точки зрения стоит на кону[92]. При прочих равных миллионы смертей значительно хуже тысяч, а миллиарды – значительно хуже миллионов. Даже если оценивать катастрофы только по количеству прерванных жизней, вымирание человечества, несомненно, стало бы худшим событием в нашей долгой истории.

Что мы видим в будущем?

Но экзистенциальная катастрофа – это не просто катастрофа, уничтожающая исключительно большое число жизней. Она уничтожает и наш потенциал.

Мой наставник Дерек Парфит предлагал нам представить, как опустошительная ядерная война убивает 99 % населения планеты[93]. После такой войны на многие столетия настали бы темные времена, но в конце концов выжившие смогли бы восстановить цивилизацию в прежнем виде, посрамленные, израненные – но непобежденные.

Теперь сравните это с войной, в которой погибают все 100 % населения. Вторая война, конечно, будет хуже, но насколько? Любая из них может стать худшей катастрофой в истории. В любой погибнут миллиарды. Во второй войне погибших будет на десятки миллионов больше, и по этой причине она хуже. Но есть и другое, гораздо более значимое различие между этими войнами. В обеих погибают миллиарды человек, но только во второй погибает человечество. Обе разрушают наше настоящее, но лишь вторая разрушает наше будущее.

Именно эта количественная разница в потерях за счет последнего процента делает экзистенциальные катастрофы уникальными, в связи с чем снижение риска экзистенциальной катастрофы приобретает исключительную важность[94].

Ожидается, что почти всем людям, которые когда-либо будут жить на Земле, еще только предстоит родиться. В отсутствие катастрофы большинство поколений – будущие. Писатель Джонатан Шелл сказал об этом так:

Вереница поколений, которая тянется в будущее из нашего настоящего, теряется далеко-далеко за пределами нашей видимости, а отмеренные человечеству сроки превосходят всю историю Земли до настоящего момента, и потому в сравнении с ними наш короткий цивилизованный эпизод кажется практически ничтожным. И тем не менее мы грозимся положить всему этому конец во имя своих меняющихся целей и сомнительных убеждений. Если наш вид уничтожит сам себя, он умрет в колыбели – и пополнит статистику младенческой смертности[95].

Поскольку ожидается, что почти вся жизнь человечества еще впереди, впереди и почти всё, что имеет ценность: почти все процветание, почти вся красота, наши важнейшие достижения, наши справедливейшие общества, наши величайшие открытия[96]. Наше общество может и дальше становиться все более процветающим, здоровым, справедливым, свободным и высоконравственным. Мы можем создать такой благополучный мир, который пока не в состоянии даже представить. И если мы сумеем защитить этот мир от катастрофы, он просуществует миллионы столетий. Это и есть наш потенциал – то, чего мы можем добиться, если преодолеем Пропасть и продолжим работать на благо мира.

Именно этот новый взгляд на будущее – осознание огромной ценности человеческого потенциала – и есть главная причина, которая заставляет меня направить всю свою энергию на снижение экзистенциального риска. Когда я думаю о миллионах будущих поколений, мне становится очевидно, насколько важно сберечь будущее человечества. Рисковать уничтожением этого будущего ради получения тех или иных преимуществ, ограниченных настоящим, – крайне узколобая и опасно недальновидная стратегия. Такая беспечность ставит крошечный фрагмент нашей истории выше всей ее протяженности, крошечное меньшинство людей – выше подавляющего большинства, которому только предстоит родиться, а наш единственный век – выше миллионов, а может, и миллиардов грядущих веков[97].

Чтобы понять, почему это было бы неправильно, проведите аналогию с расстоянием. Значимость человека не уменьшается, когда он отдаляется от вас в пространстве. Неважно, заболеет моя жена на конференции в Кении или у нас дома в Оксфорде. И благополучие случайных людей в Кении значит столько же, сколько и благополучие случайных людей в Оксфорде. Разумеется, у нас могут быть особые обязательства перед некоторыми людьми – перед близкими, перед членами нашего сообщества, – но расстояние в пространстве само по себе никогда не определяет различия в наших обязательствах. Признать, что люди одинаково важны вне зависимости от географического положения, – значит сделать серьезный шаг на пути нравственного прогресса, и нам нужно активнее внедрять соответствующие принципы в свою политическую и благотворительную деятельность.

Люди одинаково важны и вне зависимости от временно́го положения. Наши жизни важны в той же степени, как жизни всех, кто жил тысячи лет назад и кто будет жить через тысячу лет[98]. Подобно тому как было бы неправильно полагать, что важность людей снижается по мере их отдаления от вас в пространстве, неправильно и думать, что их важность снижается по мере отдаления во времени. Их счастье не менее ценно, а страдания – не менее ужасны.

Признать, что люди одинаково важны, когда бы они ни жили, – значит сделать следующий серьезный шаг на пути нравственного прогресса человечества. Многие из нас уже в некоторой степени признают это равенство. Мы знаем, что неправильно ухудшать положение будущих поколений ради меньших выгод для самих себя. Если задать такой вопрос, мы согласимся, что люди сегодня не имеют объективно большей важности, чем люди в будущем. Однако мы полагаем, что на большинстве наших приоритетов это не сказывается. Так, мы считаем, что долгосрочные эффекты наших решений быстро исчезают; что в них столько неопределенности, что хорошее перевешивает плохое; и что люди будущего лучше нас смогут о себе позаботиться[99].

Но возможность возникновения предотвратимых экзистенциальных рисков на нашем веку показывает, что порой наши действия могут оказывать устойчивое положительное влияние на все долгосрочное будущее и мы сами – единственное поколение, способное обеспечить это влияние[100]. Таким образом, представление о том, что люди будущего не менее важны, чем мы сами, имеет глубокие практические следствия. Нам предстоит большая работа, если мы хотим в полной мере осознать и внедрить их в нашу мораль.

Подобные соображения предполагают существование этической системы, которую можно назвать философией лонгтермизма и которая уделяет особое внимание влиянию наших действий на отдаленное будущее[101]. В рамках этой системы крайне важно, что нашему поколению отведена лишь одна страница в гораздо более длинной истории и наша главная роль, вероятно, в том, чтобы повлиять (или не суметь повлиять) на ход этой истории. Работа над сохранением потенциала человечества – это один из способов оставить такой долгий след, но могут быть и другие[102].

Необязательно рассматривать экзистенциальный риск под таким углом – есть серьезные моральные основания снижать его даже в связи с его немедленными эффектами, – но этика лонгтермизма тем не менее особенно хорошо подходит для преодоления экзистенциального риска. Дело в том, что лонгтермизм основан на нравственной переориентации на безбрежное будущее, которое могут перечеркнуть экзистенциальные риски.

Несомненно, здесь есть и сложности.

Когда специалисты по экономике оценивают будущие выгоды, они применяют метод дисконтирования, при котором снижают ценность выгоды в зависимости от того, насколько долго придется ее ждать. Если взять стандартную ставку дисконтирования 5 % в год и применить ее к нашему будущему, ценности в нем останется на удивление немного. При неграмотном применении метод дисконтирования покажет, что наше будущее всего раз в двадцать ценнее грядущего года, а в период с 2100 года до бесконечности оно стоит даже меньше грядущего года. Не возникают ли в связи с этим сомнения, что наше будущее действительно обладает огромной ценностью?

Нет. Подобные результаты получаются только при некорректном применении экономических методов. Когда учитываются тонкие аспекты проблемы и метод дисконтирования применяется как положено, будущее приобретает чрезвычайно высокую ценность. Не будем слишком глубоко погружаться в математические детали – пока достаточно отметить, что дисконтирование человеческого благосостояния (а не таких материальных благ, как деньги) исключительно на основе отдаленности от нас во времени дает крайне недостоверные результаты, особенно при рассмотрении таких длительных периодов, какие обсуждаются на страницах этой книги. Так, подразумевается, что если у вас есть возможность либо спасти одного человека от головной боли через миллион лет, либо миллиард людей от пыток через два миллиона лет, то спасать нужно человека, у которого болит голова[103]. Подробнее о том, почему экономическое дисконтирование не умаляет ценность долгосрочного будущего, написано в Приложении А.

Некоторые философы сомневаются в необходимости защиты нашего долгосрочного будущего по другой причине. Они отмечают, что в этом случае необычно не только время получения выгод. Если мы спасем человечество от вымирания, это изменит число людей, которые когда-либо будут жить на земле. В связи с этим встают этические вопросы, которых не возникает, если мы просто спасаем жизни уже живущих людей. Сторонники некоторых радикальных подходов к этой относительно новой сфере “популяционной этики” полагают, что не допускать вымирания исключительно из заботы о будущих поколениях бессмысленно, ведь совершенно неважно, появятся ли люди будущего на свет.

Подробное рассмотрение этих вопросов заняло бы слишком много места и было бы интересно лишь немногим, поэтому я отведу для обстоятельной дискуссии на эту тему Приложение B. В двух словах, аргументы в пользу такого подхода мне также не кажутся убедительными. Его сторонники пытаются понять, почему нас должно волновать, вредим ли мы людям будущего, когда загрязняем планету и способствуем изменению климата, и объясняют, почему у нас есть серьезные основания не допустить в будущем такой ужасной жизни. В то же время те, кто поддерживает эти взгляды, за исключением самых невероятных из них, согласны, что крайне важно спасти будущие поколения от других типов экзистенциальных катастроф, например от необратимого коллапса цивилизации. Поскольку большинство рисков, грозящих вымиранием, грозят и таким коллапсом, на практике разница между ними невелика. Вместе с тем нюансов в этих вопросах немало, и потому я советую заинтересованным читателям обратиться к приложению.

Я хочу упомянуть и еще одно возражение. Когда я был моложе, меня порой тешила мысль, что полное уничтожение человечества будет, пожалуй, не таким уж плохим исходом. Людей не останется, поэтому некому будет скорбеть и страдать. Раз исчезнет сама категория “плохого”, то как вообще уничтожение может быть плохим? А если существование человечества было необходимым условием для существования категорий плохого и хорошего, правильного и неправильного, то, возможно, эти категории станут вообще неприменимыми в безмолвии, которое воцарится на земле.

Но теперь я понимаю, что такие рассуждения не лучше старых доводов философа Эпикура, который утверждал, что в смерти для человека нет ничего плохого, поскольку переживать ее человеку не приходится. Однако здесь не учитывается, что если я брошусь под машину и погибну, то моя жизнь в целом станет короче, а следовательно, хуже – не потому, что в ней станет больше плохого, а потому, что в ней окажется меньше хорошего. Именно поэтому не стоит бросаться под машину. Хотя аргумент Эпикура может служить утешением в минуты скорби и страха, его не стоит считать руководством к действию, как никто и не делает. Представьте, что правительство ссылается на него, определяя политику в сферах безопасности и здравоохранения или принимая законы об убийствах.

Если бы катастрофа в этом столетии привела к нашему вымиранию, то жизнь человечества стала бы короче и, следовательно, хуже[104]. Учитывая, что человечество пока пребывает в младенчестве, она стала бы гораздо короче – и гораздо хуже. Даже если бы не осталось никого, кто мог бы признать это трагедией, мы вполне можем вынести такое суждение уже сейчас. Подобно тому как мы можем судить о событиях, происходящих в других местах, мы можем судить и о событиях, происходящих в другое время[105]. И если эти суждения корректны сейчас, они останутся корректными и тогда, когда нас не станет. Я не стал бы винить людей, которые на закате жизни человечества нашли бы утешение в эпикурейских аргументах. Но пока нам решать, насколько долгую и полную жизнь проживет человечество, и мы должны признать эту ответственность[106].

Этим возможные возражения не исчерпываются. И все же нет нужды отвечать на все до единого философские вопросы о ценности будущего, чтобы решить, стоит ли оберегать наш потенциал. Сама идея, что будет относительно неважно, вымрет ли человечество или же будет процветать на протяжении миллиардов лет, представляется глубоко неправдоподобной. В этом отношении любая теория, которая это отрицает, должна восприниматься с изрядной долей скепсиса[107].

Более того, будущее – это не единственный моральный ориентир при оценке экзистенциальной катастрофы. Он кажется мне самым важным и сильнее других заставляет меня посвящать время и силы этой проблеме, но существуют и другие ориентиры, связанные с другими моральными традициями. Давайте кратко проанализируем, как забота об экзистенциальном риске может проистекать из наших представлений о прошлом, о нашем характере и нашей космической роли. Именно благодаря этому люди, имеющие разные представления о морали, могут прийти к единому выводу.

Что мы видим в прошлом?

Мы не первое поколение. Наша культура, институты и нормы, наши знания, технологии и благосостояние постепенно формировались нашими предками на протяжении десяти тысяч поколений. В прошлой главе мы увидели, что выдающийся успех человечества был основан на нашей способности к межпоколенческой кооперации – на умении перенимать знания у родителей, дополнять их и затем передавать детям. Без такой кооперации у нас не было бы ни домов, ни ферм, ни танцевальных или песенных традиций, ни письменности, ни наций[108].

Эту мысль прекрасно выразил политолог Эдмунд Бёрк, который придерживался консервативных взглядов. В 1790 году он написал об обществе:

Это общество, в котором должны развиваться все науки и искусства, все добродетели и совершенства. Такая цель может быть достигнута только многими сменявшими друг друга поколениями – поэтому общественный договор заключается не только между ныне живущими, но между нынешним, прошлым и будущим поколениями[109].

Здесь могут найтись причины беречь человечество, уходящие корнями в наше прошлое, – обязательства перед нашими дедами, а также перед нашими внуками.

Наши предки положили начало великим проектам, с которым ни одному поколению не справиться в одиночку. Это такие проекты, как стремление положить конец всем войнам, построить справедливый мир и изучить Вселенную. Еще в 65 году нашей эры Сенека Младший четко обозначил такой масштабный межпоколенческий проект:

Придет время, когда усердие долгих поколений вытащит в один прекрасный день на свет все то, что скрыто сейчас от нас. Для такого исследования одной жизни недостаточно, даже если вся она будет посвящена небу […] Все это будет разъясняться постепенно в долгой череде преемства. Но придет время, и потомки наши удивятся, что мы не знали столь простых вещей […] Пусть потомки тоже внесут свою лепту в исследование истины […] Люди грядущего поколения будут знать многое неизвестное нам, и многое останется неизвестным для тех, кто будет жить, когда изгладится всякая память о нас[110].

Поразительно, что к нам столь прямо обращаются через такую бездну времен и что реализация этого двухтысячелетнего плана продолжается[111].

Ни человек, ни целое поколение людей не могут довести до конца такие масштабные проекты. Но человечество может. Мы работаем вместе, и каждое поколение продвигается чуть дальше, расширяя возможности, наращивая ресурсы и развивая институты, чтобы будущие поколения могли сделать следующий шаг.

Когда я думаю о непрерывной последовательности поколений, которая тянется к нашему времени, и обо всем, что им удалось создать для нас, мне хочется склонить перед ними голову. Меня переполняет благодарность и поражает грандиозность наследия и невозможность хоть как-то отплатить за оказанную услугу. Дело в том, что сотню миллиардов человек, которым я обязан всем, уже не вернуть, а созданное ими гораздо больше моей жизни, больше всего моего поколения.

Это верно и на личном уровне. В первые месяцы после рождения моей дочери я осознал, как много делают и делали для меня мои родители. Я был поражен. Я поговорил с ними, поблагодарил их и извинился, отметив, что никогда не смогу им отплатить. Улыбнувшись, они сказали, что жизнь устроена иначе: дети не возвращают долги родителям, а отдают их следующему поколению.

Мои родители не философы. Однако их слова показывают, каким еще образом прошлое может служить обоснованием наших обязательств перед будущим. Поскольку время движется только вперед, гораздо проще помогать тем людям, которые приходят в этот мир после нас, чем тем, кто жил раньше, и потому, анализируя партнерство поколений, важно учитывать его асимметрию: обязательства в нем направлены лишь в одну сторону, а долги отдаются следующим поколениям. С такой точки зрения наши обязательства перед будущими поколениями могут быть обусловлены тем, что наши предки трудились ради нас, когда мы сами были будущими поколениями[112].

Таким образом, если мы уроним эстафетную палочку и погибнем в результате экзистенциальной катастрофы, то подведем своих предков во многих смыслах. Мы не сумеем воплотить в жизнь их мечты, не оправдаем доверия, которое они возлагали на нас, их наследников, а еще не справимся с возложенной на нас задачей отплатить будущим поколениям за труд прошлых на наше благо. Следовательно, пренебрегая экзистенциальным риском, мы подведем не только людей будущего, но и людей прошлого.

Кроме того, возникнет риск уничтожить все ценное, что есть у нас из прошлого и что мы хотели бы сохранить[113]. Некоторые философы утверждают, что некоторые ценности нужно не продвигать, а защищать и оберегать, лелеять и боготворить[114]. Мы часто воспринимаем так ценность культурных традиций. Мы видим коренные языки и жизненные уклады, которые оказываются под угрозой и могут даже навсегда исчезнуть из нашего мира, и нас переполняет желание сберечь их и защитить от будущих угроз.

Человека, воспринимающего таким образом и ценность человечества, возможно, не слишком тронет потеря того, что могло бы быть в будущем. Но даже его ужаснет вымирание: разрушение всех соборов и храмов, исчезновение всех стихов на всех языках, полное и окончательное уничтожение всех культурных традиций, которые знала Земля. Перед лицом серьезной угрозы вымирания или необратимого коллапса цивилизации традиция, основанная на сохранении или пестовании богатства человечества, тоже потребовала бы действий[115].

Наконец, у нас могут быть обязательства перед будущим, проистекающие из пороков прошлого. Дело в том, что мы могли бы искупить некоторые из своих прошлых ошибок. Если бы мы потерпели поражение сейчас, у нас не получилось бы выполнить стоящие перед нами задачи по устранению ущерба, нанесенного планете: избавиться от загрязнения и мусора, вернуть климат в доиндустриальное состояние, восстановить былое великолепие экосистем. Можно также вспомнить, что некоторые из величайших проявлений несправедливости наблюдались не при взаимодействии индивидов, а при взаимодействии групп: систематическое преследование, кража земель, геноцид. Нашей обязанностью может быть признание этих ошибок и увековечение памяти о них, преодоление несправедливости, совершенной в прошлом. У тех, кто извлек выгоду из этих ситуаций, могут быть и способы частично загладить или искупить свою вину. Экзистенциальная катастрофа лишит нас последней надежды на это.

Цивилизационные добродетели

При хорошем раскладе человечество пребывает на раннем этапе жизни: мы пока подростки и только предвкушаем замечательную зрелость. Как и любой подросток, человечество стремительно обретает свою полную силу и жаждет возможности поиграть мускулами и испытать каждую свою новую способность, как только обретает ее. Мы редко задумываемся о будущем. Да, порой мы рассуждаем о “долгосрочной перспективе”, но обычно имеем в виду следующие десять-двадцать лет. Для человека это долго, для всего человечества – лишь краткий миг.

1 Blanton, Burr & Savranskaya (2012).
2 Ellsberg (2017), pp. 215–217.
3 McNamara (1992).
4 Ошибки, разумеется, на моей совести. Обновляемый список замеченных ошибок можно найти на странице theprecipice.com/errata. Я говорю спасибо за профессиональные консультации Фреду Адамсу, Ричарду Элли, Тацуе Амано, Сету Бауму, Нилу Боуэрмену, Майлзу Брандейджу, Каталине Кангеа, Пауло Чеппи, Кларку Чепмену, Дэвиду Кристиану, Аллану Дефо, Ричарду Данцигу, Бену Дэю, Дэвиду Денкен-бергеру, Дэниелу Дьюи, Эрику Дрекслеру, Дэниелу Эллсбергу, Оуэну Эвансу, Себастиану Факуару, Владу Фирою, Бену Гарфинкелю, Тиму Геневейну, Гудвину Гиббонсу, Тору Грепелю, Джоанне Хей, Алану Харрису, Хиски Хауккале, Айре Гельфанду, Говарду Херцогу, Майклу Дженнеру, Риа Каллури, Джиму Кастингу, Яну Лейке, Роберту Лемперту, Эндрю Левану, Грегори Льюису, Марку Липсичу, Розали Лопес, Стивену Луби, Энджелу Лужнице, Дэвиду Манхейму, Йохему Маротцке, Джейсону Матени, Пирсу Миллетту, Майклу Монтегю, Дэвиду Моррисону, Кэссиди Нельсон, Клайву Оппенгеймеру, Рэймонду Пьерхумберту, Максу Поппу, Дэвиду Пайлу, Майклу Рампино, Джорджии Рэй, Кэтрин Роудс, Ричарду Роудсу, Карлу Робишо, Тайлеру Робинсону, Алану Робоку, Луизе Родригес, Максу Розеру, Джонатану Ружье, Эндрю Рашби, Стюарту Расселлу, Скотту Сагану, Андерсу Сэндбергу, Хауке Шмидту, Рохину Шаху, Стиву Шервуду, Льюису Смиту, Джейкобу Стейнхардту, Шелдону Штерну, Брайану Томасу, Брайану Туну, Филу Торресу, Мартину Вайцману, Брайану Уилкоксу, Алексу Вону, Лили Ся и Дональду Йомансу.
5 Я также взял на себя дополнительное обязательство оставлять себе всего 18 тысяч фунтов в год и отдавать все остальное на благотворительность. Эта сумма корректируется с учетом инфляции (в настоящее время она составляет 21 868 фунтов) и не включает в себя расходы на моего ребенка (несколько тысяч фунтов в год). Пока мне удалось пожертвовать более четверти всех денег, которые я заработал в течение жизни.
6 К моменту создания этой книги члены Giving What We Can пожертвовали 100 млн фунтов эффективным благотворительным фондам (Giving What We Can, 2019). Средства были направлены во множество разных организаций, поэтому оценить эффект пожертвований непросто. Однако одни только 6 млн, которые пошли на закупку москитных сеток, обеспечили более 3 млн человеко-лет защиты и тем самым спасли более 2000 жизней (GiveWell, 2019).
7 Фактически в примечаниях читателям, желающим узнать больше, предлагается такой объем информации, которого хватило бы и на вторую книгу. Если вы любопытны, я советую вам использовать две закладки, чтобы без труда обращаться к примечаниям в ходе чтения. Я приложил все усилия, чтобы в среднем качество примечаний было высоким, а вам не было бы жалко потраченного на них времени (в них редко приводятся лишь ссылки на источники). Поскольку я старался не отступать от темы в основной части книги, все любопытные дополнения спрятаны в примечаниях. Вас, возможно, также заинтересуют приложения, список литературы для дополнительного чтения (с. 333) и сайт книги theprecipice.com, где содержится еще больше информации и ведутся обсуждения.
8 Разумеется, даже после тщательной проверки фактов наивно полагать, что в текст не закралось ни предубеждений, ни ошибок, поэтому я надеюсь, что читатели помогут мне найти и исправить оставшиеся несовершенства.
9 Sagan (1994), pp. 305–306; перевод О. Сивченко. [Extract from Pale Blue Dot copyright © 1994 Carl Sagan. Originally published in Pale Blue Dot by Random House. Reprinted with permission from Democritus Proper-ties, LLC. All rights reserved this material cannot be further circulated without written permission of Democritus Properties, LLC.]
10 Многие даты, упоминаемые в этой главе, известны лишь приблизительно или относятся к переходам, которые растянулись на много лет. Вместо того чтобы засорять текст диапазонами оценок и часто прибегать к словам “примерно” и “приблизительно”, я использую принятые в науке цифры, округленные таким образом, чтобы отразить степень их точности. Невозможно достоверно сказать, когда началась история Homo sapiens. Существуют останки возрастом 200 тысяч лет, которые, как считается, принадлежат анатомически современным людям. При этом ведутся ожесточенные споры о том, относить ли найденные позже окаменелости возрастом около 300 тысяч лет к останкам вида Homo sapiens (Galway-Witham & Stringer, 2018). Еще важнее, что непонятно, кого считать “человеком” и что мы вообще подразумеваем, употребляя это понятие. Нашему роду Homo от 2 до 3 млн лет, а если мы будем называть людьми всех наших предков, которые изготавливали орудия труда, то в их число войдут и австралопитеки, жившие более 3 млн лет назад (Antón, Potts & Aiello, 2014). Я главным образом рассматриваю свидетельства, полученные при изучении окаменелостей, а не с помощью молекулярной филогенетики (которая обычно дает более долгие оценки продолжительности жизни), поскольку первая методика получает более широкое признание.
11 В то время современный континент Австралия и современный остров Новая Гвинея были объединены в более крупный континент, который иногда называют Сахулом. От Азии его отделяло не менее 160 км открытого моря, преодолеть которые тогда было непросто (Christian, 2004, p. 191). Когда люди впервые ступили в этот новый мир с его уникальными животными и растениями, они оказались на земле, которая сегодня принадлежит Новой Гвинее.
12 Мы также адаптировали под свои нужды окружающую среду. Еще до распространения сельского хозяйства мы с помощью огня меняли облик континентов, создав таким образом множество диких пастбищ, которые сегодня считаем существовавшими во все времена (Kaplan et al., 2016).
13 Рисунки 1.1 и 1.2 в модифицированном виде взяты из книги Christian (2004), pp. 193, 213 с разрешения автора.
14 Возможно, Homo sapiens и наши близкие родственники обладают некоторыми уникальными физическими характеристиками, такими как проворные руки, прямохождение и звучные голоса. Но одним лишь этим успех вида не объяснить. В совокупности с интеллектом эти характеристики повысили нашу способность к коммуникации, а также к освоению и созданию технологий.
15 Рассуждения о том, как все люди чем дальше, тем больше сотрудничали друг с другом, могут показаться наивными и идеалистическими, поскольку порой под сотрудничеством понимается совместная работа из альтруистических побуждений. Но я использую это слово в более широком смысле, имея в виду, что люди согласовывали свои действия, чтобы добиваться желаемого, если в одиночку достичь цели было невозможно. Порой они действовали из альтруистических побуждений (и даже в одностороннем порядке), но движущей силой кооперации могли служить и разные формы обмена. О том, насколько важную роль социальное обучение сыграло в нашем успехе, пишет, например, Henrich (2015).
16 Разумеется, выбор количества переходных периодов и их отличительных черт в некоторой степени произволен. Если бы я решил назвать лишь два перехода, то выбрал бы неолитическую революцию и промышленную революцию (возможно, определив последнюю более широко, чтобы включить в нее научную революцию). Если бы я решил назвать четыре сдвига, то, пожалуй, разбил бы неолитическую революцию на две части: переход к земледелию и подъем цивилизации (который я бы в таком случае связал с появлением городов около 5000 лет назад). Скрупулезное описание общей картины развития человечества можно найти в книге Дэвида Кристиана Maps of Time (2004).
17 В некотором отношении понятие “революция” некорректно: она не была ни быстрой, ни повсеместной. Переход от собирательства к земледелию растянулся на тысячи лет, и лишь еще тысячи лет спустя возникли города, появилась письменность и другие вещи, которые, по нашему мнению, характеризуют цивилизацию. Некоторые народы продолжали заниматься собирательством даже в этот период. (Подобные замечания можно сделать также в отношении промышленной революции, которая произошла в десять раз быстрее.) Однако по стандартам развития человечества в предыдущие 200 тысяч лет неолитическая революция была стремительной и привела к появлению совершенно нового образа жизни.
18 Здесь я использую понятие “сила” в физическом смысле: количество энергии за единицу времени. Использование тяглового скота радикально повысило количество энергии, которой один человек располагал ежедневно.
19 Существуют свидетельства зарождения сельского хозяйства в зоне Плодородного полумесяца (12 тыс. лет назад), в бассейне Янцзы и Хуанхэ (10–6 тыс. лет назад), в Папуа – Новой Гвинее (10–7 тыс. лет назад), в Центральной Мексике (10 тыс. лет назад), в Южной Америке (9–5 тыс. лет назад), на востоке Северной Америки (5–4 тыс. лет назад), а также в Черной Африке (4–2 тыс. лет назад).
20 В эпоху собирательства для пропитания одного человека, как правило, требовалось около 25 квадратных километров земли (Christian, 2004). Чтобы обеспечивать себя пропитанием, группе приходилось часто передвигаться по площади в несколько сотен квадратных километров. Количество земли, необходимой для пропитания одного человека, так сильно сократилось, поскольку продуктивная способность почвы стала в гораздо большей степени использоваться для выращивания растений, пригодных в пищу человеку.
21 McEvedy & Jones (1978), p. 149.
22 Durand (1960). Вскоре после этого такой же численности достигло население Римской империи, и большая часть людей на планете жила в одном из этих государств.
23 Как и сельское хозяйство, каждое из этих новшеств независимо появилось в нескольких регионах мира.
24 Другие ученые порой называют эту революцию эпохой Просвещения или объединяют ее с промышленной революцией.
25 Среди прочих заметный след оставил ученый Ибн аль-Хайсам (ок. 965–1040), который применил в сфере оптики экспериментальные методы, оказавшие влияние на исследования Роберта Гроссетеста и Роджера Бэкона в XIII веке. Идея о постепенном углублении наших представлений о мире восходит к работе Сенеки “Вопросы естествознания”, написанной в 65 году нашей эры (Seneca, 1972; см. с. 64).
26 Трактат Фрэнсиса Бэкона “Новый органон” (1620) – классическое введение в научный метод, появление которого считается точкой отсчета научной революции. Ведутся споры о том, почему более ранние успехи за пределами Европы не привели к началу устойчивого накопления знаний, которое продолжается с XVII века. См., например, Sivin (1982).
27 Поскольку лишь крошечная доля организмов превратилась в ископаемое топливо, энергия, заключенная во всех мировых запасах ископаемого топлива, не соответствует объему солнечной энергии, которая поступала на Землю на протяжении миллионов лет. Энергии ископаемого топлива хватит “всего” на 20–200 лет роста растений на планете, а это лишь 4–40 дней солнечного света, перехватываемого Землей (по подсчетам автора). Тем не менее ископаемые виды топлива дали гораздо больше энергии, чем можно было бы получить при использовании водяных мельниц и сжигании дерева. Возможно, человечество сумело бы в конце концов выйти на текущий уровень совокупного богатства без ископаемого топлива, но неясно, был ли у него шанс разорвать связь между увеличением доходов и ростом численности населения, чтобы повысить уровень благосостояния на душу населения. Поразительно, но это свидетельствует, что Солнце обладает потенциалом производить в год больше энергии, чем содержится во всех запасах ископаемого топлива, когда либо существовавших в мире.
28 В особенности это относится к усовершенствованной паровой машине Джеймса Уатта, сконструированной в 1791 году. Более ранние машины были настолько неэффективными, что с финансовой точки зрения использовать их было целесообразно лишь для выполнения небольшого числа задач. Следующим подобным прорывом более 100 лет спустя стал дизельный двигатель.
29 Важную роль играют и многие другие факторы, в частности политическая, экономическая и финансовая системы.
30 Mummert et al. (2011).
31 Условия работы и жизни в промышленной Англии, в частности, ярко описаны Энгельсом (1892).
32 Van Zanden et al. (2014). См. Milanovic (2016) – целую книгу, посвященную исследованию внутри- и межстранового неравенства в последние два столетия.
33 В этой книге я использую слово “история” в его широком обиходном смысле, подразумевая все, что случилось в прошлом (в нашем случае – с человечеством). Это классическое словарное определение, которое соответствует универсальному характеру этой книги. Историки, напротив, обычно называют “историей” лишь события, которые случились тогда и там, где их могли зафиксировать письменно, и потому относят происходившее в Месопотамии более 6 тысяч лет назад и в Австралии до 1788 года к “доистории”.
34 Примерно такова концепция мальтузианской ловушки. [Томас Мальтус (1766–1834) – английский ученый, выдвинувший идею о том, что рост человечества (в геометрической прогрессии) всегда будет опережать рост производства (в арифметической прогрессии) и, следовательно, последовательное обнищание человечества неизбежно. – Прим. науч. ред.] Стоит отметить, что очень сложно сравнивать доходы в разные времена. Определив “прожиточный минимум”, можно понять, какая доля дохода необходима, чтобы человек сумел прожить, но при этом не получится учесть изменения в качестве и разнообразии потребляемой пищи, или в качестве того, что можно приобрести на скромную оставшуюся сумму, или в любом другом аспекте качества жизни. В связи с этим положение отдельного человека (или общества) может становиться лучше (или хуже), даже если доходы не вырастают выше прожиточного минимума. С учетом всего этого момент, когда человечество вырвалось из мальтузианской ловушки, стал очень важным сдвигом в его истории.
35 Источником данных, в соответствии с которыми черта бедности определяется жизнью на два доллара в день, стал ресурс Our World in Data: Global Extreme Poverty (Roser & Ortiz-Ospina, 2019a). Наблюдаются значительные улучшения и если провести черту бедности выше. Я выбрал уровень в два доллара в день не потому, что он достаточен, а потому, что он показывает, что до промышленной революции доходы у всех были крайне недостаточными. Речь не о том, что сегодня все в порядке, но о том, что раньше ситуация была ужасной. Жители более богатых стран порой не верят этой статистике, поскольку не могут представить, чтобы кто то в их городе вообще мог прожить всего на два доллара в день. Но статистика, увы, не врет и даже учитывает, что в более бедных странах денег порой тратится даже меньше. Дело в том, что людям, живущим за чертой бедности, приходится жить в таких плохих условиях и потреблять такую плохую пищу, что эквивалентных предложений в более богатых странах просто не существует.
36 Хотя всеобщее школьное обучение стало важным фактором, стоит обратить внимание на то, что положительная тенденция к повышению уровня грамотности началась еще до промышленной революции, накануне которой уровень грамотности в Великобритании составлял 50 %. Вероятно, значительный вклад в это также внесла научная революция. Данные об уровне грамотности взяты с ресурса Our World in Data: Literacy (Roser & Ortiz-Ospina, 2019b).
37 Обратите внимание, что данные об ожидаемой продолжительности жизни в прошлом с трудом поддаются интерпретации, поскольку показывают средний возраст людей на момент смерти, а не типичный возраст на момент смерти. И раньше были люди, которые доживали до появления внуков, но в то же время очень многие умирали в младенчестве или детстве, значительно снижая средний показатель.
38 Данные об ожидаемой продолжительности жизни в долгосрочной перспективе взяты из книги Cohen (1989), p. 102. Данные об ожидаемой продолжительности жизни в Исландии в доиндустриальную эпоху – с сайта Gapminder (2019). Данные о текущей ожидаемой продолжительности жизни – из доклада ВОЗ “Мировая статистика здравоохранения” за 2016 год (WHO, 2016).
39 Взято с изменениями из Roser (2015).
40 Один из самых ранних текстов, представляющих интерес в этом отношении, – Кодекс Хаммурапи (XVIII век до н. э.). Хотя это юридический текст, он позволяет понять, какие нравственные нормы лежали в его основе, и показывает, как сильно они изменились с тех пор. См. любопытную дискуссию у Harari (2014), pp. 117–122.
41 См. множество примеров в книге Пинкера “Лучшее в нас” (2012). Обратите, однако, внимание, что свидетельств о снижении уровня насилия становится меньше всего, когда речь заходит о насилии в масштабах государств (войны и геноциды) в XX веке.
42 Так, рассказ о столетиях, которые ушли у Западной Европы на восстановление после краха античной цивилизации, занимает важное место в большинстве западных исторических нарративов, но стоит взглянуть на всю планету, включая Китай, Индию, исламский мир, Америку и даже Византию, как станет ясно, что общая тенденция была не такой уж негативной. Полезно провести аналогию с рынком акций. В масштабе дней и месяцев отдельные акции примерно с одинаковой вероятностью могут как подорожать, так и подешеветь. Однако, если взглянуть на рынок в целом в масштабе десятков лет, восходящий тренд окажется очевидным и устойчивым на протяжении столетий. Или, как Томас Маколей отметил в 1830 году, “одна какая нибудь волна может отойти назад, но самый прилив явно подвигается далее” (1900, p. 542). По мере поступления новой информации становится все очевиднее, что считать разговоры о прогрессе недопустимыми в историческом анализе – значит игнорировать ключевой аспект человеческой истории. Если профессиональные историки хотят ограничить свои изыскания и аналитику дескриптивными вопросами, решать им. Но нам необязательно следовать их примеру. Некоторые из наиболее важных событий нашего прошлого имеют значимые оценочные и нормативные последствия, которые необходимо обсуждать, если человечество хочет извлекать уроки из собственной истории.
43 Скепсис ученых порой объясняется нежеланием вообще давать оценку прошлому, поскольку часто это делается некачественно, поскольку это не работа историка или поскольку этому противоречат философские установки.
44 Оценить число людей, которые когда либо жили на планете, непросто, поскольку у нас нет данных о численности населения для большей части истории человечества. Этот показатель особенно чувствителен к оценкам ожидаемой продолжительности жизни в долгосрочной перспективе. Haub & Kaneda (2018) называют цифру 108 млрд человек. Если прибавить соответствующие величины к более ранним оценкам Gold-berg (1983) и Deevey (1960), то получится 55 млрд и 81 млрд соответственно (по подсчетам автора). В целом 100 млрд – надежная медианная оценка при реалистичном диапазоне 50–150 млрд.
45 Macaulay (1900), p. 544.
46 Оценки средней продолжительности существования видов млекопитающих варьируются в диапазоне от 0,6 млн лет (Barnosky et al., 2011) до 1,7 млн лет (Foote & Raup, 1996). Старейшие окаменелости, которые принято связывать с Homo erectus, были найдены при раскопках Дманиси на территории современной Грузии; их возраст составляет 1,8 млн лет (Lordkipanidze et al., 2006). Самые молодые окаменелости были обнаружены на территории современной Индонезии; их возраст – 0,1 млн лет (Yokoyama et al., 2008).
47 В масштабе такой жизни весь XXI век уложился бы в три дня – три судьбоносных дня, ради которых под угрозу была поставлена вся жизнь человечества.
48 Мы можем достаточно уверенно сказать, что бесконтрольный и влажный парниковые эффекты (подробнее о них – в главе 4) ограничивают возможную продолжительность существования жизни на Земле, но нам сложно сказать наверняка, когда они дадут о себе знать, поскольку наши климатические модели, как известно, несовершенны. Wolf & Toon (2015) полагают, что “влажный парник” возникнет примерно через 2 млрд лет, но Leconte et al. (2013) считают, что это случится раньше, уже через 1 млрд лет. Открытым остается вопрос, не приведет ли снижение концентрации углекислого газа и повышение температуры к тому, что Земля станет непригодной для жизни еще до возникновения влажного и бесконтрольного парниковых эффектов. Rushby et al. (2018) считают, что снижение концентрации углекислого газа произойдет примерно через 800 млн лет для С3 фотосинтеза и еще примерно через 500 млн лет для C4 фотосинтеза. Поскольку сроки очень велики, нельзя не учитывать, что эволюция может привести к появлению новых форм жизни, способных существовать в климате, непригодном для уже существующих форм жизни. Не стоит забывать, что первые растения с C4 фотосинтезом появились около 32 млн лет назад (Kellog, 2013).
49 Эти слова приписывают Константину Циолковскому (Siddiqi, 2010, p. 371).
50 Сложно сказать, когда именно началась новая эпоха. Я выбрал первый взрыв атомной бомбы, поскольку он принес возможность разрушить весь мир, накалив атмосферу (см. подробнее в главе 4). Можно выбрать и более позднюю дату, когда ядерные арсеналы стали достаточно велики, чтобы угроза наступления ядерной зимы оказалась действительно реальной. Если расширить идею от вымирания до экзистенциального риска (см. главу 2), то можно, вероятно, начать отсчет эпохи на несколько лет раньше и связать датировку с угрозой глобального тоталитаризма, которую принесла с собой Вторая мировая война.
51 Это было испытание “Айви Майк”, проведенное в США в 1952 году. Мощность взрыва составила 10,4 мегатонны (в тротиловом эквиваленте, который используется в качестве стандартной единицы взрывной мощности), в то время как совокупная мощность взрывчатки, использованной за всю Вторую мировую войну (включая бомбардировку Хиросимы и Нагасаки), составила около 6 мегатонн (Pauling, 1962). Но лишь через несколько лет термоядерное оружие удалось уменьшить в достаточной степени, чтобы его смог поднять бомбардировщик.
52 Обратите внимание, что многие уважаемые ученые самоуверенно заявляли о неминуемом уничтожении человечества в XX веке. См. Pinker (2018, p. 309).
53 Это вовсе не доказано. Даже сегодня существует слишком мало исследований на тему того, что именно станет главным разрушительным механизмом в случае ядерной войны.
54 По шкале DEFCON определялся уровень готовности войск к боевым действиям, но расшифровка уровней в период холодной войны менялась. Чем меньше цифра, тем более вероятна война. Самым высоким из достигнутых уровней стал DEFCON 2, который был зафиксирован позже во время Карибского кризиса, а также в ходе первой войны в Персидском заливе в 1991 году.
55 Здесь нельзя не задаться вопросом, насколько опаснее стал бы кризис, если бы у власти в то время пребывали другие люди. Сумели ли бы наши действующие лидеры обеспечить мирное разрешение конфликта?
56 Около 100 из этих боеголовок состояли на вооружении во время кризиса: 92 единицы тактического ядерного оружия и 6–8 баллистических ракет средней дальности. Все цифры взяты из работы Norris & Kristen-sen (2012). Численность советских войск также значительно превышала ожидания: на Кубе были дислоцированы не 7 тысяч, а 42 тысячи человек (Ellsberg, 2017, p. 209).
57 Кастро сказал это на саммите, устроенном по случаю 40 летней годовщины Карибского кризиса, о чем Роберт Макнамара сообщает в документальном фильме “Туман войны” (Morris, 2003). После этого было обнародовано письмо Кастро Хрущеву. В пятницу Кастро написал: “Я полагаю, что агрессия империалистов чрезвычайно опасна, и если они действительно осуществят жестокое вторжение на Кубу в нарушение принципов международного права и морали, настанет момент навсегда положить конец этой угрозе посредством совершенно законного оборонительного выступления; каким бы жестким и ужасным ни был этот шаг, другого выхода не существует”. В воскресенье, выступив с заявлением, что боеголовки (о которых стало известно) будут вывезены с Кубы, Хрущев ответил: “Естественно, если начнется вторжение, необходимо будет дать отпор любыми средствами” (Roberts, 2012, pp. 237–238).
58 Дэниел Эллсберг, занимавший пост военного советника во время Карибского кризиса, говорит так: “Вторжение почти наверняка спровоцировало бы двусторонний обмен ядерными ударами, который с огромной вероятностью вылился бы в массированный ядерный удар США по СССР” (Ellsberg, 2017, p. 210).
59 Главная трудность в том, что не совсем понятно, о чем вообще идет речь. Мы можем рассуждать о степени уверенности, которую ключевые участники событий ощущали в то время (от 10 до 50 %). Мы также знаем, случилось ли возможное в итоге (в нашем случае нет, или 0 %). Но чувствуется, что можно оценить вероятность объективнее, чем в первом случае, но при этом не ограничиваться вариантами 0 % и 100 %, как во втором. В частности, мы хотели бы учесть информацию, которая стала известна позже, например о присутствии на Кубе тактического ядерного оружия, а также о событиях на подводной лодке Б-59. Мы хотели бы получить ответ примерно на такой вопрос: если бы случилось 100 подобных кризисов, сколько из них привело бы к ядерной войне? Но трактовать слово “подобных” очень сложно. Подозреваю, существует реальная и полезная оценка вероятности для нашего случая, но вряд ли она была должным образом объяснена, поэтому, рассуждая об этом, мы рискуем запутаться.
60 Слова Джона Ф. Кеннеди цит. по: Sorenson (1965), p. 705.
61 Ellsberg (2017), p. 199. Не давая оценку вероятности, Макнамара позже сказал: “Помню, как я вышел из Белого дома тем субботним вечером. Стоял чудесный осенний день. Я тогда подумал, что этот закат вполне может стать для меня последним” (Ellsberg, 2017, pp. 200–201).
62 В свете всех последних открытий оценка Дэниела Эллсберга такова: “Гораздо больше, чем один к ста, в тот день даже больше, чем один к десяти, как считал Нитце” (Ellsberg, 2017, pp. 220).
63 Я особенно удивился в январе 2018 года, когда “Бюллетень ученых-атомщиков” выставил на своих знаменитых “часах Судного дня” время 23:58, поскольку мир “столь же опасен, как после Второй мировой войны” (Mecklin, 2018). Основной причиной для перевода стрелок стало усиливающееся ядерное напряжение между США и КНДР. Часы должны показывать, насколько мы близки к коллапсу цивилизации, но при этом не было предпринято никаких попыток объяснить, почему ситуация опасна для человеческой цивилизации и почему угроза сегодня серьезнее, чем во время Карибского кризиса и других кризисов холодной войны.
64 США по прежнему располагают 450 ракетами шахтного базирования и сотнями ракет подводного пуска, приведенными в состояние повышенной боевой готовности (UCS, n. d.).
65 Это связано с “проблемой темпов” (pacing problem), знакомой всем, кто изучает регулирование технологической сферы. Проблема темпов заключается в том, что технологические инновации все сильнее обгоняют способность законов и норм эффективно регулировать эти технологии. Ларри Даунс (2009) отметил: “Технологии меняются экспоненциально, а социальные, экономические и правовые системы – поступательно”. Ключевое различие между двумя контекстами состоит в том, что проблема темпов связана со скоростью технологических изменений, а не с их растущей способностью менять мир.
66 Sagan (1994), pp. 316–317; перевод О. Сивченко.
67 Barack Obama, Remarks at the Hiroshima Peace Memorial (2016). Обратите также внимание на слова Джона Ф. Кеннеди, сказанные по случаю двадцатой годовщины с момента первой ядерной цепной реакции (всего через месяц после окончания Карибского кризиса): “Мы добились огромных успехов в применении науки, но наши успехи в налаживании отношений невелики” (Kennedy, 1962).
68 В своем стремлении к установлению мира после Карибского кризиса Кеннеди (1963) выразился так: “Проблемы, с которыми мы столкнулись, возникли по вине человека, поэтому и решить их может сам человек. Человек может быть великим настолько, насколько он этого пожелает. Нет такой проблемы в судьбе человечества, которую человечество не могло бы разрешить”. Разумеется, теоретически можно столкнуться с проблемами, возникшими по вине человека и уже прошедшими точку невозврата, но с теми проблемами, которые рассматриваются в этой книге, такого пока не произошло. Мы могли бы предотвратить их даже простым бездействием: перестав делать то, что грозит бедой.
69 Проблема здесь особенно очевидна, поскольку, описывая степень серьезности риска словами, мы часто учитываем и вероятность его наступления, и размер ставок. Проиграть в карты с вероятностью 1 % не так уж страшно, а потерять ребенка с такой же вероятностью – весьма. Аналогичная проблема возникает, когда МГЭИК применяет качественные термины, описывая вероятность различных сценариев изменения климата (Mastrandrea et al., 2010), что, на мой взгляд, ошибочно.
70 Точное определение “экзистенциального риска” см. на с. 47. Это понятие включает в себя риск вымирания, а также риск иными способами навсегда лишить человечество его потенциала, например в результате непоправимого коллапса цивилизации.
71 См. главу 6, где проводится сравнение с уровнем естественного риска.
72 Об этом говорит Bostrom (2013).
73 Существуют несколько сценариев, которые могут к этому привести, но я считаю их маловероятными. Так, уровень риска может дойти примерно до одного к шести, но при этом нам посчастливится прожить еще десяток, а то и больше таких столетий. Или, например, нам лишь с переменным успехом удастся контролировать упомянутые риски, в результате чего уровень риска вернется к значениям XX века, но больше не снизится, и тогда мы сможем прожить еще сотню и даже больше веков в таких условиях.
74 В мае 2019 года Рабочая группа по антропоцену при Международной комиссии по стратиграфии проголосовала за выделение новой эпохи антропоцена с началом в середине XX века. Официально предложение будет внесено к 2021 году, и тогда будет названа возможная точка отсчета эпохи (Subramanian, 2019). [В конце 2022 года это предложение еще не было принято. – Прим. науч. ред.] В 2017 году рабочая группа отметила, что наиболее вероятным маркером станут отметки, оставленные при испытаниях ядерного оружия (Zalasiewicz et al., 2017).
75 Baier (1981).
76 См. Bostrom (2002b; 2013).
77 Бустрём (2013) определил экзистенциальный риск как риск, “который грозит преждевременным вымиранием возникшей на Земле разумной жизни или необратимым и радикальным уничтожением ее потенциала для желаемого развития в будущем”. Мое определение (и пояснения ниже) соответствует второй половине определения Бустрёма. Я не повторил первую часть, поскольку логически необходимость в ней отсутствует (наше “преждевременное вымирание” само по себе стало бы “необратимым и радикальным сокращением”), а потому она только отвлекает внимание от сути вопроса – от уничтожения нашего долгосрочного потенциала. Обратите внимание, что в соответствии с моими определениями экзистенциальный риск – это просто риск экзистенциальной катастрофы. Я мог бы так и написать, но хотел, чтобы определение было самостоятельным.
78 Я намеренно не указываю, как именно совокупность возможных вариантов будущего определяет наш потенциал. Проще всего сказать, что ценность нашего потенциала соответствует ценности лучшего из открытых для нас вариантов будущего, то есть экзистенциальная катастрофа происходит, когда лучший из оставшихся вариантов будущего оказывается во много раз менее ценным, чем лучший из вариантов, который был у нас ранее. Можно также учесть сложность реализации каждого из возможных вариантов будущего, например определив ценность нашего потенциала как ожидаемую ценность нашего будущего в том случае, если мы пойдем лучшим из имеющихся путей. Но над этим еще предстоит поработать. Определяя, считать ли катастрофу экзистенциальной, я ориентируюсь на уничтожение потенциала человечества, вместо того чтобы сделать акцент на необратимости итога, по двум основным причинам. Во-первых, такое определение удобнее для выявления набора рисков, которые имеют сходные механизмы работы и предполагают сходные стратегии для их предотвращения. Во-вторых, я смотрю на человечество с оптимизмом. Учитывая, что достаточно долгое время наш потенциал оставался невредим, я полагаю, что у нас есть очень большая вероятность его реализовать, а откаты назад будут лишь временными, если только не уничтожат нашу способность к восстановлению. В таком случае вероятность того, что человечество не сможет достичь великого будущего, главным образом связана именно с уничтожением его потенциала, то есть с экзистенциальным риском.
79 Потенциал можно определять и иначе – например, в более узком смысле, учитывая только то, на что мы способны сегодня или, вероятно, будем способны завтра. Потенциал такого типа можно увеличить, если работать над расширением своих способностей. Однако в этой книге я рассматриваю только наш долгосрочный потенциал (вкладывая в это понятие тот смысл, который описан в основном тексте). Когда я говорю просто “потенциал” (ради краткости), речь идет о “долгосрочном потенциале”.
80 Если остается слабая надежда на восстановление, то некоторые из моих прямолинейных утверждений нельзя воспринимать буквально. Например, утверждение о том, что после экзистенциальной катастрофы “нет пути назад”. Это досадно, но я считаю, что игра стоит свеч. Я оставляю слабую надежду на восстановление, чтобы мне не могли возразить, что шанс на возрождение всегда есть, пусть даже бесконечно малый. Следовательно, строго говоря, потенциал не может быть уничтожен полностью. Однако от такого строгого прочтения мало пользы. Чтобы сделать выбор, нам не нужно знать, каким именно будет шанс на восстановление при реализации определенного сценария – ровно 0 % или 0,1 %. Обе ситуации почти одинаково плохи в сравнении с текущей, и плохи они по одной причине: их чрезвычайно сложно обратить вспять, и они (почти полностью) уничтожают наш долгосрочный потенциал. Более того, в обоих случаях нам следует действовать схожим образом: принимать предупредительные меры, а не учиться на ошибках. Ситуации, в которой у человечества в буквальном смысле “нет пути назад”, стоит избегать по тем же причинам, что и ситуации, когда “практически нет пути назад”. Таким образом, лучше всего включить почти необратимые ситуации в определение наравне с совершенно необратимыми.
81 Если наш потенциал значительно превосходит текущее состояние цивилизации, то событие, которое просто законсервирует текущее положение вещей, будет считаться экзистенциальной катастрофой. Примером может служить перманентная остановка технического прогресса. Может показаться странным, что мы называем катастрофой сценарий, который просто крайне далек от оптимального. Мы привыкли считать, что потенциал уничтожают такие события, которые вызывают страдания незамедлительно, а не такие, которые разрушают чей либо потенциал, не меняя качества жизни в настоящий момент. Но рассмотрим, например, решение родителей не давать образование своему ребенку. Оно не вызовет страданий немедленно, но может привести к катастрофическому исходу для ребенка в отдаленном будущем.
82 В некоторых случаях идеи и методики из этой книги могут также применяться к таким местным “экзистенциальным угрозам”, поскольку они имеют определенные сходства (в миниатюре).
83 Здесь тоже есть свои проблемы. Так, порой нам придется говорить, что нечто было риском в прошлом (насколько нам известно), но больше риском не является. Например, раньше были опасения, что ядерное оружие подожжет атмосферу (см. с. 108). Но обратите внимание, что такое случается с рисками любого типа: так, на прошлой неделе мы могли полагать, что существует риск падения лифта из за потертости троса, но теперь этот риск снизился до нуля, поскольку у нас появились новые данные (мы проверили трос и обнаружили, что с ним все в порядке). Подробнее об объективной и логической вероятности при определении экзистенциального риска пишут Bostrom & Сirkovic (2008) и Bostrom (2013).
84 Часто появляются списки потерпевших крах цивилизаций прошлого, таких как Римская империя и цивилизация майя. Но в этой книге, говоря о (глобальном) коллапсе цивилизации, я имею в виду другое. Статистика небольших коллапсов практически бесполезна при определении того, ждет ли нашу цивилизацию глобальный коллапс. Погибшие цивилизации были в высокой степени локализованы, поэтому их коллапс был скорее сравним с коллапсом отдельной страны, а не глобальной цивилизации. Так, даже Римская империя в период своего расцвета была гораздо меньше современной Бразилии и по площади, и по численности населения. Эти небольшие цивилизации были гораздо более уязвимы для региональных климатических эффектов, для действий единственного плохого правительства и для нападений внешних врагов. Кроме того, их коллапсы были вовсе не столь разрушительны, как тот, о котором я веду речь: часто целые города и деревни переживали “коллапс”, но народы не возвращались в состояние, в котором пребывали до перехода к сельскому хозяйству, а многие аспекты культуры продолжали развиваться.
85 Или если произойдет событие, которое более непосредственным образом воспрепятствует развитию цивилизации и ведению сельского хозяйства: например, будет нанесен исключительный ущерб окружающей среде или начнется длительная эпидемия болезни с тяжелыми последствиями. Возможно, хрупкость мира возросла и сегодня он менее устойчив к коллапсу, чем средневековая Европа, а следовательно, коллапс может произойти и при потере менее 50 % населения. Впрочем, я сомневаюсь на этот счет и полагаю, что такой сценарий не более вероятен, чем сценарий, при котором даже потеря 90 % населения не приведет к полной утрате цивилизации.
86 С точки зрения новейшей истории эти неолитические революции происходили в разные времена, и тысячелетия форы сыграли большую роль в развитии некоторых цивилизаций и определении их веса на мировой арене. Но если смотреть шире, разные регионы независимо друг от друга перешли к сельскому хозяйству практически одновременно: в диапазоне нескольких тысяч лет в масштабах истории, которая тянется сотни тысяч лет. Это позволяет предположить, что сельское хозяйство было не маловероятным техническим прорывом, а достаточно типичным решением общей проблемы. Наиболее вероятным толчком к нему стало завершение великого “ледникового периода”, случившееся в промежутке от 17 до 10 тысяч лет назад, прямо в период зарождения сельского хозяйства. Оно оказало огромное влияние на окружающую среду, сделав мир менее подходящим для охоты и более подходящим для земледелия.
87 Общая тенденция такова, что доступ к ресурсам затрудняется, поскольку первым делом мы добываем то, что добыть легко. Так происходит с нетронутыми ресурсами в земных недрах. Но в результате люди забывают об огромном объеме ресурсов, которые уже извлекаются, отправляются на хранение и остаются среди руин цивилизации. Например, одна угольная шахта открытого типа в Вайоминге дает 100 млн тонн угля ежегодно, и остаток запасов в ней составляет 1,7 млрд тонн (Peabody Energy, 2018). На момент написания этой книги в резервах у угольных электростанций в США находится 100 млн тонн готового к использованию угля (EIA, 2019). В стратегических резервах хранится около 2 млрд баррелей нефти (IEA, 2018, p. 19), а количество используемого в нашей глобальной цивилизации железа составляет около 2000 кг на душу населения (Sverdrup & Olafsdottir, 2019).
88 Хотя в главе 4 мы увидим, что даже экстремальная ядерная зима или изменение климата вряд ли причинят окружающей среде по всему миру достаточный ущерб, чтобы это произошло.
89 Вопрос о минимальной жизнеспособной популяции также встает, когда речь заходит о космических путешествиях, во время которых сменяются поколения. Marin & Beluffi (2018) полагают, что достаточно начальной популяции размером 98 человек, в то время как Smith (2014) считает минимальной гораздо более крупную популяцию размером от 14 до 44 тысяч человек. Возможно, выжить сумеют и меньшие популяции – все зависит от того, какие генетические технологии они смогут применять для минимизации рисков инбридинга и дрейфа генов.
90 Полагаю, это стало одной из причин, почему люди считают возможность вымирания человечества казенным штампом, а не серьезной угрозой. Когда этот риск используют в качестве двигателя сюжета в подобных фильмах, он действительно превращается в штамп. Однако не стоит совершать ошибку и позволять этому штампу заслонять реальную угрозу для нашего будущего.
91 Мы редко встречаем и серьезные эмоциональные рассуждения на эту тему, такие как песни Let Me Die in My Footsteps (1963) Боба Дилана и Eve of Destruction (1965) Барри Макгуайра.
92 См. Slovic (2007).
93 Parfit (1984), pp. 453–454.
94 Как мы увидим далее, эта количественная разница также играет решающую роль при анализе представлений о нашем прошлом, наших добродетелях и нашей космической значимости.
95 Schell (1982), p. 182.
96 На этом стоит остановиться подробнее. По примеру Parfit (1984) разделим все, что может быть потеряно, на две группы. В первую войдет то, чем мы могли бы стать. Окажутся потеряны все люди, которые могли бы появиться на свет. У нас никогда не будет ни детей, ни внуков: не будет миллионов поколений человечества, в каждое из которых входят миллиарды людей, живущих гораздо лучше, чем мы сами. Не будет никого. Катастрофа не убьет этих людей, но перечеркнет саму возможность их существования. Она не сотрет их со страниц истории, а вообще не позволит им оказаться туда вписанными. Мы потеряем ценность всего, что делает хорошей жизнь каждого из этих людей, будь то их счастье, свобода, успех или добродетель. Мы потеряем и самих людей. И еще мы потеряем всю ценность, которая заключена в их взаимоотношениях и самой структуре их общества, – любовь, дружбу, гармонию, равенство и справедливость. Во вторую группу войдет все, что мы могли бы сделать. Взгляните на наши величайшие достижения в искусстве и науке и обратите внимание, какое большое их число приходится на последние два столетия. Если мы проживем еще два века, не растеряв свой потенциал, вероятно, мы достигнем еще больших высот. Мы можем добраться до одной из главных вершин науки: полностью описать фундаментальные законы, управляющие реальностью. И мы продолжим расширять диапазон своего прогресса, исследуя все новые и новые территории. Важнее всего, пожалуй, потенциальные достижения в области морали. Хотя за века и тысячелетия мы проделали в этой сфере немалый путь, прогресс в ней шел значительно медленнее, чем в других областях, и был менее стабильным. Человечество обладает потенциалом построить поистине справедливый мир, и исполнение этой мечты стало бы огромным достижением. Мы можем очень многим стать и очень многое сделать, впереди у нас множество вариантов благополучного будущего и множество достижений, и потому, какого бы представления о ценности мы ни придерживались, нам почти всегда найдется о чем горевать, если мы потерпим неудачу и растеряем свой потенциал. Поскольку масштабы благополучия и достижений чрезвычайно велики, защита нашего потенциала имеет первостепенное значение.
97 Таким образом, масштаб нашего будущего не просто важен с точки зрения консеквенциализма. Он также подкрепляет аргументы в пользу снижения экзистенциального риска, проистекающие из соображений о справедливости или законности.
98 Говоря, что жизни людей “важны в равной степени”, я имею в виду, что все хорошее и плохое в их жизнях одинаково важно вне зависимости от того, когда они живут. В среднем люди сегодня живут лучше, чем тысячу лет назад, поскольку хорошего в их жизни больше, а кроме того, наша жизнь, вероятно, важнее как инструмент, так как мы живем в более судьбоносное время. В этом смысле наша жизнь, вероятно, имеет большее значение, но здесь нет противоречия с тем типом временно́й нейтральности, которого я придерживаюсь.
99 Об этом говорили J. J. C. Smart (1984, pp. 64–65) и G. E. Moore (1903, § 93).
100 Новые поколения столкнутся с новыми рисками и смогут помочь их снизить, но только мы можем снизить риски, которые возникают сегодня и возникнут в грядущие десятилетия.
101 Это название предложили мы с Уильямом Макаскиллом. В основе этих идей – рассуждения наших коллег Nick Beckstead (2013) и Nick Bostrom (2002b, 2003). В настоящее время Макаскилл работает над полноценной книгой, в которой их рассматривает.
102 В Приложении E мы увидим, что помимо защиты человечества существуют и другие способы оказывать устойчивое влияние на отдаленное будущее.
103 При ставке дисконтирования 0,1 % в год (низкой по стандартам экономистов) разница в миллион лет делает страдания через миллион лет более чем в 10434 раз важными, чем аналогичные страдания через два миллиона лет.
104 Можно трактовать это по разному в зависимости от ваших представлений о ценности. Одни сосредоточатся на том, насколько плох сам факт смерти целой группы или вида, человечества. С точки зрения других, хуже станет отсутствие человеческих жизней в будущем, а вместе с этим и всего хорошего, что в них могло бы быть.
105 С этим могут возникнуть серьезные сложности, если культура другого времени (или места) сильно отличается, но в нашем примере это не имеет значения.
106 Представьте, что бы мы подумали, если бы узнали, что наше правительство не стало принимать в расчет риск ядерной войны на том основании, что, если мы все умрем, плохого в этом не будет.
107 Если же, даже проявив должный скепсис, мы все равно склоняемся к одной из таких теорий, нужно с огромной осторожностью следовать ее рекомендациям в конкретной сфере, где она сильнее всего расходится с нашей интуицией и другими теориями, которые представляются нам правдоподобными, а именно в вопросе о ценности нашего долгосрочного будущего. См. Beckstead (2013, p. 63).
108 Мы действительно окажемся почти в таком же состоянии, как наши древнейшие человеческие предки (и нас будет гораздо меньше).
109 Burke (1790), para. 165; перевод Е. Гельфанд. В своей знаковой книге о правах будущих людей Annette Baier (1981) выражает похожую мысль: “Ключевая роль, отведенная нам как существам моральным, – это роль членов межпоколенческого сообщества, сообщества существ, которые смотрят назад и вперед, трактуют прошлое в свете настоящего, считают будущее продолжением прошлого, чувствуют свою принадлежность к непреходящим семьям, народам, культурам, традициям”. Об этом говорит и Джон Ролз в “Теории справедливости” (1971, § 79): “Реализация возможностей человеческих индивидов, живущих в любое данное время, требует кооперации многих поколений (или даже обществ) на протяжении долгого периода времени” (перевод В. В. Целищева).
110 Seneca (1972), pp. 279–291; перевод Т. Бородай. Шестнадцать веков спустя, в 1704 году, Исаак Ньютон сделал подобное замечание (Newton & McGuire, 1970): “Объяснить всю природу – слишком сложная задача для любого человека или даже для одного века. Гораздо лучше сделать немного, но достоверно, а остальное оставить тем, кто придет за вами” (перевод С. И. Вавилова). В 1755 году Дени Дидро выразил связанные идеи в своей “Энциклопедии” (Diderot, 1755, pp. 635–648A): “…задача энциклопедии состоит в том, чтобы собирать знания, рассеянные по миру; излагать их общую систему для людей, с которыми мы живем, и передавать их тем, кто придет после нас, чтобы работа прошедших веков не лишилась смысла в грядущие столетия; и чтобы наши потомки, став более учеными, стали бы также более добродетельными и счастливыми, а мы не прожили бы жизнь, не оказав услугу всему роду человеческому”.
111 Пожалуй, еще поразительнее, что некоторые тайны комет, глубина которых вдохновила Сенеку написать этот фрагмент, были открыты лишь недавно и непосредственным образом повлияли на наши представления об экзистенциальном риске: “Когда нибудь явится человек, который точно опишет, где пролегают пути комет, почему они блуждают в стороне от прочих звезд” (Seneca, 1972, p. 281; перевод Т. Бородай). Природа их в высшей степени причудливых орбит и их размер стали ключевыми аспектами нашего текущего представления о рисках, которые кометы представляют для цивилизации и человечества. Дальнейший анализ обеих этих характеристик существенно поможет снизить риски, связанные со столкновениями с объектами из космоса. См. главу 3.
112 См. работу Scheffler (2018), где подробнее разбирается вопрос о принципе взаимности, лежащем в основе некоторых причин заботиться о будущих поколениях, и приводятся другие соображения, не упоминаемые на этих страницах.
113 Sagan (1983, p. 275) написал так: “Существует множество других критериев для оценки потенциальных потерь, включая культуру и науку, эволюционную историю планеты и смысл жизни всех наших предков, которые сделали свой вклад в будущее своих потомков. Вымирание – это крах главного проекта человечества”.
114 Cм., например, работы Cohen (2011), Scheffler (2009), Frick (2017).
115 Ник Бустрём (2013) развил эту мысль: “Вероятно, мы обязаны также, подобно архивистам, хранить наследие человечества, переданное нам предками, и невредимым передавать его потомкам. Мы не хотим оказаться слабым звеном в цепи поколений и не должны ни стирать, ни забывать великую историю человеческой цивилизации, над которой человечество трудилось на протяжении тысяч лет, ведь совершенно ясно, что рассказ еще не доведен до логического конца”.
Продолжить чтение