Глава 19
Экзистенциальные угрозы
Но не играем ли мы с огнем? Когда пессимистов вынуждают признать, что жизнь все большего числа людей становится все лучше, у них всегда наготове одно возражение. Мы радостно несемся навстречу катастрофе, говорят они, подобно человеку, который свалился с крыши и кричит, пролетая один этаж за другим: «Пока все идет нормально!» Или же мы играем в русскую рулетку, и смертельный риск рано или поздно окажется не просто риском. Или нас застигнет врасплох «черный лебедь»: расположенное за четыре стандартных отклонения от пика статистического распределения возможных угроз событие, вероятность которого мала, но последствия ужасны.
На протяжении полувека в роли четырех всадников современного апокалипсиса выступали перенаселение, нехватка ресурсов, загрязнение окружающей среды и атомная война. Недавно к ним присоединился эскадрон более экзотических кавалеристов: наноботы, которые облепят нас со всех сторон, роботы, которые нас поработят, искусственный интеллект, который пустит нас на сырье, и болгарские подростки, которые вырастят смертельный вирус или обрушат интернет, не покидая своих комнат.
С прежних всадников не сводили глаз в первую очередь романтики и луддиты. Но о высокотехнологичных рисках нас часто предупреждают ученые и инженеры, которые, применив всю мощь своего интеллекта, постарались выдумать как можно больше сценариев надвигающегося конца света. В 2003 году прославленный астрофизик сэр Мартин Рис опубликовал книгу «Наш последний час» (Our Final Hour), в которой предупредил, что «человечество может само себя погубить», и описал около дюжины способов сделать это, «поставив под угрозу будущее всей Вселенной». Например, эксперименты с использованием ускорителей элементарных частиц могут привести к возникновению черной дыры, которая аннигилирует Землю, или единственной «страпельки» кваркового вещества, которая заставит всю материю мира вступить с собой во взаимодействие и исчезнуть. Рис напал на богатую жилу катастрофизма. Страница сайта amazon.com, посвященная его книге, сообщает: «Покупатели, просмотревшие этот товар, также интересовались книгами “Глобальные катастрофические угрозы”, “Наше последнее изобретение: искусственный интеллект и конец эпохи человека”, “Конец: что наука и религия говорят нам об апокалипсисе” и “Мировая война Z: устная история войны с зомби”». Технофилантропы субсидируют целые исследовательские институты, выискивающие новые экзистенциальные угрозы и прикидывающие, как спасти от них мир, включая Институт будущего человечества (Future of Humanity Institute), Институт будущего жизни (Future of Life Institute), Центр изучения экзистенциальных угроз (Center for the Study of Existential Risk) и Институт глобальных катастрофических рисков (Global Catastrophic Risk Institute).
Как нам относиться к экзистенциальным угрозам, которые кроются в тени нашего поступательного прогресса? Никто не может предсказать, что катастрофы никогда не случится, и в этой главе вы не найдете подобных заверений. Но я расскажу, в каком ключе стоит думать о таких угрозах, и проанализирую основные из них. Три – перенаселение, истощение ресурсов и загрязнение окружающей среды, в том числе парниковыми газами, – уже были обсуждены в главе 10, и здесь я применю тот же подход. Одни угрозы высосаны культурными и историческими пессимистами из пальца, тогда как другие реальны, но нам лучше относиться к ним не как к надвигающемуся апокалипсису, но как к проблеме, которая подлежит решению.
~
На первый взгляд кажется, что чем больше внимания мы уделяем экзистенциальным угрозам, тем лучше. Ведь ставки в буквальном смысле не могут быть выше! Что же плохого в том, чтобы заставить людей задуматься об этих ужасных опасностях? В худшем случае мы предпримем некие упреждающие меры, которые по прошествии времени окажутся ненужными.
Но у апокалиптического мышления есть и обратная сторона. Во-первых, ложное представление о катастрофической опасности само может быть катастрофически опасным. Гонка ядерных вооружений 1960-х годов возникла на почве безосновательных опасений Америки отстать от Советского Союза
[848]. Вторжение 2003 года в Ирак оправдывалось неподтвержденной, но внушавшей ужас возможностью, что Саддам Хусейн разрабатывает ядерное оружие и планирует использовать его против Соединенных Штатов. (Как сказал Джордж Буш-младший, «мы не имеем права ждать неопровержимого доказательства – им может стать ядерный гриб».) И, как мы увидим дальше, великие державы отказываются дать обещание не применять ядерное оружие первыми не в последнюю очередь потому, что хотят сохранить за собой право использовать его для защиты от предполагаемых экзистенциальных угроз вроде биотеррора или кибератак
[849]. Запугивая людей гипотетическими бедствиями, наше будущее можно поставить под еще большую угрозу, вместо того чтобы сделать его безопаснее.
Сочинение сценариев конца света опасно еще и потому, что ресурсы, интеллектуальные возможности и душевные силы человечества не бесконечны. Невозможно беспокоиться обо всем на свете. Ряд грозящих нам опасностей вроде глобального потепления или атомной войны отрицать невозможно, а чтобы их предотвратить, требуются колоссальные усилия и изобретательность. Перечисляя такие угрозы в одном ряду с экзотическими сценариями, вероятность которых неизвестна или минимальна, можно создать впечатление, что и в остальных случаях дело несрочное. Вспомните, что люди плохо умеют оценивать вероятности, особенно низкие, – вместо этого они разыгрывают различные сценарии в своем воображении. Если два каких-то сценария одинаково легко представить, их будут считать одинаково вероятными; о реальных угрозах станут беспокоиться не больше, чем о сюжетах из области научной фантастики. А чем больше пугающих вещей люди могут себе вообразить, тем прочнее их уверенность, что что-то плохое обязательно случится.
Это порождает величайшую опасность из всех: вслед за автором недавней статьи в газете The New York Times люди решат, что «эти печальные факты заставляют нас прийти к единственному выводу – человечество обречено»
[850]. Если человечество обречено, зачем жертвовать хоть чем-то ради снижения потенциальных рисков? Зачем отказываться от удобного углеводородного топлива или требовать от правительств пересмотреть свою ядерную политику? Ешь, пей и веселись, ибо завтра мы все умрем! В 2013 году опрос, проведенный в четырех англоговорящих странах, показал, что большинство респондентов, уверенных, что в ближайшие сто лет нашему образу жизни придет конец, согласились с утверждением «Будущее так безрадостно, что нам стоит сосредоточиться на заботе о себе и о тех, кого мы любим»
[851].
