Не многие из авторов, размышлявших о техногенных рисках, серьезно задумывались о накопительном психологическом эффекте непрерывного нагнетания апокалиптических настроений. Элин Келси, специалист по экологическим коммуникациям, отметила:
У нас есть возрастные категории для защиты детей от секса и насилия на киноэкране, но мы, не задумываясь, приглашаем на урок ученого, который рассказывает второклассникам, что планета вот-вот погибнет. Каждый четвертый [австралийский] ребенок настолько обеспокоен положением дел в мире, что искренне верит, будто Земле придет конец раньше, чем он подрастет
[852].
Согласно последним опросам, с этими маленькими австралийцами согласны 15 % жителей всего мира и от четверти до трети американцев
[853]. В своей книге «Парадокс прогресса» (The Progress Paradox) журналист Грегг Истербрук пишет, что основное препятствие, мешающее американцам быть счастливее, несмотря на объективно растущее благосостояние, можно описать как «страх коллапса» – боязнь, что цивилизация может потерпеть крах и что с этим ничего не поделаешь.
~
Конечно, если опасность реальна, тут уже не до эмоций. Но наша оценка рисков сбоит, когда мы имеем дело с весьма маловероятными событиями в сложных системах. Так как мы не можем тысячу раз прокрутить мировую историю по новой и обсчитать полученные данные, то утверждение, что некое событие случится с вероятностью 0,01, или 0,001, или 0,0001, или 0,00001, по сути, отражает субъективное мнение того, кто оценивает этот риск. Это касается и математического анализа, который ученые выполняют, нанося на какую-то ось события прошлого (например, войны или кибератаки) и доказывая, что они подчиняются определенному степенному закону – распределению с «толстым хвостом», где предельные случаи крайне маловероятны, но не полностью исключены
[854]. Такая математика мало помогает оценить риски, потому что дискретные данные вдоль хвоста распределения обычно сильно отклоняются от гладкой кривой, делая любые оценки невозможными. Все, что мы знаем: очень плохие вещи иногда случаются.
Это возвращает нас к субъективности всех оценок риска, которую только усугубляют эвристика доступности, приоритет негативного и желание заработать авторитет на разоблачении болезней общества (глава 4)
[855]. Тех, кто сеет страх с помощью мрачных пророчеств, считают серьезными и ответственными, а тех, кто высказывается осторожнее, – благодушными и наивными. Последней умирает вовсе не надежда, а отчаяние. Как минимум со времен древнееврейских пророков и Откровения Иоанна Богослова прорицатели предупреждали современников о надвигающемся конце света. Прогнозы апокалипсиса – конек спиритов, медиумов, мистиков, телепроповедников, радикальных сект, основателей разнообразных религий и субъектов, шляющихся по улицам с плакатом «Покайся!»
[856]. Сюжет, кульминация которого представляет собой жестокую расплату за технологическую гордыню, – архетип западной культуры. Вспомните огонь Прометея, ящик Пандоры, полет Икара, сделку Фауста, ученика чародея, монстра Франкенштейна и более 250 голливудских фильмов о конце света
[857]. Историк науки Эрик Зенси заметил: «Апокалиптическое мышление притягательно. Когда ты живешь в последние дни, твои действия, да и сама твоя жизнь приобретают историческое значение и немалую долю пафоса»
[858].
Ученые и инженеры тоже не застрахованы от таких ошибок. Помните «проблему 2000 года»?
[859] В 1990-е, в ожидании нового тысячелетия, специалисты по информатике принялись предупреждать мир о грядущей катастрофе. На заре компьютерной эры, когда информация обходилась дорого, программисты часто экономили пару байтов, обозначая год двумя его последними цифрами. Они были уверены, что к 2000-му, когда подразумеваемые цифры «19» перестанут соответствовать действительности, написанные ими программы уже давно устареют. Но сложное программное обеспечение обновляется очень медленно, так что к часу икс многие старые программы по-прежнему работали в микрочипах и на серверах организаций. Специалисты опасались, что в полночь 1 января 2000 года такие программы посчитают, что наступил 1900 год, и выдадут ошибку или уйдут в бесконечный цикл (предположительно, попытавшись разделить какие-то цифры на разницу между «текущим годом» и 1900-м, а именно на ноль, хотя, зачем они должны это делать, не пояснялось). В этот момент банковские счета обнулятся, лифты остановятся между этажами, инкубаторы в родильных домах отключатся, насосные станции застопорятся, самолеты попадают с неба, ядерные реакторы расплавятся, а межконтинентальные баллистические ракеты вылетят из пусковых шахт.
И все это были сухие оценки квалифицированных экспертов (таких, как президент Клинтон, который предупреждал американцев: «Я хочу подчеркнуть безотлагательный характер задачи. Это вам не летний блокбастер, где в самые страшные моменты можно закрыть глаза»). Культурные пессимисты считали проблему 2000 года заслуженным возмездием за увлечение цивилизации технологиями. Религиозные деятели не могли удержаться от соблазна связать число 2000 с давним христианским милленаризмом. Телепроповедник Джерри Фолуэлл заявил: «Я думаю, что проблема 2000 года может быть орудием Господа, которым он встряхнет страну, пристыдит страну, пробудит страну, чтобы она начала свое возрождение, которое распространится по всей Земле, предваряя Восхищение Церкви». На переписывание программного обеспечения – задачу, которую сравнивали с заменой каждой заклепки во всех мостах мира, – государства потратили сто миллиардов долларов.
Имея опыт программирования на языке ассемблер, я не очень-то верил в предлагаемый апокалиптический сценарий. Так сложилось, что в судьбоносный момент я находился в Новой Зеландии, первой на планете встретившей новое тысячелетие. Разумеется, в полночь 1 января ничего не случилось (в чем я немедленно заверил оставшуюся дома семью посредством исправно функционирующего телефона). Пропагандисты проблемы 2000 года, подобно продавцам приспособлений для отпугивания слонов, приписали всю заслугу предотвращения катастрофы себе, но ряд стран и множество предприятий малого бизнеса положились на судьбу и ничего не делали, а сложностей у них тоже не возникло. Хотя какое-то программное обеспечение и потребовало обновления (мой ноутбук наутро показывал дату «1 января 19100 года»), выяснилось, что лишь ничтожная доля программ, особенно из тех, что встроены в оборудование, одновременно и содержала эту ошибку, и производила сложные расчеты с текущей датой. Угроза оказалась едва ли серьезнее пророчеств на плакате уличного проповедника. История «Великой паники 2000 года» не означает, конечно, что любое предупреждение о грядущей катастрофе – ложная тревога, но она напоминает нам, до какой степени мы все подвержены техно-апокалиптическим наваждениям.
