Мы семимильными шагами движемся к наступлению новой эры, в которой технология постепенно заменяет или улучшает естественные человеческие функции. Каждое из улучшений может считаться важным и полезным, однако во многих отношениях их использование отдаляет нас от того, что, собственно, считается человеком. Значит ли это, что если не принять соответствующие меры, то все больше людей будут вызывать эффект зловещей долины (и антипатию) у других представителей человечества?
Это не мысленный эксперимент, или gedanken-experiment. В новом мире, который мы строим, может возникнуть неприязнь между группами, и не важно, по какому признаку люди решат разделиться на своих и чужих. Расслоение культурных норм может в перспективе спровоцировать куда большее разделение интересов, большую степень ненависти из-за выраженного неравенства, больше подозрительности в отношении тех, кого мы зовем другими.
Усугубит ли положение эффект зловещей долины? Будет ли он способствовать развитию ксенофобии, возможно, вызывая бессознательный страх смерти? Действительно ли нам легче расчеловечить то, что из-за различий, вызывающих антипатию, не укладывается в рамки наших представлений о базовой норме?
Наконец, этот эффект коснется не только улучшений человеческого тела, но и мира технологий. Начнем с того, что роботы и машины с искусственным интеллектом – вообще не люди. Но может ли наша инстинктивная реакция на них спровоцировать враждебность или агрессию, когда они обретут достаточно способностей, а возможно, даже сознание?
Возможно, такие опасения кажутся очевидными или излишними, но что произойдет, если обычные люди начнут методично улучшать себя при помощи имплантов и радикально изменят себя? О том, что мы движемся к трансгуманизму (или постгуманизму), технофилы говорят на протяжении десятилетий. В этих разговорах то и дело обсуждают двухуровневое общество, в котором существуют все возможные конфликты. Это вряд ли станет сюрпризом. Перед лицом ощутимой угрозы одна из первых естественных реакций – расчеловечивание других на основании несущественных различий. Таким образом мы стремимся оправдать свое враждебное и бесчеловечное поведение.
Важно отметить, что по мере совершенствования интерфейсов между машиной и человеком, прогресс, по крайней мере для некоторых людей, будет означать все большее слияние с технологией. О чем бы мы ни говорили: о физических или психических ограничениях, неравных способностях, самодельной модернизации или одобренных правительством процедурах, выполненных по стандартам, напоминающим предписания Управления по контролю за продуктами питания и лекарственными средствами США, – в ближайшие десятилетия, а может, и столетия, слияние человека и машины продолжится. Если подобные улучшения будут считаться эффективными и смогут эстетически приблизиться к точке неуловимости (но не достичь ее), то какой будет «естественная» эволюционная реакция общества? Чего нам ожидать от себя и окружающих?
Я упомянул установленную обществом базовую норму. Иногда в человеческом обществе применяют цвет кожи, акцент, религию, разрез глаз и другие физиогномические признаки (черты лица) в качестве маркера «чужого» по отношению к людям, которые в прочих отношениях на 99,999 % неотличимы друг от друга (что показывают данные дифференциального генетического анализа). Но почему таким маркером служит не группа крови или, скажем, плоскостопие? Возможно, некоторые маркеры связаны с визуальным восприятием или тем, насколько та или иная черта бросается в глаза. На сегодняшний день цвет кожи, черты лица и даже акцент наиболее заметны, а потому подвергаются нападкам. Но уже завтра такими маркерами могут стать устройства или алгоритмы, с помощью которых люди изменяют себя.
Также отметим, что подобное отвращение не носит универсальный характер. В одном обществе могут легко воспринимать разницу в цвете кожи (один из универсальных поводов для предвзятого отношения к людям), а в другом подобные различия вполне могут считать оправданием для убийства человека и даже для массовых убийств. Даже в одном и том же обществе отношение может разниться в зависимости от местности или принадлежности к социальной группе. Какие же изменения влияют на наше поведение? Что упорядочивает нормы всего населения?
Фактор движения повышает степень страха, при виде зомби боязнь мертвого тела превращается в ужас.
Одним из таких факторов является привыкание: время, степень осведомленности, понимание того, что общих черт у людей намного больше, чем различий – реальных или надуманных. Возможно ли, что по прошествии достаточного времени ситуация полностью изменится? Учитывая диапазон приемлемых человеческих лиц и нейропластичность мозга, способны ли мы научиться принимать тех, чья внешность отличается от человеческой? И если да, то как далеко может зайти принятие? Расширит ли оно границы приемлемого или устранит эффект зловещей долины в принципе?
Разумеется, иногда привыкания недостаточно. Вернее, иногда оно не приходит достаточно быстро. Иногда некоторые группы населения выступают за принятие и изменение поведения общества, в то время как большинство людей не готово к переменам. Такое поведение может форсировать принятие или нормализацию видимых различий на законодательном уровне до того, как общество их примет. Ускорение может иметь негативные последствия в форме остракизма, изгнания в гетто и даже хуже. Мы поступим мудро, если изучим эффект зловещей долины и используем уроки истории, чтобы подготовиться к будущим конфликтам или вовсе их избежать.
И наконец, завершая тему зловещей долины, представьте себе будущее, в котором машины обладают сознанием, а также чувствами и эмоциями. Если эти машины осознают конечность собственного существования – не важно, будет ли оно значительно длиннее или короче человеческого, – не придется ли им выработать аналогичные защитные механизмы, чтобы избежать тревоги и прочих разновидностей экзистенциального кризиса? Что произойдет, если по той или иной причине этого не удастся достичь? Разовьется ли у искусственного интеллекта невроз или более тяжелое расстройство? Что произойдет, если мы ненамеренно спровоцируем подобную реакцию у сверхразумного искусственного интеллекта? Может показаться, что мы заигрываем с маловероятными сценариями, но будет безответственно не обдумать возможные последствия, если от них зависит выживание нашего вида.
Весьма возможно, что наша психологическая реакция на эффект зловещей долины – обоснованный и полезный механизм, который невозможно устранить, даже если мы захотим. Возможно, он защищает нас от уязвимостей, с которыми мы сталкиваемся в результате саморефлексии и осознания неизбежной смерти. А что если без этого механизма нам бы не удалось прожить свою жизнь так же эффективно, как с ним? Тем не менее, тщательно изучив реакцию, которую мы называем эффектом зловещей долины, мы могли бы извлечь из нее важные уроки на будущее. Как мы убедимся в следующей главе, это лишь немногое из того, чему нас может научить эмоциональное программирование.
Глава 8
Эмоциональное обучение
Начальная школа Дж. Ф. Кондона, Бостон, Массачусетс – 6 сентября 2013 года
