Все это звучит весьма многообещающе, но путь очень сложен – так насколько же близко мы подошли к сознающим машинам на самом деле?
Первые образчики машин, обладающих сознательным восприятием зрительной информации, – в которых есть и внимание, и схема внимания, причем оба элемента направлены на визуальную информацию, – могут быть построены уже в ближайшие десять лет. Думаю, что для создания машин, содержащих столь же обширный диапазон разнообразной информации, как в человеческом сознании, потребуется больше времени. Изготовление устройства, которое способно видеть, слышать, осязать, чувствовать вкус, мыслить абстрактно и производить эмоции, которое умеет координировать эти сферы между собой и внутри каждой из них при помощи единого интегрированного фокуса внимания и которое может говорить обо всем этом диапазоне содержаний, – весьма долговременный проект. Буду удивлен, если мы получим что-то хотя бы приближающееся к этому в течение следующих 30 лет (мой прогноз – это займет порядка 50 лет). Но мне и раньше случалось удивляться, а технологии развиваются с ошеломляющей скоростью.
Люди мечтали о разумных роботах с тех пор, как появились механические технологии. В “Илиаде” Гомера, написанной почти 3000 лет назад, упоминаются самодвижущиеся треножники, которые изобрел бог Гефест. Пятьсот лет назад Леонардо да Винчи разработал и, возможно, построил механических роботов для развлечения своих покровителей
[230]. Сегодня всем нам знакомы HAL 9000 Стэнли Кубрика из фильма “2001: Космическая одиссея” и C-3PO Джорджа Лукаса из “Звездных войн”. Относительно недавний фильм Алекса Гарленда “Из машины” целиком посвящен тому, как люди могли бы взаимодействовать с разумными роботами. Обладающие сознанием машины так долго занимали умы людей, что, если увидеть, сколь близко мы подошли к их появлению в нашей жизни, становится жутковато. Вспоминается поговорка: “Будь осторожен в своих желаниях”.
Пока в нашем распоряжении нет готовой культурной модели того, как нас могут изменить сознающие машины. Научная фантастика зачастую предвосхищает технические приспособления будущего, но предсказать их социальные последствия оказывается несколько сложнее. Например, никто не мог предвидеть, какой переворот в обществе произведут сотовые телефоны. Вначале мы думали, что они просто заметно облегчат нам жизнь – подобно микроволновым печам, но постепенно они превратились в третье полушарие человеческого мозга. Смартфоны перестроили наш политический, экономический и социальный мир. Поэтому вот единственный прогноз, который я могу сделать с абсолютной уверенностью, – никому не удастся столь же уверенно предсказать социальные последствия появления машин, обладающих сознанием.
Наша научная фантастика пытается нарисовать картину будущего с искусственным сознанием, но сомневаюсь, что эта картина окажется сильно приближена к реальной. В “Звездных войнах” сознающие машины, похоже, не добавляют обществу слоя этических проблем. Они всего-навсего второсортные граждане, обслуживающий персонал, покорные и умелые рабы, милые, но легко заменимые – с ними обычно обращаются даже менее уважительно, чем с домашними животными. Следует ли относиться к разумным машинам именно так – или же им полагаются моральные права? Эту проблему и затрагивает знаменитая повесть Айзека Азимова “Двухсотлетний человек”
[231]. Раз разумные машины создаем мы, есть ли у нас право управлять ими и убивать их? Тот же этический вопрос поднимается в фильме “Бегущий по лезвию”, снятом по рассказу Филипа Дика
[232]. Писатели, режиссеры, ученые и философы ломают головы над этими вопросами, не находя ответов
[233]. Чтобы разработать прикладные этические правила, нам, возможно, придется дождаться постройки поистине человекоподобного искусственного сознания. Проблемы, скорее всего, будут выглядеть не так, как их описывает научная фантастика – в ней обычно замаскированы размышления о трудностях, стоящих перед нами сегодня. Трудности завтрашнего дня могут оказаться неузнаваемо другими.
Пожалуй, главная грозная неопределенность состоит не в том, хорошо или плохо мы будем обращаться с сознающими роботами, – а в том, как будут обращаться с нами они. Обладающие сознанием роботы стали типичными для апокалиптических сценариев. В “Терминаторе” Скайнет пытается всех нас убить. В “Матрице” машины порабощают нас. Но опять же – это все научная фантастика, не реальность.
Может быть, из-за того, что мы переели научно-фантастических историй, мало кто понимает идею сознающей машины правильно. Большинство предполагает, что сознание будет включаться в машине по щелчку тумблера: машина внезапно пробудится, начнет осознавать себя как независимого деятеля, отдельного от остального мира, и немедленно устремится к удовлетворению своих собственных интересов. Она может начать убивать людей, потому что они конкурируют с ней за ресурсы. Машины с такими способностями привели бы к трагедии для человечества. Но плохая новость на самом деле вот в чем. Сверхразумные, автономные, активные машины, которые принимают решения и учитывают свои интересы, уже здесь (по крайней мере, их первые представители), и они стремительно умнеют с каждым днем. Им не нужно сознание, чтобы прийти к выводу, что люди – препятствия на их пути, и поубивать нас. Беспилотный грузовик, имеющий собственную программу действий, может переехать вас – и вы будете в любом случае мертвы независимо от того, получит ли грузовик субъективный опыт хлюпающего звука под его шинами.
Для меня как исследователя сознания вопрос стоит так: что произойдет, если мы добавим дополнительный элемент – модель себя, которая сообщит машине, что подобно тому, как у нее есть субъективный опыт, у других он тоже может быть? Как это изменит социальный баланс?
[234] Думаю, что после этого будущее с разумными машинами станет более обнадеживающим.
Люди – всецело социальные животные. Это определяет нас как биологический вид. Но у человека не может быть социальной компетентности без понимания того, что такое сознание, и без способности интуитивно приписывать его другим людям. Способность эта позволяет нам признавать разумность других, понимать мысли и чувства друг друга, тщательно подбирать верные реакции. Это объединяющий людей социальный клей, корневая система социума и сотрудничества.
