Хотя мыслители ломают голову над тайной сознания уже тысячи лет, появление искусственного интеллекта внезапно сделало разрешение ее насущным, в частности в том, что касается возможности предсказать, какие разумные сущности обладают способностью к субъективным переживаниям. Как мы видели в главе 3, вопрос о том, следует ли предоставлять умным машинам какие-либо права, принципиально зависит от того, действуют ли они сознательно, способны ли они страдать или испытывать радость. Как мы обсуждали в главе 7, у нас нет никакой надежды ни на какую утилитарную этику, направленную на достижение максимума положительных переживаний, если мы не знаем, какие разумные субъекты способны на них. Как уже упоминалось в главе 5, некоторые люди могут предпочитать, чтобы их роботы не обладали сознанием, так как иначе они будут ощущать себя рабовладельцами и мучиться чувством вины. С другой стороны, люди могут хотеть и прямо противоположного, когда заливают в компьютер свое сознание, освобождаясь от биологических ограничений: в конце концов, какой смысл заливать себя в робота, который разговаривает как вы и поступает как вы, если он всего лишь бессознательный зомби? В данном случае я имею под этим в виду, что после такой заливки вы и сами не будете ничего чувствовать. Разве это не будет эквивалентно самоубийству с вашей субъективной точки зрения, даже если ваши друзья не будут понимать, что ваш субъективный мир мертв?
Для долгосрочной перспективы будущей жизни в космосе (глава 6) понимание того, что делается сознательно, а что нет, становится ключевым: если развитие технологий позволяет разумной жизни процветать всей нашей Вселенной миллиарды лет, какие основания у нас могут быть для уверенности в том, что эта жизнь останется сознательной и сможет сознательно переживать происходящее? В противном случае не превратится ли все в ту самую пьесу, которую описал знаменитый физик Эрвин Шрёдингер: «[разыгрываемая] перед пустыми рядами кресел, она не существует ни для кого, и не правильнее ли тогда говорить о ней как о несуществующей»
? Иными словами, если мы активируем своих высокотехнологичных потомков, которых ошибочно считаем сознательными, то не будет ли это как раз тем самым финальным зомби-апокалипсисом, превращающим наши колоссальные космические авуары в астрономическое пространство, занятое понапрасну?
Что такое сознание?
Многие споры о сознании производят больше жара, чем света, потому что спорящие не понимают друг друга, не отдавая себе отчета в том, что используют различные определения «слова на С». Так же, как для слов «жизнь» и «разум» не существует одного бесспорно правильного определения, не существует его и для слова «сознание». Вместо него есть много конкурирующих: в числе многих — чувствительность, пробужденность, внимание, обращенное на себя, внимание к ощущениям от органов чувств, способность переводить информацию в нарратив
. В нашем исследовании будущего разума мы хотим занять предельно общую позицию, которая включала бы в себя все прочие и не ограничивалась только биологическими формами сознания, которые до сих пор существовали. Вот почему определение, которое я дал в главе 1 и которого придерживаюсь в этой книге, так широко:
сознание = субъективные переживания.
Другими словами, если ваше существование связано с какими-то чувствами прямо сейчас, то это означает, что вы обладаете сознанием. Это основополагающее определение, принятое нами во всех вопросах относительно искусственного интеллекта в предыдущих разделах. Что значит быть Прометеем, AlphaGo или беспилотным автомобилем Tesla? Связано ли это с какими-нибудь чувствами?
Чтобы оценить, насколько широко наше определение сознания, обратите внимание, что в нем не упоминаются ни поведение, ни восприятие, ни самоощущение, ни эмоции или внимание. Согласно этому определению, вы сознательны даже во сне, несмотря на то, что у вас нет доступа к органам чувств сенсорного ввода и вы не можете (я надеюсь!) ходить и совершать какие-то другие действия. Схожим образом любая система, которая испытывает боль, в этом смысле сознательна, даже если лишена возможности двигаться. Наше определение оставляет открытой возможность обладать сознанием для будущих систем с искусственным интеллектом, даже если они будут существовать лишь просто как «софт», без подключения к сенсорам и без роботоподобного тела.
Такое определение не оставляет возможности обойти сознание вниманием. Как писал в своей книге Homo Deus Юваль Харари: «…Если ученый берется утверждать, что ссылки на субъективные переживания в науке неуместны, то он должен, также не ссылаясь на субъективные переживания, доказать недопустимость пыток или насилия». Без такой ссылки каждый из нас представляет собой всего лишь сгусток элементарных частиц, передвигающийся в пространстве в соответствии с законами физики, — и как могут быть недопустимы какие-то действия?
В чем же проблема?
Так в чем же именно заключается то, чего мы не понимаем о сознании? Мало кто посвятил этому вопросу больше усилий, чем Дэвид Чалмерс, известный австралийский философ, со своей неизменной улыбкой и кожаным пиджаком, который так нравится моей жене, что она даже подарила мне такой же на Рождество. Он последовал зову своего сердца и стал философом, даже несмотря на победу на международной олимпиаде по математике и даже несмотря на то, что единственной четверкой, полученной им в колледже при остальных пятерках, была четверка по философии. Действительно, на него, кажется, никак не действуют язвительные замечания и острые возражения, и я был поражен его способностью вежливо выслушивать мнения неосведомленных или глубоко заблуждающихся людей относительно его работ, даже не чувствуя необходимости как-то на них реагировать.
Дэвид всегда подчеркивал, что на самом деле есть две разных тайны, связанных с работой человеческого ума. Первая тайна заключается в том, как мозг перерабатывает информацию. Отсюда проистекает то, что Дэвид называет «легкими» проблемами. Например, как мозг принимает сигналы от органов чувств, воспринимает их и откликается на них? Как он может сообщать о своем внутреннем состоянии средствами языка? Хотя эти вопросы чрезвычайно сложны, они, по нашему определению, относятся не к тайнам сознания, а к тайнам интеллекта: речь о том, как мозг запоминает, вычисляет и учится. Кроме того, мы видели в первой части книги, как специалисты по искусственному интеллекту уже начали успешно двигаться по пути решения этих «легких проблем» в приложении их к машинам — обучая машины играть в го и водить автомобиль, распознавать изображения и понимать высказывания, сделанные с помощью естественного языка.
И есть отдельная тайна: для чего вам личные переживания? И Дэвид называет ее «сложной» проблемой. Когда вы сидите за рулем автомобиля, вы реагируете на мелькающие за окном яркие пятна предметов, на услышанные звуки, испытываете эмоции и ощущаете себя собой. Для чего это все? Разве автомобиль без водителя испытывает что-нибудь подобное? Если вы поедете с таким беспилотным автомобилем наперегонки, вы оба будете получать информацию от своих сенсоров, перерабатывать ее и выдавать управляющие команды. И ваши субъективные переживания во время вождения очевидно логически отделены от самого вождения, они какие-то необязательные. Но если это так, то что их вызывает?
