Вдвойне смущает, что, даже если бы Кремниевая долина могла продавать искусственный интеллект потребителям, наша промышленность определенно не стала бы применять те же автоматизированные технологии к некоторым отраслям. Выбор элементов дизайна, скажем, нового смартфона кажется слишком важной игрой. Инженеры не вполне готовы поверить в свои умные алгоритмы в достаточной мере, чтобы противопоставить их новому главе Apple или еще кому-то, способному оценить тонкости проектирования и дизайна.
Но ожидается, что все остальные, усыпленные концепцией искусственного интеллекта, умнеющего не по дням, а по часам, будут доверять алгоритмам, которые получат доступ к выбору наших эстетических пристрастий, успеху в учебе, кредитному риску владельца дома или учреждения. Если это произойдет, все закончится тем, что мы будем превратно истолковывать как способности наших машин, так и свои собственные. Вместо этого мы должны принять на себя ответственность за каждую задачу, которую даем машине, и дважды проверять каждый вывод, предлагаемый алгоритмом, точно так же как оглядываемся по сторонам, переходя дорогу на перекрестке, даже если горит зеленый свет.
Когда мы думаем о компьютерах как о пассивных, инертных инструментах, действующих вместо людей, наградой нам служит более ясный, менее идеологизированный взгляд на происходящее – как с машинами, так и с нами самими. Так почему же, если отбросить в сторону театральный эффект привлекательности для потребителей и репортеров, результаты подобных проектов так часто должны быть представлены в духе Франкенштейна?
Ответ: потому что программисты – люди, и их точно так же приводит в ужас происходящее с людьми, как и всех остальных. Мы, технологическая элита, ищем новый способ мышления, который поможет нам, например, противостоять смерти. Это помогает объяснить привлекательность таких мест, как Университет Сингулярности. Это авторитетное учреждение, основанное в Кремниевой долине, учит примерно следующему: когда-нибудь, в не столь далеком будущем, интернет внезапно превратится в единый сверхразумный искусственный интеллект, бесконечно умнее каждого из нас в отдельности и всех нас, вместе взятых; он очень быстро станет живым существом и захватит мир, потому что люди даже не успеют понять, что происходит.
Некоторые считают, что новый разумный интернет предпочтет убить всех нас; другие – что он весьма великодушно оцифрует нас, как Google оцифровывает старые книги, чтобы мы могли жить вечно, как алгоритмы внутри глобального мозга. Да, выглядит как сюжет очередного фантастического кино. Да, в такой прямолинейной формулировке это звучит безумно. Но эти идеи высказываются в Кремниевой долине повсеместно; для многих наиболее влиятельных технических специалистов это основополагающие принципы, а не развлечение.
Совершенно очевидно, что мы не можем рассчитывать на появление некоего сенсора, обнаруживающего душу, который подтвердит, что сознание человека стало бессмертным и виртуальным. И на сегодняшний день у нас точно нет такого сенсора, который подтвердил бы метафизические идеи, касающиеся людей. Все мысли о сознании, душе и тому подобном завязаны на веру, подталкивающую к интересному выводу: мы наблюдаем становление новой религии, нашедшей выражение в технокультуре.
Однако я хотел бы отметить, что сегодня в мире чересчур много путаницы и возмущения в отношении границ религии и современности, будь то недоверие к научной точке зрения среди исламских и христианских фундаменталистов или даже ощущение неловкости, которое часто идет рука об руку с прогрессом, когда дело касается, например, изучения изменений климата или исследований стволовых клеток.
Если технологические специалисты создают собственную ультрасовременную религию, говоря людям смиренно подождать, пока их душа морально устареет, мы в итоге придем к тому, что противостояние усилится. Но если технологии представить без всей этой метафизической нагрузки, возможно ли, что современные люди будут реже ощущать неловкость?
Технология по сути своей – услуга. Технологические специалисты работают, чтобы мир стал лучше. Наши изобретения могут облегчить нагрузку, снизить уровень бедности и страданий, а иногда привнести в мир новые разновидности прекрасного. Мы можем предоставить людям больше возможностей поступать в соответствии с нормами нравственности, потому что с развитыми медициной, сельским хозяйством и жилищными условиями люди могут легко позволить себе быть добрее, чем те, кто болен, замерзает и голодает.
Но цивилизованность и совершенствование людей – все еще вопрос выбора. Поэтому ученые и инженеры должны представлять технологии так, чтобы не затруднять этот выбор.
Мы приносим людям максимальную пользу, когда наши религиозные концепции существуют отдельно от нашей работы.
Цифровая и доцифровая теократия
Если мы хотим, чтобы людям жилось в этом мире хорошо, нам не следует постепенно приравнивать людей к машинам. Мы не должны позволять, чтобы в основу изменения технологий легла философия, в рамках которой люди не считаются особенными. Но что же действительно такого особенного в людях? Должны ли мы признать, что признание самих себя особенными имеет метафизическую или сверхъестественную основу?
В качестве кульминации этой книги я предложу предварительный план проекта, который называю «гуманистической информационной экономикой». Гуманизм может включать в себя толерантность в отношении некоей разновидности двойственного восприятия. Двойственность означает, что не существует единого плана реальности. Для некоторых это может значить, что существует некий отдельный духовный или загробный мир, но для меня это значит лишь то, что ни физическая реальность, ни логика ничего не объясняют. Быть скептиком с двойственным восприятием – все равно что идти по канату. Наклонись влево – пойдешь на уступки суевериям. А справа поджидает ловушка топорного редукционизма.
Двойственное восприятие предполагает разницу между людьми и даже сверхсовершенными машинами. Когда дети учатся переводить с одного языка на другой или отвечать на вопросы, они также пополняют такие ресурсы, как контекст, вкус и нравственность, которые изобретатели машин не могут породить, а могут лишь синтезировать.
Многие друзья-технари говорят мне, что я цепляюсь за сентиментальное и субъективное различие. Мои аргументы основаны как на стремлении к истине, так и на прагматизме (идее сохранения человеческой свободы).
Вера в уникальность людей – позиция меньшинства в мире технологий, и я хочу изменить ситуацию. То, как мы ощущаем жизнь (назовите это «сознанием»), – не вписывается ни в материалистическую, ни в информационную картину мира. В последнее время я предпочитаю пользоваться термином «опыт», поскольку противоположный философский лагерь присвоил термин «сознание». Этот термин был бы вполне применим в наши дни для обозначения моделей самого себя, которые можно запустить у робота.
Что такое «опыт»?
Если мы хотим спросить, что такое «опыт», то можно сформулировать вопрос так: «Что бы изменилось, если бы мы исчезли из этого мира?»
Если бы личного опыта не существовало, как бы тогда выглядел мир? Возможен целый ряд ответов. Один из них – ничего бы не изменилось, потому что сознание это всего лишь иллюзия, выдвинутая на первый план. (Однако я бы отметил, что сознание – не то, что можно ослабить, если это иллюзия.)
