Некоторые аспекты нашего субъективного опыта позволяют проследить весь путь нашей эволюции, например связать наши эмоциональные порывы с требованиями самосохранения (потребность в еде и питье, уклонение от опасности быть убитым) и размножения. Это означает, что, вероятно, возможно создать такой искусственный интеллект, которому не знакомы такие квалиа, как голод, жажда, страх или сексуальное влечение. Как мы видели в предыдущей главе, если очень умный искусственный интеллект запрограммирован так, чтобы он стремился к достижению практически любой достаточно амбициозной цели, для него весьма вероятно и стремление к самосохранению — для того, чтобы иметь возможность этих целей достигать. Если искусственный интеллект существует в сообществе аналогичных систем, у них может отсутствовать присущий человеку сильный страх смерти: делая регулярные резервные копии, максимум, что они могут потерять, это содержимое памяти, накопленное с момента последнего резервного копирования, при условии, что сохраненные копии пойдут в дело. Кроме того, возможность легко копировать информацию и программное обеспечение между различными системами искусственного интеллекта, вероятно, снизит остроту чувства индивидуальности, так свойственного нашему человеческому сознанию: между мной и вами было бы меньше различий, если бы мы могли легко делиться своими воспоминаниями и копировать свои способности, поэтому группа связанных друг с другом интеллектуальных систем может чувствовать себя единым организмом с коллективным разумом.
Будет ли искусственное сознание считать, что обладает свободой воли? Обратите внимание, что, хотя философы потратили тысячелетия на препирательства на тему, есть ли у нас свобода воли, и не приблизились к согласию даже по поводу того, как правильно поставить вопрос
, я ставлю другой вопрос, на который, полагаю, значительно легче ответить. Позвольте мне попытаться убедить вас, что ответ на него прост: «Да, всякий, кто сознательно принимает решения, субъективно чувствует, что обладает свободой воли, независимо от его биологического или искусственного происхождения». Спектр решений заполняет промежуток между двумя крайностями:
1) Вы знаете точно, почему делаете именно этот выбор.
2) Вы не знаете, почему сделали именно такой выбор — кажется, это был просто случайный каприз.
Дискуссии по поводу свободы воли обычно вращаются вокруг попыток примирить наше поведение, нацеленное на принятие некоторых решений для достижения определенных целей, с законами физики. И если вам надо выбрать одно из двух приведенных ниже объяснений ваших поступков, то какое из них правильное: «Я пригласил ее на свидание, потому что она действительно мне нравится» или «Элементарные частицы, из которых состоит мое тело, вынудили сделать это, двигаясь в соответствии с законами физики»? Но в предыдущей главе мы уже увидели, что годятся оба: то, что ощущается как целенаправленное поведение, может возникать из не знающих целей детерминистских законов физики. Говоря более конкретно, когда какая-то система (головной мозг или искусственный интеллект) принимает решение типа 1, она вычисляет его, используя некоторый детерминистский алгоритм, и причина, по которой она чувствует, что приняла решение, заключается в том, что она и в самом деле приняла решение, когда производила вычисления. Кроме того, как подчеркивал Сет Ллойд
, в информатике есть знаменитая теорема, которая утверждает, что почти для всех вычислений не существует более быстрого способа определить их результат, чем просто провести эти вычисления. А значит, вы обычно не можете узнать, что вы решите делать через секунду, быстрее, чем через секунду, и это помогает вам укрепить свою уверенность в свободе своей воли. Напротив, когда система (головной мозг или искусственный интеллект) принимает решение типа 2, она просто приходит к мнению, что надо основывать его на результате вычислений в какой-то подсистеме, которая в данном случае действует как генератор случайных чисел. И в мозгу, и в компьютере эффективная замена случайным числам легко создается путем усиления шума. Независимо от того, на какую часть спектра между типом 1 и типом 2 приходится решение, как биологическое, так и искусственное сознание придут к заключению, что их воля свободна: они чувствуют, что это именно они принимают решение, и они не в состоянии предсказать с уверенностью, каким оно будет, до того момента, пока не закончат его продумывать.
Некоторые люди говорят мне, что причинность их унижает, что она лишает смысла их мыслительные процессы и превращает их «просто» в машины. Я нахожу эти жалобы необоснованными и абсурдными. Во-первых, нет ничего «простого» в человеческом мозге, который, насколько я могу судить, представляет собой наиболее сложный тип физического объекта в нашей Вселенной. Во-вторых, какие альтернативы они бы предпочли? Неужели они хотят, чтобы решения принимались их собственными мыслительными процессами (вычислениями, выполняемыми в их мозгу)? Их субъективное ощущение свободы воли — это именно то, как их вычисления ощущаются изнутри: они не знают результата вычислений до тех пор, пока вычисление не завершено. То есть это то же самое, что сказать: вычисление и есть решение.
Смысл
Давайте вернемся к исходной точке этой книги: каким бы вы хотели видеть будущее жизни? В предыдущей главе вы рассмотрели, как различные культуры по всему миру стремятся к будущему полному положительных ощущений, но в поисках определения, что же считать положительным и как согласовать все то, что было бы полезно для разных форм жизни, возникают жесточайшие споры. Давайте же не позволим всем этим спорам отвлекать нас от слона в комнате: не может быть никаких положительных ощущений, когда нет никаких ощущений вовсе, то есть когда нет никакого сознания. Другими словами, без сознания не будет ни счастья, ни добра, ни красоты, ни смысла или цели — только пропащее астрономическое пространство. А значит, когда люди спрашивают о смысле жизни так, словно это дело космоса — сообщать смысл нашему существованию, они выворачивают суть наизнанку: не наша Вселенная сообщает смысл сознательным существам, но сознательные существа сообщают смысл нашей Вселенной. А значит, первым пунктом в нашем списке благих пожеланий на будущее должно стоять сохранение (а по возможности и расширение) биологического и/или искусственного сознания в нашем космосе, а не борьба за его истребление.
Если мы преуспеем в этом деле, то как мы, люди, будем чувствовать себя в условиях сосуществования со все более умными машинами? Прогресс искусственного интеллекта, представляющийся неумолимым, беспокоит ли он вас, и если да, то почему? В главе 3 мы видели, как относительно легко может вооруженная искусственным интеллектом технология удовлетворить большинство базовых нужд, касающихся дохода и безопасности, при наличии на то политической воли. Однако быть хорошо накормленным и одетым, иметь уютное жилище и возможность предаваться развлечениям — это еще не все. Если нам будет гарантировано, что искусственный интеллект позаботится обо всех наших практических нуждах и пожеланиях, не будем ли мы, тем не менее, страдать от отсутствия смысла и цели в нашей жизни, как ухоженные животные в зоопарке?
Для нас, людей, типично исходить в своей самооценке из идеи человеческой исключительности, из представления о том, что мы — самые умные существа на планете и оттого уникальные и превосходные. Появление искусственного интеллекта вынудит нас отказаться от этой мысли и стать поскромнее. Но, наверное, нам придется это сделать в любом случае: в конце концов, высокомерная уверенность в своем превосходстве над другими (личностями, этническими группами, биологическими видами) уже приводила к ужасным проблемам в прошлом, и пришла пора от нее отказаться. В самом деле, идея человеческой исключительности не только становилась причиной бед, но и кажется совершенно ненужной для процветания: если нам суждено открыть мирную внеземную цивилизацию, далеко превзошедшую нас в науках, искусствах и во всем остальном, что для нас важно, это, наверное, не сможет помешать людям продолжать находить в своих жизнях смысл и ставить перед собой цели. Мы можем сохранять верность своим семьям, друзьям и более многочисленным сообществам и продолжать заниматься всеми теми делами, которыми считали нужным и важным заниматься и раньше, не потеряв ничего, кроме своей заносчивости.
