Однако религиозная толерантность должна работать в обе стороны. Я не верю, что биты имеют какое-либо значение сверх того, что им приписывают люди, и хочу пользоваться свободой в исследовании воплощений общества будущего, основанного на этой предпосылке. Но некоторые люди, верящие в искусственный интеллект, превращаются в фанатиков, не способных задуматься о существовании иной точки зрения; толерантностью там и не пахнет.
Вернемся в 1990 год, в ресторанчик «Хунань».
Один инженер-разработчик аппаратного обеспечения сказал, поедая пельмени:
– Ну ладно, Джарон, я согласен с тобой по поводу этой штуки с искусственным интеллектом. Эти искины пугают меня до усрачки. Мне снятся кошмары о том, как компьютеры эволюционировали и просто-напросто пожрали все человечество – взяли и смели его со своего пути. Не верю я во все эти россказни про то, как они с нами подружатся или будут держать нас в качестве домашних питомцев
[118].
– О боже, это НЕ согласие со мной по поводу искусственного интеллекта. Бояться искусственного интеллекта даже хуже, чем любить его. Если ты его боишься, значит, ты в него веришь. Если запугивать людей дьяволом, религия не просто повсеместно распространится, но и станет весьма нетерпимой. Когда люди испуганы, их мышление становится ограниченным.
– Дьявола не существует, а вот компьютеры реальны.
– А что, если искусственный интеллект всего лишь фантазия, которая нам мерещится в нами самими же созданных битах? Что, если это такой способ избежать ответственности?
– Об этом спорят десятки лет. Когда люди не смогут отличить искусственный интеллект от человеческого, тогда он и станет настоящим. Тест Тьюринга и все такое.
И тут бородатый хакер, который до этого был слишком увлечен поеданием лапши, сказал:
– У него и на это есть ответ.
– Да, есть. Вы считаете, что люди – это такие фиксированные суммы, которые только и ждут момента, когда искусственный интеллект их догонит и перегонит. А что, если люди динамичны, и, может быть, даже более динамичны, чем компьютеры? Что, если ты сам изменишься в окружении компьютеров? Что, если ты поглупеешь, лишь бы компьютер казался умным?
– Да такого никогда не произойдет.
Нынешний Джарон должен вмешаться и защитить себя тогдашнего, рассказав несколько историй о недавних временах. Это все же произошло! Сейчас, когда программирование определяет нашу жизнь, мы глупеем ради того, чтобы компьютеры выглядели умными.
Вот, к примеру, Netflix.
Эта компания заявляет, что ее умный алгоритм узнает ваши вкусы и на этом основании рекомендует вам фильмы. Они даже предложили премию в миллион долларов тому, кто предложит, как сделать этот алгоритм еще умнее. Но проблема в том, что эта компания не предлагает всеобъемлющего каталога, особенно последних, горячих новинок. Если поискать конкретный фильм, он запросто может оказаться недоступен для воспроизведения. Сервис рекомендаций – это отвод глаз, отвлекающий от того факта, что на сайте есть не все фильмы. Так что большой вопрос, умен ли этот алгоритм, или это люди позволяют сделать себя слепыми и глупыми, чтобы алгоритм казался умным? То, что сделала компания Netflix, достойно восхищения, поскольку весь смысл ее деятельности заключается в том, чтобы обеспечить вас иллюзиями. Браво! (И, кстати, через десятилетия споров с откровенно нечестными аргументами в пользу того, чтобы сделать искусство и развлечения «бесплатными», смотрите, что произошло, когда такие компании, как Netflix и HBO, сумели добиться от людей платы за подписки на хорошее телевидение. Внезапно наступил период возрождения, названный Peak TV.)
Ваши друзья, возлюбленные, покупки и подработки, подброшенные вам нестабильной экономикой свободного заработка, появляются в вашей жизни благодаря тому же заблуждению, что повторяет спорный алгоритм Netflix. Где-то в сети находится море вариантов, но их слишком много, чтобы оценить все самому. Жизнь коротка, так что приходится отбросить неверие и довериться алгоритмам. Так рождаются глупцы.
Симпатичный, но печальный математик, осторожно прихлебывавший суп вонтон, сказал:
– Джарон, ты говоришь о виртуальной реальности как о противоположности искусственного интеллекта. Но разве они не станут одним целым? Если посмотреть на закон Мура, можно вычислить тот год, когда секс в виртуальной реальности станет лучше, чем реальный. Алгоритмы будут узнавать тебя все лучше и научатся создавать идеальных для тебя партнеров. Я провел некоторые предварительные вычисления и думаю, что это вполне может произойти в 2025 году.
Эта идея известна как «сексуальная сингулярность»
[119]. Объяснять ее можно хоть целый день, но можно я оставлю это на откуп читателю? А здесь приведу лишь малую часть типичного для себя ответа:
– Здесь ты ошибаешься. Вопрос не в том, что может сделать для тебя алгоритм, а в том, можешь ли ты сам расширить границы разума. В конечном счете, это все, в чем могут помочь нам компьютеры. Почему бы не подумать о том, что ты можешь сам обеспечить себе прекрасный секс? Тогда ты не только будешь связан с другим человеком, но еще и будешь жить, расти и изменяться. Алгоритм не будет гонять тебя по кругу. Если какое-то устройство рассчитает для тебя идеальный сексуальный опыт, на деле это окажется идеальной дрессировкой в ящике Скиннера. Не будь лабораторной крысой.
Мой ответ не менялся, когда мне говорили, что когда-нибудь алгоритмы искусственного интеллекта будут сочинять идеальную музыку, писать идеальные книги или снимать идеальные фильмы. Эта предпосылка изначально ошибочна.
– Но что, если людям это понравится? Ты говоришь так, как будто ты самый главный, но что, если кому-то нравятся виртуальные сексуальные партнеры, книги и музыка, созданные алгоритмами? Ты судишь по себе! Мы все имеем право на собственные вкусы.
– Мы стремимся быть хорошими инженерами, так? Я говорю о том, чтобы послать к черту петлю обратной связи, которая позволяет нам быть хорошими инженерами, когда мы воспринимаем машины как людей.
– Ты усложняешь простой вопрос.
– Нет, ты подумай об этом. Когда ты допускаешь возможность веры другого человека в индивидуальность, в то, что другой человек – это личность, в игру вступает уважение. Нельзя обойти его и переделать людей. Это фашизм. Тебе придется позволить людям изобретать что-то самим, даже если они тебя раздражают. И зачастую они действительно довольно противные, но именно за это мы и любим человечество, ведь так? За непредсказуемость, за разнообразие. Если ты решишь относиться к компьютерам как к людям, ты станешь относиться к компьютеру с тем же пиететом и потеряешь опору, на которой держится проектирование компьютеров. Ты больше не сможешь их улучшать. – Может быть, пора перестать уже быть такими брезгливыми и признать, что людей нужно переделать.
