Не совершайте ошибку, посчитав эту книгу консервативной или традиционалистской реакцией против модного футуризма. На конкурсах футуристского толка мне обычно удается переплюнуть в своем футуризме всех остальных.
Мой футуризм реален, хотя многое в нем фальшиво. Футуризм, предполагающий полный отрыв от прошлого – наступление сингулярности или полный контроль со стороны искусственного интеллекта, – подделка. Порвать с прошлым означает лишь начать с нуля, то есть стать примитивными онлайн. Возможно, мы сумеем стать достаточно примитивными, чтобы в сравнении с нами алгоритм казался суперумным.
Предполагаемый мной в приложении 1 скачок Маклюэна – это лишь один из примеров взгляда на будущее, который, по меньшей мере, настолько же красочен, как фантазии о превосходстве искусственного интеллекта, но этот взгляд честно устремлен в будущее, а не возвращается в прошлое. Футуризм, притворяющийся, что мы знаем науку, которую мы на самом деле не знаем, также фальшив. Когда кто-то притворяется, что нам уже известна вся важная информация о работе мозга, это не настоящий футурист. На самом же деле этот человек расписывается в том, что он намертво застрял в идеях прошлого.
Меня не покидает уныние, когда кто-то предполагает, что искусственный интеллект уже идет неизбежным курсом к тому, что ему будут нужны небольшие объемы данных – вместо больших массивов данных, украденных у пользователей за их спиной, – в обозримом будущем.
Если вы когда-нибудь придете на лекцию, где я обращаюсь к студентам, вы можете услышать, как я напоминаю им пример, который уже приводил на страницах этой книги: в конце девятнадцатого века слышались уверенные заявления о том, что в физике уже совершены все открытия. А потом наступил двадцатый век с общей теорией относительности и квантовой теорией поля, причем эти теории несовместимы друг с другом, так что мы знаем, что физики открыли отнюдь не все. Я говорю студентам, что наука постоянно пинает нас под зад. Я говорю им, что невозможно быть ученым, если не можешь признать неизвестное.
Наша судьба зависит от человеческих качеств, которым пока нет научного определения, таких как здравый смысл, доброта, рациональное мышление и творческий подход. Пока фантазии об искусственном интеллекте остаются тем, во что мы способны автоматически привнести мудрость, можем ли мы по меньшей мере признать, что эти качества реально пока лишь присвоить создаваемым нами системам? Что пока наши системы бессильны их проявлять?
Вопросы нашего века: можем ли мы видеть сквозь соблазнительные информационные системы так, чтобы честно взглянуть на самих себя и окружающий нас мир? Насколько плохо должны обстоять дела, чтобы технокультура решила, что стоит бросить вызов даже нашим самым взлелеянным мифам, чтобы избавиться от беспорядка в собственной голове?
