В 1993 году математик Вернор Виндж написал важное эссе под названием «Технологическая сингулярность» (The Coming Technological Singularity), в котором он оценил, что где-то в течение тридцати лет предсказать будущее технологий станет невозможно — это событие теперь называют просто сингулярностью. Виндж связывал приближающуюся сингулярность с реализацией искусственного интеллекта, и последующее обсуждение строилось на этом. Безусловно, я надеюсь, что к тому времени искусственный интеллект будет реализован, но пока ничто не указывает на теоретический прогресс, который, как я считаю, должен появиться прежде. С другой стороны, я не вижу причины выделять искусственный интеллект как ломающую стереотипы технологию: у нас уже есть миллиарды людей.
Большинство защитников сингулярности считают, что вскоре после прорыва искусственного интеллекта будет построен сверхчеловеческий мозг и что тогда, как говорит Виндж, «эре человека придёт конец». Но мои доводы, касающиеся универсальности человеческого мышления, исключают такую возможность. Поскольку люди уже обладают способностью объяснить и сконструировать всё что угодно, они уже могут перешагнуть через своё парохиальное происхождение, поэтому такого понятия, как сверхчеловеческое мышление, быть не может. Может только быть дальнейшая автоматизация, которая позволит быстрее осуществлять существующий тип человеческого мышления, с большим объёмом оперативной памяти, с передачей фаз «работы в поте лица» автоматам (не искусственному интеллекту). Многое из этого уже осуществилось с появлением компьютеров и другой техники, а также с общим ростом благосостояния, и в результате людей, которые способны тратить время на то, чтобы думать, стало больше. И можно ожидать, что так будет продолжаться. Например, появятся ещё более эффективные интерфейсы взаимодействия человека с компьютером, что, вне сомнений, увенчается приставками для мозга. Но такие задачи, как поиск в Интернете, никогда не будут выполняться супербыстрым искусственным интеллектом, сканирующим миллиарды документов творчески, ища смысл, потому что этот интеллект не захочет выполнять такую работу — так же, как и человек. А искусственные учёные, математики и философы не будут обладать понятиями или аргументами, которые не дано понять людям. Универсальность предполагает, что во всех значимых смыслах между людьми и искусственным интеллектом никогда не будет другого отношения, кроме как отношения равенства.
Аналогично, часто предполагается, что сингулярность — это момент беспрецедентного потрясения и опасности, так как инновации начинают появляться слишком быстро и люди не могут угнаться за ними. Но это — парохиальное заблуждение. На протяжении первых нескольких столетий эпохи Просвещения постоянно присутствовало чувство, что быстрое и ускоряющееся новаторство выходит из-под контроля. Но увеличивались и наши способности справляться с изменениями в технологиях, образе жизни, этических нормах и так далее и наслаждаться ими, при этом некоторые из антирациональных мемов, которые раньше саботировали нововведения, ослабевали и вымирали. В будущем, когда скорость внедрения инноваций также будет расти просто за счёт растущей тактовой частоты и выработки приставок мозга и искусственного интеллекта, наша способность справляться с этим будет расти с такой же скоростью или ещё быстрее: если бы все мы вдруг смогли думать в миллион раз быстрее, никто бы не чувствовал, что бежит впереди других. Поэтому я считаю, что понимать сингулярность как своего рода разрыв — ошибка. Знание продолжит расти экспоненциально или даже быстрее, что само по себе достаточно поразительно.
Экономист Робин Хэнсон предположил, что в истории нашего вида было несколько сингулярностей, таких как сельскохозяйственная и промышленная революции. Возможно, по такому определению «сингулярностью» было даже ранее Просвещение. Кто мог предсказать, что пережившие гражданскую войну в Англии — кровавую резню религиозных фанатиков и абсолютного монарха — и видевшие победу религиозных фанатиков в 1651 году также увидят и мирное рождение общества, главными характеристиками которого были свобода и разум? Королевское (научное) общество, например, было основано в Великобритании в 1660 году — и это было достижение, которое вряд ли можно было себе представить поколением раньше. Рой Портер отмечает 1688 год как начало английского Просвещения. Это дата «Славной революции», начала преимущественно конституционного правления, а также многих других рациональных реформ, которые были частью этого более глубокого и поразительно быстрого сдвига в господствующем мировоззрении.
Далее, момент времени, за который научное предсказание заглянуть не может, для разных явлений разный. Для каждого явления это момент, в который создание нового знания может начать иметь существенное значение в плане того, что мы пытаемся предсказать. Поскольку наши оценки этого момента тоже лежат в пределах горизонта того же типа, нам действительно следует понимать все свои предсказания с неявно включённой в них оговоркой «если не будет создано новое знание».
Некоторые объяснения действительно простираются в удалённое будущее, далеко за горизонты, которые делают непредсказуемыми большую часть других понятий и явлений. Одно из них — сам этот факт. Другое — бесконечный потенциал объяснительного знания — предмет этой книги.
Пытаться предсказать что-то, выходящее за рамки соответствующего горизонта, бесполезно, это пророчество, а вот интересоваться тем, что за ним кроется, другое дело. Когда из интереса рождается гипотеза, получается размышление, которое также не является иррациональным. На самом деле оно жизненно важно. Каждая из тех глубоко непредвиденных новых идей, из-за которых будущее становится непредсказуемым, начинается как размышление. А каждое размышление начинается с проблемы: проблемы, связанные с будущим, тоже могут выходить за горизонт предсказания, а у проблем есть решения.
Что касается понимания физического мира, мы находимся во многом в том же положении, что и Эратосфен, когда измерял Землю: он мог сделать это необыкновенно точно и достаточно много знал об определённых аспектах нашей планеты, гораздо больше, чем его предки всего за несколько веков до него. Он наверняка знал о таком понятии, как смена времён года в тех областях Земли, о которых у него не было никаких данных. Но он также знал, что большая часть из всего того, что есть вокруг, лежит далеко за пределами его теоретических знаний, а также его физической досягаемости.
Мы пока не можем измерить Вселенную так же точно, как Эратосфен измерил Землю. И мы тоже знаем, насколько мы невежественны. Например, из универсальности нам известно, что искусственный интеллект можно реализовать путём написания компьютерных программ, но мы понятия не имеем, как написать (или развить) ту самую, подходящую. Мы не знаем, что такое квалиа, не знаем, как устроено творческое мышление, несмотря на то, что внутри каждого из нас проявляются и квалиа, и творческое мышление. Мы уже несколько десятилетий знаем, что есть генетический код, но не имеем понятия, почему он позволяет делать то, что позволяет. Мы знаем, что обе глубочайшие, доминирующие в физике теории наверняка неверны. Нам известно, что люди представляют фундаментальную важность, но мы не знаем, есть ли среди этих людей мы: мы можем потерпеть неудачу или сдаться, и у начала бесконечности окажутся разумные существа, происходящие из других мест Вселенной. И так далее — для всех упомянутых мною проблем и для многих других.
