Я считаю, что это совершенно замечательный – и, на самом деле, вдохновляющий – способ разрешения противоречия, возникающего из‐за того, что я как личность считаю себя источником смысла, судящим о том, что и почему имеет значение, и при том одновременно являюсь представителем вида Homo sapiens, результатом нескольких миллиардов лет совершенно прозаической проектно-конструкторской деятельности, и не обладаю какими бы то ни было признаками, которые тем или иным образом не возникли в ходе того же набора процессов. Я знаю, что других это настолько шокирует, что они с новой силой обращаются к убеждению, что где-то как-то просто должна существовать преграда на пути дарвинизма и искусственного интеллекта. Я постарался показать, что из опасной идеи Дарвина следует, что такой преграды нет. Истинность дарвинизма означает, что мы с вами – артефакты Матери-Природы, но наша интенциональность вовсе не становится менее настоящей из‐за того, что является результатом миллионов лет бездумного, алгоритмического проектирования и конструирования вместо того, чтобы быть даром свыше. Джерри Фодор может шутить о нелепости идеи, будто мы – артефакты Матери-Природы, но его смех – пустой звук; любые альтернативные точки зрения требуют введения того или иного небесного крюка. Вызванного этим выводом шока вам может хватить, чтобы проявить большую симпатию к тщетным попыткам Хомского и Сёрля избежать заключения, что все, что нужно, это естественный отбор – алгоритмическая последовательность кранов, поднимающих ввысь все более сложные формы замысла.
Или он может подтолкнуть вас к поискам спасителя. Разве математик Курт Гёдель не доказал великую теорему, демонстрирующую невозможность искусственного интеллекта? Так думали многие, и совсем недавно один из наиболее известных физиков и математиков мира, Роджер Пенроуз, в своей книге «Новый ум короля: о компьютерах, мышлении и законах физики»
752 решительно поддержал их интуитивную догадку. Этому и будет посвящена следующая глава.
ГЛАВА 14: Настоящий смысл, тот, который имеют слова и идеи, сам по себе является продуктом, возникающим в результате изначально бессмысленных процессов – алгоритмических процессов, создавших всю биосферу, включая и нас. Робот, спроектированный как механизм, обеспечивающий ваше выживание, подобно вам был бы обязан своим существованием инженерному проекту с иными высшими целями, но это не помешало бы ему стать автономным творцом смыслов в самом полном значении этого слова.
ГЛАВА 15: Следует рассмотреть и нейтрализовать одно из авторитетных и влиятельных оснований для скептицизма в отношении искусственного интеллекта (и опасной идеи Дарвина): не теряющее популярности убеждение, будто теорема Гёделя доказывает невозможность искусственного интеллекта. Этот благоденствующий во мраке мем недавно возродил Роджер Пенроуз, изложивший его настолько ясно, что это равносильно разоблачению. Мы можем экзаптировать его артефакт для наших собственных целей: с его невольной помощью этот мем можно уничтожить.
Глава пятнадцатая
НОВЫЙ УМ КОРОЛЯ И ДРУГИЕ ИСТОРИИ
1. Меч в камне
Итак, иными словами, если мы считаем машину непогрешимой, то она не может быть одновременно и разумной. Существует несколько теорем, которые утверждают практически то же самое. Но эти теоремы ничего не говорят о том, какая степень интеллекта может быть продемонстрирована, если машина не притязает на непогрешимость.
Предпринимавшиеся на протяжении долгих лет попытки использовать теорему Гёделя, чтобы доказать нечто важное в отношении природы человеческого разума, носят эфемерный характер романтической истории. В перспективе «использовать науку» в подобных целях есть нечто странным образом будоражащее. Думаю, я могу сказать, что именно. Ключевым для понимания текстом является не сказка Ганса Христиана Андерсена о новом платье короля, а легенда артуровского цикла о мече в камне. Некто (разумеется, наш герой) обладает особой, возможно, даже волшебной силой, которая в большинстве случаев практически незаметна, но в особых случаях может быть довольно-таки очевидным образом явлена: если вы способны вытащить меч из камня, эта сила у вас есть; если не способны – ее нет. Это ясная всем победа – или поражение; они не требуют каких-либо особых толкований или специальных ходатайств в чью-либо пользу. Вытащите меч, и победа за вами, вот и все.
Романтически настроенным людям теорема Гёделя сулит столь же драматическое подтверждение уникальности человеческого разума. Кажется, что эта теорема определяет, какое деяние может совершить подлинный человеческий разум, но не самозванец, не всего лишь управляемый алгоритмами робот. Нас не должны заботить технические детали самого доказательства Гёделя; нет математика, который сомневался бы в его обоснованности. Проблема заключается в том, как применить теорему для доказательства чего-то относительно природы разума. Слабость в любом подобном доводе должна возникнуть на ключевом эмпирическом этапе: этапе, когда мы поднимаем взгляд и видим, как наши герои (мы сами, люди-математики) делают то, чего просто не может сделать робот. Является ли такой подвиг, подобный извлечению меча из камня, подвигом ни с чем не сравненным, или это подвиг, который невозможно с легкостью (если вообще возможно) отличить от деяний, к такому подвигу лишь приближающихся? Это – ключевой вопрос, и то, чем именно является этот отличительный подвиг, стало предметом множества споров. Виновником некоторых из них был сам Курт Гёдель, ибо он полагал, что доказал, будто человеческий разум должен быть небесным крюком.
В 1931 году Гёдель, молодой математик из Венского университета, опубликовал свое доказательство, одну из наиболее важных и неожиданных работ в истории математики XX века, наложив на математическое доказательство абсолютное ограничение, что и в самом деле весьма поразительно. Вспомните евклидову геометрию, которую вы изучали в старших классах и узнали, как создавать формальные доказательства геометрических теорем, опираясь на список фундаментальных аксиом и определений, используя ограниченный перечень правил логического вывода. Вы учились использовать аксиоматизируемость планиметрии. Помните, как учительница рисовала на доске геометрический чертеж, изображающий, скажем, треугольник, стороны которого под разными углами пересекали различные прямые линии, и затем спрашивала вас: «Должны ли эти линии пересечься под прямым углом? Является ли тот треугольник равным этому?» Зачастую ответ был очевиден: вы могли видеть, что линии должны пересечься под прямым углом, что треугольники равны. Но совсем иным делом (в действительности, требовавшим известных усилий, прилагаемых не без внешнего побуждения) было формально доказать это, исходя из аксиом и в соответствии со строгими правилами. Глядя, как учительница чертит на доске новый чертеж, задавались ли вы когда-нибудь вопросом, возможны ли в планиметрии такие факты, истинность которых можно видеть, но и за миллион лет невозможно доказать? Или вам казалось очевидным, что, если вы сами неспособны придумать доказательство какого-либо геометрического утверждения, претендующего на истинность, то это – всего лишь знак вашей собственной беспомощности? Возможно, вы думали: «Доказательство должно быть, ибо это – правда, даже если я не могу его отыскать!»
