Мы никогда и ни на мгновение не соглашались с господствующим представлением, будто господин Мельцель не прибегал к помощи человека. Не может быть сомнений в том, что некий человек помогал ему – разве что можно убедительно доказать, что человек способен наделять материю интеллектом: ибо разум для игры в шахматы не менее необходим, чем для следования по цепи абстрактных рассуждений. Мы рекомендуем тем, чья доверчивость в данном случае была пленена убедительным спектаклем, и всем людям, легковерны они или нет, восхищающимся хитроумным ходом индуктивного доказательства, внимательно прочитать эту статью: все вместе и каждый в отдельности по ее прочтении должны убедиться, что простая машина не может проявить интеллект, потребный для участия в этой сложной игре…
765
Ил. 43. Шахматный автоматон фон Кемпелена
Мы знаем, что, сколь бы убедительным ни был ранее этот довод, Дарвин перебил ему спину, и частный вывод, который По делает относительно игры в шахматы, был решительно опровергнут поколением творцов, последовавших по стопам Арта Сэмюэля. Но что же испытание Декарта, известное сегодня как тест Тьюринга? О нем спорили с того момента, как Тьюринг описал удобную и практичную его версию; последовал даже ряд настоящих, хотя и ограниченных соревнований, подтвердивших то, что уже знали все, кто как следует поразмыслил о тесте Тьюринга
766: обмануть наивных судей до неприличия легко, а обмануть экспертов – неимоверно сложно; дело снова свелось к тому, что для однозначного решения вопроса нет подходящего «меча в камне». Умение поддерживать разговор или выигрывать в шахматы в качестве «подвига» не подходит: первое – потому, что результат его будет неоднозначным, несмотря на исключительную трудность достижения этого результата, а второе – потому, что это все-таки оказалось под силу машине. Могут ли следствия из теоремы Гёделя обеспечить более подходящее состязание? Предположим, что мы поместили математика в ящик А, а компьютер – любой компьютер на ваш выбор – в ящик B и задаем им вопросы об истинности и ложности арифметических предложений. Позволит ли такая проверка с уверенностью разоблачить машину? Проблема в том, что математики-люди допускают ошибки, и теорема Гёделя не выносит никакого вердикта относительно вероятности, не говоря уже о невозможности, не-вполне-совершенного выявления истины алгоритмом. Итак, кажется, что не существует какого-либо беспристрастного арифметического метода проверки, который можно было бы применить к нашим ящикам и четко отличить человека от машины.
Считается, что эта трудность систематически препятствует выдвижению любого аргумента о невозможности искусственного интеллекта от теоремы Гёделя. Несомненно, любому, кто работает в этой области, всегда было известно о теореме Гёделя – и все безмятежно продолжали свои труды. Строго говоря, классическую книгу Хофштадтера «Гёдель Эшер Бах»
767 можно прочитать как свидетельство того, что Гёдель является нечаянным защитником искусственного интеллекта: он высказал существенные догадки о том, какие дороги ведут к сильному искусственному интеллекту, а не продемонстрировал тщетность предприятия. Но Роджер Пенроуз, Роузболловский профессор математики в Оксфордском университете и один из ведущих мировых специалистов в области математической физики, думает иначе. Брошенный им вызов следует принять всерьез, даже если (как убежден я и другие сторонники искусственного интеллекта) он допускает элементарную ошибку. Когда появилась книга Пенроуза, я указал на проблему в рецензии: его доказательство в высшей степени сложно и переполнено физическими и математическими подробностями,
…и маловероятно, чтобы такое предприятие погибло из‐за одной-единственной роковой оплошности своего создателя – чтобы доказательство можно было опровергнуть простым наблюдением. Поэтому я с недоверием отношусь к своему наблюдению, что Пенроуз, кажется, допустил совершенно элементарную ошибку в самом начале и, во всяком случае, не может заметить, казалось бы, очевидную претензию или ответить на нее
768.
Мое удивление и недоверие вскоре нашло подтверждение: сначала у традиционных комментаторов статьи Пенроуза в Behavioral and Brain Sciences (написанной на основе его книги), а затем и у самого Пенроуза. В статье «Неалгоритмический разум»
769, где Пенроуз отвечает критикам, он выразил легкое недоумение по поводу сильных выражений, к которым те прибегали: «довольно-таки ошибочно», «некорректно», «роковой изъян» и «необъяснимая ошибка», «необоснованно», «глубоко неверно». Неудивительно, что сообщество исследователей искусственного интеллекта единодушно отмело доказательство Пенроуза, но, с точки зрения последнего, они не пришли к согласию о том, в чем именно заключался тот самый роковой изъян. Это само по себе показывало, как сильно он промахнулся, ибо критики нашли множество различных способов атаковать одну и ту же существенную ошибку в понимании самой природы искусственного интеллекта и использования им алгоритмов.
2. Библиотека «Тошиба»
Однако эта книга, вероятно, больше всего понравится тем, кто ее не поймет. Как специалист в области эволюционной биологии, за долгие годы я осознал, что большинству людей не хочется считать себя неуклюжими роботами, запрограммированными на сохранение своих генов. Не думаю, что им захотелось бы считать себя цифровыми компьютерами. Им будет весьма приятно услышать от человека с безупречной научной репутацией, что они не являются ни тем ни другим.
Рассмотрим набор всех машин Тьюринга – иными словами, набор всех возможных алгоритмов. Или, скорее, чтобы упростить задачу, стоящую перед вашим воображением, представьте себе вместо этого Чрезвычайно большой, но конечный подраздел множества таких машин, объединенный конкретным общим языком и состоящий из «томов» определенной длины: набор всех возможных последовательностей 0 и 1 (последовательностей байтов) длиной до одного мегабайта (восемь миллионов нолей и единиц). Пусть эти последовательности читает мой старый портативный компьютер, «Тошиба T-1200», с его двадцатимегабитным жестким диском (чтобы установить прочные границы, наложим запрет на использование дополнительной памяти). Не следует удивляться тому, что Чрезвычайно значительное большинство этих последовательностей байтов не делает ничего, достойного упоминания, если попытаться запустить их на «Тошиба» в качестве программ. Программы все-таки не случайные последовательности байтов, но их тщательно спланированные очередности, результат тысяч часов проектно-конструкторской работы. Самая сложная из всех возможных программ все равно может быть представлена как та или иная последовательность нолей и единиц, и хотя мой старый «Тошиба» слишком мал, чтобы запустить на нем некоторые из по-настоящему огромных ныне существующих программ, он вполне способен проигрывать их большой и репрезентативный подраздел: текстовые редакторы, электронные таблицы, программы для игры в шахматы, симуляторы Искусственной жизни, логические системы автоматического доказательства теорем и, да, даже некоторые автоматические программы проверки арифметических истин. Назовем все такие программы, которые можно запустить на портативном компьютере «Тошиба», существующие в действительности и воображаемые, интересными программами (это подмножество примерно аналогично подмножеству книг, которые можно прочитать, в Вавилонской библиотеке или жизнеспособным генотипам из Библиотеки Менделя). Не стоит беспокоиться о границе, отделяющей интересное от неинтересного; смело отбрасываем все сомнительное. Как бы мы ни принимали решения, в Библиотеке «Тошиба» есть Чрезвычайно много интересных программ, но их Чрезвычайно сложно «отыскать» – вот почему компании-разработчики программного обеспечения дали миру порядочное число миллионеров.
