Теперь представьте, что в разгар работы в китайской комнате Сёрлу дают аналогичную задачу на китайском.
Четвертого июня 2012 г. Sohu Weibo [китайская блог-платформа] заблокировала пост со следующим набором символов. Можете ли вы понять почему?
占占占占人 占占占点 占占点占 占点占占 点占占占 灬占占占
Это настоящие китайские иероглифы (“загогулины” Сёрла), но их последовательность не имеет смысла. Почему власти ее заблокировали? Дело в том, что 4 июня – годовщина бойни на площади Тяньаньмэнь, в ходе которой армия убила сотни протестующих. (“4 июня” значит для китайцев примерно то же, что “11 сентября” для американцев.) Самыми знаменитыми снимками того дня стали фотографии одинокого отважного человека, стоящего перед танками. В цепочке символов видно, как он встает перед четырьмя танками слева, после чего они снова и снова переезжают его и исчезают в правой стороне
[72].
Китайская комната должна “понимать это”, но сам Сёрл ничего не узнает, если только не получит доступ к комментариям к исходному коду, поскольку он не сможет понять, что в данном случае он следовал правилам, чтобы создать “мысленный образ”, обработать его и использовать результат для проверки памяти. Иными словами, прежде чем ответить на вопрос на китайском, система произвела бы набор действий, который поразительно напоминает сознательные действия Сёрла при ответе на вопрос на английском. Можно сказать, что система обладает собственным сознанием, невообразимым для Сёрла, прозябающего в ее моторном отсеке.
Любая программа, способная справиться с тестом Тьюринга, должна производить “мысленные” операции, очень точно имитирующие мысленные операции, осуществляемые нами в ходе разговора. Допустим, например, что интервьюер в тесте Тьюринга решил учить кандидата квантовой физике, используя сократовский метод вопросов и ответов и давая ученику простые задачи. Чтобы поддерживать этот разговор, сидящий в моторном отсеке Сёрл вынужден будет помогать системе справляться со сложными интеллектуальными упражнениями, но сам в итоге останется таким же несведущим в квантовой физике, каким был в начале эксперимента. Система, напротив, будет разбираться в этой теме гораздо лучше, чем до начала теста Тьюринга, поскольку она выполняла упражнения. В этом конкретном случае тест Тьюринга установит в программу новую виртуальную машину – машину простой квантовой физики.
Подобные факты полностью скрываются рисуемым Сёрлом образом “клочков бумаги” и “правил”, которые позволяют ему “устанавливать соответствие” между китайскими иероглифами. Я не утверждаю, что Сёрл намеренно скрыл сложность программы, моделирование работы которой представлял в ходе своего эксперимента, но он явно проигнорировал следствия ее сложности. Если вы представляете эту программу в качестве относительно простого набора правил, то, подобно Бэтсону, представлявшему “частицы хроматина, неотличимые друг от друга и практически гомогенные во всех известных опытах”, вы, вероятно, сочтете заявленные способности программ к пониманию “непостижимыми”, как и способности ДНК.
Смотрите, что мы сделали. Мы повернули регулятор предложенного Сёрлом насоса интуиции и изменили уровень детализации описания исполняемой программы. Уровней всегда много. На высшем уровне способности системы к пониманию нельзя назвать невообразимыми: мы даже можем увидеть, как именно система понимает, что делает. Ответ системы больше не кажется нелепым – он кажется очевидно верным. Это не значит, что ИИ такого типа, который критиковал Сёрл, на самом деле достигает того уровня компетентности, где можно говорить о понимании, или что такие методы, расширенные в соответствии с представлениями исследователей ИИ того времени, могли бы с большой долей вероятности привести к появлению компетенций столь высокого уровня. Это значит лишь то, что мысленный эксперимент Сёрла на самом деле не справляется с задачей, которую, как утверждается, он решает: он не демонстрирует абсолютную невозможность создания “сильного” ИИ.
Можно покрутить и другие регуляторы, но этим не раз занимались в огромном количестве литературы, написанной под влиянием “Китайской комнаты”. Здесь я уделяю основное внимание самому инструменту мышления, а не теориям и предположениям, на которые он был нацелен, и показываю, что этот инструмент дефектен: он убеждает, затуманивая наше воображение, а не используя его должным образом.
61. Падение телеклона с Марса на Землю
Одна луна восходит на востоке. Другая луна восходит на западе. Вы видите, как две луны движутся навстречу друг другу по холодному черному небу, после чего одна проходит позади другой и они продолжают двигаться дальше. Вы на Марсе, в миллионах километров от дома. От гибели в холодной марсианской пустыне вас защищают хрупкие мембраны земной технологии, но покинуть планету вы не можете – ваш космический корабль уже не починить. Вам никогда не вернуться на Землю, к друзьям и близким, в родные края.
Впрочем, надежда есть. В коммуникационном отсеке разбитого корабля вы находите телепорт “Телеклон Марк IV” и инструкцию к нему. Если включить телепорт, направить его луч на приемник “Телеклона” на Земле, а затем войти в камеру отправки, телепорт быстро и безболезненно расщепит ваше тело и создаст молекулярную схему для отправки на Землю, где приемник, резервуары которого наполнены необходимыми атомами, почти мгновенно – по переданной инструкции – создаст вас! Вы со скоростью света вернетесь на Землю и окажетесь в кругу друзей и близких, которые совсем скоро будут затаив дыхание слушать рассказы о ваших приключениях на Марсе.
Еще раз обследовав поврежденный корабль, вы приходите к выводу, что “Телеклон” – ваш единственный шанс. Терять вам нечего, поэтому вы включаете передатчик, настраиваете его и входите в камеру отправки. Пять, четыре, три, два, один, ВЖУХ! Вы открываете дверь, выходите из камеры приемки “Телеклона” и оказываетесь в знакомой, солнечной атмосфере Земли. Вы вернулись домой, целая и невредимая, хотя для этого вам и пришлось упасть на Землю с самого Марса. Чтобы отпраздновать чудесное спасение от жуткой гибели на красной планете, вы собираете всех друзей и близких и замечаете, что все они изменились с последней встречи. В конце концов, прошло почти три года – и никто не помолодел. При взгляде на свою дочь Сару, которой теперь, должно быть, восемь с половиной, вы ловите себя на мысли: “Неужели это та же девочка, которая сидела у меня на коленях?” Само собой, это она, решаете вы, хотя вам и приходится признать, что вы не столько узнаете ее по памяти, сколько угадываете, кто она такая. Она теперь гораздо выше, выглядит гораздо старше и знает гораздо больше. В общем-то, с момента вашей последней встречи успела смениться даже большая часть клеток ее тела. Но несмотря на внешние перемены, несмотря на замену ее клеток, она осталась тем же человеком, которого вы поцеловали на прощание три года назад.
