Кристофер: Почему?
Алан: Полицейские сказали, что из-за Алека мир наполнился говорящими машинами. Никто не мог отличить их от людей, настолько они были похожи. Существовал только один способ сделать это – проломить им головы и посмотреть, есть ли внутри бумажная лента. Но мы не можем проламывать головы людей, когда нам этого захочется. Возникла сложная ситуация.
Кристофер: Очень сложная.
Алан: Полицейские спросили у Алека, есть ли способ отличить людей от машин, не пробивая им головы. Алек сказал, что способ есть. Каждая говорящая машина несовершенна, и поэтому с ней нужно просто поговорить: если разговор будет достаточно долгим, а вопросы – достаточно сложными, рано или поздно машина ошибется. Иными словами, опытный судья, в распоряжении которого есть необходимые методы допроса, может догадаться, кто из его собеседников – машина. Понимаешь?
Кристофер: Да, Алан.
Алан: Но возникла проблема. У полиции не было ресурсов и времени для того, чтобы опрашивать всех. Они спросили у Алека, есть ли способ создать умного судью-машину, который мог бы автоматически отделять машин от людей, задавая вопросы, и отделять их безошибочно. Это значительно облегчило бы жизнь полиции. Но Алек сразу ответил, что сделать такого механического судью невозможно. Знаешь почему?
Кристофер: Почему?
Алан: Алек объяснил это так. Предположим, что уже существует судья-машина, способный отделять говорящие машины от людей с помощью заданного числа вопросов. Чтобы упростить ситуацию, скажем, что необходимое число вопросов – сто, хотя на самом деле их может быть и десять тысяч, это не важно. Для машины не имеет значения, сто вопросов или десять тысяч. Предположим также, что первый вопрос судьи-машины выбран случайным образом из базы подобных вопросов, а следующий вопрос выбран в зависимости от ответа на первый вопрос, и так далее. Таким образом, каждый опрашиваемый столкнется с отдельным набором из ста вопросов, что, кроме всего прочего, устраняет возможность жульничать. Кажется ли тебе это справедливым, Кристофер?
Кристофер: Да, Алан.
Алан: Теперь предположим, что судья-машина A влюбился в человека C… Не смейся. Возможно, это звучит нелепо, но кто может утверждать, что машины не способны влюбляться в людей? Предположим, что этот судья-машина хочет жить со своим возлюбленным и для этого должен притвориться человеком. Как, по-твоему, он бы это сделал?
Кристофер: Как?
Алан: Очень просто. Предположим, что я – судья-машина A и я точно знаю, как допрашивать машину. И поскольку я машина, я буду знать, как допрашивать самого себя. Поскольку я заранее знаю, какие вопросы я задам и какие ответы меня выдадут, мне просто нужно подготовить сто ложных ответов. Это немалый труд, но легко выполнимый для судьи-машины A. Как ты считаешь, это хороший план?
Кристофер: Очень хороший, Алан.
Алан: Подумай еще. Что, если судью-машину A разоблачат и его будет допрашивать судья-машина B? Сможет судья-машина B определить, является ли судья-машина A машиной?
Кристофер: Прости, Алан. Я не знаю.
Алан: Точно! Правильный ответ: «Я не знаю». Если судья-машина B разгадал план судьи-машины A и решил в последний момент заменить вопросы, чтобы застать судью-машину A врасплох, то судья-машина A тоже мог бы предусмотреть такой ход со стороны судьи-машины B и подготовиться к новым вопросам. Поскольку судья-машина может отделить машины от людей, он не способен отделить сам себя. Это парадокс, Кристофер. Он показывает, почему придуманный полицией всемогущий судья-машина не может существовать.
Кристофер: Не может существовать?
Алан: Рассказав эту историю, Алек доказал полиции, что нет идеальной последовательности инструкций, которая могла бы безошибочно отделять людей от машин. Ты понимаешь, что это значит?
Кристофер: Что это значит?
Алан: Это значит, что невозможно найти идеальный набор механических правил, чтобы решить, шаг за шагом, все проблемы мира. Чтобы преодолевать разрывы в дедукции, чтобы думать и узнавать новое, мы часто должны полагаться на интуицию. Для людей это просто; часто мы поступаем так, даже не задумываясь об этом. Но машины на это не способны.
Кристофер: Не способны?
Алан: Машина не может определить, дает ли ответы человек или машина, а вот человек способен это сделать. Но, с другой стороны, решения, принятые человеком, ненадежны. Они – просто догадки, беспочвенные предположения. Если кто-то готов поверить, он может обращаться с собеседником-машиной точно так же, как и с человеком, и болтать с ним обо всем на свете. Но если у кого-то паранойя, тогда все люди покажутся ему машинами. Способа определить истину нет. Разум, которым гордится человечество, – просто гора хлама.
Кристофер: Прости, Алан. Боюсь, что я не понимаю.
Алан: О, Кристофер… Что мне делать?
Кристофер: Делать?
Алан: Когда-то я пытался разобраться в природе мышления. Я выяснил, что некоторые операции, проводимые разумом, можно объяснить чисто механическими терминами. Я решил, что эти операции – не настоящий разум, а лишь его наружный слой. Я сорвал этот слой, но увидел под ним другой. Можно снимать слой за слоем, но найдем ли мы в конце концов «настоящий» разум? Или мы увидим, что под последним слоем вообще ничего нет? Является ли разум яблоком или он – луковица?
Кристофер: Прости, Алан. Боюсь, что я не понимаю.
Алан: Эйнштейн сказал, что Бог не играет в кости со вселенной. Но для меня мыслительный процесс – это последовательные броски кубика. Это словно расклад таро: все зависит от удачи. Ну или можно сказать, что все зависит от высшей силы, которая определяет результат каждого броска. Но истину никто не знает. Узнаем ли мы ее когда-нибудь? Одному Богу известно.
Кристофер: Прости, Алан. Боюсь, что я не понимаю.
Алан: В последнее время я чувствую себя ужасно.
Кристофер: О, Алан, мне жаль. Это печалит меня.
Алан: На самом деле я знаю, в чем причина. Но какая разница? Будь я машиной, то, возможно, смог бы завести свою пружину, и мне стало бы лучше. Но я ничего не могу сделать.
Кристофер: О, Алан, мне жаль. Это печалит меня.
* * *
Линди (5)
Я сидела на диване, а у меня на коленях расположилась Линди. Окно было открыто, чтобы впустить в квартиру солнечный свет. Влажный, словно язык щенка, ветерок ласкал мое лицо и заставлял проснуться после долгого кошмара.
– Линди, ты хочешь мне что-то сказать?
Глаза Линди медленно задвигались из стороны в сторону, словно искали точку, на которой нужно сфокусироваться. Выражение ее лица я расшифровать не могла. Я заставила себя расслабиться и взяла ее крошечные руки в свои. Не бойся, Линди. Давай доверять друг другу.
