Но чем больше времени он проводил, обдумывая сделанное Вайнсом, тем более странными представлялись выводы.
Дискуссии в обществе, порождённые экспериментом, оказались горячими, но удручающе поверхностными. Вновь бушевали длившиеся десятилетиями старые споры о том, много ли общего компьютерная программа может иметь с человеком (с точки зрения психологии, морали, метафизики, теории информации…) и даже могут ли Копии считаться мыслящими и сознающими себя «на самом деле». По мере того как другие исследователи воспроизводили эксперимент Вайнса, их Копии вскоре начали проходить тест Тьюринга: ни одна группа специалистов, проводившая опрос группы людей и Копий (по видеосвязи с замедлением, чтобы замаскировать разницу в восприятии времени), не смогла распознать, кто из них кто. Однако некоторые философы и психологи продолжали настаивать, что это демонстрирует лишь «симуляцию сознания», а Копии – просто программы, способные детально изобразить внутреннюю жизнь, в действительности не существующую.
Сторонники гипотезы «сильного искусственного интеллекта» настаивали, что сознание – функция определённых алгоритмов, результат конкретных способов обработки информации, независимо от того, какая машина или орган использованы для выполнения этой задачи. Компьютерная модель, манипулирующая данными о самой себе и своём «окружении» точно так же, по сути, как и органический мозг, неизбежно приобретёт те же ментальные свойства. «Симуляция сознания» – такой же оксюморон, как «симуляция арифметики».
Противники возражали, что от моделируемой грозы ещё никто не промок. Моделируемая ядерная электростанция не вырабатывает ни ватта энергии. Модели пищеварения и метаболизма не потребляют питательных веществ – ничего на самом деле не переваривается. Так откуда уверенность, что в модели человеческого мозга должны возникнуть настоящие мысли? Возможно, компьютер, в котором функционирует Копия, и способен генерировать достоверное описание поведения человека в произвольном гипотетическом сценарии. Может даже показаться, будто он поддерживает разговор, поскольку верно предсказывает, что сказал бы человек в аналогичной ситуации. Однако едва ли сама машина при этом что-то осознаёт.
Пол быстро решил, что весь этот спор лишь рассеивает внимание. Доказать с полной достоверностью наличие разума у Копии хоть одному человеку невозможно. Для Копии же оно и так очевидно: cogito ergo sum. Дискуссия окончена.
Для людей же, готовых допустить наличие разума у Копий на основе тех же логических рассуждений, каковые заставляли предполагать его у собратьев по виду, – и для Копий, готовых ответить им тем же, – суть дела заключалась совсем в другом.
Были кое-какие вопросы о природе этого общего качества, которые появление Копий высветили резче, нежели что бы то ни было ранее. Вопросы, которые требовалось исследовать, прежде чем человеческая раса сможет с уверенностью передать свои воспоминания, свою культуру, цели и сущность наследникам.
Вопросы, на которые могла ответить лишь Копия.
* * *
Пол сидел в своём кабинете, в любимом кресле (он не был уверен, что фактура обшивки воспроизведена точно) и утешался, как мог, пониманием полной нелепости всех страхов перед дальнейшими экспериментами на самом себе. Он уже «пережил перенос» из плоти и крови в компьютерную физиологическую модель, радикальностью далеко превосходящий прочие стадии проекта. По сравнению с этим подстройка некоторых параметров модели должна была представляться ерундой.
На терминале, для всего остального по-прежнему не работавшем, возникло изображение Дарэма. В воображении Пола он уже начинал превращаться из всесильного божества, пребывающего в чертогах Реальности и дёргающего оттуда ниточки управления, в мелкого деспотичного джинна, заключённого в бутылке-экране. Одного писклявого голоса хватало, чтобы любая аура величия и могущества сдулась, как шарик.
Пик.
– Эксперимент первый, проба ноль. Базовые данные. Разрешение по времени – одна миллисекунда, стандарт системы. Просто считай до десяти с односекундными интервалами, насколько сможешь их выдержать. Идёт?
– Думаю, с этим я справлюсь. – Он же сам всё это спланировал и совершенно не нуждался в пошаговых инструкциях. Изображение Дарэма исчезло: во время эксперимента не должно быть никаких связей с реальным временем.
Пол сосчитал до десяти. «Джинн» вернулся. Рассматривая лицо на экране, Пол осознал, что его ничуть не тянет видеть в этом лице «своё собственное». Может быть, это наследство попыток дистанцироваться от более ранних Копий. Или, возможно, его внутренний образ самого себя никогда не был особенно похож на действительный облик, а сейчас защитные механизмы психической устойчивости сделали разницу ещё больше.
Пик.
– Ладно. Эксперимент первый, проба один. Разрешение по времени – пять миллисекунд. Ты готов?
– Да.
«Джинн» исчез. Пол принялся считать:
– Один. Два. Три. Четыре. Пять. Шесть. Семь. Восемь. Девять. Десять.
Пик.
– Есть что сообщить?
– Нет. То есть я не могу не испытывать некоторой опаски, зная, что ты лезешь в мою… инфраструктуру. Но помимо этого – ничего.
Глаза Дарэма уже не застывали, пока он дожидался замедленного ответа, – то ли он научился лучше владеть собой, то ли, что более вероятно, поставил какую-то программу редактирования изображений, чтобы скрывать скуку.
Пик.
– Опаску не бери в голову. У нас же есть контроль, помнишь?
Пол предпочёл бы обойтись без напоминания. Он, конечно, знал, что Дарэм создал его второй экземпляр и вводит обеим Копиям одни и те же данные, а изменения хода времени вносит только в одну из них. Это было важной частью эксперимента, но думать об этом Полу не хотелось. Третье «я», полностью дублирующее его мысли, – ещё и это, после всего остального, было уже чересчур.
Пик.
– Проба два. Разрешение по времени – десять миллисекунд.
Пол сосчитал до десяти. «Нет ничего легче, – думал он, – когда ты создан из плоти, когда состоишь из вещества; когда все кварки и электроны делают только то, что для них естественно». Люди в конечном итоге воплощены в поля элементарных частиц, которые, конечно, не могут быть иными, чем они есть. Копии же воплощены в компьютерной памяти в виде огромных наборов чисел. Числа же, разумеется, можно интерпретировать как описание человеческого тела, сидящего в комнате. Но довольно сложно считать такое истолкование обязательным, внутренне присущим этим числам, учитывая, что в процессе кодирования модели приходится делать десятки тысяч достаточно произвольных выборов способа кодирования. Что вот это такое: содержание сахара в крови или уровень тестостерона? Частота нервных импульсов двигательного нейрона, когда я поднимаю правую руку, или сигнал, идущий от сетчатки, когда я смотрю на это движение? Если дать кому-то только голые числа, не объяснив их конкретной функции, он может просеивать величины всю жизнь, так и не обнаружив, какая из них что обозначает.
