Если вы похожи на множество философов, то в этот момент вам кажется привлекательным заявление, что такой мысленный эксперимент «работает» лишь потому, что ящики A и B – артефакты, чья интенциональность в том виде, в котором она существует, является полностью производной и искусственной. Структуры данных в их памяти получают референцию (если они вообще ее получают) благодаря опосредованному обращению к органам чувств, биографиям и целям их создателей, Ала и Бо. Подлинный источник смысла, или истины, или семантики артефактов – их творцы-люди. (Именно это и означало замечание, что в определенном смысле Ал и Бо сидели каждый в своем ящике.) Да, я мог бы рассказать эту историю иначе: внутри ящиков были два робота, Ал и Бо, каждый из которых, прежде чем забраться в ящик, провел весьма долгую «жизнь», бродя по миру и собирая разнообразные факты. Я выбрал более простой путь, чтобы предвосхитить все вопросы о том, являются ли ящики A и B «по-настоящему мыслящими», но теперь мы можем восстановить в правах темы, тем самым ловко обойденные, ибо наконец пришло время раз и навсегда отбросить подозрение, будто подлинная интенциональность не может возникнуть ни в каком искусственном «разуме» без вмешательства создателя(-человека?). Предположим, что это так. Иными словами, предположим, что, каковы бы ни могли быть различия между простой коробкой с истинами наподобие ящика A и роботом настолько сложным, насколько только можно вообразить, ни у того ни у другого не может быть подлинной – или врожденной – интенциональности (поскольку оба – артефакты), но лишь производная интенциональность, полученная от их создателя. Теперь вы готовы к еще одному мысленному эксперименту, reductio ad absurdum этого предположения.
4. Безопасная дорога в будущее
750Предположим, вы по какой-то причине решили, что хотите пожить в XXV веке, и предположим, что единственный известный способ так долго поддерживать в вашем теле жизнь предполагает помещение его в своего рода устройство для гибернации. Предположим, что это – «анабиозная капсула», охлаждающая ваше тело до температуры лишь на несколько градусов выше абсолютного нуля. В этой капсуле ваше тело сможет, погруженное в суперкому, покоиться так долго, как вы того пожелаете. Можно устроить все так, чтобы вы забрались в капсулу, помещенную в камеру обслуживания, уснули, а затем были автоматически разбужены в 2401 году и отпущены на волю. Это, конечно же, проверенный временем научно-фантастический сюжет.
Проектирование самой капсулы окажется не единственной инженерной проблемой, которую вам придется решать, поскольку капсулу нужно будет на протяжении 400 лет охранять и снабжать необходимой энергией (для работы систем охлаждения и т. д.). Рассчитывать на то, что ее обслуживанием займутся ваши дети и внуки, разумеется, нельзя, ибо все они умрут задолго до наступления 2401 года, и совершенно неразумно полагать, будто более отдаленные ваши потомки (если они вообще будут) окажутся озабочены вашим благополучием. А потому вам нужно разработать суперсистему, которая защищала бы вашу капсулу и обеспечивала ее энергией, потребной для того, чтобы проработать четыре века.
Вот две основные стратегии, которыми вы можете руководствоваться. Выбрав первую, вам нужно отыскать идеальную местность (в той мере, в какой вы можете предвидеть будущее), чтобы установить там оборудование, обеспечив его доступом к воде, солнечному свету и всему, что еще нужно вашей капсуле (и самой суперсистеме) для работы. Основной недостаток такой установки, или «укоренения», состоит в том, что в случае опасности (скажем, если прямо в месте ее размещения кто-нибудь решит построить скоростную магистраль) капсулу нельзя будет перенести. Альтернативная стратегия гораздо сложнее и дороже, но этого изъяна не имеет: создайте для размещения капсулы передвижной аппарат, снабженный всеми необходимыми сенсорами и системами раннего оповещения, чтобы он мог покинуть опасное место и, если понадобится, отыскать новые источники энергии и материалов для ремонта. Короче говоря, постройте гигантского робота и установите капсулу, в которой будете находиться, внутри него.
Две эти фундаментальные стратегии заимствованы у природы: они примерно соответствуют разделению между растениями и животными. Поскольку вторая, более сложная стратегия лучше отвечает нашим целям, предположим, что вы решили построить робота для размещения своей капсулы. Разумеется, следует попробовать сконструировать его так, чтобы он в первую очередь «выбирал» действия, служащие к вашей пользе. Не называйте эти простые точки переключения в системе управления вашего робота точками «выбора», если вам кажется, что это подразумевает, будто робот наделен свободой воли или сознанием, ибо я вовсе не хочу протащить нечто подобное в свой мысленный эксперимент контрабандой. Мой тезис непротиворечив: мощность любой компьютерной программы состоит в ее способности действовать в соответствии с командами разветвления, переходя от решения к решению на основании проводимых проверок доступных ей данных, и я хочу сказать только то, что, разрабатывая систему управления робота, было бы разумно попытаться структурировать ее так, чтобы каждый раз, как перед ней появляется ветка возможностей, она склонна была бы двигаться по пути, с наибольшей вероятностью служащему вашим интересам. В конце концов, вы – raison d’être всего устройства. Идея спроектировать «железо» и программное обеспечение таким образом, чтобы оно было приспособлено для работы в интересах конкретного человеческого существа, уже перестала быть научно-фантастической, хотя конкретные конструкторские проблемы, с которыми столкнутся создатели вашего робота, окажутся весьма сложными инженерными задачами, решение которых сегодня лежит за гранью новейших достижений инженерной мысли. Этот мобильный автомат будет нуждаться в «зрительной» системе, которая направляла бы его передвижения, а также других «сенсорных» системах в дополнение к механизмам самодиагностики, информирующих его о собственных потребностях.
Поскольку вы все время будете в коме, а потому не сможете направлять робота и планировать стратегию его поведения, вам нужно будет сконструировать его суперсистему таким образом, чтобы она генерировала собственные планы в ответ на изменение обстоятельств, с которыми столкнется в течение столетий. Он должен «знать» как «искать», «распознавать», а затем использовать источники энергии, как перемещаться на более безопасные территории, как «предвидеть» опасности и избегать их. Когда впереди столько работы, которую нужно сделать быстро, вам лучше бы сэкономить на всем, на чем только можно: снабдите своего робота не более изощренной способностью выбора, чем ему, вероятно, понадобится, чтобы проводить различия там, где их в нашем мире следует проводить – исходя из его конструкции.
Ваша задача станет гораздо сложнее, если вы не сможете рассчитывать на то, что ваш робот окажется единственным подобным роботом, выполняющим такую миссию. Предположим, что помимо тех людей и животных, которые будут жить в грядущие века, будут и другие роботы – множество разных роботов (и, возможно, также и «растений»), конкурирующих с вашим роботом за энергию и безопасность. (С чего бы вдруг распространилась подобная причуда? Предположим, что у нас есть неопровержимые доказательства того, что в 2401 году на нашу планету прибудут путешественники из иной галактики. Лично я умирал бы от желания встретиться с ними, и возможность залечь в холодильник показалась бы мне соблазнительной, будь это единственный способ такое желание исполнить.) Если вы планируете общение с другими акторами-роботами, действующими в интересах своих клиентов, подобных вам, было бы разумно наделить своего робота достаточно сложной системой управления, чтобы он мог вычислять вероятные преимущества и риски кооперации с другими роботами или формирования взаимовыгодных альянсов. Было бы совершенно непредусмотрительно предположить, что другие клиенты очарованы правилом «живи и жить давай другим», – например, вполне могут существовать недорогие роботы-«паразиты», только того и ждущие, чтобы наброситься на ваш дорогой автомат и его эксплуатировать. Любые вычисления вашего робота относительно этих угроз и возможностей должны быть «дешевы и сердиты»; не существует абсолютно надежного способа отличить друзей от врагов или предателей от тех, кто держит слово, а потому вам придется сделать так, чтобы робот, подобно игроку в шахматы, был способен принимать решения и рисковать в условиях нехватки времени.
