После доклада все на время разошлись, а потом вновь собрались на коктейли в домике, соединенном с конференц-залом извилистым крытым переходом. Тем временем гостиничный персонал вкатил в зал столы и приготовил его к обеду. Участники, благодушные после местного крафтового пива и авторских коктейлей, вернулись в зал и увидели, что схему освещения перепрограммировали: скрытые в туевом потолке светодиоды бросали мягкий приглушенный свет на два ряда столов, застеленных белыми скатертями и заставленных свечами и хрусталем. Девушки-администраторы в красивых платьях и мобильных гарнитурах рассадили гостей на отведенные места. За простым обедом из семги на гриле шла оживленная беседа.
Однако теперь Енох – которому по программе отводилось послеобеденное выступление – продолжил с того, на чем остановилась нейробиолог из Университета Южной Каролины:
– В молодости ганноверского гения и ученого-энциклопедиста Готфрида Вильгельма Лейбница, который во многом заложил основы символической логики, вычислительной математики и кибернетики, называли монстром его восхищенные коллеги в парижских интеллектуальных салонах. Именно так о нем впервые услышали в Лондонском королевском обществе. В том же смысле, а не в смысле «чудовище», как в «чудовище Франкенштейна», я и употребил это слово, говоря, что теперь у нас на руках монстр. Мы все в какой-то мере несем за него ответственность, но я – больше многих. Последние семь лет я работаю в НЭО, Ново-эсхатологической организации. Моя обязанность – консультировать основателя, Джейка Фортраста, куда направить ресурсы фонда. Девять месяцев назад он сообщил мне о своем разговоре с внучатой племянницей во время рождественских каникул. Джейк обдумывал возможность профинансировать ее проект, который на том этапе зашел в тупик. София продвинулась настолько далеко, насколько это можно было сделать, моделируя отдельный нейрон или небольшие их кластеры. Единственным осмысленным следующим шагом было включить моделирование всего мозга. Она кропотливо подготовила этот шаг. Однако полное моделирование должно было задействовать ощутимые вычислительные ресурсы, то есть требовало больших денег. Джейк попросил нескольких из нас посмотреть работу Софии и непредвзято сказать, стоит ли ее поддержать. Я проголосовал за финансирование. София запустила Процесс, что привело к поразительным результатам, о которых мы все сегодня услышали.
Несколько месяцев спустя Процесс вроде бы вошел в бесконечно повторяющийся цикл. Результат был любопытный, но ни о чем не говорил, поскольку Процесс не имел возможности изменять свой коннектом. София включила эту функцию – с потрясающим результатом. Всплеск активности истощил счет настолько, что Процесс оказался на грани отключения. Я посоветовал Джейку продолжить финансирование. Он согласился, но в этот раз положил на счет гораздо больше. Он предвидел долгую скучную череду аналогичных просьб, каждая из которых будет требовать его внимания. Поэтому он дал Процессу много денег. Другими словами, предоставил в его распоряжение куда более значительные ресурсы в смысле памяти, связи и вычислительных мощностей. Итог – думаю, совершенно непредвиденный – состоит в том, что Процесс сейчас единолично занимает практически всю систему «Дыры-в-стене» и начал обращаться к другим вычислительным ресурсам.
Все это очень занятно, но еще не достигает уровня монструозности. Мы пока не можем заглянуть в Процесс и прочесть его мысли, поэтому не можем сказать, делает ли он что-нибудь интересное. Скептики могут сказать, что он просто зациклился и понапрасну расходует деньги. Дать ему израсходовать средства – современный эквивалент понятия «отключить от аппаратов» – этически то же самое, что принудительно закрыть подвисшую программу.
Противоположная точка зрения заключается в том, что это очень серьезная этическая проблема. Процесс модифицируется уже пять месяцев. Он потребляет куда больше ресурсов, чем исходная система. Судя по всему, он делает это организованно – по темпу сжигания капитала мы видим высокочастотные колебания, наложенные на более медленные. Его потребность в новых ресурсах увеличивается не плавно, а скачками. Почти весь сентябрь он пыхтел себе спокойно, потом вдруг развил бурную активность, потребовавшую больших вычислительных мощностей. Завтра мы выслушаем доктора Чо из Национального университета Сингапура, который проанализировал трафик шифрованных пакетов между «Дырой-в-стене» и другими серверными парками. По его гипотезе, последняя активность имеет характерные признаки не нейронной сети, а физического моделирования. Почему Процесс моделирует физику и как этому научился? Узнать мы не можем. И это создает этическую дилемму. Процесс приобрел уникальные незаменимые характеристики. Уничтожить его – в лучшем случае все равно что сжечь библиотеку. В худшем случае это убийство.
В этом-то – этическом – смысле у нас на руках монстр. Отключить его – преступление. Мы могли бы попытаться его заморозить, как заморозили в свое время мозг Доджа. Однако на самом деле мы не знаем, как отключить и заархивировать такой процесс без потери информации. Даже если остановить «Дыру-в-стене» и зафиксировать ее состояние – что, к слову, невозможно, – мы бы бесконечно долго отслеживали субпроцессы, запущенные им в других системах, с которыми он общается зашифрованными пакетами, а их почти невозможно отличить от другого трафика в сети.
Нам никуда не деться от Процесса. Мы должны найти способы его поддерживать, пока учимся его изучать, оценивать и – если он и впрямь работает как мозг – разговаривать с ним.
Зула оглядела собравшихся. Почти все участники – даже те, кто не соглашался, – слушали с удовольствием. Ей отчасти хотелось быть такой же, как они. Инженером или ученым, который сидит, откинувшись на стуле, с бокалом в руке, и спокойно обдумывает услышанное.
У нее не было этой роскоши. Краем глаза она видела пристальные взгляды одного-двух участников, с которыми ей не хотелось встречаться глазами. Это были те самые люди, которые раньше заняли агрессивную позицию касательно девяти РНБ, жертвователей, выбравших режим наибольшего благоприятствования, и Эфратских Одиннадцати. Судя по всему, они искренне верили, что после смерти тела человеческий мозг можно загрузить в компьютер и включить как числовую модель. И они считали, что Процесс – первое этого осуществление. Что операцию надо повторять, насколько позволяют ресурсы. И что формулировки соглашений, по которым Верна Браден и остальные РНБ-жертвователи передали свой мозг науке, обязывают Фортрастовский фамильный фонд запустить модели записанных коннектомов.
У Зулы как директора фонда было некоторое число вариантов. Она могла возразить, что Процесс – всего лишь эксперимент, а значит, не подпадает под формулировку РНБ. Она могла выключить Процесс и тем покончить со спором.
Енох Роот только что закрыл для нее этот путь. Она не могла убить своего дядю.
Был и другой выход – сослаться на отсутствие ресурсов. Соглашения не обязывали фонд тратить деньги, которых у него нет. Однако цифры были не в пользу этого довода. Зулина тщательная забота о капитале обернулась против нее. Денег у них хватало – они вполне могли поддерживать не только Процесс, но и сколько-то клонов. Ей даже не приходилось больше прилагать усилия для умножения капитала. Почти всем им управляли финансовые боты, которые продолжали зарабатывать деньги без участия человека. Зула могла завтра же подписать документ, который перекачивал бы средства от ботов «Дыре-в-стене» и аналогичным центрам, появившимся в последнее время. Она могла выключить свет, запереть дверь и выйти на пенсию раньше срока, а система продолжала бы работать независимо: финансовые боты все так же собирали бы прибыль с деятельности живых на вечное моделирование мертвых. И даже если из-за какой-нибудь аварии или бага эти боты исчезнут, Фонд Уотерхауза-Шафто (который в десять раз больше Фортрастовского и еще теснее связан со всякими хитрыми трейдинговыми алгоритмами) подхватит финансирование Процесса. А когда там будут уверены, что все отлажено, они запустят новые процессы для группы РНБ. Если еще не запустили.
