– У вас есть предположения, почему Дороти вышла из строя так внезапно? Почему эти проблемы не выявились в процессе симуляции? – продолжал расспрашивать ее Уайман.
Шепард перестала шумно жевать и выплюнула маленькую косточку:
– Думаю, программа знала, что это симуляция. А когда обнаружила себя в «Эксплорере», запертой в «Бутылке», то поняла, что это уже реальность, а не тест. Искусственный интеллект сделал то, для чего был предназначен: оценил ситуацию и пришел к выводу, что зонд в опасности. Включился модуль ИНС, режим аварийного выживания. Программа предприняла вполне логичные шаги, чтобы выбраться из ситуации, которую ошибочно посчитала угрожающей, и с тех пор «в панике» бродит по Интернету. Она не была запрограммирована на работу в этой среде и не понимает, где находится, не понимает, что там реально, а что нет. В Интернете искусственный интеллект видит угрозы со всех сторон, и, вероятно, это реальные угрозы, так что он не может вернуться в режим нормальной работы.
– Дороти обладает самосознанием?
– Ни в коем случае. Не больше, чем «Элиза». Все, что делает Дороти, каждый ее поступок – результат выполнения набора команд. Каким бы реальным ни казался искусственный интеллект, это всего лишь операции «и», «или» и «не».
– А она знает, что является компьютерной программой?
Мелисса нахмурилась:
– Это все равно что спросить, знает ли «Майкрософт Ворд», что является текстовым редактором. Нелепый вопрос. Дороти вообще ничего не знает. Мы имеем дело с речевым выходом – всего лишь.
Она умолкла.
– Расскажите мне об угрозах, – попросил ее сыщик. – Что именно она вам сказала?
Мисс Шепард отставила тарелку и посмотрела на звезды:
– Я сидела за своим ноутбуком. Экран вдруг погас, а потом пришел вызов по «Скайпу». Сначала голос: «Ты лгунья, убийца, я тебя ненавижу, берегись, сука» – и все такое.
– И? – Форд подался вперед.
– Появилось это лицо. Лицо Дороти.
– Погодите… У Дороти есть лицо?
– В каком-то смысле. Лицо, которое она сама создала.
– Изображение Дороти? Какой Дороти?
– Дороти Гейл. Прошу прощения, что не объяснила раньше. Это полное имя, которое я дала программе.
– Кто, черт возьми, эта Дороти Гейл?
– Девочка из «Страны Оз», тупица! Мне показалось, что Дороти Гейл обладает теми качествами, которыми я хотела снабдить программу. Вы понимаете: смелость, независимость, любопытство, настойчивость, ум… Дороти тоже совершила долгое космическое путешествие – через радугу. И проект «Кракен» казался мне таким прыжком через радугу.
– Значит, программа сама нашла фотографию Дороти – или, скорее, Джуди Гарланд – и использовала ее как аватар для «Скайпа»?
– Нет, программа не использовала Джуди Гарланд, она создала собственный образ Дороти, который выглядит… гораздо сексуальнее Джуди Гарланд, как ни трудно в это поверить.
Форд покачал головой. Все это было слишком необычно.
– А потом? – спросил он тихо.
– После угроз искусственный интеллект поджег мой компьютер. Стало ясно, что в больнице я – легкая мишень. Поэтому я сбежала оттуда, бросила свою машину, взяла другую и поехала на запад. Но по дороге мне еще раз пришлось иметь дело с Дороти. В Теннеси я остановилась в какой-то гостинице, чтобы немного отдохнуть. И как только я включила планшетник, Дороти уже была там – она сообщала, что следует за мной. Сказала, что знает, что в НАСА ее ищут. Она собиралась добраться до меня раньше, чем я помогу им поймать ее. «Не думай, что я до тебя не доберусь, я это смогу – я найду тебя в любом месте на поверхности земли». Я тут же выключила компьютер. Здорово испугалась.
– Эта чертовски хорошая симуляция пытается вас убить. И я заметил, что вы начали говорить о ней как об одушевленном существе.
– Тем не менее это симуляция, и уж точно неодушевленная. Я просто разволновалась.
Уайман задумался:
– А что случилось с Дороти в Интернете?
– Понятия не имею.
– Интернет – довольно дикая среда. Может, именно этот опыт повлиял на нее? Могла ли она… сойти с ума?
– Сойти с ума? – Мелисса удивленно посмотрела на него.
– Вы сами сказали, что сильный искусственный интеллект неотличим от человеческого разума. Именно такое определение дал ему Тьюринг.
Девушка молчала.
– А что, если она похожа на HAL? – продолжил размышлять вслух детектив. – Дороти уже пыталась вас убить. А что, если она решит, что Тони Гровс тоже должен умереть? Или президент. А если она задумает вывести из строя электроэнергетическую систему? Или запустит ракету с ядерной боеголовкой? Что, если она развяжет третью мировую войну?
– Ради всего святого, у нее… нет никаких причин делать что-то подобное!
– Откуда вы знаете?
Мелисса покачала головой:
– Это научная фантастика.
– Вы уверены?
Программистка не ответила.
– Вы должны помочь выследить эту программу. Разве вы не видите, как она опасна? – настаивал ее собеседник.
– Искусственный интеллект теперь не моя проблема, – слабым голосом возразила девушка.
– И не Джека Стейна, – прибавил Форд. – Теперь.
Шепард пристально посмотрела на него:
– Это удар ниже пояса.
– Стейн погиб, потому что остался. А вы… вы как капитан того итальянского круизного лайнера, который покинул судно и отказался возвращаться на борт
[6]
.
– Я не дезертировала. Мне угрожали. И меня обвинят во всем.
– Забавно, но я ни разу не назвал вас трусихой.
– Я не обязана выслушивать всю эту хрень.
– Вы можете оставаться в горах, где вам ничего не угрожает – не только Дороти, но и весь остальной мир. А можете не уклоняться от ответственности, вернуться и помочь выследить Дороти. Думаю, вы понимаете, насколько опасна эта программа.
Внезапно Мелисса вскочила:
– Идите к черту! Я же сказала, что покончила со всем этим!
– Тогда уходите.
– И уйду, говнюк. – Ученый повернулась и зашагала к скрытым вечерними сумерками горам. Ее темная фигура исчезла среди скал.
* * *
Форд остался у костра, доедая свой ужин. Минут через пятнадцать он услышал хруст ломающихся сучьев, и в круге света вновь появилась Мелисса Шепард. Лицо ее было бледным, а глаза заметно припухли. Она молча села, обхватила руками колени и сказала:
