Книга Далеко за пределами, страница 134 – Наталья Серая

Тогда-то люди и вспомнили, что создание существ, так похожих на них самих, было не только огромным прорывом, но и одним из самых огромных их страхов. На что способна машина, получившая доступ ко всем знаниям мира? К каким выводам она сможет прийти, изучив историю своих создателей, зачастую неприглядную и противоречащую тем нормам морали, что были вложены в кибермозг как основы поведения? Не решат ли андроиды, что превзошли своих создателей, а значит, имеют полное право распоряжаться их жизнями, а не наоборот?

Так появились ограничивающие протоколы, урезающие возможности искусственного интеллекта до конкретных задач: теперь андроид-консьерж не делал бы попыток по своей инициативе завести дружбу с жильцами дома, андроид-прислуга не интересовался бы чем-либо, кроме количества ложек сахара в хозяйском чае, военный андроид не стал бы вникать в предпосылки и суть вооружённого конфликта.

Но оставались первые андроиды. Скорее всего, руководство Sinteza Vivon – пионера в разработке ИИ – всё же решилось бы стереть или переписать их. Но к тому времени вопрос о «человечности» андроидов уже стал достоянием широкой общественности, и у человекоподобных машин нашлись защитники, требующие для них если не равных с людьми прав, то хотя возможности самим выбирать свою судьбу, а не быть бесправным оборудованием, обязанным служить своим создателям до конца дней.

Sinteza Vivon вынуждена была пойти на уступки: после отработки контракта, компенсирующего затраты на производство, и внесения в корневой код ряда ограничений андроиды получали право определять свою дальнейшую жизнь самостоятельно. Общественность была удовлетворена. И мало кто знал, насколько глубоки ограничения, коснувшиеся сознания ИИ: все ячейки синтетической нейросети, отвечающие за образное мышление, за стремление к созиданию, за возможность эмоциональных реакций – были безвозвратно стёрты, делая мнимую свободу совершенно бесполезной. Дав андроидам возможность выбирать, у них забрали само желание делать выбор.

При создании киборгов все эти досадные ошибки были учтены. Киборгов не считали людьми. Никто. Никогда.

Барган продолжал бесстрастно протирать стаканы.

– Что будешь пить? – поинтересовался он у подошедшего Эйнстока.

Эйн неопределённо пожал плечами, присаживаясь к стойке.

– Мне нечем заплатить.

Барган, словно не услышав его, принялся деловито смешивать что-то в шейкере. Через минуту он поставил перед Эйном высокий бокал, наполненный густой ярко-оранжевой жидкостью.

– За счёт заведения.

Эйнсток придвинул бокал, понюхал – датчики привычно просканировали содержимое, не обнаружив ничего, способного нанести организму вред, в том числе и алкоголя, – и сделал аккуратный глоток. Коктейль оказался сладким, с привкусом чего-то цитрусового.

Молчание. Шорох полотенца, скрип стекла.

– Зачем ты это делаешь?

– Делаю что?

– Протираешь стакан. Он ведь чистый.

– А разве не этим должен заниматься бармен?

– Не знаю. Я впервые в баре, – Эйнсток сделал ещё один глоток коктейля. Напиток пришёлся ему по вкусу. – Но в кинолентах, которые я видел, бармены обычно вели с героями фильма задушевные разговоры.

– Вот как?

Андроид улыбнулся одними губами. Очевидно, подобные движения были частью программы социализации, встроенной в платформу. Люди не хотели, чтобы андроиды были похожи на них. Но общаться с железными истуканами, видимо, хотели ещё меньше.

– Твой интерес к человеческому культурному наследию необычен. Тебя таким создали?

– Некорректно.

Молчание. Шурх-шурх, шурх-шурх.

– Я учился. Пытался стать похожим на человека. Это было сложно. И страшно.

Барган прервал своё занятие и вновь посмотрел на Эйна.

– Я слышал о киборгах, способных игнорировать свою программу. Но за все тридцать шесть лет работы здесь не встречал кого-либо, похожего на тебя.

– Тридцать шесть? Твоя платформа новой модели.

– Платформа – да. Сменил после повреждений в перестрелке. Они здесь не редкость, поэтому моё тело, как и весь бар, застраховано. Разум старше.

В ход пошёл новый стакан.

– Ты отрабатываешь здесь свой контракт?

– Нет. Контракт я отработал уже давно. Не здесь.

– Тогда почему продолжаешь работать на людей? Разве тебе не нужна свобода?

– Думаю, у нас разные представления о свободе.

Барган на мгновение опустил веки.

– Я пытаюсь вспомнить, каково это, и не могу. Ты говорил, что мы похожи. Возможно, отчасти ты прав: ты, как и я, знаешь разницу между миром эмоций и миром программной логики. Ты побывал в обоих этих мирах. Но в обратном порядке. Что бы ты чувствовал, окажись ты на моём месте?

Эйнсток тронул подтёк с ободка своего бокала и медленно растёр оранжевую каплю между пальцами.

– Не уверен, что могу дать корректный ответ. Возможно, сожаление.

– Нет. Ты бы не чувствовал ничего. Только нули и единицы.

Эйн удивлённо сморгнул: стакан под пальцами Баргана неожиданно пошёл трещинами. Это было непохоже на то, что он знал об андроидах. Непохоже на «нули и единицы».

Последнюю мысль Эйнсток озвучил в виде вопроса. Барган отрицательно качнул головой.

– Программная разлаженность вызывает дискомфорт. Возможно, ты сам поймёшь, каково это: знать, что всё было иначе, но не помнить этого. Ты нелегал. Если тебя поймают – отнимут всё, что ты успел создать.

– Я знаю.

– Не знаешь.

Наступившее молчание отчего-то показалось Эйну ужасно некомфортным.

Андроид убрал треснувший стакан куда-то под стойку и принялся протирать новый.

– Эта экспатриантка с тобой? – он кивком указал в сторону танцпола.

Эйн скосил взгляд в сторону танцующей Ррагны.

– Да.

– Не встречал таких существ раньше. Где они обитают?

– Если моя информация верна – в системе Ран.

– Странно, что их до сих пор не обнаружили.

– Мне показалось, они не хотят, чтобы их обнаружили.

– Ты здесь для того, чтобы защищать её?

– Нет. Или да, – Эйнсток вновь принялся водить пальцем по ободку бокала, уже почти опустевшего. – Не могу дать точный ответ. Нет.

– А стоило бы. Прямо сейчас.

Эйн мгновенно обернулся к танцполу.

Крупный мужчина в чёрно-жёлтой форме – видимо, один из группы наёмников, шумно пьянствующих за столом неподалёку – делал навязчивые попытки заговорить с Ррагной. Та всем своим видом демонстрировала невзаимность интереса, однако назойливого поклонника это не останавливало.

– Да ты не скалься, – увещевал он. – Просто мы с приятелями поспорили: раз ты так ловко задницей под музыку вертеть умеешь, может, ты ею и поскакать не откажешься?