Книга Материнская плата, страница 32 – Софа Вернер

Если не обращаться по имени – она так и будет молчаливой, заботливой и участливой для Крисы, но совершенно нейтральной для остальных. Как предмет, утварь, прибор. Нелли знала своё место – настоящее чудо для тех, кто и так пинал «умное» мусорное ведро за не срабатывающий на руку в чёрном худи сенсор.

— Конечно! – громко и радостно ответила машина, словно только и ждала, что понадобится. – О чём вы хотели бы поговорить? Доступны улучшенные темы, в которых я разбираюсь: кулинария и музыка.

Нелли воспроизвела скрипт так выученно, будто как обычно притворялась стабильной. Я не могла сходу поверить, что мир кругом изменился, а она – совсем нет. Её датчик на шее погас, чтобы по вылепленному искусственному лицу не гуляли пугающие тени. Из чего сделаны её глаза? Я на мгновение забыла название этого материала.

Представляю себе, как легко пальцем вдавить их в корпус – мягкие, безжизненные – всего лишь тонкий пластик линз с напылением. Проверь я это в действительности, Нелли не испытала бы боли или неприязни от прикосновения к глазам. И всё равно это было как-то слишком кровожадно и бессовестно – представлять себя способной творить с ней что угодно.

— Не нужно, – я откорректировала её алгоритм. – Давай ты включишь режим разговора, я тебе кое-что расскажу, а потом ты ответишь так, как думаешь.

Клянусь, я даже проходила мини-курс под названием «Как управлять машинами, не очеловечивая их», но мне не помогло.

Я открыла ноутбук и начала искать нужный пыльный файлик – вот он, сохранённый чек-лист, который лежал без дела у меня уже давно. У него плохой, совсем не продающий заголовок, но я всё равно вырвала его с сайта за донат. Мне (и многим другим, конечно) по чек-листам жить удобно. Случись что, и мы сразу ищем в социальных сетях хоть какие-то крючки для того, чтобы построить опору заново.

Нелли терпеливо сидела в режиме в ожидания. Я чувствовала ее немигающий взгляд, но, подняв голову, она тут же моргнула при мне. Интересно, заданный ли это алгоритм? Или машина сама сделала вывод, что должна вести себя чуть человечнее, чтобы не смутить свою пользовательницу?

— Мне нужно, чтобы ты оценила меня честно. – Сверилась с чек-листом, почему-то волнуясь, что прозвучу глупо. – Я добра к тебе, Нелли?

— Да.

Нелли ответила быстро и чётко. Я посмотрела ей в глаза – мутные, как и всегда, и внутри никаких признаков человеческого не было видно.

Поставила галочку в первом пункте и продолжила.

— Ты добра ко мне, Нелли?

— Не знаю. – Ответ опять быстрый и чёткий. Я даже уловила лёгкую интонацию в стиле «без обид» в её синтезированном голосе. – Но я стараюсь. Я добра к вам, Мира Ивановна?

«Всё нормально, – убеждала я себя, – в режиме small talk Нелли свободно отвечает, её интеллект искусственно генерирует типичные фразы. Это основано на годах опыта и разработки, это развитие, это не взлом. И это не человечность». Скоро буду повторять это даже вслух, глядя в зеркало. Как мантру.

— Да, ты добра ко мне.

— И к Кристине? – уточнила Нелли, и мне показалось, что она чуть взволнована. Криса же жевала и глядела в потолок, а потом заёрзала на стуле – обычный человеческий ребёнок без проводов и гелиевого реактора внутри.

— К Крисе ты добра особенно, как и должна быть, – попомнила я машине о её предназначении. Та кивнула и опустила плечи, словно успокоилась. Я тоже облегчённо вздохнула и поставила ещё несколько позитивных соответствий в чек-листе. Пока что мы двигались в сторону того, что Нелли была развита в соответствии с задумкой её создателей, и так называемый «вирус» ей не грозил. Но откуда чек-листу знать наверняка, если он был придуман раньше взлома? Очевидно, что я лишь пыталась отстрочить неизбежную поломку, потому что была не готова остаться с дочерью навсегда наедине.