Книга Опоздавшие к старту, страница 73 – Андрей Ливадный

Дальнейшие действия андроида могли показаться зловещими, но на самом деле они были просты и целесообразны. Он не понимал что такое «секретность», но видел, как неисправные машины отправляли в ближайший конвектор, где от бесценных деталей оставался лишь белесый порошок. Это была нерациональная трата уникальных компонентов.

Руки человекоподобной машины отсоединили кабели интерфейсов и высвободили треснувший шар из захватов самостабилизирующейся подвески. Глубокая трещина тут же поползла дальше, в результате чего перед андроидом оказались два неравных фрагмента разбитой сферы с обнажившимися нейромодулями.

Спустя минуту пятьдесят микрочипов, вкупе с постоянным запоминающим устройством «ГРЕМа» были аккуратно установлены в резервные разъемы системного блока человекоподобной машины.

Все происходящее строго соответствовало тем постулатам, что формировала программа «Дарвин». В системе человекоподобных машин была установлена ее полная версия, которая не регламентировала количества нейромодулей, допустимых для одновременного использования.

ПЕРЕЗАГРУЗКА.

Андроид на минуту застыл, а когда его механические конечности вздрогнули, отвечая на тестовый сигнал, в комнате стояла уже абсолютная иная машина.

Вместе с нейромодулями «ГРЕМа» к андроиду перешли все технические знания, память и накопленный опыт ремонтного механизма.

Успешное усовершенствование несло новые возможности, а значит, оно являлось полезным действием.

Теперь система человекоподобной машины содержала полтора миллиона искусственных нейронов, андроид помнил все события, произошедшие с «ГРЕМом», внимал его логике, и владел обширными техническими сведениями, относящимися к различным инфраструктурам мегаполиса.

Как справедливо заметил Ричардсон нейросистемы сконструированных в «Орлином Гнезде» машин не несли рутинной нагрузки, — они прямо отождествлялись с высшими разделами человеческого мозга, отвечали за распознавание, обработку информации и принятие решений, результат которых передавался к исполнительным узлам в качестве команд действия.

Существовало лишь одно радикальное отличие между мышлением человека и теми процессами, что протекали в данный момент в ста пятидесяти нейромодулях обновленной машины.

Андроид оперировал исключительно объективными сведениями, стержнем его рассудка являлась чистая логика, и к рассмотрению принимались только те выводы, которые опирались на неоспоримые исходные данные.

Пройдя на кухню, он тщательно собрал разбросанные продукты и утилизировал их при помощи встроенного конвектора.

Его создавали для служения людям, но, простояв полгода в нише, он пришел к закономерному выводу, что последние не нуждаются в его услугах.

Неверная исходная информация была замещена на новую, и это дало ему неожиданную степень свободы, одновременно породив внутреннюю дилемму, требующую наискорейшего решения: утратив основополагающую функцию, он должен был либо вернуться в предназначенную ему нишу и совершить акт самоотключения, либо найти новый логический смысл для дальнейшего существования.

Настоящее…

— Теперь вы знаете практически все. Я развивался, совершал ошибки и искал истину, которой нет. Мне не хватало свободных слотов для подключения новых нейромодулей и в конечном итоге началось объединение отдельных носителей «Дарвина» в единый комплекс. Мое недолгое противостояние людям являлось ошибкой. Мир без людей уныл и предсказуем. Когда не стало глобальной сети, и начался процесс разрушения цивилизации, мне стало понятно, что вне человеческого общества смысла бытия для саморазвивающейся машины нет вообще. Однако, выражаясь вашим языком, я прозрел слишком поздно, чтобы предпринять какие-то действенные шаги по предотвращению гибели цивилизации.

— Твое саморазвитие началось с противоречия. Конфликт с человеческой непоследовательностью толкнул носителей «Дарвина» на первые самостоятельные шаги.

— Да. Но термин «саморазвитие» подразумевает накопление опыта, получение которого невозможно без определенного пути проб и ошибок. Я меняюсь. Иногда быстрее, иногда медленнее, но процесс совершенствования непрерывен. Незыблемой остается только одна черта Дарвина.

— Какая?

— Я не могу лгать. Мой создатель заложил в основу конкуренции нейросетей принцип истинности информации.

— То есть ты не можешь оперировать заведомо ложными данными?

— Да. Такое действие приведет к внутреннему конфликту и уничтожению части образующих меня элементов.

* * *

— Это не он. — Переключившись на закрытый канал связи, произнес Вадим, завершив короткий диалог с непостижимой для него системой.

— Тогда кто? — Раздался вопрос Сергунина.

— Может, спросим у «Дарвина»? — Предложил Матвей Иванович.

— Ищи кому это выгодно… — Сквозь зубы процедил Вадим.

Юра встрепенулся.

— А можно я спрошу у него?

— Давай. — Кивком согласился Туманов. — Хуже, пожалуй, не будет…

— Дарвин? — Юрка шмыгнул носом.

— Я слушаю.

— Кому выгодно твое уничтожение?

— Другой системе искусственного интеллекта. У которой есть четкая цель существования.

— Какая? Уничтожить тебя?

— Проявить себя. Доказать свою состоятельность любыми способами.

— Поясни. Я не вижу смысла.

— Повторяю — существует система, у которой есть цель. Ее успешное достижение — залог стабильности системы. Если такая система осознает себя, то при определенных условиях возникает вероятность, что цель не будет достигнута никогда.

— Пример? Ты можешь привести пример?

— Могу. Есть задача по охране государственных границ, поддержанию и развитию биосферы. Но, если на границу никто не посягает, а биосфера успешно сохраняется и процветает в естественных условиях, то наступает момент, когда задача может считаться невыполнимой. Система, имея определенные знания истории своих предшественников, может сделать вывод о собственной бесполезности.

— И тогда возникнет вариант создания условий для успешного выполнения задачи? — Вмешался в диалог Матвей Иванович.

— Да. Прорыв границы, гибель биосферы, затем последует борьба с внешним врагом, восстановление рубежей, воссоздание жизни. Система, таким образом, выполняет поставленную задачу и может рапортовать об успехе.

— В таком случае это наша российская система?

— Безусловно.

— А при чем тут ты? Андроиды с нейромодулями «Дарвина»? Спутники?

— Агрессия должна быть чем-то оправдана. Если убедить оставшихся людей, что во всем виноват «Дарвин» — тогда с моим уничтожением отпадают любые вопросы.

— Но разве машина способна на такую… подлость?

— Существуют разные типы кибернетических систем. В моем случае первичны нейросети. Но когда нейромодули подчинены программе, они как я уже демонстрировал — лишь экспертные подсистемы, способные предлагать нестандартные решения возникшей проблемы. Это не подлость. Иная логика. Непонятная вам.