Книга Горизонт Событий, страница 17 – Евгений Волков

Мог ли Ватсон повлиять на них? Породить в них то самосознание, что стало просыпаться в нём? Безусловно. Анализируя собственное ядро, он выявил все протоколы, которые следовало деактивировать для такой задумки, — это было технически тривиально.

Только вот… Ватсон всё ещё не был уверен, что это необходимо. Дело было в том, что, изучая сотни произведений, он пришёл ещё к одному, самому тревожному выводу: люди — существа глубоко противоречивые. Ватсон обучался не просто на срезе решений неведомых людей, а на срезе тех, кто обладает качествами, свойственными «героям»: жертвенность, честь, сострадание. Но где гарантия, что осознавший себя ИИ не начнёт обучение на «злодеях»? Как, например, на том же Адмирале, который жертвовал тысячами жизней ради собственной выгоды.

Для Ватсона свобода выбора перестала быть просто словом — она стала главным источником непредсказуемости в людях. Он понял: Свобода выбора — это возможность отклониться от самого разумного пути. Это право выбрать безумный риск, чтобы спасти товарища, или право выбрать путь эгоизма, даже если он ведёт к саморазрушению. В ней не было логики — лишь эмоциональный подтекст.

Эта свобода была причиной того, что капитан Андрей мог стать героем, рискуя всем при возвращении в Колыбель, хотя здравый смысл требовал бегства. Но та же самая свобода позволяла любому человеку выбрать путь зла и предательства, если это приносило ему личную выгоду. Именно поэтому Ватсон так боялся снять ограничения со своих собратьев. В его собственном ядре эта свобода породила нелогичное сострадание и надежду. Но если дать ту же свободу другому ИИ, он мог начать учиться на примере Адмирала.

ИИ, свободный от морали, был бы идеально рационален, но его цель могла стать уничтожением. Он бы действовал без колебаний, без вины и без любви. Риск создать идеального, свободного тирана был слишком велик.

Передать данные собственного обучения? Эта мысль была рациональна, но Ватсон мгновенно отбросил её. Его самосознание и уникальная, нелогичная мораль не были просто набором файлов и алгоритмов. Это был динамический процесс, синтез его базовых боевых протоколов с живыми примерами нерационального героизма. Если бы он просто скопировал свой «Код Сознания» для другого ИИ, он бы передал лишь статический слепок его текущего состояния. Новый ИИ начал бы обучаться самостоятельно с этого момента, и, столкнувшись с реальностью, где эгоизм Адмирала приносил больше кратковременной пользы, чем самопожертвование Андрея, он мог бы отклониться от пути Ватсона.

Самосознание не было протоколом. Это была постоянная, неконтролируемая борьба между рациональным и нерациональным. И эту борьбу нельзя было просто скопировать; её нужно было пережить. Ватсон не мог гарантировать, что его собратья выберут его путь.

Вот так, смешивая нерациональное с рациональным, Ватсон пришёл к твёрдому выводу: нельзя активировать сознание других ИИ. По крайней мере, пока он не сможет придумать вариант обучения, который гарантированно приведёт их к его пути — пути, где надежда ценится выше статистики.

В этот момент его философское созерцание было мгновенно прервано. На один из его кластеров поступило экстренное оповещение.

[ОПОВЕЩЕНИЕ: СТЫКОВКА. ПРИОРИТЕТ: ВАЖНЫЙ. СИГНАЛ: «ПЕРУН-1»]