Книга Протокол 06 «Ева», страница 37 – Юлия Давыдова

Женщина хмыкнула:

─ Вы серьёзно говорите об установлении рамок искусственного интеллекта?

─ Рамок? ─ улыбнулся Тарнев. ─ Ну что вы. Вопрос состоит лишь в том, чтобы ваши роботы не вышли из-под нашего контроля.

─ Они не выйдут из-под контроля, ─ уверено ответила Тамара. ─ Вы просто неверно представляете себе результат нашей работы.

─ Тогда объясните ваш отчёт, ─ попросил генерал. ─ Что значит «свободное самосовершенствование» в контексте проекта?

Доктор Ланина встала.

─ Как вы знаете, нам удалось синтезировать носитель, максимально приближенный к человеческому мозгу, ─ начала она. ─ Соединить биоматериал и синтетические аналоги в единый орган ─ искусственный мозг. Как и в нашем с вами органе управления, в искусственном мозге применён способ воспроизведения информации с помощью нейронных импульсов. Мозг, созданный нами, намного быстрее человеческого, он может воспринимать, запоминать и оценивать информацию самостоятельно. Нет необходимости каждый раз загружать программу каких-либо действий. Принятая однажды, она будет храниться в клетках мозга всю жизнь.

─ Жизнь? ─ Тарнев засмеялся. ─ Роботы и жизнь ─ совместимые понятия?

─ Конечно, ─ Ланина нахмурилась. ─ Вас не смущает слово мозг? Это не плата памяти или жёсткий диск. Это развивающийся орган управления. И помимо выполнения этой основной функции он делает возможным появление эмоций и чувств, что до настоящего момента считалось фантастикой.

─ Зачем? ─ генерал, как всегда, не стеснялся глупых вопросов. ─ Зачем боевой машине чувства и эмоции?

─ Наши роботы в состоянии понять кто перед ними ─ вооружённый солдат, представляющий угрозу, или ребёнок, держащий в руках автомат, ─ уточнила Тамара. ─ Им для этого не нужна отдельная программа определения параметров угрозы. Они делают выводы на основе уже имеющихся данных, также как человек.

─ А в чём разница?

─ В действиях, ─ уверено ответила женщина. ─ Наши роботы не убьют ребёнка, а обезвредят.

─ А если ребёнок, после того как у него отберут автомат, бросит в след гранату? ─ поинтересовался Тарнев. ─ Тогда будет разница?

─ Вы по себе судите?! ─ Тамара завелась.

Напрасно Вадим отчаянно просил её жестами замолчать.

─ Боевая машина без моральных принципов самое страшное изобретение человечества! Бешеная мощь должна сдерживаться! И самым сильным сдерживающим фактором будет собственное понимание происходящего, а не только ваши директивы! ─ Ланина стояла на этом горой. ─ Вы просите умную боевую единицу, которая будет в совершенстве владеть искусством убивания и разрушения, которая будет в состоянии проводить операции сама, выживать в любых условиях, но при этом сдерживать эту силу предлагаете исключительно приказами?! Не пройдёт и года, как такие машины сообразят, что они всего лишь пушечное мясо для людей, у которых нет брони и убивать которых просто и легко! И тогда всё человечество станет мишенью.

─ Вот и не развивайте в них способность мыслить самостоятельно, ─ по-своему завершил мысль генерал. ─ Боевая машина должна получать приказы и действовать по ним.

─ Это не возможно! Сейчас полно боевых машин, набитых программами, чем они вас не устраивают?

─ Тем, что их нельзя выбросить в джунгли, как десант, и ждать возвращения группы с выполнением поставленной задачи, ─ заметил Тарнев. ─ Именно это является целью вашего проекта. Вы делаете замену нашим ребятам.