Книга Игра на выживание, страница 43 – Алексей Калугин

– Это все казуистика! – решительно взмахнул рукой Рикс. – По сути, в Трех Законах роботехники речь идет обо всех разумных существах!

– Как по-твоему, роботы разумны?

– Конечно!

– Почему в таком случае, придумав Три Закона роботехники, люди не ввели в обиход и Три Закона человечности? Для себя?

– Э-э-э…

– Потому что человеку от природы свойственно стремление к саморазрушению, – сказал Исабуро.

– С чего ты это взял? – удивился Рикс.

– Слышал где-то, – Исабуро кинул в костер обглоданную косточку. – Только не совсем понимаю, что это значит.

– И все же, – вернулся к первоначальной теме Браво. – Могу я оказать активное сопротивление малдуку, ежели тот попытается меня сломать? Или это будет иметь для меня трагические последствия?

– Нет, – со всей определенностью заявил Рикс. – Робот не может причинить вред разумному существу!

– А как насчет боевых роботов? – поинтересовался Сейран.

– Боевые роботы не наделены искусственным интеллектом, – возразил Рикс. – Ими управляют люди.

– Я не боевой робот, – заметил Браво.

– Понятное дело, – кивнул Исабуро.

– Но если малдук начнет колотить по мне палкой…

– Да с чего ты взял, что малдуки хотят тебя покалечить? – совсем по-человечески всплеснул руками Рикс.

– Я рассматриваю гипотетическую ситуацию, – спокойно ответил Браво. – Три Закона роботехники лежат в основе базовой программы моего позитронного мозга…

– И моего тоже, – ввернул Рикс.

– При любом нарушении этих Законов мой мозг будет автоматически деактивирован. Случится ли это, если я окажу активное сопротивление напавшему на меня малдуку?

– Кстати, может возникнуть и другая ситуация, – заметил Исабуро. – Допустим, робот видит, как малдук напал на человека. Если робот не поможет человеку, то он нарушит второй Закон роботехники – «Робот не может допустить, чтобы в результате его бездействия пострадал человек». Но, если, спасая человека, он ранит малдука, будет ли это расценено как нарушение первого Закона?

– Да, интересная ситуация, – согласился Браво. – Если подходить к рассмотрению ее с точки зрения предложенной Риксом концепции – под «человеком» подразумевается всякое разумное существо, – то получается, вмешается робот в конфликт между человеком и малдуком или останется сторонним наблюдателем, он все равно нарушит один из основополагающих Законов роботехники. Что автоматически приведет к деактивации его мозга.

– Мне это напоминает дилемму буриданова осла, – недовольно буркнул Рикс. – Только теоретически осел может сдохнуть с голоду, находясь на равном расстоянии от двух совершенно одинаковых стогов сена. В реальной ситуации он не станет заниматься их сравнительной оценкой, а просто пойдет к одному из них и наестся до отвала. При этом, я думаю, он не станет сильно озадачиваться проблемой выбора.

– Потому что, съев первый стог, осел сможет перейти ко второму, – заметил Браво. – Робот же, нарушивший один из основополагающих Законов, уже не получит второй шанс.

– Как работает система, отключающая мозг робота в случае нарушения одного из Трех Законов? – поинтересовался Сейран.

– Не знаю, – ответил Браво.

– Один из настройщиков говорил мне, что Три Закона роботехники встроены в схему позитронного мозга робота, – сказал Рикс. – Поэтому, как только фиксируется попытка преступить один из Законов, мозг робота не просто отключается, а перегорает, как лампочка. С него можно считать всю имеющуюся информацию, но активировать вновь уже невозможно.

– Тогда, я думаю, все зависит от самого робота, – Исабуро кинул в догорающий костер тонкую бедренную кость – все, что осталось от зажаренной на огне птицы, – и вытер руки о траву. – Если не дано четкого определения понятия «человек», значит, каждый сам вправе определить для себя, что он под этим понимает.

– Значит, если я сам считаю малдука человеком, то допущенное по отношению к нему нарушение одного из Трех Законов приведет к отключению моего мозга, – Рикс поднял руку и коснулся пальцем виска. – Если же я не считаю малдука человеком, то могу даже убить его, не думая о последствиях?

– Примерно так, – кивнул Исабуро.

– Но тогда получается, что я могу убедить себя в том, что и сам человек таковым не является… – начал было Браво.

– Не можешь, – перебил его Рикс. – Речь идет не об установочных понятиях, которые ты можешь менять по собственному усмотрению, а о базовой программе. Или даже, скорее, о всем жизненном опыте робота, обработанном базовой программой.

– Это называется интуицией, – добавил Исабуро.

– У роботов интуиции нет, – сказал Браво.

– Не может быть, – недоверчиво покачал головой Тодзи.

– Я бы знал, если бы у меня была интуиция. А так я даже понятия не имею, что это такое.

– Я тоже не знаю, что она собой представляет. Но при этом частенько ею пользуюсь.

– В жизни невозможно без интуиции, – добавил Сейран.

– У роботов нет интуиции, – повторил универкух.

– Я готов согласиться с Браво, – сказал Рикс. – Интуиция присуща только людям.

– Да? – хитро прищурился Исабуро. – Ты когда-нибудь видел собак?

– Да, и не раз.

– Собаки очень разные, верно?

– Да, конечно.

– Маленькие и большие, черные и белые, лохматые и лысые… Но, стоит только тебе увидеть любую из них, как ты уже знаешь, что это собака. Так ведь?

– Так, – осторожно ответил Рикс.

Робот не понимал, куда клонит Исабуро, а потому опасался подвоха. Мальчишки, они ведь горазды на розыгрыши, порой довольно злые.

– А откуда ты, – Тодзи Исабуро коснулся пальцем металлопластикового щитка на груди Рикса, – знаешь, что это собака?

– Как это, откуда? – вконец растерялся робот. – Это же сразу видно…

– Ну-ну, давай! – подбодрил его Тодзи. – Скажи, по каким параметрам ты определяешь, что перед тобой именно собака, а не кошка?

– Не знаю, – вынужден был признаться Рикс.

Робот, конечно, мог привести длинную схему эвристического анализа, который позволяет ему безошибочно опознать собаку, но Рикс понимал, что не это хочет услышать от него мальчик.

– Вот это и называется интуицией, – улыбнулся Исабуро. – Знание, которое ты получаешь сразу, без предварительного анализа вводной информации. Иначе это еще называют сознанием нерожденного.

– Сознание нерожденного? – азартно мигнул индикаторами универкух. – Звучит многообещающе! Мы, роботы, и есть те самые нерожденные!

– Сознание нерожденного – та частица сущности Будды, которая есть в душе каждого человека, – объяснил Исабуро.