– Да, Стивен, ваши доводы доказательны, хотя и нельзя сказать, что это особенно глубокие умозаключения.
– Неглубокие, согласен. Но, увы, самые очевидные вещи как раз хуже всего и доходят до сознания людей. И вот в двадцатом веке, Сьюзен, началась новая полоса войн. Как их назвать? Идеологические? Не знаю. Религиозные страсти наложились на экономические воззрения, и снова войны стали «неизбежны», и на этот раз на сцену истории вышло атомное оружие. Казалось, человечество не выживет, будет катиться все ниже и ниже под уклон неизбежности. И тогда были созданы позитронные роботы. Они появились как раз вовремя, и примерно тогда же были начаты межпланетные перелеты… И сразу стало совершенно безразлично, кто умнее – Адам Смит или Карл Маркс.
– «Бог из машины» явился – в прямом и переносном смысле, – сухо прокомментировала Сьюзен Кэлвин.
– Никогда раньше не слышал от вас каламбуров, Сьюзен, но вы правы. Но и теперь мы не гарантированы от опасностей. Разрешение одной проблемы всегда неминуемо влекло за собой появление другой. Наша всемирная роботизированная экономика не застрахована от проблем, и поэтому были созданы Машины. Экономика Земли стабильна и останется стабильной, будучи основанной на решениях Машин, которые производят расчеты и дают рекомендации исходя исключительно из соображений пользы для человечества, руководствуясь при этом Первым Законом Роботехники. И хотя Машины, – продолжал Координатор, – представляют собой сложнейшие конгломераты вычислительной техники, когда-либо существовавшие, тем не менее в свете Первого Закона они – такие же роботы, и потому вся земная экономика существует и развивается в соответствии с жизненными интересами человечества. Население Земли знает, что ему не грозит безработица, перепроизводство, недостаток чего-либо. Нищета, голод – слова из учебников истории. Таким же архаизмом становится и понятие собственности на средства производства. Кто бы ими ни владел (если это еще имеет смысл) – человек, группа людей, нация или все человечество, – любые средства производства могут быть использованы только в соответствии с указаниями Машин. Не потому, что людей принудят поступить так или иначе, а потому, что Машины всегда выбирают самый мудрый, самый оптимальный путь, и люди об этом знают. Это означает, что всем войнам на свете – конец. Если только…
Координатор умолк, и Сьюзен Кэлвин нетерпеливо поторопила его:
– Если только…
– Если только, – закончил Координатор, – Машины не перестанут выполнять свои функции.
– Ясно. Значит, именно этим вы объясняете все эти загадочные неполадки – в сталепрокатной промышленности, гидропонике и так далее?
– Да, Сьюзен. Подобных ошибок не должно быть! Но… доктор Силвер сказал мне, что и не может быть!
– Он что, отрицает очевидное? Не похоже на него.
– Нет, Сьюзен, факты он не отрицает. Я, наверное, не так выразился. Он наотрез отказывается признать, что Машины могут давать неверные ответы. Он утверждает, что Машины устроены так, что сами исправляют собственные ошибки и что наличие ошибки в соединениях и реле может быть следствием лишь нарушения основных законов природы. Но все-таки я ему сказал…
– Но все-таки вы сказали: «Пусть ваши мальчики все проверят еще разок».
– Сьюзен, вы читаете мои мысли. Именно так я ему и сказал, но он ответил, что это невозможно.
– Что, слишком занят?
– Нет, дело не в этом. Он сказал, что на это не способен ни один человек. Он был со мной откровенен. Он мне объяснил – и я искренне надеюсь, что понял его правильно, – что Машины представляют собой колоссальную экстраполяцию. То есть: бригада математиков несколько лет упорно трудится над созданием позитронного мозга, способного производить определенные расчеты. С помощью результатов этих расчетов они потом создают еще более сложный мозг, который предназначен для произведения еще более сложных расчетов и создания еще более сложного мозга, и так далее. Судя по тому, что мне сказал доктор Силвер, то, что мы называем Машинами, является результатом десяти таких последовательных операций.
– Да-а, дело знакомое, – кивнула Сьюзен. – Какое счастье, что я не математик. Бедный Винсент. Он еще так молод. У руководителей исследовательского отдела до него таких трудностей не было. И у меня тоже. Мне кажется, сегодня роботехники плохо разбираются в своих собственных творениях.
– Пожалуй, вы правы. Машины – это вовсе не простой супермозг, как о них пишут в воскресных приложениях. Ситуация такова, что, собирая и анализируя бесконечное количество данных за немыслимо короткое время, они лишили людей возможности их проверить. Тогда я решил предпринять другую попытку. Я сделал запрос самой Машине. В обстановке строжайшей секретности мы ввели в Машину исходные данные, которые она сама в свое время использовала для принятия решения в области сталепрокатной промышленности, ее собственное решение и информацию о последствиях принятого решения – то бишь о перепроизводстве – и попросили объяснить случившееся.
– Ну, и каков же был ответ? – с нескрываемым интересом спросила Сьюзен Кэлвин.
– Я могу процитировать вам его слово в слово: «Суть дела не подлежит объяснению».
– И что на это сказал Винсент?
– Он сказал, что возможны два варианта. Либо мы не дали Машине достаточно данных, чтобы она могла дать более четкий ответ, что, естественно, маловероятно. Это доктор Силвер сам признал. Либо Машина не захотела признать, что она могла принять на основании введенных данных такое решение, которое, противореча Первому Закону Роботехники, могло бы нанести вред людям. А потом доктор Силвер порекомендовал мне посоветоваться с вами.
Сьюзен Кэлвин устало усмехнулась.
– Стара я уже, Стивен. Было время, помните – вы хотели назначить меня руководителем исследовательского отдела, и я отказалась. Я и тогда была немолода, и мне не хотелось брать на себя такую ответственность. Тогда на этот пост пригласили молодого Силвера, и меня это устроило. Но видно, толку мало, раз меня все равно втягивают в эти дела. Позвольте мне, Стивен, изложить свою точку зрения. Проводимые мной исследования действительно касаются поведения роботов в свете Трех Законов Роботехники. В данный момент мы говорим о достигших невероятной сложности вычислительных устройствах. Они – позитронные роботы и, следовательно, повинуются законам. Однако они не являются личностями, то есть функции их чрезвычайно ограниченны. Так и должно быть, поскольку они узкоспециализированы. Это почти не оставляет места для взаимодействия законов, и мой метод исследования тут практически бесполезен. Короче говоря, не думаю, что могу помочь вам, Стивен.
Координатор грустно усмехнулся.
– И все-таки, Сьюзен, позвольте мне рассказать вам остальное. Я изложу свои предположения, а вы тогда, может быть, скажете, насколько все это вероятно с точки зрения робопсихологии.
– Безусловно. Продолжайте.
– Итак, если Машины дают неверные ответы, а ошибаться не могут, остается только одна возможность: им дают неверную информацию! Другими словами, дело не в роботах, а в людях. Так что я отправился в планетарную инспекционную поездку…
