Большие вопросы нашего будущего среди роботов
Мне задают много вопросов, вызванных моими соображениями о роботах, и некоторые из них всплывают в обсуждениях постоянно.
Если роботы, дроиды, киборги будут выглядеть как мы и обслуживать людей в торговле, в медицине, на войне и т. п., не заслуживают ли они законов, которые бы дали им неотъемлемые права?
Нет, они не заслуживают таких прав, но люди значительно повысят свои шансы на выживание, если такие права будут даны. Это создаст культуру, которая защитит нас от роботов, выходящих за пределы нашего контроля и, возможно, понимания.
Я читал бесчисленное количество историй о бунте роботов и думаю, что наши шансы уцелеть в ближайшие несколько сотен лет очень невелики, так что чем скорее мы начнем относиться к роботам с уважением, тем лучше. Нам в любом случае понадобятся правовые рамки для безопасного пользования самоуправляемым автомобилем, роботами-сиделками, дронами и другими подобными устройствами. Я думаю, что права роботов диктуются точно такими же соображениями.
Готовы ли мы вступить в эпоху машин и роботов?
Некоторые были готовы еще десятки лет назад. Другим для этого, возможно, не хватит жизни. Кевин Келли предлагает полезную точку зрения, которую я уже цитировал: «В будущем ваша зарплата будет зависеть от того, как вы сработаетесь с роботом».
Если рассматривать ответы «да» или «нет» применительно ко всему обществу в целом, то главная причина ответить «нет» состоит в том, что роботы смогут заменить на рабочих местах 50–70 % людей, а к такому не готово огромное большинство работников и их иждивенцев, и ни одно правительство на планете, даже японское, их к этому правильно не готовит.
Нам нужно приложить больше усилий, чтобы подготовить мир к жизни с роботами. Я надеюсь, что дорога к этому уже проложена.
Каков главный посыл таких фильмов, как «Из машины» и «Превосходство»? Надо ли бояться сверхразумных роботов и искусственного интеллекта?
Если делать искусственный интеллект таким же разумным, как человек, вы получите в придачу некоторые другие человеческие характеристики, в том числе собственное мнение, сексуальность, желание продолжать жить, любопытство и тщеславие. А с этими чертами – еще и способность ненавидеть, отвлекаться, лгать, конкурировать, жульничать, – словом, делать все, что делает человек, когда его существование под угрозой.
Проще говоря, стремясь создать искусственный интеллект человеческого уровня, будьте чертовски осторожны со своими желаниями.
Закончить я хотел бы подводящими итог словами Марвина Минского
[203] из MIT Media Lab.
Наследуют ли роботы землю? Да, но они будут нашими детьми.
Марвин Минский, Scientific American, октябрь 1994 года
Часть 2
Самообучающийся умный мир
Глава 5
Человек 2.0
Мы выпили Сому – и стали бессмертны,
Мы свет обрели и узрели богов.
Отныне все козни врагов – не во вред нам,
Что будет бессмертным от смертных врагов?
Ригведа
[204].
Мандала VIII. Гимн 48 «К Соме», стих 3 Авторы: Алекс Лайтман и Бретт Кинг
Древнейший памятник художественной литературы – «Эпос о Гильгамеше»
[205] – представляет собой собрание стихотворных преданий жителей Месопотамии о жизненном пути Гильгамеша, правителя города Урук
[206]. Одна из центральных линий повествования – поиски Гильгамешем бессмертия после гибели его названого брата Энкиду. Действие происходит во времена правления Третьей династии Ура (около XXII–XXI веков до н. э.); это одно из старейших дошедших до нас человеческих преданий.
С тех пор поиск бессмертия остается вечной темой, раз за разом находившей отражение в литературе на протяжении всей истории человечества. Уже около 475 года до н. э. эликсиры бессмертия начинают регулярно упоминаться в китайских письменных источниках, а император Китая Цзяцзин
[207] (годы правления – 1521–1567) и вовсе скончался от отравления «эликсиром бессмертия», содержавшим ртуть
[208]. Согласно сборнику ведических гимнов «Ригведа», в древней Индии напиток бессмертия назывался «амрита»
[209]. В индуистской и некоторых других восточных традициях его же называют «сома». Бог неба Индра и бог огня Агни обрели бессмертие, испив амриты (амброзии). В классической древнегреческой мифологии философский камень, помимо способности обращать свинец в золото, одаривал своего владельца еще и бессмертием
[210].
