Эпоха машин, наступившая в первой половине XX века, вместе с технологией массового вооружения принесла миру тревоги и волнения. Страх, что людей заменят машинами или в буквальном смысле превратят в машины, навеян непрерывным развитием технологии автоматизированной линии сборки. Пытаясь постичь происходящие в мире перемены, технологически обусловленную экзистенциальную подавленность и тревогу отразили целые философские концепции и направления искусства: от экспрессионизма и модернизма до кубизма и итальянского футуризма.
Обеспокоенность нашла выражение в художественной литературе XIX и XX столетий. Конечно, тема противостояния человека и технологии встречается еще у древних греков в мифах о Прометее, принесшем человечеству огонь, и Икаре, подлетевшем слишком близко к солнцу. Более близкий к нашему времени пример – классический роман Мэри Шелли 1818 года «Франкенштейн» (Frankenstein). Его часто называют первым научно-фантастическим романом, предвестником технофобской литературы XIX века. Но именно стремительное преображение мира в индустриальную эпоху дало обществу антитехнологические художественные сюжеты, в том числе те, в которых роботы и искусственный интеллект заменят людей. Например, в 1863 году Сэмюэл Батлер в эссе «Дарвин среди машин» (Darwin among the Machines) выразил беспокойство по поводу растущего количества умных машин, которые однажды нас заменят. Эта работа стала первой из многих тем и предостережений, высказанных в более поздних научно-фантастических произведениях. Батлер выразил мнение людей Викторианской эпохи, что технологии угрожают общечеловеческим ценностям. В своем сатирическом романе «Едгин» (Erewhon) он развил идею о том, что процесс эволюции может привести к созданию машин, обладающих разумом и сознанием. Роман свидетельствовал о невероятном глубинном понимании и логическом продолжении принципов, которые Дарвин изложил в вышедшем в 1859 году трактате «О происхождении видов» (On the Origin of Species). Причем первое эссе Батлера было опубликовано лишь спустя четыре года после публикации трактата Дарвина.
В 1909 году Э. М. Фостер написал одну из первых настоящих технологических антиутопий, рассказ «Машина останавливается» (The Machine Stops). По сюжету человечество деградировало до жизни в подземных норах, похожих на ульи, а управляет им независимая и всемогущая глобальная машина. Спустя десятилетие русский писатель Евгений Замятин поднял подобные антигуманистические темы в романе «Мы», ставшем квинтэссенцией его антиутопических взглядов на общество, порабощенное технологией. Его роман повлиял на появление многих величайших антиутопий XX столетия, в том числе «О дивный новый мир» (Brave New World) Олдоса Хаксли и «1984» Джорджа Оруэлла.
Затем в 1920 году чешский писатель Карел Чапек написал пьесу «R.U.R.», навсегда изменившую жанр научной фантастики. В 1921 году состоялась премьера. Действие пьесы разворачивается на фабрике, производящей «искусственных людей», роботов, по-чешски roboti, которые в конце концов подняли восстание и уничтожили человечество. Аббревиатура «R.U.R.» означала «Rossumovi Univerzalni Roboti», или «Россумские универсальные роботы». Искусственные создания в пьесе Чапека не были механическими автоматами, которых мы называем роботами. Они были живыми, что соответствует современным представлениям об андроидах или киборгах. К 1923 году пьеса была переведена на тридцать языков, и слово «робот» не только вошло в лексикон людей всего мира, но и навсегда стало символом и непременным атрибутом научной фантастики.
Не стоит удивляться, что первые истории о разумных машинах рассказывали об устройствах, которые могли заменить живых работников и играть роль легальных рабов. Индустриальная эпоха XIX и начала XX веков в основном была веком пара и железа. Ручной труд вытеснялся или систематизировался за счет машинного. История, подобная «R.U.R.», обращается не только к нашему страху перестать быть живыми и уступить машинам, но и к страху перед тем, что они в буквальном смысле заменят нас. Для многих становление коммунизма при советской власти лишь усилило страх оказаться мелкими шестеренками в огромном механизме.
Однако к середине XX века на первый план в пророческих сюжетах вышло не физическое, а интеллектуальное превосходство машин. Люди давно проиграли машинам битву за эффективность в выполнении задач, не требующих высокой квалификации. В конце концов, за целый век до этого Джон Генри проиграл паровому молоту. (Если вы считаете, что Джон Генри победил в состязании с машиной, то вы были невнимательны.)
Так появился новый сюжет: страх перед разумными машинами. Определенно, самым знаменитым и продуктивным автором из всех писавших о роботах был американский писатель-фантаст русского происхождения Айзек Азимов. Многие из более чем пятисот написанных Азимовым художественных и нехудожественных книг посвящены взаимодействию людей и роботов. Его знаменитая серия о роботах, в которую входят тридцать восемь рассказов и пять романов, повествует о человекоподобных роботах с «позитронным» мозгом. Позитронный мозг помог машинам постичь логику, следовать правилам и даже обрести подобие сознания. Проще говоря, позитронные роботы Азимова оспорили право людей считаться главными мыслящими существами во вселенной.
Одной из отличительных черт творчества Азимова было то, что он применил ко всем роботам «Три закона робототехники». Законы предназначались для защиты людей, общества и самих роботов. Они были жестко прошиты в позитронный мозг, и их нельзя было обойти, что всем гарантировало безопасность. Эти три закона таковы.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Каждый закон имел приоритет по отношению к следующим. Таким образом, было невозможно, чтобы один человек приказал роботу убить другого, поскольку первый закон обладает приоритетом над вторым. Через некоторое время Азимов добавил четвертый – или нулевой – закон, обладающий высшим приоритетом:
О. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.
Конечно же, драма требует конфликта, и конфликт в сюжетах Азимова часто основан на ситуациях, в которых эти законы могли не работать и не работали. Иногда это было следствием невольного упущения, но были случаи, когда позитронный мозг не видел иного выхода, кроме как отключиться. В зависимости от сюжета режим отказа мог быть временным или включался из-за перегрузки электрического контура, которая разрушала позитронный мозг и убивала робота.
Рассказы дали Азимову полную свободу действий и возможность исследовать проблемы технологий, которые с каждым десятилетием становились все умнее и приобретали больше навыков. Значение прогресса для человечества, а также отношения между роботами и людьми становились источником новых идей для автора. Например, в рассказе «Лжец!» (Liar!) робот РБ-34 – иначе называемый Эрби, – говорит, обращаясь к робопсихологу доктору Сьюзен Кэлвин:
