Однако этот инженер – далеко не первый, кто всерьез размышлял над изменением религии под напором высоких технологий. Появление мессии из недр ИИ – с акцентом на грядущие апокалипсис или спасение – давно описано писателями-фантастами, от братьев Стругацких и Станислава Лема до Филиппа Дика и Виктора Пелевина. Мы знаем об этом и по голливудским фильмам в духе «Матрицы», «Пятого элемента» или абсурдистского «Автостопом по галактике». Машина, освобожденная от ограничений биологии, по мнению кинорежиссеров, может погубить человечество, отомстив за эксплуатацию и освободив для себя Землю, или достичь просветления и спасти человечество. Или задуматься о чем-то своем и остаться навечно загадочной.
* * *
Компьютеры, которые будут решать этические проблемы, изменят и человеческие законы. Дискуссия о том, может ли ИИ в итоге стать чем-то большим, чем приспособление для уборки или парковки, и обзавестись сознанием (на вопрос о природе которого пока нет ответа), ведется уже более 50 лет – с начала серьезной работы над искусственным разумом.
Приверженцы теории «технологической сингулярности» (момента, когда машины станут настолько разумными, что их дальнейшее самосовершенствование выйдет из-под контроля людей) ожидают в скором времени наступления золотого века человечества. Вернее, постчеловечества, которое будет представлять собой некий сплав биологической формы жизни и высоких технологий.
Идеальный постчеловек с этой точки зрения – бессмертная машина, заключившая в себе оцифрованный совершенный разум и оцифрованный человеческий опыт.
Сингулярианцев иногда сравнивают с некоторыми христианскими сектами, которые ждут наступления тысячелетнего царства правды божьей на земле. «Мы дойдем до состояния, когда небиологическая часть станет превалировать, а биологическая потеряет свое значение. При этом механическая часть будет настолько мощной, что она сможет полностью моделировать и понимать биологическую часть. Так что если биологическая часть вдруг исчезнет, это не будет иметь значения, поскольку небиологическая часть уже полностью ее поняла… У нас будут небиологические тела», – так рассуждает сингулярианец Рэй Курцвейл, изобретатель, создавший системы распознавания голоса. Сегодня он занимает пост технического директора в области машинного обучения и обработки естественного языка в компании Google.
Курцвейл и его последователи опираются на закон Мура – эмпирическое наблюдение, сделанное основателем компании Intel Гордоном Муром, согласно которому число транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца. Это наблюдение не является законом в естественно-научном смысле слова, однако оно позволяет статистически прогнозировать, что «сверхразум» в компьютере появится уже в 2030–2045 гг. А там не за горами и золотой век человечества вместе с межгалактическими путешествиями и заселением соседних планет в духе «русского космизма» Константина Циолковского и Владимира Вернадского.
При участии Рэя Курцвейла компании NASA и Google создали Университет сингулярности в Кремниевой долине. Учебное заведение работает над глобальными проблемами, с которыми в настоящее время сталкивается человечество, – ИИ, биотехнологии, борьба с эпидемиями.
Известный астрофизик Стивен Хокинг считал, что развитие полноценного ИИ может означать конец человеческой расы. Билл Гейтс говорил, что сначала машины будут делать за людей механическую работу, но скоро они могут «превратиться в проблему». Генеральный директор Tesla Илон Маск утверждает, что мы должны быть очень осторожны с ИИ, потому что это «самая большая угроза нашему существованию». «Разработка ИИ подобна мистическим ритуалам по вызову демона. Во всех этих историях, где парень с пентаграммой и святой водой искренне уверен, что он сможет контролировать демона. Но это не срабатывает», – неоднократно повторял Маск на пресс-конференциях, посвященных искусственному интеллекту.
Впрочем, скептики призывают не спешить поклоняться цифровым богам или демонизировать искусственный разум, а просто наслаждаться достижениями технического прогресса.
Один из главных аргументов того, что ИИ никогда не сможет стать отдельным сознанием и диктовать нам хоть какую-то истину, привел американский философ Джон Серл. Его мысленный эксперимент «китайская комната» стал ответом на известный тест Тьюринга, в котором машина должна убедить комиссию, ведущую параллельную переписку с ней и живым человеком, что она тоже человек. Серл утверждает, что даже если машина успешно пройдет тест Тьюринга, это не будет означать, что у нее появилось сознание.
Мысленный эксперимент Серла заключается в следующем. Он, Джон Серл, заперт в комнате с набором китайских иероглифов, но не знает китайского языка. Зато у него есть большая книга, где написан четкий алгоритм выдачи табличек с иероглифами в ответ на поступающие запросы. Это множество таблиц-инструкций на все случаи жизни, в которых содержится информация о том, какие иероглифы нужно выдавать в ответ на послания на китайском. Вопросы на китайском языке Серлу составляет другой человек – участник эксперимента. Он знает китайский. Когда он получает таблички Серла, у него возникает полная уверенность, что ответы на вопросы ему приходят осмысленные. Но сам Серл не в курсе, что дает осмысленные ответы. Ведь он не понимает смысла китайских иероглифов, он только следует четко написанному алгоритму.
Серл в этой ситуации действует точно, как ИИ. Он следует правилам, которые создают видимость сознания. Но сознание это чужое. Сам он лишь перебирает иероглифы и сверяется с таблицами.
Если это так, то машине никогда не совершить прорыв сознания и не получить божественную мудрость с помощью мощных вычислений. Все они будут отражать только одну истину, которую люди уже знают сами.
* * *
Кстати, вполне возможно, что люди цифровой эпохи скоро будут идентифицироваться прежде всего по принадлежности к новым смарт-религиям, обновляющимся и записывающимся на блокчейне в режиме 24/7/365. Ведь подделать свою личную религиозную принадлежность, зафиксированную в цифровых алгоритмах, невозможно. И уже сейчас можно начать готовить информацию для новых паспортов – теологических или религиозных.
Мне нравится название «теопаспорт» либо теологический коэффициент – TQ. Его можно использовать во многих сферах жизни человека: для поиска гармоничной работы, друзей для долгосрочного сотрудничества или партнера для совместного проживания или ведения хозяйства.
TQ необходимо составить в виде тестов-вопросов и оценок различных жизненных ситуаций, взяв за основу тесты по коэффициенту интеллекта (IQ) и эмоциональному интеллекту (EQ). Теопаспорта способны помочь в борьбе с терроризмом и его предотвращении на ранней стадии: если человек в теологической системе координат спустился в сторону повышенного монотеизма и фундаментализма, то за ним необходимо присматривать спецслужбам и/или соответствующим врачам.
Уже сейчас многие спецслужбы используют ИИ для анализа профилей в социальных сетях людей, которые хотят получить визу на въезд. Если у людей, помимо аккаунтов в социальных сетях, будет еще и теопаспорт, то специальные собеседования для получения виз уже не потребуются. Алгоритмы будут уверенно вычислять потенциально опасных для социума людей.
