Наиболее перспективный подход к реализации безопасного ИИ состоит в тонкой настройке функции подкрепления, что подразумевает внедрение в нее неких моральных ограничений, которые не позволят ИИ причинить вред человечеству. Но и этот путь сложно реализовать на практике, потому что набор подходящих моральных принципов еще нужно определить, утвердить на международном уровне и кодифицировать с точностью, достаточной для внедрения в функцию подтверждения соответствующего ИИ. Например, первый закон робототехники, сформулированный фантастом Айзеком Азимовым, гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред». Но даже этот базовый принцип имеет множество интерпретаций, о которых можно прочитать в рассказах Азимова. Например, один из сатирических способов выполнить требование по предотвращению вреда из-за бездействия ИИ – погрузить человечество в сон или искусственную кому.
Но существует много людей (среди них Марк Цукерберг и Клод Шеннон), которых не пугает перспектива управления человечества ИИ и роботами, потому что это является частью процесса эволюции и позволит человечеству в среднесрочной перспективе значительно поднять уровень и качество жизни. По мнению Митио Каку, «Поворотным пунктом станет именно тот момент, когда роботы осознают себя. Тогда они, может быть, поймут, что их намерения отличаются от наших. Как только наши интересы разойдутся, возникнет реальная возможность того, что роботы будут представлять для нас опасность».
Мюррей Шанахан так резюмирует свои размышления о потенциале ИИ: «Если мы сможем избежать риска для нашего существования, то перспектива машинного суперинтеллекта предоставит нам беспрецедентную экзистенциальную возможность формировать будущее человечества, будущее жизни и даже будущее интеллекта в этом уголке Вселенной».
* * *
Известный футуролог Рэй Курцвейл считает, что к 2045 г. человечество подойдет в своем развитии к «сингулярности» – моменту, когда ИИ сравняется с человеком по интеллектуальным возможностям, а по некоторым – значительно его превзойдет.
Термин «сингулярность» (часто – «технологическая сингулярность») стал нередко использоваться в последнее время в научно-популярной литературе, где проводятся аналогии с концепцией гравитационной сингулярности (описанием областей бесконечного тяготения, как в черной дыре). В информатику этот термин привнес Джон фон Нейман, заявивший, что компьютерная революция должна породить «все ускоряющийся прогресс и перемены в образе человеческой жизни, что создает впечатление приближения какой-то существенной сингулярности… после которой человеческие дела, какими мы их знаем, продолжаться уже не смогут».
Американский разработчик первых приложений для персональных компьютеров Митч Капор считает, что движение за сингулярность «в основном порождено религиозным импульсом. И никакое лихорадочное размахивание руками не в состоянии заслонить от меня этот факт». А Митио Каку справедливо отмечает, что «концепции разума и сознания настолько затуманены моральными, философскими и религиозными спорами, что у нас просто нет строгих общепринятых рамок, в которых можно было бы их рассматривать». Он предложил теорию пространственно-временной теории сознания, согласно которой животные, растения и даже машины могут обладать сознанием. Каку утверждает, что «сознание есть процесс создания модели самого себя при помощи множества обратных связей – к примеру, в пространстве, в обществе или во времени – для выполнения некоторой цели».
Концепция технологической сингулярности, теория трансгуманизма заставляют человечество тщательно переосмыслить все базовые моральные и философский ценности: отношение к смерти, определение человека и его усовершенствованных прототипов, границы свободы и конфиденциальности, понимание разума и сознания, конечное предназначение человечества. Митио Каку считает, что человек отличается от животных тем, что чувствует и понимает время: «Помимо пространственного и социального, у нас есть еще темпоральное сознание». В процессе эволюции человека сформировалась префронтальная кора головного мозга, которая, в основном, занимается моделированием будущего. Мы не можем ни одному домашнему животному объяснить, что такое завтра, потому что все они существуют только в настоящем. И я согласен с Митио Каку, который писал: «Человек же постоянно готовится к будущему, даже к тому, что лежит за пределами его собственной жизни. Мы планируем и мечтаем – мы не можем без этого. Наш мозг – планирующая машина». Возможно, главной целью обладания памятью является задача проецировать ее в будущее.
Митио Каку в рамках своей теории дает определение осознанию себя как «способности помещать себя в модель будущего, соответствующего нашей цели».
В настоящее время большинство компьютеров основаны на кремниевых интегральных микросхемах и подчиняются уже упоминаемому закону Мура, гласящему, что каждые полтора года мощность компьютеров удваивается. Но в последнее время прогресс в этой области замедлился, и многие ученые стали говорить о том, что закон Мура перестал действовать. Теперь физики всего мира ищут замену кремнию в компьютерах, рассматривая множество альтернативных вариантов: молекулярные, атомные, оптические, белковые компьютеры, а также микросхемы на ДНК и квантовой точке.
Когда осознающие себя роботы все же появятся, то необходимо будет добавить в их конструкции и программные модули специальные приспособления, позволяющие отключить действия роботов или алгоритмов, направленных на причинение вреда человеку.
Уже в этом десятилетии толщина кремниевых слоев может уменьшиться с 20 до всего 5 атомов, но при этом электроны начнут утекать, создавая замыкания. Поэтому основные усилия ученых сконцентрированы на разработке квантового компьютера, работающего на транзисторах из единственного атома. При этом сложность состоит в том, что атомы должны прийти в состояние когерентности, когда они все вибрируют в унисон. Именно проблема декогерирования является причиной того, что квантовые компьютеры способны пока выполнять только простые вычисления.
* * *
Вполне вероятно, что в ближайшее время для освоения космоса будут использовать «нанокорабли» – микросхемы на парусах, приводимых в движение с Земли мощными лазерами. Весить эти микросхемы будут около 20 г и состоять из 1 млрд транзисторов. В 2016 г. Стивен Хокинг поддержал проект разработки подобных космических кораблей. Их можно будет разогнать до одной пятой скорости света, и тогда они смогут достигнуть ближайшей к нам звездной системы альфы Центавра за 20 лет! Для сравнения, на стандартной современной ракете такое путешествие займет около 70 000 лет.
Для отправки такой экспедиции нанокораблей необходимо воздействие лазерных лучей суммарной мощностью не менее 100 ГВт на их паруса, при этом одна атомная электростанция производит примерно 1 ГВт мощности. Для этого проекта потребуется значительное финансирование. До Луны такие нанокорабли доберутся всего за пять секунд, до Марса – за полтора часа.
На следующем этапе освоения дальнего космоса появятся батареи лазерных пушек на Луне, потому что луч лазера теряет до 60 % своей мощности при прохождении через атмосферу Земли. Строительством этих лазеров на Луне и других объектах займутся самовоспроизводящиеся роботы.
