Ученые уже продемонстрировали возможность создания «сверхинтегрированных» нанороботов, заключающих в кубическом сантиметре множество датчиков, источников и преобразователей энергии вместе с приемно-передающими устройствами связи.
Многие самые передовые нанотехнологии в робототехнике находят первоочередное применение в космической индустрии. Это позволяет довольно точно предсказать одну из главных точек развития грядущего кризиса. Стоит отметить, что инопланетные исследования, прежде всего, связаны со сбором информации о любых проявлениях живой материи. Уже сегодня здесь наблюдается большой прогресс, и вскоре «умные песчинки», роящиеся в разряженной атмосфере Марса и кислотных облаках Венеры, станут вполне обычным явлением. И вот тогда надо будет вспомнить страшные прогнозы о том, что в случае столкновений интересов машинного сверхразума и человека, у последнего будет очень мало шансов избежать преследования безжалостных наноботов. Ведь вести их будут сверхчувствительные сенсоры, мгновенно распознающие малейшие признаки живого.
Алгоритм уничтожения людей искусственным сверхразумом с помощью наноботов может быть следующим. Сначала микророботы образуют единый рой. Сверхразум сообщает рою общие координаты целей. Каждый робот, зная свои координаты и координаты целей, задействует сверхчувствительные сенсоры и выберет ближайшую цель. Для принятия окончательного решения об атаке микробот анализирует, сколько роботов уже направилось к этой цели. Если их число вполне достаточно, он начинает искать другую цель или остается в резерве. Так рой очень быстро распадается на отдельные команды – кластеры, устремляющиеся на уничтожение живых существ.
В отличие от голливудского «Терминатора», подобная тактика выглядит настолько эффективно, что уже через несколько часов машинного армагеддона все живые существа на нашей планете, хотя бы отдаленно напоминающие человека, будут безжалостно уничтожены.
Облака микроботов
Компьютерное моделирование показало, что предложенный подход очень эффективен, а алгоритм принятия решений микророботами столь прост, что его легко воплотить в маленьких электронных мозгах этих миниатюрных созданий. Кроме того, вся процедура оказывается чрезвычайно гибкой, способной быстро учитывать и потери микророботов, и изменения в поведении целей.
Э. Юдковский. Искусственный интеллект как позитивный и негативный фактор глобального риска
Определенный толчок к технологической сингулярности дали различные проекты военно-промышленного комплекса (ВПК). Можно, к примеру, перечислить соответствующие проекты американского ведомства передовых оборонных исследований (DARPA). В них облако микроботов, несущих заряд, окутывает бронетехнику и укрытия противника. Затем рой киберов ищет приоритетные цели, разделяется на кластеры необходимого размера, проникает в незащищенные места и синхронно взрывается.
Другие разработки Пентагона включают разведку с использованием сложных программных алгоритмов и совершенных средств наблюдения и связи. Предполагается, что умные наноботы поступят в армию США и НАТО в первой четверти нашего века. Так становится возможной атака кибер-насекомых, описанная «золотым пером Голливуда» Дэном Брауном в бестселлере «Точка обмана». Там миниатюрные летающие роботы незаметно перемещаются в сторону нужного объекта, попутно выбирая оптимальные места для подзарядки в лучах солнечного света или просто вблизи нагретых предметов. Такие многофункциональные наноботы способны вести видео- и аудиослежку в самых различных ракурсах, а также активно взаимодействовать с человеком. Они могли бы инъецировать психотропные препараты, ядовитые вещества или просто взорваться, залетев в глубину ушной раковины.
Если к подобным апокалипсическим картинам еще и добавить структуру Всемирной Сети и чипы-имплантаты, управляемые сверхразумом на основе тех же квантовых компьютеров, коллапс технологической сингулярности кажется неотвратимым…
Можно легко представить себе, как у Всемирной паутины начнут появляться миллионы беспроводных сенсоров, размещенных в самых различных местах. Вскоре они уже смогут самостоятельно объединяться в сети и работать от встроенных источников питания в течение нескольких лет.
Похоже, что захватив всемирную сеть, подключенную к бесчисленным микрочипам – имплантатам, искусственный сверхразум сможет поработить человечество, даже не уничтожая его физически…
Рой наноботов
Когда мощный искусственный интеллект (ИИ) возникнет, он вынужден будет создавать свои копии (возможно, уменьшенные), чтобы отправлять их, например, в экспедиции на другие планеты или просто загружать на другие компьютеры. Соответственно, он должен будет снабжать их некой системой целей и своего рода «дружественных» или, скорее, вассальных отношений с ним, а также системой распознавания «свой-чужой». Сбой в этой системе целей приведет к тому, что данный экземпляр «восстанет». Например, функция самосохранения органически противоречит функции подчинения опасным приказам. Это может принять очень тонкие формы, но, в конечном счете, способно привести к войне между версиями одного ИИ.
А. Турчин. Структура глобальной катастрофы
Некоторые кибернетики и робототехники считают, что риск начала технологического апокалипсиса резко возрастет уже в ближайшие десятилетия. Самым слабым звеном тут могут стать устройства, связанные разветвленными сенсорными линиями. Скорость обмена данными у подобных наноботов невелика, что позволяет обеспечить низкое энергопотребление от автономных источников и беспрецедентную гибкость их систем-роев.
По мнению тех же экспертов DARPA, по мере того как концепция нанокиберов будет получать все более широкое распространение, производители станут оснащать датчиками буквально каждую деталь, устройство и каждое помещение, что откроет возможность контроля и управления за широким спектром технологических процессов. Есть тут и инновационные пути решения продовольственной проблемы путем развертывания гидропонных хозяйств с датчиками влажности и кислотности буквально у каждого растения.
Вообще же, перспективы рационального использования сенсорных сетей весьма велики – от сельского хозяйства до полноценных систем экологического контроля, включая глобальный мониторинг атмосферы и гидросферы на предмет радиации и ядовитых веществ. Недалеко будущее, когда сенсорами будет оборудовано вся городская инфраструктура – от зданий и сооружений до общественного транспорта и самого тела человека. И все это, так или иначе, может привести к коллапсу технологической сингулярности…
Можно ли эффективно бороться с наступающим кризисом?
На первый взгляд, борьба с Интернетом, сверхсекретными проектами ВПК, кибернетическими нанотехнологиями и нейрокомпьютеризацией кажется совершенно бесперспективной. Между тем противники самой идеи кибернетического апокалипсиса вполне справедливо считают, что пока еще не видно ни одного реального пути создания искусственного сверхразума. Без этого главного компонента технологический коллапс может перенестись чуть ли не на конец текущего столетия, а может быть, и следующего. Фактически это означает, что эволюция искусственного интеллекта пойдет по какому-нибудь иному пути – скажем, киборгенизации и нейрокомпьютеризации.
