Здесь мы подходим к наиболее вероятному и правдоподобному сценарию в обстоятельствах пост-сингулярности: мы окажемся не у дел. Этот вариант может показаться не таким уж плохим: до нас не будет дела, как нам нет дела до одноклеточных форм жизни. Будут приниматься решения, которые не учитывают нас, и совершаться действия, последствия которых будут для нас крайне негативными, а то и фатальными. На той стадии, когда наше существование станет более очевидным, нас сочтут препятствием или патогенным фактором и предпримут меры, чтобы устранить проблему. Что снова возвращает нас к сценарию «Терминатора».
Разумеется, вариантов развития событий бесконечное множество. Может оказаться, что к нам будут относиться, как к домашним питомцам, или держать в зоопарке, или гонять по виртуальным лабиринтам в лабораториях, или почитать как великих предков. Но не стоит обольщаться. Несмотря на то что в подобном будущем возможно все что угодно, оно снова предполагает наличие разума и мировоззрения, параллельного человеческим. Что представляется крайне маловероятным.
Мирное сосуществование людей и машин, конечно же, возможно, но с учетом того, что мы определенно не коллективный вид и у нас нет коллективного мышления и мотиваций, мы можем стать свидетелями конфликта между человечеством и сверхразумом. И мы снова возвращаемся к одному из экзистенциально разрушительных сценариев. Сводя все воедино, как уже упоминалось, в будущем может не быть единого монолитного сверхразума, но он может существовать в нескольких разновидностях. Если прибавить к этому многочисленность ИИ, которые со временем займут все больше ниш в экосистеме разума, в итоге мы можем оказаться на крайне враждебной территории. На этой территории мы сможем воспользоваться помощью очень сильного и верного союзника.
Размышления о возможных поворотах долгоиграющего сюжета возвращают нас к отправной точке. Вместо того чтобы сопротивляться масштабной и крайне успешной совместной эволюции, возможно, лучшее, что мы можем сделать, это воспользоваться ее преимуществами и продолжить ее. По сути, это означает слияние с технологией. Результатом появления подобных гибридов будет то, что Илон Маек назвал «симбиозом человека с ИИ».
Многие люди воспротивятся такому развитию событий. Однако вспомните, что мы тесно сближаемся с технологией уже очень долгое время. Очки, слуховые трубки и костыли из веток привели нас к пересадке роговицы, созданию кохлеоимплантов и бионическому протезированию конечностей. Интерфейсы позволяют взаимодействовать и контролировать сложные и мощные устройства все более естественным образом. Вся мощь суперкомпьютеров уже сейчас заключена в наших пальцах, а со временем к ним можно будет получить доступ с помощью умных контактных линз или интерфейсов, подключенных к мозгу. Переход от человечества к пост-человечеству уже не за горами.
Почему именно эта стратегия поможет достичь благоприятного результата в мире, населенном одним или несколькими видами машинного сверхразума? Во-первых, если мы хотим, чтобы искусственный интеллект обрел человеческие ценности, что может быть лучше этого? Помните, что слияние будет не односторонним. Мы будем не единственными, кто изменится в процессе, и искусственный интеллект изменится тоже. Машинам принесут пользу те черты, благодаря которым мы выжили как человечество, и это не в последнюю очередь наш эмоциональный способ определения ценности окружающего мира. Эти черты станут нашими дополнительным ресурсом, фактором, который сделает технологию более устойчивой и научит лучше справляться с поставленными перед ней задачами.
Стоит также помнить и о том, что в мире и вселенной, где предстоит жить искусственному интеллекту, не избежать конфликтов. В экосистеме, естественной или технологической, возникает конкуренция за ограниченные ресурсы. Скорее всего, то же произойдет и с экосистемой машинного разума. Как уже говорилось, некоторые виды машинного разума могут быть не особенно умными, но некоторые будут почти всеведущими. Их объединение с нашим естественным разумом, в том числе и его эмоциональными, «иррациональными» элементами, может оказаться верной стратегией для выживания и успешного существования в столь непростой среде. Возможно, это даже позволит ИИ чувствовать эмпатию, от чего, как пока можно лишь надеяться, мы только выиграем.
Выделяют как минимум два типа эмпатии: когнитивную и эмоциональную. Их не обязательно испытывать по отдельности, и они определенно могут влиять друг на друга. Когнитивная эмпатия, как и предполагает название, более активна в сознании и позволяет нам понять взгляды или ментальное состояние другого человека. Сложно отследить, как эта форма эмпатии развилась у высших приматов, пока у них не появился определенный уровень самосознания и умение различать других. С другой стороны, эмоциональная эмпатия2 больше основана на рефлексии. Это почти инстинктивная реакция, происходящая, по всей видимости, от физиологических процессов. Она позволяет нам в какой-то степени разделить эмоциональное состояние другого человека. Если рассматривать возможное происхождение обеих форм эмпатии, то, скорее всего, эмоциональная эмпатия предшествовала когнитивной. Фактически, если бы вначале не было эмоциональной эмпатии, было бы сложно понять, как вообще возникли разум и самосознание.
Многие люди размышляли о механизмах эмоциональной эмпатии. В них могут принимать участие эмоциональное заражение, зеркальные нейроны и феромоны. Но я не могу не думать снова о сентографе Манфреда Клайна и разговорах с Йорамом Леваноном из Beyond Verbal о том, что эмоции можно передавать через уникальные вибрации прикосновений и голоса человека3. Таким образом создается резонанс между отправителем и получателем, который получатель воспринимает соматически, разделяя конкретное эмоциональное состояние. Может ли подобная передача и удаленная активация отражаемых ощущений быть одной из основ эмпатии? Этот процесс мог начаться задолго до того, как у нас развилась полноценная теория разума, на основании которой могла возникнуть когнитивная эмпатия. Эта интригующая точка зрения может подсказать способ синтезировать эмпатию у искусственного интеллекта.
Биологическая эволюция – результат естественного отбора, мутации и других сил, объединенных тем, что их ничто не направляет.
Аффективные технологии и эмоциональные интерфейсы – это лишь начало, предшественники методов и средств, которые мы будем использовать в будущем при слиянии разумов. Сейчас существуют методы символического моделирования эмоций и связанные с ним функциональные возможности компьютерных приложений, но они все равно остаются примитивными, и их уровень вряд ли когда-либо достигнет сложности биологических систем. Таким образом, нам может понадобиться более биомиметический подход. Если допустить, что соматическая связь с организмом важна для когнитивного переживания эмоций, есть вероятность, что машинному разуму понадобится похожая связь, чтобы прочувствовать что-то похожее на наше когнитивное переживание эмоций. Понадобятся устройства, чтобы создавать эмоции, и сенсоры, чтобы фиксировать внутренние состояния тем способом, который инженеры еще не исследовали. Внутренняя дрожь, вставшие дыбом волоски на шее, нутряное чувство отвращения – этим интероцептивным ощущениям нет аналогов среди современных сенсоров. В настоящее время сенсоры моделируются на основании внешних биологических ощущений, таких как зрение, слух и, в меньшей степени, осязание, вкус и запах. Чтобы по-настоящему пережить искусственную эмоцию, нужно ли будет расширить чувствительный центр машины? Можно ли это реализовать вне биологического субстрата? Не окажется ли, что существуют ограничения, которые мы пока не можем предусмотреть? Если машины научатся замечательно интерпретировать и изображать эмоции, включая эмпатию, они никогда не смогут испытывать их сами.
