Наши израильские коллеги Ори Коэн и Дорон Фридман с сотрудниками из Франции показали, что при использовании функциональной магнитно-резонансной томографии возможно считывать намерение к действию. Затем его можно напрямую переводить на уровень моторных команд человекообразного робота, который преобразует их в телесные действия, в то время как испытуемый наблюдает за экспериментом глазами робота20. Этот процесс основан на порождаемых волевым усилием зрительных представлениях движения, позволяющих испытуемому, «действуя прямо из я-модели»21, удаленно управлять со сканера в Израиле роботом во Франции.
Философу эти технические новшества интересны по нескольким причинам – не только с точки зрения этических последствий, но и потому, что они представляют собой исторически новый способ действий. Я ввел понятие «ФМС-действия» для его описания. Это такие действия, которые человек инициирует используя исключительно я-модель в мозгу. Конечно, для сложных действий потребуется обратная связь – например возможность видеть через видеокамеры робота и, возможно, подправлять движения в реальном времени (что сегодня далеко от осуществления). Но главное, что первопричиной действий оказывается уже не тело из плоти и крови, а я-модель в нашем мозгу. Мы симулируем действие в я-модели, во внутреннем образе своего тела, а машина его выполняет.
Что показывают такие эксперименты? С одной стороны, очевидно, что феноменальная я-модель часто является важной частью иерархии контроля: это абстрактный инструмент. Феноменальная я-модель – это средство предсказания и слежения за определенными критическими аспектами такого процесса, при котором организм производит гибкое адаптивное поведение. С другой стороны, я-модель высокопластична, поскольку в нее могут временно интегрироваться некоторые репрезентации объекта, внешнего по отношению к телу. Таким объектом могут быть, например, молоток или клещи – ведь принципиальная способность включать в себя относится, как мы видели во введении, не только к резиновой руке. Эта способность распространяется на инструменты вообще – продолжения телесных органов, которыми требуется управлять для разумного целенаправленного поведения. Я-модель – это функциональное окно, через которое мозг взаимодействует с телом как целым – и наоборот.
Когда палки, камни, грабли или механическая рука становятся продолжением тела, я-модели тоже приходится разрастаться. Система тело-плюс-орудие может как целое включиться в иерархию мозгового управления, только если существует интегрированная репрезентация тела-плюс-орудия. Иначе говоря: как можно научиться разумно – то есть гибко и согласно контексту – использовать орудие, не интегрировав его в свое осознаваемое Я? Осознаваемая я-модель – это виртуальный орган, позволяющий нам присвоить обратную связь, инициировать процессы управления, поддерживать их и гибко адаптировать. Феноменальное переживание обладания соответствует гипотезам о том, какие части реальности подконтрольны нам в данный момент. Одни элементы цепи управления материальны (как мозг и орудия), другие виртуальны (как я-модель и симуляция целевого состояния).
Рис. 20. Действия я-модели. Испытуемый лежит в ядерном магнитно-резонансном томографе в израильском институте Вейцмана. Через очки с экраном он видит аватар, также лежащий в установке. Целью является создание иллюзии, что человек воплощен в этом аватаре. Моторные образы испытуемого классифицируются и переводятся в моторные команды, приводящие в движение аватар. После тренировки подопытным удавалось управлять находящимся во Франции роботом «прямо силой мысли» через Интернет, при этом они видели обстановку во Франции посредством камеры робота. Иллюстрация любезно предоставлена с позволения Дорона Фридмана и Ори Коэна, 2012.
Роботы – это орудия, и потому удается на время включить целого робота или виртуальное тело (аватар) в феноменальную я-модель и контролировать их. Выше я говорил, что люди (а иногда и другие животные) часто стремятся контролировать поведение или психическое состояние других. Мы «превращаем в инструмент» и «хватаем» друг друга, берем иногда в кабалу (Leibeigene). Люди стремятся расширить сферу своего влияния – не только с помощью камней, палок, граблей и механических рук, но и с помощью мозгов и тел других людей. Между тем классический термин «одержимость» может относиться и к роботу, удаленно управляемому чьим-то разумом. Робот временно одержим – не дьяволом и не демоном, а кое-кем, может, и похуже – сознающим себя человеческим существом. Эта классическая тема открывает еще более широкую перспективу по вопросу, коротко затронутому ранее: что, собственно, происходит, когда мы просыпаемся утром, когда возникает осознаваемая я-модель? В этот самый момент биологический организм оказывается одержим собой, порабощен собственной психикой, своими осознанно переживаемыми целями и желаниями.
Робот-анархист
В разделе о «чужой руке» мы видели, что часть тела вполне способна выполнять разумные и целенаправленные действия, которые ее владелец производить не намеревался и своими не считает. Что мы почувствуем, если аватар или робот, с которым мы временно отождествились через я-модель, вдруг сделает что-то, чего мы делать не хотели?
Представьте, что вы лежите в аппарате МРТ, удаленно управляя роботом, видя его глазами и даже чувствуя обратную связь от рук и ног робота при их движении. Вы чувственно идентифицируетесь с роботом и в то же время свободно действуете в присутствии других людей. Вдруг в комнату входит новый муж вашей бывшей жены.
Несколько месяцев назад этот человек разрушил все ваши планы и личную жизнь. Вы снова чувствуете прежнюю обиду, боль, внутреннюю пустоту и экзистенциальное одиночество, постигшее вас после развода. В вас самопроизвольно возникает агрессивное побуждение, фантазия о применении силы. Вы пытаетесь взять себя в руки, – но не успеваете подавить моторных образов, которые сопровождали ваши фантазии, и робот убивает мужчину одним мощным ударом. Вы уже восстановили управление и способны отступить на несколько шагов. Субъективно вы чувствуете, что совершенно не могли управлять своими действиями. Но что, если вы – с чисто объективной точки зрения – все же потенциально могли бы успеть подавить агрессивный импульс? Как это определить? Несете ли вы этическую ответственность за последствия действий робота?
Вполне возможно, что поначалу перевоплощение в робота или аватар будет «неглубоким», потому что не даст такой автономии, какую обеспечивает биологическое тело. Возможно, наша способность контролировать импульс окажется слабее или управление чуть менее точным, возможно, у нас не будет того, что я в другом месте назвал «автономией вето», – способности сдерживать или прерывать запланированные, преднамеренные и даже начатые телесные действия в пределах определенных временных рамок22. Помните обсуждение «блуждания мысли» и понятия «психической автономии» в главе 4? Отвлечение внимания, «отключки» и случайные эпизоды блуждания мысли могут стать опаснее, если наша я-модель будет напрямую связана с искусственной средой и новыми инструментами. В таком случае понятия ответственности для человека в виртуальной среде или слитого с роботом окажутся несколько иными, чем ныне, в «обычной жизни». Важнее всего будет как можно раньше определить возможные виды риска и вовремя принять предохранительные меры23.
