– Проблема состоит в том, что люди, восстановившиеся после состояния минимального сознания, не помнят это время. Все хотят знать, что же происходило в их голове. Но они не помнят этого, потому что гиппокамп, в котором «находится» память, является одной из самых чувствительных к повреждению частей мозга – поэтому у них нет воспоминаний. Но их истории становятся прекрасными примерами того, почему мы должны быть обеспокоены.
Глава 6. Сознательные машины
Когда в человеческом сознании еще столь многое остается непонятым, каковы шансы создать нечто подобное у роботов?
Встроить «чувства» в машины
Мы сможем многое узнать о сознании, если подумаем о том, что бы это значило для робота – осознавать самого себя, чувствовать и мыслить.
В 2016 году группа немецких исследователей заявили, что они создали роботизированную руку, которая могла чувствовать боль. И в самом деле, когда по роботу жестко ударяли, он реагировал сильнее, отодвигаясь быстрее, чем если бы к нему мягко прикоснулись. Но то же самое ли это, что и чувство боли? Большинство людей, вероятно, сказали бы «нет»: они бы сказали, что робот запрограммирован по-разному реагировать на разные стимулы, но в действительности он ничего не чувствует.
Будучи людьми, мы не просто ощущаем и реагируем, мы действительно чувствуем; испытывая богатые и яркие ощущения, бо́льшие, чем просто реакции на стимулы. Пока что наука не смогла выдвинуть убедительное объяснение, почему ощущения чувствуются так, как они чувствуются. Некоторые даже настаивают на том, что понимание природы ощущений выходит за пределы науки. Учитывая это, соблазнительно думать, что создание чего-то вроде ощущений у робота должно быть невозможным.
Самые влиятельные объяснения «квалиа», т. е. конкретных свойств чувственного опыта, предполагают, что появление разных чувств может вызывать некоторые малопонятные и сложные мозговые процессы. Но такой подход порождает больше вопросов, чем ответов. Представьте себе, будто мы обнаружили, что разница между переживаниями красного и зеленого обусловлена каким-либо мозговым процессом, скажем, различными частотами колебаний в зрительной коре. Тогда вы могли бы задаться вопросом, что такое есть в этих разных частотах, что заставляет вас чувствовать красное, а не зеленое? Загадка останется. Действительно, независимо от нейробиологического объяснения разницы между красным и зеленым, вы всегда можете задать аналогичный вопрос: что в этом конкретном мозговом механизме дает вам переживание красного, а не зеленого? Как представляется, причина затруднений – отсутствие общего языка, связывающего качество переживания, которое мы не можем даже описать словами, и возможные физические или неврологические механизмы.
Размышляя о «чувстве»
Тогда, возможно, настало время подумать о «чувстве» иначе. Сенсомоторная теория сознания (см. главу 2) описывает опыт «чувствования» не как таинственный побочный продукт работы мозга, но как способ взаимодействия с окружающим нас миром.
Например, представьте, как вы нажимаете на губку. Где рождается чувство, ощущение мягкости? Традиционный подход будет искать ощущение в мозге, но если вы надавите на ближайший мягкий объект прямо сейчас, то станет очевидно, что мягкость находится вовсе не в мозге: она находится в конкретных характеристиках действия нажатия на мягкий объект. Сенсомоторная теория предполагает, что все «чувства» представляют собой что-то подобное. Красный цвет, запах лука и звук колокольчика – все это разные способы взаимодействия с миром. Если это так, то чувство – это то, что робот определенно может испытать – этого, безусловно, проще добиться, чем неких ощущений, таинственным образом возникающих вследствие сложной работы мозга.
Сенсомоторная теория лишает «квалиа» загадочности. Она объясняет, что такое красное, что такое видеть и слышать, теми же словами, что мы используем для описания того, что мы делаем, взаимодействуя с миром. И, что принципиально важно, роботы также должны быть способны так взаимодействовать.
Итак, какие же факторы необходимы, чтобы создать переживания, подобные человеческим? Одна из важнейших особенностей наших ощущений заключается в том, что они обладают «сенсорным присутствием» (sensory presence): они кажутся происходящими извне и реально существуют физически по сравнению с другими процессами, происходящими в нашей нервной системе, такими как мышление, воображение или память.
Телесность
Одна из причин такого сенсорного присутствия наших ощущений – «телесность». Сенсорная информация, приходящая от одного из пяти органов чувств, очень зависит от движений нашего тела. Если вы смотрите на что-либо и двигаете глазами или телом, то информация, поступающая в вашу нервную систему, немедленно меняется. Сравните это с мышлением: когда вы думаете о чем-то и двигаетесь, никаких изменений не происходит. Мысли не обладают «телесностью», и потому они не переживаются как поступающие из внешнего мира.
В дополнение к нашему телу внешний мир также играет активную роль в нашем чувственном опыте: на поступающую в нервную систему информацию влияют не только движения нашего тела, но и изменения в окружающей нас среде. В сенсомоторной теории это называют «неподвластностью» внешнего мира (insubordinateness), поскольку в любой момент внешний мир может вмешаться и занять центральное место.
Это указывает на еще одно отличие ощущений от других видов активности мозга, таких как мышление и память. Внезапное изменение информации на сенсорных входах сразу же привлекает наше внимание. Причина ее «назойливости» в том, как эволюция подключила наши сенсорные системы: текущую когнитивную обработку может немедленно прервать внезапное событие в окружающей среде.
Итак, если бы мы встроили телесность, «непослушность» и «назойливость» в сенсорные системы робота, появилось ли бы у него сознание? Не обязательно. Чтобы сознательно испытывать чувство, субъект должен не только ощущать его, но и обращать внимание на то, что он ощущает. Например, вы можете управлять автомобилем во время разговора с пассажиром, останавливаться на красном свете и совершать все правильные повороты, но когда вы вернетесь домой, вы можете не вспомнить ни одной детали из этой поездки. Таким образом, осознание чего-то также требует от вас и внимания.
Аппаратное обеспечение – это то, что нам нужно, чтобы решить трудную проблему?
Большинство компьютеров и роботов, созданных до сих пор, работает на программном обеспечении. Пентти Хайконен, инженер-электрик и философ из Иллинойсского университета в Спрингфилде, утверждает, что именно поэтому они никогда не смогут переживать боль или цвета так же, как мы. Программное обеспечение – это язык, и поэтому для интерпретации ему требуется дополнительная информация. Если вы не говорите по-русски, слова «боль» или «красный», например, не несут для вас никакого смысла. Но если вы видите красный цвет, это имеет значение независимо от языка, на котором вы говорите.
Хайконен создал робота под названием XCR, или Экспериментальный Когнитивный Робот (eXperimental Cognitive Robot), который хранит входящую сенсорную информацию и управляет ей не с помощью программного обеспечения, а посредством физических объектов – в данном случае это провода, резисторы и диоды. Ощущения, такие как «красный» и «боль», являются для мозга непосредственным опытом, без какой-либо интерпретации по пути.
